Филологи создали автоматический сервис по замене «токсичных» выражений

16:10, 10 июня 2024

Сервис позволяет избежать рисков конфликтной коммуникации

О создании нового сервиса Анна Плотникова рассказала на пресс-конференции в ТАСС. Фото: пресс-центр ТАСС-Урал / Владислав Бурнашев.

С развитием цифровых технологий люди стали чувствительны к некорректному употреблению слов, что породило большое количество конфликтов в СМИ и социальных сетях. Чтобы смягчить эту тенденцию, специалисты Уральского федерального университета разработали новый сервис, который определяет потенциально «токсичные» выражения и заменяет их на более приемлемые. О новом сервисе рассказала руководитель исследования, директор департамента «Филологический факультет» УрФУ Анна Плотникова на пресс-конференции в ТАСС. Работа над созданием сервиса велась при финансовой поддержке по программе «Приоритет-2030».

«Такой сервис решает практические задачи для журналистов и для всех пишущих людей, поскольку он позволяет выбрать подходящее слово, уйти от конфликтной коммуникации, — объясняет Анна Плотникова. — Наш сервис работает следующим образом — есть некий входящий текст, который обрабатывается и затем появляется измененный вариант. В качестве примера мы тестируем сервис на конфликтных текстах. Сервис предлагает замену, например, слова „директриса“ на „директор“, слово „инвалид“ на „человек с инвалидностью“. Некорректное в письменной речи слово „водила“ на „водитель“ или „шофер“. Этот сервис, как нам кажется, будет способствовать повышению уровня благополучия в обществе».

Сейчас сервис тестируют с ИТ-компанией. После донастройки разработчики планируют разместить его в открытом доступе. Филологи надеются, приложение поможет сделать коммуникацию более корректной, так как под влиянием цифровизации в СМИ и социальных сетях стали меняться правила общения и нормы речевого этикета.

«Мы начинаем использовать более короткие сообщения, а также не всегда приветствуем адресата или прощаемся с ним, как это было раньше. В результате появляется особая форма коммуникации — устно-письменная. Формально она письменная, но по некоторым особенностям она устная, потому что, общаясь в мессенджерах, мы не всегда ставим знаки препинания, пишем с ошибками, используем конструкции, которые свойственны скорее устной речи, — при этом использем их в письменной форме коммуникации», — поясняет Анна Плотникова.

Появление большого количества нейросетей, способных генерировать текст, обусловило широкое распространение так называемых синтетических или искусственных текстов. Многие люди, особенно занятые в сфере рекламы, создают письменный контент, который не имеет авторства в классическом смысле. Эксперт отмечает, что распространение данной тенденции — это серьезный вызов для всего общества.

«Такие тексты можно называть псевдочеловеческими, поскольку их создает искусственный интеллект. В связи с этим мы можем сказать, что возникает проблема с авторством такого контента. Такие тексты не имеют авторства, но в то же время они основаны на больших языковых моделях, которые созданы и обучены людьми. И проблема таких искусственных, синтетических текстов будет нарастать — особенно в сфере рекламы и маркетинга», — заключает Анна Плотникова.

Сергей Лукьянченко