ИИ-редактор нецензурной лексики сделает общение в сети менее токсичным

ИИ-редактор нецензурной лексики сделает общение в сети менее токсичным

Поделиться

Такое решение разработали MTS AI и Сколтех. Детоксификатор языка умеет распознавать бранные слова, заменять их на близкие по смыслу, но не оскорбительные выражения и снижать в целом градус общения в чатах и соцсетях.

Как пишет CNews со ссылкой на представителей MTS AI, новая разработка уникальна для российского рынка, т.к. существующие аналоги нацелены на работу с английским языком и не так эффективны для русскоязычных пользователей.

Обсуждения и споры в интернете нередко переходят в оскорбительные диалоги, которых в сети появляется огромное количество. Соцсети часто блокируют и удаляют подобные сообщения, в то время как решение для детоксификации языка сможет предложить замену текста, оставляя суть диалога.

Разработчики ИИ-редактора предложили два типа моделей для создания ботов и приложений, которые убирают нецензурную лексику. Первая использует языковую модель BERT, основанную на нейросетевой архитектуре Трансформер, и точечно редактирует текст – находит бранные слова, заменяет их или удаляет совсем. Вторая модель также работает на архитектуре Трансформер, но способна создавать нейтральные версии токсичных фраз по входному запросу.

Предложенные модели можно будет использовать при обучении чат-ботов, чтобы исключить возможный негатив в сторону клиентов, а также в приложениях и сервисах, где пользователю может быть предложена менее токсичная форма его сообщения перед отправкой.

Разработчики ранее представляли свое решение на конференции Диалог, и познакомиться с их презентацией можно здесь.

Добавить комментарий

Ваш адрес электронной почты не будет опубликован. Обязательные поля помечены *