Нейросеть защитит пользователей ВКонтакте от оскорблений в День народного единства

В День народного единства ВКонтакте запускает масштабный эксперимент для борьбы с оскорблениями и травлей в комментариях. Об этом редакции «Кода Дурова» сообщили в пресс-службе соцсети.

У администраторов сообществ 4 ноября ровно на сутки появилась возможность включить в настройках специальный фильтр враждебных высказываний с угрозами и оскорблениями. При этом администраторам доступны все комментарии, отсеянные фильтром, чтобы можно было восстановить их или отправить автора в чёрный список. Фильтр враждебных высказываний можно включить или выключить в любой момент, так же как и другие фильтры в сообществах.

Кроме этого, во время написания комментария специальные алгоритмы определяют, есть ли в тексте признаки оскорблений, и при его наличии автор получает совет не тратить время на агрессию и отказаться от обидной реплики. В отличие от эксперимента в прошлом году, в этот раз функция будет определять более широкий спектр оскорблений и угроз, в том числе проявления нетерпимости по национальному признаку, а также враждебные высказывания на почве религиозной принадлежности, возраста, пола и других характеристик.

Оба инструмента работают на основе алгоритмов — в том числе нейросети, распознающей оскорбления. Результаты эксперимента будут использованы для её дальнейшего обучения и доработки фильтра. В дальнейшем, Команда ВКонтакте планирует запустить долгосрочный тест, рассчитанный на часть аудитории.

_{Заглавная фотография: ВКонтакте}