1 сентября 2025

eur = 94.05 0.56 (0.60 %)

btc = 108 999.00$ 209.61 (0.19 %)

eth = 4 366.12$ - 102.65 (-2.30 %)

ton = 3.11$ -0.05 (-1.61 %)

usd = 80.33 0.04 (0.05 %)

eur = 94.05 0.56 (0.60 %)

btc = 108 999.00$ 209.61 (0.19 %)

Одноклассники борются с токсичными комментариями при помощи ИИ

1 минута на чтение
Одноклассники борются с токсичными комментариями при помощи ИИКак видит новость Kandinsky

GigaChat Max кратко объясняет суть статьи

Социальная сеть «Одноклассники» временно блокирует пользователей, оставляющих оскорбительные комментарии, на срок от 1 до 24 часов в зависимости от частоты нарушений. Для выявления токсичного поведения используется модель машинного обучения, обученная на основе 400 тыс. негативных высказываний. В результате внедрения системы количество негативных комментариев снизилось на 47%. За последний год треть всех жалоб пользователей были связаны с токсичными комментариями, а 80% обращений касались именно этой проблемы. Ограничение токсичных комментаторов поможет вернуть прежних пользователей и привлечь новых.

Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии, сообщили в блоге компании.

Одноклассники внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других. Это сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых, — директор по продукту ОК Александр Москвичев.

По данным исследования ОК, негативные посты вызывают злость у более чем 40% пользователей, принявших участие в опросе. ML-модель была обучена на 400 тысячах негативных высказываний.

Материал обновлен|

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
Состояние богатейших россиян выросло более чем на $24 млрд

GigaChat Max: коротко о главном

Состояние богатейших россиян выросло более чем на $24 млрд

Полная версия 
В Москве пользователей каршеринга обязали проходить проверку личности

GigaChat Max: коротко о главном

В Москве пользователей каршеринга обязали проходить проверку личности

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Редакция рекомендует
Карьера
Блоги 408
Т-Банк
Газпромбанк
OTP Bank
X5 Tech
билайн
МТС
Сбер
Яндекс Практикум
Ozon Tech
Циан

Пользуясь сайтом, вы соглашаетесь с политикой конфиденциальности
и тем, что мы используем cookie-файлы