18 июля 2025

eur = 90.97 0.41 (0.45 %)

btc = 117 801.00$ - 849.85 (-0.72 %)

eth = 3 562.96$ 161.82 (4.76 %)

ton = 3.25$ 0.08 (2.36 %)

usd = 78.19 0.23 (0.29 %)

eur = 90.97 0.41 (0.45 %)

btc = 117 801.00$ - 849.85 (-0.72 %)

Одноклассники борются с токсичными комментариями при помощи ИИ

1 минута на чтение
Одноклассники борются с токсичными комментариями при помощи ИИКак видит новость Kandinsky

GigaChat Max кратко объясняет суть статьи

Социальная сеть «Одноклассники» временно блокирует пользователей, оставляющих оскорбительные комментарии, на срок от 1 до 24 часов в зависимости от частоты нарушений. Для выявления токсичного поведения используется модель машинного обучения, обученная на основе 400 тыс. негативных высказываний. В результате внедрения системы количество негативных комментариев снизилось на 47%. За последний год треть всех жалоб пользователей были связаны с токсичными комментариями, а 80% обращений касались именно этой проблемы. Ограничение токсичных комментаторов поможет вернуть прежних пользователей и привлечь новых.

Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии, сообщили в блоге компании.

Одноклассники внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других. Это сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых, — директор по продукту ОК Александр Москвичев.

По данным исследования ОК, негативные посты вызывают злость у более чем 40% пользователей, принявших участие в опросе. ML-модель была обучена на 400 тысячах негативных высказываний.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
Британская компания представила самый быстрый электросамокат — его скорость может достигать 160 км/чБританская компания представила самый быстрый электросамокат — его скорость может достигать 160 км/ч

GigaChat Max: коротко о главном

Британская компания представила самый быстрый электросамокат — его скорость может достигать 160 км/ч

Полная версия 
Valve подтвердила информацию об удалении порно-игр из Steam

GigaChat Max: коротко о главном

Valve подтвердила информацию об удалении порно-игр из Steam

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 379
OTP Bank
Газпромбанк
Сбер
Т-Банк
X5 Tech
билайн
МТС
Яндекс Практикум
Ozon Tech
Циан

Пользуясь сайтом, вы соглашаетесь с политикой конфиденциальности
и тем, что мы используем cookie-файлы