1 июля 2025

eur = 92.27 -0.01 (-0.01 %)

btc = 107 122.00$ -1 341.34 (-1.24 %)

eth = 2 479.03$ -23.61 (-0.94 %)

ton = 2.88$ -0.01 (-0.39 %)

usd = 78.53 0.06 (0.08 %)

eur = 92.27 -0.01 (-0.01 %)

btc = 107 122.00$ -1 341.34 (-1.24 %)

Одноклассники борются с токсичными комментариями при помощи ИИ

1 минута на чтение
Одноклассники борются с токсичными комментариями при помощи ИИКак видит новость Kandinsky

GigaChat Max кратко объясняет суть статьи

Социальная сеть «Одноклассники» временно блокирует пользователей, оставляющих оскорбительные комментарии, на срок от 1 до 24 часов в зависимости от частоты нарушений. Для выявления токсичного поведения используется модель машинного обучения, обученная на основе 400 тыс. негативных высказываний. В результате внедрения системы количество негативных комментариев снизилось на 47%. За последний год треть всех жалоб пользователей были связаны с токсичными комментариями, а 80% обращений касались именно этой проблемы. Ограничение токсичных комментаторов поможет вернуть прежних пользователей и привлечь новых.

Одноклассники стали временно ограничивать пользователей, которые пишут оскорбительные комментарии, сообщили в блоге компании.

Одноклассники внедрили модель машинного обучения, позволяющую автоматически выявлять токсичные комментарии и ограничивать их авторов в написании новых на определённый промежуток времени — от одного часа до 24 часов, в зависимости от того, как часто пользователь оставляет негативные высказывания в адрес других. Это сократить долю и количество негативных высказываний под постами, фотографиями и видео на 47%.

Мы видим по запросам пользователей, что у нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связаны с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против “токсичности”. Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых, — директор по продукту ОК Александр Москвичев.

По данным исследования ОК, негативные посты вызывают злость у более чем 40% пользователей, принявших участие в опросе. ML-модель была обучена на 400 тысячах негативных высказываний.

Читать первым в Telegram-канале «Код Дурова»

Важные новости коротко — от GigaChat Max 
1-bg-изображение-0
img-content-1-изображение-0

GigaChat Max: коротко о главном

Как изменился Код Дурова вместе с GigaChat Max?

Узнай о всех возможностях в FAQ-статье 
2737c621-d628-4a44-9350-431fc416c777-изображение-0648c944a-47e1-4190-a7e4-00141e05901a-изображение-1

GigaChat Max: коротко о главном

Инсайдер: Apple разрабатывает 7 AR- и VR-устройств, которые выйдут в ближайшие четыре года

Полная версия 
a96a0e6a-3fe9-4b49-b564-965013b85900-изображение-0da98c41b-6488-405f-bad3-8e0963b48652-изображение-1

GigaChat Max: коротко о главном

В Китае провели футбольный матч между гуманоидными роботами

Полная версия 

Реализовано через GigaChat Max 

Сейчас читают
Карьера
Блоги 366
X5 Tech
Газпромбанк
билайн
Сбер
Т-Банк
МТС
Яндекс Практикум
Ozon Tech
Циан
Банк 131

Пользуясь сайтом, вы соглашаетесь с политикой конфиденциальности
и тем, что мы используем cookie-файлы