«Одноклассники» внедрили автоматическое скрытие эротического контента на платформе

Социальная сеть «Одноклассники» внедрила новые технологии для автоматического обнаружения и скрытия эротических изображений.

Новые возможности включают в себя использование машинного обучения для фильтрации нежелательного контента в ленте и комментариях. По словам директора по продукту ОК, Александра Москвичева, целью обновления является создание более комфортной и безопасной среды на платформе.

За последние два года мы внедрили десятки улучшений, которые делают общение в продукте. Теперь благодаря помощи наших пользователей и технологиям люди в ОК будут видеть ещё меньше нежелательного контента, — заявил он.

В рамках исследования, проведенного для настройки фильтров, пользователи оценивали, какие изображения они считают неприемлемыми. На основании этих данных разработчики обучили две модели машинного обучения, которые теперь автоматически скрывают подобный контент. Пользователи соцсети могут посмотреть скрытые изображения, кликнув по ним, или игнорировать такой контент.

При этом обновление не касается изображений искусств, спортивных фотографий и пляжных снимков, таких как классическая живопись и статуарное искусство.