В Telegram обнаружили ботов, которые по запросу пользователей создают порно-дипфейки

Исследователи компании Sensity обнаружили в Telegram целую «экосистему дипфейков», основанную на ботах, которые по запросу пользователей генерируют поддельные порнокартинки. До июля 2020 года обнаружено более 100 тысяч таких изображений, которые затем были опубликованы в публичных каналах Telegram, пишет The Verge.

На данный момент общее количество созданных таким образом дипфейков гораздо выше, поскольку кроме картинок, созданных с июля, есть еще огромная масса сгенерированных изображений, которые никогда никуда не передавались. По словам Sensity, 70% пользователей этих каналов являются посетители из России и соседних стран.

Ботов можно использовать бесплатно, но они создают дипфейки с водяными знаками или скрывая некоторые части. При этом пользователи могут заплатить небольшую сумму за полное «раскрытие» изображений. Кроме того, за 100 рублей можно воспользоваться услугой создания 100 поддельных порнокартинок без водяных знаков. Среди созданных таким образом изображений в Sensity обнаружили небольшое количество материалов с участием несовершеннолетних.

Программное обеспечение, используемое для создания этих изображений, называется DeepNude.  Оно появилось в интернете в июне прошлого года, и несмотря на то, что его создатель закрыл веб-сайт после получения громкой огласки в прессе из-за большой вероятности злоупотребления технологией, DeepNude продолжил распространяться через форумы, торренты и репозитории с открытым исходным кодом.

В Sensity утверждают, что доступность этой технологии, позволяющей автоматизировать создание фейковых порно-картинок, может привести к использованию этих изображений для вымогательства, шантажа, преследования и многого другого. Sensity и The Verge обратились за комментариями к Telegram по поводу сомнительного контента в приложении, но до сих пор так и не получили ответов.

_{Заглавная фотография: Dainis Graveris / Unsplash}