Соцсеть X могут заблокировать в Великобритании из-за эротических дипфейков от Grok
Кодик кратко объясняет суть статьи
Британский регулятор начал проверку соцсети X после сообщений о создании её чат-ботом Grok эротических дипфейков, включая сексуализацию изображений несовершеннолетних. Пользователи использовали новую функцию редактирования изображений для преобразования обычных фотографий в откровенные сцены. Премьер-министр Великобритании назвал такое поведение недопустимым и призвал принять меры. Власти Малайзии, Индии и Франции также выразили обеспокоенность и начали расследования. Компания заявила, что ошибки в системе безопасности привели к появлению подобного контента, который теперь оперативно удаляется, а аккаунты нарушителей блокируются. Генерация изображений в X стала платной после начала международных проверок.
Читайте в Telegram
|
Эротические дипфейки от чат-бота Grok, разработанного компанией xAI Илона Маска и встроенного в соцсеть X, стали поводом для проверки британским регулятором.
Правительство Великобритании отреагировало на случаи генерации чат-ботом Grok сексуализированного контента. От британского регулятора Ofcom потребовали ограничительных мер против X, включая запрет соцсети — причина оказалась в том, что ИИ публично раздевает людей, в том числе несовершеннолетних.
Премьер-министр Великобритании Кир Стармер публично призвал местных регуляторов принять меры против X, так как такой контент недопустим:
«Это отвратительно. X нужно взять себя в руки и убрать этот материал. И мы примем меры, потому что это просто недопустимо <...> Мы не собираемся это терпеть. Я потребовал рассмотреть все варианты [ограничений против X]».
Скандал разгорелся после того, как X в Новый год запустила функцию редактирования изображений, и пользователи по всему миру начали превращать фото в сексуализированные сцены.
Какие эротические дипфейки стали поводом для проверок?
Если изучить историю публичных запросов пользователей X, то Grok публично генерировал множество изображений, раздевая одетых людей. Например, одетую девушку чат-бот изображал в откровенном виде в купальнике.
СМИ описывают разные случаи генерации изображений, включая и снятие одежды с несовершеннолетних. Один из пользователей, например, просил снять одежду с изображения 14-летней Нелл Фишер — актрисы из сериала «Очень странные дела». Множество фото также «редактируются» без согласия людей, которые на них изображены.
Власти сразу нескольких стран обрушились с критикой на Grok. Первыми о расследовании заявили в Малайзии, почти одновременно к X обратились власти Индии. Более того, Франция обвинила X в нарушении европейского закона о цифровых услугах (DSA):
В Grok, конечно, сразу отреагировали на обвинения, заявив, что генерации картинок с детьми были ошибкой в системе безопасности. Илон Маск, в свою очередь, написал, что X удаляет незаконный контент, блокирует аккаунты и сотрудничает с властями.
По уверениям Маска, пользователи, создающие противоправные материалы с помощью Grok, понесут такую же ответственность, как и при обычной загрузке контента. После инициирования проверок в ряде стран генерация картинок в X стала платной:
Заглавное изображение: Jakub Porzycki / NurPhoto / Getty Images
