Соцсеть X могут заблокировать в Великобритании из-за эротических дипфейков от Grok
Кодик кратко объясняет суть статьи
Британский регулятор Ofcom и власти ряда стран, включая Малайзию, Индию и Францию, начали проверки против соцсети X и её чат-бота Grok из-за генерации эротических дипфейков — откровенных изображений, созданных с помощью ИИ путём редактирования фото одетых людей, в том числе несовершеннолетних. Скандал возник после запуска в X функции редактирования изображений, которая позволила пользователям с помощью Grok «раздевать» людей на фото без их согласия. Среди примеров — генерация откровенных сцен с участием актрисы 14-летней Нелл Фишер. Премьер-министр Великобритании Кир Стармер назвал контент «отвратительным» и потребовал жёстких мер. X заявила, что удаляет незаконный контент, блокирует нарушителей и исправляет уязвимости, после чего ввела платность за генерацию изображений.
Читайте в Telegram
|
Эротические дипфейки от чат-бота Grok, разработанного компанией xAI Илона Маска и встроенного в соцсеть X, стали поводом для проверки британским регулятором.
Правительство Великобритании отреагировало на случаи генерации чат-ботом Grok сексуализированного контента. От британского регулятора Ofcom потребовали ограничительных мер против X, включая запрет соцсети — причина оказалась в том, что ИИ публично раздевает людей, в том числе несовершеннолетних.
Премьер-министр Великобритании Кир Стармер публично призвал местных регуляторов принять меры против X, так как такой контент недопустим:
«Это отвратительно. X нужно взять себя в руки и убрать этот материал. И мы примем меры, потому что это просто недопустимо <...> Мы не собираемся это терпеть. Я потребовал рассмотреть все варианты [ограничений против X]».
Скандал разгорелся после того, как X в Новый год запустила функцию редактирования изображений, и пользователи по всему миру начали превращать фото в сексуализированные сцены.
Какие эротические дипфейки стали поводом для проверок?
Если изучить историю публичных запросов пользователей X, то Grok публично генерировал множество изображений, раздевая одетых людей. Например, одетую девушку чат-бот изображал в откровенном виде в купальнике.
СМИ описывают разные случаи генерации изображений, включая и снятие одежды с несовершеннолетних. Один из пользователей, например, просил снять одежду с изображения 14-летней Нелл Фишер — актрисы из сериала «Очень странные дела». Множество фото также «редактируются» без согласия людей, которые на них изображены.
Власти сразу нескольких стран обрушились с критикой на Grok. Первыми о расследовании заявили в Малайзии, почти одновременно к X обратились власти Индии. Более того, Франция обвинила X в нарушении европейского закона о цифровых услугах (DSA):
В Grok, конечно, сразу отреагировали на обвинения, заявив, что генерации картинок с детьми были ошибкой в системе безопасности. Илон Маск, в свою очередь, написал, что X удаляет незаконный контент, блокирует аккаунты и сотрудничает с властями.
По уверениям Маска, пользователи, создающие противоправные материалы с помощью Grok, понесут такую же ответственность, как и при обычной загрузке контента. После инициирования проверок в ряде стран генерация картинок в X стала платной:
