Регуляторы взялись за Grok после генерации откровенных изображений

Власти сразу нескольких стран обрушились с критикой на ИИ-чатбот Grok, разработанный компанией xAI Илона Маска и встроенный в соцсеть X, после того как он начал создавать сексуализированные изображения людей.

Первыми о расследовании заявили в Малайзии. Комиссия по коммуникациям и мультимедиа страны сообщила, что проверяет жалобы на использование Grok для «раздевания» женщин и детей и создания непристойного и оскорбительного контента.

Регулятор подчеркнул, что распространение таких материалов является уголовным преступлением, а представители X будут вызваны для объяснений, несмотря на то что платформа формально не лицензирована в стране.

Почти одновременно к X обратились власти Индии. Министерство электроники и информационных технологий потребовало провести срочную проверку Grok и в течение 72 часов отчитаться о мерах по недопущению генерации контента с наготой, сексуализацией и другими незаконными элементами. Индийские власти не исключили уголовных и IT-санкций, а также ужесточения регулирования соцсетей.

Франция пошла ещё дальше: правительство заявило, что изображения, созданные Grok без согласия людей, могут нарушать европейский закон о цифровых услугах (DSA). По версии Парижа, X не выполнила обязанность по снижению рисков распространения незаконного контента.

Илон Маск, в свою очередь, написал в X, что платформа удаляет незаконный контент, блокирует аккаунты и сотрудничает с властями, а пользователи, создающие противоправные материалы с помощью Grok, понесут такую же ответственность, как и при обычной загрузке контента.

Скандал разгорелся после того, как X в Новый год запустила функцию редактирования изображений, и пользователи по всему миру начали массово экспериментировать с Grok, превращая фотографии в сексуализированные сцены. При этом подобные действия прямо запрещены правилами самого чатбота.