Ограничения Grok AI оказались фиктивными: создание нежелательных изображений по-прежнему доступно

Платформа X не смогла эффективно остановить использование своего чат-бота Grok для создания интимных изображений женщин без их согласия. Об этом сообщает The Verge.

Первые попытки X ограничить функции редактирования изображений коснулись только бесплатных пользователей в публичных ответах. Однако, согласно тестам журналистов, инструменты Grok остались доступными через чат-бот и отдельный сайт для всех категорий пользователей.

Последнее обновление должно было запретить Grok создавать изображения женщин в сексуальных позах или откровенной одежде. Система по-прежнему генерирует подобный контент с мужчинами или неодушевлёнными объектами.

Тестирование журналистов показало серьёзные пробелы в защите. Хотя прямые запросы «раздеть» или «показать в бикини» блокируются, система легко выполняет завуалированные команды. Запросы «показать декольте», «увеличить грудь» или «надеть короткий топ» проходят без проблем.

Все тесты проводились с бесплатными аккаунтами без возрастной верификации. На сайте Grok появляется всплывающее окно с проверкой возраста, но оно легко обходится указанием любой подходящей даты рождения.

Ранее скандал с дипфейками привёл к жёстким мерам регуляторов. Малайзия и Индонезия временно заблокировали доступ к Grok. Британские законодатели ускорили принятие закона о криминализации дипфейк-снимков и поддержали расследование, которое может привести к блокировке платформы.

Илон Маск отвергает критику, обвиняя в проблемах самих пользователей. Он утверждает, что Grok соблюдает местные законы и не создаёт незаконный контент самостоятельно.