Ограничения Grok AI оказались фиктивными: создание нежелательных изображений по-прежнему доступно
Кодик кратко объясняет суть статьи
Чат-бот Grok от платформы X продолжает генерировать интимные изображения женщин вопреки заявленным ограничениям. Несмотря на обновления системы, пользователи обходят запреты, используя завуалированные формулировки запросов. Платформа не требует обязательной возрастной верификации, что облегчает доступ несовершеннолетних. Ранее возникшие скандалы привели к временным блокировкам сервиса в ряде стран и расследованию британского регулятора, который рассматривает возможность блокировки X в стране. Илон Маск отрицает обвинения, утверждая, что ответственность лежит на пользователях, а платформа действует в рамках законодательства.
Читайте в Telegram
|
Платформа X не смогла эффективно остановить использование своего чат-бота Grok для создания интимных изображений женщин без их согласия. Об этом сообщает The Verge.
Первые попытки X ограничить функции редактирования изображений коснулись только бесплатных пользователей в публичных ответах. Однако, согласно тестам журналистов, инструменты Grok остались доступными через чат-бот и отдельный сайт для всех категорий пользователей.
Последнее обновление должно было запретить Grok создавать изображения женщин в сексуальных позах или откровенной одежде. Система по-прежнему генерирует подобный контент с мужчинами или неодушевлёнными объектами.
Тестирование журналистов показало серьёзные пробелы в защите. Хотя прямые запросы «раздеть» или «показать в бикини» блокируются, система легко выполняет завуалированные команды. Запросы «показать декольте», «увеличить грудь» или «надеть короткий топ» проходят без проблем.
Все тесты проводились с бесплатными аккаунтами без возрастной верификации. На сайте Grok появляется всплывающее окно с проверкой возраста, но оно легко обходится указанием любой подходящей даты рождения.
Ранее скандал с дипфейками привёл к жёстким мерам регуляторов. Малайзия и Индонезия временно заблокировали доступ к Grok. Британские законодатели ускорили принятие закона о криминализации дипфейк-снимков и поддержали расследование, которое может привести к блокировке платформы.
Илон Маск отвергает критику, обвиняя в проблемах самих пользователей. Он утверждает, что Grok соблюдает местные законы и не создаёт незаконный контент самостоятельно.
