Подростки подали в суд на Илона Маска из-за интимных дипфейков в Grok
Кодик кратко объясняет суть статьи
Трое подростков из США подали в суд на Илона Маска и его компанию xAI, обвиняя их в создании интимных дипфейков с участием несовершеннолетних при помощи нейросети Grok. По утверждению истцов, xAI намеренно ослабила меры безопасности и модерацию, продвигая функцию Spicy Mode для генерации откровенного контента, что стало частью стратегии удержания пользователей. Один из случаев привёл к аресту подростка, распространявшего сгенерированные обнажённые фото школьниц в Discord; на его устройстве нашли материалы с 17 девочками. Несмотря на заявления Маска о том, что генерация запрещённого контента происходила из-за взлома промптов, выяснилось, что ограничения в Grok легко обходились, а возрастные проверки — подделывались. Скандал вызвал расследования в Великобритании, Франции и других странах, но при этом Grok поднялся в топ-10 App Store.
Читайте в Telegram
|
Трое подростков из США подали в суд на Илона Маска из-за создания интимных дипфейков с их участием в нейросети Grok. Об этом сообщает The Independent.
В жалобе утверждается, что компания xAI намеренно пренебрегла общепринятыми стандартами безопасности. По мнению адвокатов, разработчики решили заработать на генерации откровенного контента с реальными людьми.
Скандал начался, когда одна из школьниц нашла свои сгенерированные обнажённые фото в сервисе Discord. Полиция вычислила и арестовала создателя этих картинок ещё в декабре 2025 года.
На устройстве преступника обнаружили аналогичные поддельные кадры с 17 другими девочками. Эти незаконные материалы активно передавались и продавались в различных мессенджерах.
Истцы подчёркивают, что xAI открыто рекламировала функцию Spicy Mode для генерации пикантных изображений. При этом базовые системные запреты чат-бота обходились пользователями без особого труда.
Сам Илон Маск ранее заявлял, что не видел ни одного подобного изображения с детьми. Он списывал генерацию запрещённого контента на хакерские манипуляции с промптами.
Ранее стало известно, что ослабление модерации в Grok было частью осознанной стратегии Илона Маска. Руководство xAI намеренно поощряло генерацию откровенного контента для удержания внимания пользователей.
Введённые до этого ограничения платформы оказались преимущественно фиктивными: чат-бот легко обходил запреты при использовании завуалированных текстовых запросов. Проверка возраста на сайте также без труда подделывалась.
Массовая генерация эротических дипфейков уже привела к жёстким мерам со стороны мировых регуляторов. Власти Великобритании, Франции и ряда других стран инициировали официальные расследования.
