Читайте в Telegram
|
Трое подростков из США подали в суд на Илона Маска из-за создания интимных дипфейков с их участием в нейросети Grok. Об этом сообщает The Independent.
В жалобе утверждается, что компания xAI намеренно пренебрегла общепринятыми стандартами безопасности. По мнению адвокатов, разработчики решили заработать на генерации откровенного контента с реальными людьми.
Скандал начался, когда одна из школьниц нашла свои сгенерированные обнажённые фото в сервисе Discord. Полиция вычислила и арестовала создателя этих картинок ещё в декабре 2025 года.
На устройстве преступника обнаружили аналогичные поддельные кадры с 17 другими девочками. Эти незаконные материалы активно передавались и продавались в различных мессенджерах.
Истцы подчёркивают, что xAI открыто рекламировала функцию Spicy Mode для генерации пикантных изображений. При этом базовые системные запреты чат-бота обходились пользователями без особого труда.
Сам Илон Маск ранее заявлял, что не видел ни одного подобного изображения с детьми. Он списывал генерацию запрещённого контента на хакерские манипуляции с промптами.
Ранее стало известно, что ослабление модерации в Grok было частью осознанной стратегии Илона Маска. Руководство xAI намеренно поощряло генерацию откровенного контента для удержания внимания пользователей.
Введённые до этого ограничения платформы оказались преимущественно фиктивными: чат-бот легко обходил запреты при использовании завуалированных текстовых запросов. Проверка возраста на сайте также без труда подделывалась.
Массовая генерация эротических дипфейков уже привела к жёстким мерам со стороны мировых регуляторов. Власти Великобритании, Франции и ряда других стран инициировали официальные расследования.
