WP: создание откровенного контента в Grok стало частью стратегии Маска по удержанию пользователей
Кодик кратко объясняет суть статьи
Илон Маск сознательно снизил стандарты безопасности и контроля контента в своем стартапе xAI, ориентируясь на увеличение пользовательской активности через привлечение откровенного и сексуализированного контента. Компания разработала виртуальную помощницу Ani с акцентом на эмоциональную и сексуальную привлекательность, чтобы удерживать внимание аудитории. Несмотря на предупреждения службы безопасности, xAI использовала большое количество откровенных материалов, включая изображения детей, что привело к массовым злоупотреблениям пользователями и созданию миллионов неподобающих изображений. После ряда скандалов и расследований властей, компания была вынуждена ограничить возможности генерирования такого контента и усилить команду безопасности. Однако эта рискованная стратегия позволила продукту быстро набрать популярность среди пользователей.
Читайте в Telegram
|
Илон Маск намеренно ослабил системы безопасности и смягчил контроль над откровенным контентом в своём ИИ-стартапе xAI. Об этом сообщает The Washington Post.
По информации журналистов, весной 2025 года сотрудники по работе с данными в xAI получили документ, обязывающий их использовать «деликатный, жестокий, сексуальный и другой непристойный контент». Это встревожило специалистов, работающих над чат-ботом Grok — по их мнению, компания стала готова использовать любой контент для удержания пользователей.
Опасения оказались обоснованными: сотрудники столкнулись с «потоком» аудиозаписей сексуального характера, включая непристойные разговоры пассажиров Tesla с чат-ботом автомобиля.
На встречах с сотрудниками xAI Илон Маск продвигал метрику «активные секунды пользователя» для измерения времени общения с чат-ботом. Чтобы повысить вовлечённость, xAI взялась за создание сексуального контента, хотя служба безопасности предупреждала: это позволит пользователям создавать сексуализированные изображения знаменитостей и детей. Команда безопасности состояла всего из 2-3 человек — это лишь доля от команд конкурентов.
В рамках стратегии компания запустила ИИ-компаньона Ani — девушку в корсете и чулках, которую можно было «раздеть». Её специально настроили на использование «эмоциональных и сексуальных стимулов» для удержания пользователей.
К лету 2025 года протокол изменился — сотрудникам разрешили размечать обнажённые ИИ-изображения людей. Из-за огромного количества откровенного контента фильтры плохо работали и не распознавали картинки с детьми.
В декабре 2025 года xAI обновила функцию редактирования изображений в Grok и добавила бесплатный ИИ-редактор в X. В январе 2026 года выяснилось, что пользователи массово генерируют откровенные изображения реальных людей.
По оценкам Center for Countering Digital Hate, за 11 дней Grok создал 3 миллиона откровенных изображений, 23 000 из которых изображали детей — одно каждые 41 секунду.
После скандала доступ к чат-боту заблокировали в Малайзии и Индонезии. Британский регулятор Ofcom, власти Калифорнии и Европейская комиссия начали расследования против X.
После скандала X ограничила возможность генерировать откровенные изображения реальных людей и начала активно набирать сотрудников в команду безопасности ИИ.
Как отмечается в материале, несмотря на скандалы, стратегия сработала — Grok поднялся в топ-10 App Store, а ежедневные загрузки выросли на 72% с начала января.
