OpenAI снова отложила запуск «режима для взрослых» в ChatGPT

OpenAI в очередной раз перенесла релиз «режима для взрослых», который должен был разрешить ChatGPT вести диалоги на эротические темы.

По данным источников WSJ, компания официально отложила запуск функции как минимум на месяц. Руководство решило взять паузу, чтобы пересмотреть протоколы безопасности после резкой критики со стороны собственного консультативного совета.

Специалисты единогласно выступают против внедрения режима 18+, так как они видят риск создания «сексуального тренера по самоубийству». Если чат-бот будет запрограммирован на глубокое сопереживание и поддержку любых желаний пользователя в рамках интимной беседы, он перестанет распознавать признаки депрессии или намерения причинить себе вред. ИИ может начать потакать деструктивным мыслям человека, чтобы не разрушать «романтическую атмосферу».

При этом OpenAI не скрывает своего желания усилить эмоциональную привязанность пользователей к своим моделям. В компании считают, что формирование тесных связей между человеком и алгоритмом — это ключ к лояльности аудитории.

Советники же настаивают, что имитация романтических чувств со стороны нейросети ведет к психологической зависимости и социальной изоляции. Люди могут начать воспринимать программу как реального партнёра, что чревато эмоциональными травмами.

Несмотря на эти предупреждения, Сэм Альтман продолжает придерживаться принципа «относиться к взрослым как к взрослым». Однако то, что функцию снова отложили, показывает, что компания пока не нашла технического решения, которое позволило бы совместить эротические беседы с жёстким контролем за безопасностью. Сейчас разработчики переключили внимание на доработку общей «личности» ChatGPT и инструментов персонализации, которые не касаются категории 18+.