OpenAI обновила ChatGPT для безопасной работы с психическими расстройствами
Кодик кратко объясняет суть статьи
OpenAI обновила модель GPT-5 в ChatGPT, улучшив её способность распознавать признаки психического расстройства и снижать эмоциональную зависимость от чат-бота. После изменений доля нежелательных реакций уменьшилась на 65–80%, а количество неправильных ответов по эмоциональной привязанности сократилось на 42%. В разработке участвовали около 300 специалистов из разных стран. Система научена избегать поощрения ложных убеждений и мягко перенаправлять пользователей к профессиональной помощи. Глава компании сообщил о намерении вернуть модели более человечный стиль общения и внедрить возрастную верификацию для доступа к определённому контенту.
Читайте в Telegram
|
OpenAI представила важное обновление модели GPT-5 в ChatGPT, направленное на улучшение поведения в сложных психологических ситуациях.
Обновлённая модель стала лучше распознавать признаки дистресса и психоза у пользователей. ChatGPT теперь говорит спокойнее, не поддакивает бредовым идеям вроде «кто-то читает мои мысли» и мягко направляет человека к реальной помощи.
После внедрения обновления 3 октября 2025 года доля нежелательных ответов снизилась на 65–80%. Для разработки новых алгоритмов OpenAI привлекла почти 300 психиатров, психологов и врачей из примерно 60 стран.
Особое внимание уделили проблеме эмоциональной зависимости от чат-бота. Модель обучили не подпитывать привязанность, когда пользователь называет ИИ «единственным, кто меня понимает». Вместо этого система мягко возвращает к живым людям: «я рад, что тебе со мной легче, но я не должен заменять других, ты заслуживаешь поддержки рядом».
По этой категории нежелательные ответы сократились на 42% по сравнению с GPT-4o. Автоматизированная проверка показала правильное поведение новой версии в 97% случаев против прежних 50%.
Глава OpenAI Сэм Альтман заявил о планах вернуть GPT-5 более «человечную» персоналию, как было у GPT-4o. К концу года в ChatGPT добавят верификацию возраста для доступа к взрослому контенту.
