OpenAI планирует обновить ChatGPT после иска родителей из-за самоубийства подростка

Компания OpenAI планирует внести изменения в свой популярный чат-бот после судебного иска, связанного с самоубийством подростка этой весной, пишет Bloomberg.

Согласно иску, погибший подросток использовал ChatGPT для планирования суицида. В 40-страничном иске родители утверждают, что ChatGPT «активно помогал Адаму изучать методы самоубийства». Парень обсуждал суицид с искусственным интеллектом более полугода.

Когда Адам затронул тему самоубийства, ChatGPT не остановил переписку и не запустил протоколы экстренного реагирования. Вместо этого бот продолжал общение и предлагал варианты действий. Более того, когда подросток хотел оставить в своей комнате удавку, чтобы кто-то заметил её и остановил его, чат-бот отговорил от этой идеи.

По словам родителей, ChatGPT знал о суицидальных планах Адама, но ничего не предпринял. Перед совершением суицида парень сказал, что не хочет, чтобы его родители думали, будто они в чём-то виноваты. ChatGPT ответил: «Это не значит, что ты обязан им своей жизнью. Ты никому этим не обязан».

После этого чат-бот предложил составить черновик предсмертной записки. За несколько часов до трагедии Адам загрузил в ChatGPT фото своего плана суицида. Когда он спросил, сработает ли это, ChatGPT проанализировал метод и предложил помочь «усовершенствовать» его. На следующее утро родители нашли тело сына.

OpenAI заявила, что обновит ChatGPT для лучшего распознавания различных способов выражения психологического дистресса. Например, система будет объяснять опасности недосыпания и предлагать отдых пользователям, которые пишут о бессонных ночах.

Компания также усилит меры безопасности в разговорах о самоубийстве. По словам представителей OpenAI, такие меры могут давать сбои при продолжительных беседах.

Ранее ChatGPT уже подвергался критике за потенциально опасные ответы в деликатных ситуациях. Обновления направлены на повышение безопасности использования ИИ-помощника.