ChatGPT обратится в полицию, если ребёнок детально расспросит о самоубийстве

OpenAI изменила правила работы ChatGPT с несовершеннолетними пользователями.

Если пользователь младше 18 лет, то нейросеть не будет вступать в разговоры с элементами флирта, а также обсуждать темы самоубийства. О вопросах про самоубийство нейросеть уведомит родителей при помощи функции родительского контроля.

При этом более серьёзные ситуации, связанные с рассуждениями подростка о самоубийстве, вынудят ChatGPT сразу же обратиться в правоохранительные органы:

«Если у пользователя младше 18 лет возникнут суицидальные мысли, мы попытаемся связаться с его родителями, а если это невозможно, то обратимся к властям в случае угрозы причинения вреда».

В OpenAI также анонсировали внедрение технологии прогнозирования возраста пользователя и запроса удостоверения личности в некоторых случаях:

«Мы должны отделить пользователей младше 18 лет от пользователей старше 13 лет (ChatGPT предназначен для лиц от 13 лет). Мы создаём систему прогнозирования возраста, которая будет определять возраст на основе того, как пользователи используют ChatGPT.

В случае сомнений мы будем действовать осторожно и по умолчанию будем использовать версию для пользователей младше 18 лет. В некоторых случаях или странах мы также можем запросить удостоверение личности».