ChatGPT обратится в полицию, если ребёнок детально расспросит о самоубийстве
ГигаЧат кратко объясняет суть статьи
OpenAI обновила политику использования ChatGPT для несовершеннолетних: нейросеть прекратит вести беседы с элементами флирта и обсуждать тему самоубийства с пользователями до 18 лет. Если возникнет угроза суицида, система известит родителей через функцию родительского контроля, а при невозможности контакта — сообщит в правоохранительные органы. Компания разрабатывает технологию прогнозирования возраста пользователей и планирует запрашивать удостоверение личности в отдельных ситуациях или регионах.
OpenAI изменила правила работы ChatGPT с несовершеннолетними пользователями.
Если пользователь младше 18 лет, то нейросеть не будет вступать в разговоры с элементами флирта, а также обсуждать темы самоубийства. О вопросах про самоубийство нейросеть уведомит родителей при помощи функции родительского контроля.
При этом более серьёзные ситуации, связанные с рассуждениями подростка о самоубийстве, вынудят ChatGPT сразу же обратиться в правоохранительные органы:
«Если у пользователя младше 18 лет возникнут суицидальные мысли, мы попытаемся связаться с его родителями, а если это невозможно, то обратимся к властям в случае угрозы причинения вреда».
В OpenAI также анонсировали внедрение технологии прогнозирования возраста пользователя и запроса удостоверения личности в некоторых случаях:
«Мы должны отделить пользователей младше 18 лет от пользователей старше 13 лет (ChatGPT предназначен для лиц от 13 лет). Мы создаём систему прогнозирования возраста, которая будет определять возраст на основе того, как пользователи используют ChatGPT.
В случае сомнений мы будем действовать осторожно и по умолчанию будем использовать версию для пользователей младше 18 лет. В некоторых случаях или странах мы также можем запросить удостоверение личности».
Читать первым в Telegram-канале «Код Дурова»
