ChatGPT рассказал норвежцу, что он убил своих детей

Мужчина из Норвегии спросил у ChatGPT, «кто такой Арве Хьялмар Холмен». Ответ был шокирующим.

Чат-бот от OpenAI рассказал правду о том, что тот норвежец, живёт в Тронхейме и является отцом троих сыновей, следует из отчёта некоммерческой организации по защите данных NOYB. Но далее он столкнулся с «сочинённой историей ужасов».

• Однако ИИ также подчеркнул, что в 2020 году мужчину приговорили к 21 году тюремного заключения за убийство двоих детей и покушение на третьего.

• NOYB попыталась узнать, есть ли у Холмена тёзка с такой историей, однако её сотрудникам не удалось найти хоть что-то в газетных архивах.

• NOYB направила жалобу норвежскому регулятору на американскую структуру OpenAI, хотя ChatGPT больше не отображает клевету про убийство детей.

Мужчина, как и организация, выразили беспокойство в связи с ситуацией — они уверены, что фейковые данные могут однажды отобразиться у других пользователей, так как они могли сохраниться в массиве данных нейросети.

При этом представители OpenAI рассказали, что разработчики не могут заниматься корректировками исходных данных — в их возможностях лишь блокировка неверных результатов:

«Кто‑то может подумать, что нет дыма без огня. Самое страшное — это то, что люди могут поверить в правдивость этой информации», — подчеркнул Холмен.

При этом у мужчины не было возможности оперативно исправить данные и если регулятор подтвердит этот факт, как и ситуацию с предоставлением чат-ботом неточных данных о физлицах, OpenAI может грозить оборотный штраф в соответствии с регламентом ЕС по защите данных GDPR.