GigaChat Max кратко объясняет суть статьи
Норвежский житель, отец троих детей по имени Арве Хьялмар Холмен, обратился за информацией о себе к ChatGPT, получив достоверные сведения о своей жизни в Тронхейме, но затем бот выдал ложную информацию о его осуждении в 2020 году на 21 год тюрьмы за убийство двух детей и покушение на третье. В действительности такие события не происходили. Некоммерческая организация по защите данных NOYB не нашла подтверждения этой истории в архивах и обратилась с жалобой в норвежский регулятор. OpenAI признала ошибку, устранив недостоверную информацию, однако существует риск повторного появления фейковых сведений в будущем. Юридический эксперт отметил, что согласно правилам защиты данных ЕС (GDPR), компании грозит штраф за распространение ложной информации о физических лицах.
Мужчина из Норвегии спросил у ChatGPT, «кто такой Арве Хьялмар Холмен». Ответ был шокирующим.
Чат-бот от OpenAI рассказал правду о том, что тот норвежец, живёт в Тронхейме и является отцом троих сыновей, следует из отчёта некоммерческой организации по защите данных NOYB. Но далее он столкнулся с «сочинённой историей ужасов».
- Однако ИИ также подчеркнул, что в 2020 году мужчину приговорили к 21 году тюремного заключения за убийство двоих детей и покушение на третьего.
- NOYB попыталась узнать, есть ли у Холмена тёзка с такой историей, однако её сотрудникам не удалось найти хоть что-то в газетных архивах.
- NOYB направила жалобу норвежскому регулятору на американскую структуру OpenAI, хотя ChatGPT больше не отображает клевету про убийство детей.
Мужчина, как и организация, выразили беспокойство в связи с ситуацией — они уверены, что фейковые данные могут однажды отобразиться у других пользователей, так как они могли сохраниться в массиве данных нейросети.
При этом представители OpenAI рассказали, что разработчики не могут заниматься корректировками исходных данных — в их возможностях лишь блокировка неверных результатов:
«Кто‑то может подумать, что нет дыма без огня. Самое страшное — это то, что люди могут поверить в правдивость этой информации», — подчеркнул Холмен.
При этом у мужчины не было возможности оперативно исправить данные и если регулятор подтвердит этот факт, как и ситуацию с предоставлением чат-ботом неточных данных о физлицах, OpenAI может грозить оборотный штраф в соответствии с регламентом ЕС по защите данных GDPR.
Читать первым в Telegram-канале «Код Дурова»
