В США и Италии хотят наказать OpenAI за проблемы ChatGPT

Центр искусственного интеллекта и цифровой политики (CAIDP) 30 марта подал жалобу, утверждая, что языковая модель GPT-4 нарушает правила Федеральной торговой комиссии США (FTC).

А вот 31 марта Италия стала первой страной, которая временно ограничила использование ChatGPT персональных данных. Итальянский регулятор в своём заявлении подчеркнул факт нарушения местного законодательства о персональных данных.

Что там в США?

CAIDP — некоммерческая группа исследователей по технологической этике, ориентированная на ИИ, просит провести расследование в отношении OpenAI на предмет нарушения правил защиты прав потребителей.

CAIDP требует привлечь OpenAI к ответственности за нарушение раздела 5 закона FTC, запрещающего нечестную и обманчивую торговую практику. Организация просит остановить любое дальнейшее коммерческое развёртывание моделей GPT и потребовать независимой оценки моделей перед любым будущим релизом.

В организации считают, что развёртывание инструментов генерации текстов ИИ американской компанией было «предвзятым, обманчивым и представляло риск для общественной безопасности», потому следует замедлить разработку генеративных моделей и ввести более строгий государственный надзор.

Среди потенциальных угроз со стороны GPT-4 отмечают возможность создания вредоносного кода, пропаганды и заложенных стереотипов, риск побуждения к расовой и гендерной несправедливости из необъективных данных обучения модели, а также проблемы с конфиденциальностью.

Что в Италии?

Итальянское управление по защите персональных данных (Garante per la protezione dei dati personali) заявило, что проведёт расследование того, как обрабатываются данные пользователей языковыми моделями OpenAI.

Регулятор не видит правовой основы, которая оправдывает массовый сбор и хранение персональных данных американской компанией с целью «обучения» алгоритмов, лежащих в основе работы платформы. Более того, в OpenAI не проверяют возраст пользователей, несмотря на ограничение 13+.

Теперь в OpenAI должны через представителя в Европейской экономической зоне сообщить итальянскому регулятору, как компания планирует привести ChatGPT в соответствие с Общим регламентом по защите данных ЕС (GDPR). Требования необходимо исполнить в течение 20 дней, иначе придётся оплатить оборотный 4%-й штраф.