В Китае задержан человек за создание фейковых новостей при помощи ChatGPT

Правоохранительные органы КНР задержали мужчину по подозрению в распространении фейковых новостей, созданных при помощи ChatGPT.

Об этом сообщило издание South China Morning Post со ссылкой на полицию. Оно подчеркнуло, что это первый в Китае случай задержания в связи с использованием бота с технологиями глубокого обучения после вступления отдельного регулирующего постановления властей Пекина.

Мужчина по фамилии Хун из провинции Ганьсу подозревается в использовании ИИ для создания и распространения ненастоящих новостей в соцсетях. В местной полиции заявили, что задержанный пользовался технологией ИИ «для фабрикации ложной и неправдивой информации».

• Внимание правоохранителей из Поднебесной привлекла новость, в которой утверждалось о гибели девяти человек в результате аварии с поездом, якобы произошедшей 25 апреля.

• Полиция выяснила, что такого инцидента на самом деле не было. Хун распространил новость с 20 аккаунтов в соцсети Baijiahao. Фейковый материал набрал более 15 000 кликов и после на неё наткнулись сотрудники киберполиции.

• Основная претензия к подозреваемому — он распространил фейковую новость, созданную технологиями глубокого обучения, без предупреждающей пометки.

Теперь задержанному светит наказание — и это первый случай после того, как в январе официально вступило в силу постановление китайских регуляторов о регулировании использования технологий глубокого синтеза (deep synthesis и deepfake).

Положения, названные в законе «Административные положения о глубоком синтезе для информационной службы Интернета», определяют глубокий синтез как использование технологий, включая глубокое обучение и дополненную реальность, для генерации текста, изображений, аудио и видео и создания виртуальных сценариев.

Департамент общественной безопасности провинции Ганьсу сообщил, что Хун подозревается в преступлении за «разжигание ссор и провоцирование беспорядков», за это дают до 5 лет тюрьмы или до 10 лет в особо тяжких случаях. В этот закон ещё в 2013 году включили понятие распространения фейков в Интернете.

А 10 января 2023 года вступили отдельные регулирующие правила по дипфейкам, принятые Администрацией киберпространства Китая, Министерством промышленности и информационных технологий и Министерством общественной безопасности.

_{Заглавное изображение: AFP / Getty Images}