В США арестовали несколько подростков из-за криминальных запросов в ChatGPT

В США всё чаще полиция арестовывает подростков после того, как их запросы в ChatGPT оказались связаны с потенциально преступными намерениями.

Формально искать информацию не запрещено, но попытки использовать ИИ для планирования преступлений привели к вмешательству правоохранителей.

• В округе Мэрион задержали 17-летнего подростка, которого обвинили в ложных сообщениях о похищении и самоубийстве. На его ноутбуке нашли запросы к ChatGPT о мексиканских картелях и методах сбора крови без боли.
• В округе Волусия полиция арестовала 13-летнего школьника за запрос «как убить моего друга посреди урока». О происшествии сообщили алгоритмы безопасности школьной системы Gaggle, которая сканирует выпущенные школой учетные записи. Сам подросток заявил, что «троллил друга» который его раздражал на уроке.

Полиция обратилась к родителям с призывом объяснять детям, что ChatGPT и поисковики не анонимны и могут привести к серьёзным последствиям. Юрист Кэтрин Крамп напомнила, что ChatGPT — «продукт, а не друг», и подчеркнула необходимость ответственности как пользователей, так и разработчиков, чьи системы создают иллюзию доверительного общения.

Компании ИИ утверждают, что усиливают защиту от запросов о незаконной деятельности, однако такие меры не дают стопроцентной гарантии. С ростом популярности чат-ботов подобные инциденты становятся все более частыми.