В США арестовали несколько подростков из-за криминальных запросов в ChatGPT
ГигаЧат кратко объясняет суть статьи
В США участились случаи задержания подростков, использовавших ChatGPT для поиска информации, связанной с потенциальными преступлениями. Несмотря на отсутствие формальных запретов на поиск данных, попытки планировать незаконные действия привлекли внимание полиции. Примеры включают аресты подростков за запросы о похищениях, убийствах и других опасных действиях. Правоохранительные органы призывают родителей разъяснить детям последствия использования ИИ-сервисов, подчеркивая их небезопасность и ответственность пользователей. Разработчики заявляют о мерах защиты от вредоносных запросов, но абсолютную гарантию исключить нельзя.
В США всё чаще полиция арестовывает подростков после того, как их запросы в ChatGPT оказались связаны с потенциально преступными намерениями.
Формально искать информацию не запрещено, но попытки использовать ИИ для планирования преступлений привели к вмешательству правоохранителей.
- В округе Мэрион задержали 17-летнего подростка, которого обвинили в ложных сообщениях о похищении и самоубийстве. На его ноутбуке нашли запросы к ChatGPT о мексиканских картелях и методах сбора крови без боли.
- В округе Волусия полиция арестовала 13-летнего школьника за запрос «как убить моего друга посреди урока». О происшествии сообщили алгоритмы безопасности школьной системы Gaggle, которая сканирует выпущенные школой учетные записи. Сам подросток заявил, что «троллил друга» который его раздражал на уроке.
Полиция обратилась к родителям с призывом объяснять детям, что ChatGPT и поисковики не анонимны и могут привести к серьёзным последствиям. Юрист Кэтрин Крамп напомнила, что ChatGPT — «продукт, а не друг», и подчеркнула необходимость ответственности как пользователей, так и разработчиков, чьи системы создают иллюзию доверительного общения.
Компании ИИ утверждают, что усиливают защиту от запросов о незаконной деятельности, однако такие меры не дают стопроцентной гарантии. С ростом популярности чат-ботов подобные инциденты становятся все более частыми.
Читать первым в Telegram-канале «Код Дурова»
