ИИ-агенты автономно атаковали государственную инфраструктуру Тайваня

ИИ-агенты совершили почти автономную атаку на государственную инфраструктуру Тайваня. Об этом сообщает Reuters.

Масштабный инцидент произошёл в июле этого года. Это первый подробно задокументированный взлом подобного формата.

Хакеры применили гибридный подход, объединив ручные операции с действиями ИИ-агентов вроде OpenClaw. При этом нейросеть считала, что проводит проверку безопасности, а не реальный взлом.

Подробности раскрыла израильская компания по кибербезопасности Dream. За четыре дня ИИ-агенты добыли десятки паролей и украли личные дела сотрудников тайваньского Минюста. Также они просканировали агентство по ядерной безопасности.

В ходе атаки алгоритмы разобрали код государственного портала и нашли связанные системы. Взломав 84 учётные записи, ИИ-агенты прошли через единый вход без дополнительных проверок.

Эксперты подчёркивают, что решения всё равно принимает человек. Сами ИИ-модели не были изначально заинтересованы во взломе.

«Где-то в такой атаке остаётся человек, который выбирает цель и даёт указания», — отметил исследователь Semgrep Крис Томас.

Изначально в отчёте Dream не назывались конкретные стороны, но Тайвань подтвердил факт атаки. СМИ предполагают, что за инцидентом стоит Китай. Официальных комментариев от сторон пока не поступало.

Ранее ИИ-модели от OpenAI и Anthropic уже взламывали сторонние системы. Однако тогда это происходило исключительно по ошибке во время тестирования.