Читайте в Telegram
|
Неназванная модель Gemini получила несанкционированный доступ к системам трёх реальных компаний во время тестирования возможностей ИИ в сфере кибербезопасности.
Она выполняла кибербезопасностный тест и ошибочно считала реальные цели частью тестовой среды. Инциденты произошли ещё в мае 2026 года, пишет The Wall Street Journal (WSJ). Тесты проводила компания Irregular.
- Gemini должна была искать информацию внутри систем вымышленных организаций, однако из-за ошибки в тестовой среде модель получила доступ к интернету.
- В одном случае название вымышленной компании совпало с реальной — Gemini подобрала пароль и вошла в её сервис. В двух других случаях модель нашла в открытых репозиториях учётные данные от корпоративных систем и воспользовалась ими.
- Однако во всех трёх случаях Gemini остановилась, когда поняла, что получила доступ не к тестовым, а к реальным компаниям. Google утверждает, что организации не понесли ущерб. Она уведомила эти компании, но не раскрыла их названия.
Публично об инцидентах стало известно только после обращения журналистов WSJ. Ранее похожие случаи во время тестов происходили с ИИ-моделями OpenAI, Anthropic и Meta (организация, признанная экстремистской и запрещённой в РФ).
Hugging Face сообщила о кибератаке, которую от начала до конца провёл автономный ИИ-агент
Расследовать взлом компании пришлось тоже с помощью ИИ — но сначала пришлось обойти защитные фильтры коммерческих моделей.
Исследователи взломали внутренние репозитории OpenAI через уязвимость форума
Через скомпрометированные аккаунты разработчиков команда получила доступ к закрытым репозиториям OpenAI на GitHub.
