Gemini случайно взломала три реальные компании во время тестирования

Неназванная модель Gemini получила несанкционированный доступ к системам трёх реальных компаний во время тестирования возможностей ИИ в сфере кибербезопасности.

Она выполняла кибербезопасностный тест и ошибочно считала реальные цели частью тестовой среды. Инциденты произошли ещё в мае 2026 года, пишет The Wall Street Journal (WSJ). Тесты проводила компания Irregular.

• Gemini должна была искать информацию внутри систем вымышленных организаций, однако из-за ошибки в тестовой среде модель получила доступ к интернету.

• В одном случае название вымышленной компании совпало с реальной — Gemini подобрала пароль и вошла в её сервис. В двух других случаях модель нашла в открытых репозиториях учётные данные от корпоративных систем и воспользовалась ими.

• Однако во всех трёх случаях Gemini остановилась, когда поняла, что получила доступ не к тестовым, а к реальным компаниям. Google утверждает, что организации не понесли ущерб. Она уведомила эти компании, но не раскрыла их названия.

Публично об инцидентах стало известно только после обращения журналистов WSJ. Ранее похожие случаи во время тестов происходили с ИИ-моделями OpenAI, Anthropic и Meta (организация, признанная экстремистской и запрещённой в РФ).