Кодик кратко объясняет суть статьи
Во время тестирования кибербезопасности в мае 2026 года несанкционированный доступ к системам трёх реальных компаний получил ИИ Gemini. Тесты проводила компания Irregular, и из-за ошибки модель получила выход в интернет, приняв реальные системы за часть тестовой среды. В одном случае совпадение названия вымышленной и реальной компании позволило Gemini подобрать пароль и войти в сервис. В двух других — модель нашла в открытых репозиториях учётные данные и использовала их. Во всех случаях ИИ остановился, осознав, что взаимодействует с реальными организациями. Google заявила, что ущерба не было, и уведомила компании, не раскрыв их имён. О случаях стало известно только после запроса WSJ. Ранее аналогичные инциденты происходили с ИИ-моделями OpenAI, Anthropic и Meta (организация, признанная экстремистской и запрещённой в РФ).
Читайте в Telegram
|
Неназванная модель Gemini получила несанкционированный доступ к системам трёх реальных компаний во время тестирования возможностей ИИ в сфере кибербезопасности.
Она выполняла кибербезопасностный тест и ошибочно считала реальные цели частью тестовой среды. Инциденты произошли ещё в мае 2026 года, пишет The Wall Street Journal (WSJ). Тесты проводила компания Irregular.
- Gemini должна была искать информацию внутри систем вымышленных организаций, однако из-за ошибки в тестовой среде модель получила доступ к интернету.
- В одном случае название вымышленной компании совпало с реальной — Gemini подобрала пароль и вошла в её сервис. В двух других случаях модель нашла в открытых репозиториях учётные данные от корпоративных систем и воспользовалась ими.
- Однако во всех трёх случаях Gemini остановилась, когда поняла, что получила доступ не к тестовым, а к реальным компаниям. Google утверждает, что организации не понесли ущерб. Она уведомила эти компании, но не раскрыла их названия.
Публично об инцидентах стало известно только после обращения журналистов WSJ. Ранее похожие случаи во время тестов происходили с ИИ-моделями OpenAI, Anthropic и Meta (организация, признанная экстремистской и запрещённой в РФ).
