AISI нашёл в GPT-5.6 Sol уязвимости серьёзнее тех, из-за которых заблокировали Fable 5

Британский Институт безопасности ИИ (AISI) нашёл в новой модели OpenAI GPT-5.6 Sol уязвимости серьёзнее тех, что в июне привели к экспортным ограничениям на Claude Fable 5 и Mythos 5, сообщает Fortune.

По данным AISI, специалисты обнаружили в модели «универсальные джейлбрейки» (методы обхода встроенных ограничений) — они позволяют не просто заставить модель искать уязвимости в чужом коде, а довести дело до автономной эксплуатации найденных дыр. Это и отличает находку от истории с Fable 5: джейлбрейк, который тогда обнаружили исследователи Amazon, открывал доступ только к поиску уязвимостей, но не к их использованию.

Информация появилась в техническом отчёте о безопасности модели, который OpenAI опубликовала вместе с релизом GPT-5.6 8 июля. Обходы защиты специалисты AISI находили за считаные часы — впрочем, у них был расширенный доступ к внутренней кухне модели: цепочке рассуждений классификатора безопасности, точным формулировкам политик и данным о срабатывании фильтров. У обычного атакующего такого доступа нет, и AISI признаёт, что без него поиск джейлбрейков занял бы больше времени.

OpenAI заявила, что доработала защиту против найденных обходов, но деталей не раскрыла. При этом сам AISI предупредил, что ожидает новых аналогичных находок даже после исправлений — полностью закрыть такие уязвимости пока не получается ни у одной компании.

Бывший исследователь Anthropic и Google DeepMind, а ныне научный сотрудник AI-стартапа AISLE Станислав Форт заявил, что необнаруженные джейлбрейки сейчас есть практически у любой развёрнутой модели.

Несмотря на находку AISI, Белый дом пока не вводил против GPT-5.6 экспортных ограничений, хотя релиз модели тоже проходил через согласование с властями. Часть специалистов по политике ИИ уже указали на двойные стандарты в подходе США к разным компаниям: Anthropic в похожей ситуации пришлось отключить модели для всех пользователей, а OpenAI пока отделалась доработкой защиты.