США сняли экспортные ограничения с ИИ-моделей Anthropic Claude Fable 5 и Mythos 5
Кодик кратко объясняет суть статьи
Министерство торговли США сняло экспортные ограничения на ИИ-модели Anthropic Claude Fable 5 и Claude Mythos 5, ранее введённые из-за рисков, связанных с обходом защитных механизмов. Поводом стало исследование Amazon, в котором описан способ, позволяющий Fable 5 находить уязвимости в ПО и генерировать эксплойт-код. Anthropic подтвердила уязвимость и разработала классификатор, блокирующий подобные атаки более чем в 99% случаев. Доступ к Mythos 5 был частично восстановлен 26 июня для участников программы Glasswing, а с 1 июля Fable 5 стал доступен всем пользователям платформы Claude, с ограничениями по лимитам до 7 июля, после чего — через платные кредиты. Восстановление доступа через облачные провайдеры запланировано в ближайшее время. Anthropic совместно с Amazon, Microsoft, Google и другими разрабатывает отраслевой стандарт оценки джейлбрейков и устанавливает тесное сотрудничество с властями США, включая предоставление будущих моделей для проверки и обмен данными об угрозах. Модели были выпущены в середине июня, но уже через три дня доступ к ним был заблокирован из-за требований регуляторов.
Читайте в Telegram
|
Министерство торговли США сняло экспортные ограничения с ИИ-моделей Anthropic Claude Fable 5 и Claude Mythos 5, сообщила компания.
Ограничения ввели 12 июня — по требованию властей Anthropic пришлось заблокировать доступ к обеим моделям для всех иностранных граждан, включая собственных сотрудников без гражданства США. Поскольку проверить гражданство пользователя в реальном времени невозможно, компания отключила модели вообще для всех.
Поводом стал отчёт исследователей Amazon, которые нашли способ обойти защитные механизмы Fable 5: с его помощью модель определяла уязвимости в ПО, а в одном случае сгенерировала код, демонстрирующий эксплуатацию найденной уязвимости. Anthropic проверила и другие модели — Claude Opus 4.8, GPT-5.5 и Kimi K2.7 — и выяснила, что они находят те же уязвимости, что и Fable 5. Компания обучила новый классификатор (систему автоматической фильтрации запросов), который блокирует описанную в отчёте технику обхода защиты более чем в 99% случаев.
26 июня власти разрешили вернуть доступ к Mythos 5 ограниченному кругу американских организаций — участников программы Glasswing. А с 1 июля Fable 5 снова станет доступен всем пользователям Claude Platform, Claude.ai, Claude Code и Claude Cowork. Для подписок Pro, Max, Team и части Enterprise-планов модель до 7 июля будет доступна в рамках 50% от еженедельного лимита, после — через usage credits (платные кредиты). Доступ через AWS, Google Cloud и Microsoft Foundry обещают восстановить в ближайшее время.
Вместе с Amazon, Microsoft, Google и другими партнёрами по Glasswing компания также разрабатывает единый отраслевой стандарт для оценки серьёзности джейлбрейков (техник обхода защитных механизмов ИИ) и договорилась о более тесном взаимодействии с властями США — включая ранний доступ к будущим моделям для государственных экспертов и оперативный обмен данными об угрозах.
Напомним, Anthropic выпустила Fable 5 и Mythos 5 в середине июня — Fable 5 стал первой моделью такого уровня, которую компания открыла для широкой аудитории. Уже через три дня доступ к обеим моделям пришлось отключить: власти США ввели запрет на использование моделей иностранцами. Тогда же стало известно, что поводом стал обнаруженный исследователями Amazon способ обхода защиты Fable 5.
