Советник Трампа Сакс объяснил причину отключения Claude Fable 5

Правительство США обязало компанию Anthropic ограничить доступ к её самым передовым ИИ-моделям — Claude Fable 5 и Mythos 5 — для всех иностранных пользователей, не являющихся гражданами США. Anthropic сообщила, что выполнила требование.

Причину решения объяснил сопредседатель совета советников президента США по науке и технологиям Дэвид Сакс.

По словам Сакса, надёжный партнёр, тестировавший модель Fable 5, обнаружил возможность обойти её защитные механизмы — так называемый джейлбрейк (программный взлом, снимающий встроенные ограничения). Администрация, по версии Сакса, попросила гендиректора Anthropic Дарио Амодеи устранить проблему или прекратить распространение модели, но тот отказался.

Компания назвала уязвимость несерьёзной, однако правительство США и проводившая тестирование организация с такой оценкой не согласились — и именно отказ устранить проблему, по мнению Сакса, стал причиной экспортных ограничений. Он отдельно подчеркнул, что версия о связи ситуации с прежними разногласиями между Anthropic и властями ошибочна.

По данным источников The Wall Street Journal, решение приняли после контактов гендиректора Amazon Энди Джасси с американскими чиновниками, включая министра финансов Скотта Бессента. Джасси, как сообщается, передал властям, что исследователи Amazon серией запросов смогли получить от Fable 5 информацию, которая могла бы пригодиться для подготовки кибератак и должна была оставаться недоступной. Ранее WSJ писала, что в Белом доме обсуждали риски, связанные с моделью Mythos, и возможное усиление надзора за передовыми ИИ-системами.

Представители Amazon заявили, что правительство США часто советуется с компанией в области информационной безопасности. Когда подобный обмен данными происходит, Amazon не раскрывает его содержания.

В Anthropic заявили, что выполняют требования регулятора, но не согласны с их обоснованием. По мнению компании, выявление «узкого потенциального джейлбрейка» не должно служить причиной отзыва коммерческой модели, доступной широкому кругу пользователей. В компании предупредили, что подобный подход может иметь последствия для всей индустрии разработки ИИ — фактически создавая прецедент, когда единичная уязвимость приводит к остановке распространения целого продукта.