Кодик кратко объясняет суть статьи
Правительство США обязало компанию Anthropic ограничить доступ к своим передовым ИИ-моделям — Claude Fable 5 и Mythos 5 — для иностранных пользователей, не являющихся гражданами США. Причиной стало выявление уязвимости, позволяющей обойти защитные механизмы модели (так называемый джейлбрейк), которую обнаружили тестировщики, включая исследователей Amazon. Администрация потребовала устранить проблему или прекратить распространение модели, но Anthropic отказалась, назвав уязвимость незначительной. Власти и организация, проводившая тестирование, с этим не согласились. Дэвид Сакс, сопредседатель научного совета при президенте, опроверг связь решения с предыдущими разногласиями между компанией и властями. Anthropic заявила, что выполняет требование, но не согласна с ним, предупреждая о негативных последствиях для всей ИИ-индустрии, поскольку создание прецедента может привести к остановке коммерческих моделей из-за единичных уязвимостей. Amazon подтвердила, что сотрудничает с властями в вопросах кибербезопасности, но не раскрывает детали таких взаимодействий.
Читайте в Telegram
|
Правительство США обязало компанию Anthropic ограничить доступ к её самым передовым ИИ-моделям — Claude Fable 5 и Mythos 5 — для всех иностранных пользователей, не являющихся гражданами США. Anthropic сообщила, что выполнила требование.
Причину решения объяснил сопредседатель совета советников президента США по науке и технологиям Дэвид Сакс.
По словам Сакса, надёжный партнёр, тестировавший модель Fable 5, обнаружил возможность обойти её защитные механизмы — так называемый джейлбрейк (программный взлом, снимающий встроенные ограничения). Администрация, по версии Сакса, попросила гендиректора Anthropic Дарио Амодеи устранить проблему или прекратить распространение модели, но тот отказался.
Компания назвала уязвимость несерьёзной, однако правительство США и проводившая тестирование организация с такой оценкой не согласились — и именно отказ устранить проблему, по мнению Сакса, стал причиной экспортных ограничений. Он отдельно подчеркнул, что версия о связи ситуации с прежними разногласиями между Anthropic и властями ошибочна.
По данным источников The Wall Street Journal, решение приняли после контактов гендиректора Amazon Энди Джасси с американскими чиновниками, включая министра финансов Скотта Бессента. Джасси, как сообщается, передал властям, что исследователи Amazon серией запросов смогли получить от Fable 5 информацию, которая могла бы пригодиться для подготовки кибератак и должна была оставаться недоступной. Ранее WSJ писала, что в Белом доме обсуждали риски, связанные с моделью Mythos, и возможное усиление надзора за передовыми ИИ-системами.
Представители Amazon заявили, что правительство США часто советуется с компанией в области информационной безопасности. Когда подобный обмен данными происходит, Amazon не раскрывает его содержания.
В Anthropic заявили, что выполняют требования регулятора, но не согласны с их обоснованием. По мнению компании, выявление «узкого потенциального джейлбрейка» не должно служить причиной отзыва коммерческой модели, доступной широкому кругу пользователей. В компании предупредили, что подобный подход может иметь последствия для всей индустрии разработки ИИ — фактически создавая прецедент, когда единичная уязвимость приводит к остановке распространения целого продукта.
