Google, Microsoft и xAI будут предоставлять США доступ к ИИ-моделям до публичного релиза
Кодик кратко объясняет суть статьи
Крупные ИИ-компании, включая OpenAI и Anthropic, договорились предоставлять администрации президента США Дональда Трампа доступ к ранним версиям своих моделей до публичного релиза для оценки рисков национальной безопасности. Оценку проводит Центр стандартов и инноваций в области ИИ при Министерстве торговли, созданный в 2023 году при администрации Байдена как Институт безопасности ИИ. Центр уже провёл более 40 тестов, включая на неанонсированных моделях. По соглашению, компании предоставляют версии моделей с отключёнными или частично отключёнными защитными мерами. Решение раскрывать детали совпадает с выходом закрытой модели Claude Mythos, способной находить тысячи уязвимостей нулевого дня, что вызывает озабоченность у властей. Ранее OpenAI и Google заключили аналогичные сделки с Министерством обороны, а Anthropic отказалась участвовать без гарантий против использования модели в целях слежки, в отличие от OpenAI, где такие гарантии включены.
Читайте в Telegram
|
Компании договорились с администрацией президента США Дональда Трампа о предоставлении ранних версий своих ИИ-моделей перед публичным релизом для оценки возможностей и рисков, связанных с национальной безопасностью, пишет WSJ.
Оценкой займётся Центр стандартов и инноваций в области ИИ при Министерстве торговли США. Он уже провёл более 40 тестов, в том числе пока не выпущенных моделей. OpenAI и Anthropic заключили аналогичное соглашение с министерством в 2024 году.
По соглашению, разработчики будут предоставлять правительству доступ к моделям, из которых уберут часть или все меры защиты, для оценки их возможностей и рисков. Центр был создан при администрации бывшего президента Джо Байдена в 2023 году как Институт безопасности ИИ и сменил название при Трампе, уточняет Bloomberg.
Агентство отмечает, что о соглашениях рассказали на фоне релиза закрытой Claude Mythos от Anthropic, которая «беспокоит американских чиновников». По словам разработчика, модель уже обнаружила «тысячи» уязвимостей нулевого дня.
Это не первые сделки ИИ-разработчиков с властями США. В начале 2026 года OpenAI заключила соглашение с Министерством обороны. По данным The Information, такое же есть и у Google. Anthropic отказалась от соглашения, требуя гарантий, что Claude не будут использовать для слежки. OpenAI заявляет, что в её варианте сделки такие гарантии прописали.
