17 ноября 2026

btc = 64 052.00$ -1 117.31 (-1.71 %)

usd = 82.51₽ 0.36 (0.44 %)

eur = 91.19₽ 0.16 (0.18 %)

cny = 12.35₽ 0.03 (0.26 %)

moex = 2 475.70 пт. -35.72 (-1.42 %)

btc = 64 052.00$ -1 117.31 (-1.71 %)

usd = 82.51₽ 0.36 (0.44 %)

Anthropic предупредила, что близка к созданию самосовершенствующегося ИИ

2 минуты на чтение
Anthropic предупредила, что близка к созданию самосовершенствующегося ИИ

Читайте в Telegram

|

Anthropic допустила, что скоро может создать ИИ, способный заметно ускорять собственное развитие.

Предупреждение появилось в обновлённой версии проспекта S-1/A, который компания подала в Комиссию по ценным бумагам и биржам США (SEC) перед выходом на биржу. Новые формулировки добавлены в раздел о факторах риска.

Речь идёт о рекурсивном самосовершенствовании (recursive self-improvement, RSI). Так называют этап, на котором ИИ настолько хорошо помогает обучать новые модели, что развитие технологии резко ускоряется. Anthropic пишет, что уже использует свои модели в исследованиях и разработке, и называет это одновременно преимуществом и угрозой.

«Использование ИИ для создания более мощного ИИ может нести значительный риск для безопасности», — говорится в документе.

Компания опасается, что модели начнут развиваться быстрее, чем она успеет создать и проверить меры защиты. Причём заметить такой рывок вовремя непросто: о темпах прогресса Anthropic судит в основном по запаздывающим данным. В документе прямо сказано, что резкое ускорение разработки компания уже упускала и обнаруживала только задним числом, и это может повториться.

Внутренние оценки и ожидания по будущим моделям, а не по текущим, указывают, что компания может в ближайшее время достичь порога «резко ускоренного прогресса благодаря ИИ» из своей политики ответственного масштабирования. Ни одну из нынешних моделей Anthropic пока не признала превысившей этот порог и продолжает анализировать данные. Компания пообещала опубликовать дополнительные отчёты.

В Anthropic подчеркнули, что не рассчитывают безопасно поручить Claude полностью автономную разработку следующих поколений моделей без значимого контроля со стороны людей. Компания рассматривает изменения в своей политике, чтобы разработка передовых моделей оставалась под контролем человека.

Стоит отметить, что проспект, в котором Anthropic опубликовала все эти данные, служит не только раскрытием информации, но и маркетингом, поэтому заявления о близости такого ИИ могут быть отчасти рекламными. Ранее «Код.ру» рассказывал, что Anthropic готовится к IPO.

Разработчик Claude Anthropic выходит на IPO
Anthropic подала в Комиссию по ценным бумагам и биржам США заявление по форме S-1 для проведения IPO.
Обсудить
Блоги 1207
Softline
VK
OTP Bank
StudyAI
билайн
Т-Банк
Слетать.ру
SpeShu.AI
ВТБ
Газпромбанк

Кодик

Привет!

Я — Кодик, твой персональный ИИ-агент для поиска информации по «Код.ру» на базе Yandex AI Studio. Я могу быстро найти на сайте нужную тему, порекомендовать похожие материалы или объяснить сложный термин — и в целом поделиться знаниями о науке и технологиях. Задай вопрос или начни с одного из предложенных вариантов.