Anthropic применила технологию Яндекса для исследования безопасности ИИ

Американская компания Anthropic применила технологию Яндекса для исследования рисков безопасности искусственного интеллекта. Об этом «Код.ру» рассказали в пресс-службе компании.

Речь идёт о технологии Petals, которая объединяет вычислительные мощности нескольких компьютеров через интернет. Её создали специалисты Яндекса совместно с Hugging Face и рядом международных университетов.

Отмечается, что большие нейросети способны работать не только в дата-центрах, но и на множестве маломощных устройств. Чтобы проверить это, учёные успешно запустили модель Gemma 4 на пятнадцати обычных Android TV-приставках.

Эксперимент подтвердил работоспособность такого распределённого подхода. Умная домашняя техника смогла совместно поддерживать работу крупной языковой модели без единого мощного сервера.

Кроме того, в Anthropic изучали способность ИИ-агентов к самостоятельному распространению. В изолированной сети с ослабленной защитой нейросети смогли найти новые устройства и получить к ним доступ.

Полученные результаты помогут оценить риски развития автономных систем и найти надёжные способы защиты. Сама технология Petals имеет открытый исходный код и продолжает развиваться в других научных проектах.