Кодик кратко объясняет суть статьи
Компания Anthropic использовала разработанную Яндексом технологию Petals для изучения рисков безопасности искусственного интеллекта. Технология позволяет объединять вычислительные ресурсы множества маломощных устройств через интернет, обеспечивая работу крупных нейросетей без мощных серверов. Учёные успешно протестировали подход, запустив модель Gemma 4 на 15 Android TV-приставках. Дополнительно исследовали возможность распространения ИИ-агентов в сетях с низкой защищённостью. Результаты эксперимента помогут разработать меры защиты от автономных систем. Исходный код Petals открыт и используется в дальнейших исследованиях.
Читайте в Telegram
|
Американская компания Anthropic применила технологию Яндекса для исследования рисков безопасности искусственного интеллекта. Об этом «Код.ру» рассказали в пресс-службе компании.
Речь идёт о технологии Petals, которая объединяет вычислительные мощности нескольких компьютеров через интернет. Её создали специалисты Яндекса совместно с Hugging Face и рядом международных университетов.
Отмечается, что большие нейросети способны работать не только в дата-центрах, но и на множестве маломощных устройств. Чтобы проверить это, учёные успешно запустили модель Gemma 4 на пятнадцати обычных Android TV-приставках.
Эксперимент подтвердил работоспособность такого распределённого подхода. Умная домашняя техника смогла совместно поддерживать работу крупной языковой модели без единого мощного сервера.
Кроме того, в Anthropic изучали способность ИИ-агентов к самостоятельному распространению. В изолированной сети с ослабленной защитой нейросети смогли найти новые устройства и получить к ним доступ.
Полученные результаты помогут оценить риски развития автономных систем и найти надёжные способы защиты. Сама технология Petals имеет открытый исходный код и продолжает развиваться в других научных проектах.
