Google готовит чип Frozen v2, который сделает Gemini до 10 раз энергоэффективнее
Кодик кратко объясняет суть статьи
Alphabet разрабатывает собственный серверный чип под названием Frozen v2, предназначенный для кардинального повышения энергоэффективности ИИ-модели Gemini. По данным The Information, чип может увеличить эффективность инференса — обработки запросов уже обученной моделью — в 6–10 раз по сравнению с текущими решениями Google, измеряемой количеством сгенерированных токенов на единицу энергии. Выход устройства ожидается к 2028 году. Ключ к росту эффективности — глубокая интеграция аппаратной и программной составляющих: архитектура Gemini частично «встраивается» прямо в физический чип, что снижает объём лишних вычислений и минимизирует энергозатратные перемещения данных между серверами. Это может существенно удешевить эксплуатацию генеративного ИИ. Собственный чип уменьшит зависимость Google от поставщиков вроде Nvidia, поможет эффективнее использовать существующие дата-центры и снизит нагрузку на энергосети, что особенно важно на фоне дефицита вычислительных мощностей — ранее Google Cloud приостанавливал подключение корпоративных клиентов из-за перегрузки. Кроме того, проект призван успокоить инвесторов, обеспокоенных ростом капитальных расходов Alphabet, запланированных на уровне 180–190 млрд долларов в 2026 году. После утечки информации акции компании выросли на 3%.
Читайте в Telegram
|
Alphabet, материнская компания Google, разрабатывает собственный серверный чип под кодовым названием Frozen v2, который должен радикально повысить энергоэффективность её ИИ-моделей Gemini.
Как сообщает издание The Information, новый ускоритель может сделать работу Gemini в 6–10 раз эффективнее нынешних ИИ-чипов Google — если измерять её числом сгенерированных токенов на единицу затраченной энергии. Ориентировочный срок выхода — 2028 год.
Речь именно об инференсе — обработке запросов пользователя, за которую отвечает уже обученная модель. На неё приходится основная доля вычислений и, соответственно, счетов за электричество. Десятикратный рост эффективности мог бы изменить экономику генеративного ИИ: обслуживать сложные запросы получилось бы за долю сегодняшних затрат.
Достичь такого скачка Google рассчитывает не за счёт простого ускорения обычных чипов, а благодаря глубокой интеграции софта и железа. По данным издания, компания «вшивает» часть нейросетевой архитектуры Gemini прямо в физический чип.
Такое аппаратное кодирование ИИ-алгоритмов убирает лишние вычисления и сводит к минимуму постоянное перемещение данных между серверами — именно эти операции и потребляют огромные объёмы энергии при больших нагрузках. Официально Google характеристики и сроки не подтверждает: представитель компании лишь сказал TechCrunch, что совместное проектирование железа и софта с нуля — ключ к максимальной производительности системы.
