Кодик кратко объясняет суть статьи
OpenAI представила первые результаты тестирования своего инференс-чипа Jalapeño, разработанного с Broadcom. В тестах на моделях GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T чип превзошёл ускорители Nvidia серии Blackwell (GB200, GB300) в производительности на ватт в 1,5–1,9 раза, сократил задержку генерации ответов в 1,7–3,6 раза, а в интерактивных задачах оказался быстрее в 2,1–4,1 раза. При этом Jalapeño потребляет до 550 Вт при номинале в 700 Вт, тогда как решения Nvidia — до 1400 Вт. Разработка заняла девять месяцев с использованием собственных ИИ-моделей OpenAI. Массовое внедрение чипа запланировано на конец 2026 года, однако компания продолжит использовать ускорители Nvidia для обучения моделей.
Читайте в Telegram
|
OpenAI опубликовала первые результаты тестирования своего первого чипа для инференса Jalapeño, созданного совместно с Broadcom.
Согласно отчёту компании, фирменный процессор опередил ускорители Nvidia по скорости работы и энергоэффективности.
Тестирование проходило в бенчмарке InferenceX от аналитической компании SemiAnalysis на трёх открытых моделях: GPT-OSS 120B, DeepSeek R1 670B и Kimi K2.5 1T. По сравнению с системами Nvidia поколения Blackwell (GB200 и GB300), чип Jalapeño обеспечил в 1,5–1,9 раза больше полезной производительности на ватт при пиковой нагрузке. Сквозная задержка генерации ответов сократилась в 1,7–3,6 раза, а в интерактивных задачах ускоритель оказался быстрее в 2,1–4,1 раза.
При этом номинальное энергопотребление Jalapeño составляет 700 Вт (с реальным показателем не выше 550 Вт) против 1400 Вт у решений конкурента. Разработка процессора заняла всего девять месяцев — для проектирования архитектуры и оптимизации кода OpenAI задействовала собственные модели искусственного интеллекта.
Компания планирует начать внедрение чипов Jalapeño в свою инфраструктуру в конце 2026 года. При этом в OpenAI подчеркнули, что не отказываются от сотрудничества с Nvidia и продолжат закупать сторонние ускорители для обучения будущих моделей.
