OpenAI представила собственный чип для инференса Jalapeño и заявляет, что он обеспечивает до 1,9 × большую пропускную способность на киловатт, чем ускорители Nvidia GB200 и GB300. Команда превратила концепцию в рабочий кремниевый кристалл всего за девять месяцев — это гораздо быстрее стандартного двух-трехлетнего цикла разработки специализированных ИИ-процессоров.

Почему важна такая скорость

Теперь OpenAI запускает модели на оборудовании от Cerebras, AWS Trainium, AMD и других компаний, вместо того чтобы полагаться исключительно на GPU от Nvidia. По мере того как рабочие нагрузки в сфере ИИ смещаются от обучения к инференсу, энергопотребление и стоимость одного запроса становятся решающими факторами. Чип, который вдвое снижает потребление энергии для модели с триллионом параметров, может сократить операционные расходы сервисов, обрабатывающих миллиарды запросов ежедневно.

Как ИИ спроектировал чип

Jalapeño — это ASIC, чип, созданный для одной цели: запуска больших языковых моделей. В отличие от GPU общего назначения, ASIC отсекает лишнюю логику и адаптирует пути передачи данных под паттерны инференса LLM. Инженеры OpenAI написали проект на XLS — языке описания аппаратного обеспечения, который позволяет моделям машинного обучения генерировать код. Компания утверждает, что логика, созданная ИИ, составляет более половины ядра чипа, что сократило цикл проектирования с нескольких лет до нескольких месяцев.

Заявления о производительности против реальности

OpenAI приводит три ключевых показателя для Jalapeño:

  • Пропускная способность на киловатт: на 1,5–1,9 × выше, чем у Nvidia GB200/GB300.
  • Задержка (latency): на 1,7–3,6 × ниже, чем у тех же моделей Nvidia.
  • Энергопотребление на модели с 1 триллионом параметров: 700 Вт против 1400 Вт у GB300.

Если эти цифры подтвердятся, дата-центр сможет запускать ту же модель вдвое дешевле с точки зрения затрат на электроэнергию, обеспечивая при этом более быстрые ответы. Заявления сосредоточены именно на инференсе; OpenAI не касается производительности при обучении, что соответствует её нынешнему приоритету — обслуживанию чат-приложений.

Что это значит для Nvidia

Предстоящие чипы Nvidia Blackwell и Vera Rubin нацелены на рынок высокопроизводительных ускорителей. Преимущество Nvidia заключается в зрелом программном стеке, широком признании разработчиками и гибкости при выполнении различных задач ИИ. Jalapeño, напротив, является узкоспециализированным устройством, которое выигрывает только тогда, когда рабочая нагрузка соответствует его специализации.

Давление на Nvidia идет с двух сторон. Во-первых, клиенты, которые могут позволить себе заказной ASIC, могут переключиться на него ради обещанной экономии, постепенно отнимая долю Nvidia в сегменте инференса. Во-вторых, демонстрация того, что ИИ может помочь в проектировании оборудования, может сократить циклы разработки конкурентов, вынуждая Nvidia ускорять свою дорожную карту.

Контраргументы и открытые вопросы

  • Программная экосистема: библиотеки CUDA от Nvidia, инструменты профилирования и поддержка сообщества всё еще дают ей решающее преимущество для большинства разработчиков. Интеграция Jalapeño потребует новых инструментариев и, возможно, переписывания кода.
  • Проверка в реальных условиях: приведенные цифры получены в ходе внутренних тестов OpenAI. Независимые бенчмарки, данные о долгосрочной надежности и поведение при масштабировании под нагрузкой от нескольких арендаторов (mixed-tenant) остаются непроверенными.
  • Экономика масштаба: преимущество ASIC в стоимости растет вместе с объемами производства. Внутреннее использование в OpenAI может оправдать инвестиции, но внешние клиенты могут столкнуться с более высокими ценами за чип, если производство не будет масштабировано.

Взгляд в будущее

На данный момент Jalapeño доказывает, что девятимесячный спринт позволяет создать чип, который на бумаге превосходит существующие GPU в наиболее чувствительной к затратам части стека ИИ. Настоящим испытанием станет то, сохранится ли это преимущество в условиях реальных рабочих нагрузок.