OpenAI hat seinen eigenen Inferenz-Chip, Jalapeño, vorgestellt, und gibt an, dass dieser einen bis zu 1,9-fachen Durchsatz pro Kilowatt im Vergleich zu den Nvidia-Beschleunigern GB200 und GB300 liefert. Das Team hat ein Konzept innerhalb von neun Monaten in ein funktionstüchtiges Silizium-Die verwandelt – weitaus schneller als der übliche Zyklus von zwei bis drei Jahren für maßgeschneiderte KI-Prozessoren.

Warum dieser Sprint entscheidend ist

OpenAI nutzt nun Hardware von Cerebras, AWS Trainium, AMD und anderen, anstatt sich ausschließlich auf Nvidia-GPUs zu verlassen. Da sich KI-Workloads von trainingslastigen hin zu inferenzlastigen Aufgaben verschieben, werden Stromverbrauch und Kosten pro Abfrage zu entscheidenden Faktoren. Ein Chip, der die für ein Modell mit einer Billion Parametern benötigte Energie halbiert, könnte die Betriebskosten für Dienste senken, die täglich Milliarden von Anfragen verarbeiten.

Wie KI den Chip entwarf

Jalapeño ist ein ASIC – ein Chip, der für einen einzigen Zweck gebaut wurde: das Ausführen großer Sprachmodelle. Im Gegensatz zu einer Allzweck-GPU entfernt ein ASIC unnötige Logik und passt die Datenpfade an die Inferenzmuster von LLMs an. Die Ingenieure von OpenAI schrieben das Design in XLS, einer Hardwarebeschreibungssprache, die es Machine-Learning-Modellen ermöglicht, Code zu generieren. Das Unternehmen gibt an, dass die KI-generierte Logik mehr als die Hälfte des Chip-Kerns ausmacht, wodurch die Design-Pipeline von Jahren auf Monate verkürzt wurde.

Leistungsversprechen vs. Realität

OpenAI nennt drei Kennzahlen für Jalapeño:

  • Durchsatz pro Kilowatt: 1,5 – 1,9-mal höher als bei Nvidia GB200/GB300.
  • Latenz: 1,7 – 3,6-mal niedriger als bei denselben Nvidia-Modellen.
  • Leistungsaufnahme bei einem Modell mit einer Billion Parametern: 700 W gegenüber 1.400 W beim GB300.

Sollten sich diese Zahlen bestätigen, könnte ein Rechenzentrum dasselbe Modell mit der halben Stromkostenbelastung betreiben und gleichzeitig schnellere Antworten liefern. Die Angaben beziehen sich auf die Inferenz; OpenAI geht nicht auf die Trainingsleistung ein, was mit dem aktuellen Fokus auf die Bereitstellung von Chat-Anwendungen übereinstimmt.

Was das für Nvidia bedeutet

Nvidias kommende Blackwell- und Vera-Rubin-Chips zielen auf den High-End-Beschleunigermarkt ab. Nvidias Vorteil liegt in einem ausgereiften Software-Stack, einer breiten Akzeptanz bei Entwicklern und der Flexibilität bei verschiedenen KI-Aufgaben. Jalapeño hingegen ist ein spezialisiertes Gerät, das nur dann gewinnt, wenn die Arbeitslast genau seiner Spezialisierung entspricht.

Der Druck auf Nvidia kommt aus zwei Richtungen. Erstens könnten Kunden, die sich einen maßgeschneiderten ASIC leisten können, aufgrund der versprochenen Einsparungen wechseln und so Nvidias Inferenz-Marktanteil schmälern. Zweitens könnte der Beweis, dass KI beim Hardware-Design helfen kann, die Entwicklungszyklen der Konkurrenz verkürzen und Nvidia dazu zwingen, seine Roadmap zu beschleunigen.

Gegenargumente und offene Fragen

  • Software-Ökosystem: Nvidias CUDA-Bibliotheken, Profiling-Tools und der Community-Support verschaffen dem Unternehmen bei den meisten Entwicklern immer noch einen entscheidenden Vorteil. Die Integration von Jalapeño wird neue Toolchains und möglicherweise Code-Umschreibungen erfordern.
  • Validierung unter realen Bedingungen: Die Zahlen stammen aus internen Tests von OpenAI. Unabhängige Benchmarks, Daten zur langfristigen Zuverlässigkeit und das Skalierungsverhalten unter Mixed-Tenant-Lasten sind noch nicht verifiziert.
  • Skaleneffekte: Der Kostenvorteil eines ASIC wächst mit dem Volumen. Der interne Einsatz durch OpenAI mag die Investition rechtfertigen, aber externe Kunden könnten mit höheren Preisen pro Chip konfrontiert sein, sofern die Produktion nicht hochskaliert wird.

Ausblick

Vorerst beweist Jalapeño, dass ein neunmonatiger Sprint einen Chip hervorbringen kann, der auf dem Papier den etablierten GPUs im kostensensibelsten Teil des KI-Stacks übertrifft. Der wahre Test wird sein, ob dieser Vorteil dem harten Alltag realer Workloads standhält.