OpenAI onthult Jalapeño: zijn eerste op maat gemaakte AI-inferencechip
OpenAI is officieel de race om halfgeleiders binnengegaan met de aankondiging van Jalapeño, een op maat ontworpen intelligentieprocessor die is ontwikkeld in samenwerking met Broadcom. Deze strategische zet signaleert een enorme verschuiving in de manier waarop de AI-gigant zijn infrastructuur wil opschalen en de enorme computationele eisen van toekomstige grote taalmodellen wil beheren.
Verder gaan dan Nvidia: de opkomst van de ASIC
Jarenlang was de AI-industrie gebonden aan de krachtige GPU's van Nvidia. OpenAI schakelt nu echter over op een gespecialiseerde aanpak met Jalapeño, een Application-Specific Integrated Circuit (ASIC). In tegenstelling tot algemene GPU's is deze ASIC specifiek gebouwd voor AI-inference — de cruciale fase waarin een model, zoals ChatGPT of Codex, een gebruikersverzoek verwerkt om een realtime reactie te genereren.
Door hardware specifiek voor inference te ontwerpen, streeft OpenAI ernaar de efficiëntie van het draaien van zijn bestaande modellen te optimaliseren. Dit volgt op een samenwerking met Broadcom die negen maanden geleden werd aangekondigd, specifiek gericht op het verminderen van de zware afhankelijkheid van OpenAI van de door leveringsproblemen beperkte hardware van Nvidia.
Prestaties die de industriereuzen evenaren
De technische ambities voor Jalapeño zijn groot. Broadcom-CEO Hock Tan heeft verklaard dat de chip is ontworpen om de prestaties van industriestandaarden te evenaren, in het bijzonder de Blackwell-architectuur van Nvidia en de Tensor Processing Units (TPU's) van Google.
Hoewel concurrenten als Microsoft, Meta en Amazon ook eigen chips hebben gelanceerd om hun datacenters aan te sturen, richt OpenAI zich op een cruciale maatstaf: efficiëntie. Vroege tests wijzen uit dat Jalapeño prestaties per watt zal leveren die aanzienlijk beter zijn dan de huidige state-of-the-art oplossingen. In een wereld van AI-implementaties op enorme schaal, waar elektriciteitskosten en warmtebeheer de belangrijkste knelpunten zijn, zou dit efficiëntievoordeel een beslissend concurrentievoordeel kunnen zijn.
Een compute-strategie voor meerdere generaties
OpenAI ziet Jalapeño niet als een eenmalige hardware-release. In plaats daarvan beschrijft het bedrijf het als de "eerste stap in een compute-platform voor meerdere generaties". Dit suggereert een langetermijnroadmap voor het bouwen van een verticaal geïntegreerde stack, waarbij de software (LLM's) en de hardware (ASIC's) gezamenlijk worden ontworpen voor maximale synergie.
Het bedrijf verwacht dit nieuwe compute-platform eind 2026 te gaan uitrollen. Naarmate modellen complexer worden en agentic workflows gebruikelijker worden, zal het hebben van dedicated silicon het voor OpenAI mogelijk maken om de latentie te verlagen en de astronomische kosten te verminderen die gepaard gaan met het op grote schaal draaien van intelligentie op het hoogste niveau.
Waarom dit belangrijk is voor het AI-ecosysteem
De intrede van OpenAI op het gebied van chipontwerp markeert een volwassenwording van de AI-industrie. We bewegen ons van een fase van "onbeperkt hardwareverbruik" naar "gespecialiseerde hardware-optimalisatie". Naarmate de vraag naar inference de pan uit rijst door de opkomst van AI-agenten, zal het vermogen om de onderliggende silicon te controleren bepalen welke bedrijven duurzaam kunnen opschalen en welke afhankelijk zullen blijven van de GPU-toeleveringsketen.
Belangrijkste punten
- Gespecialiseerde focus: Jalapeño is een ASIC die specifiek is ontworpen voor AI-inference, waarmee de snelheid en de kosten van het draaien van modellen zoals ChatGPT worden geoptimaliseerd.
- Prestatiebenchmarks: De chip is ontwikkeld in samenwerking met Broadcom en heeft als doel om qua prestaties te concurreren met Nvidia's Blackwell en Google's TPU's, terwijl hij een superieure prestatie per watt biedt.
- Langetermijnroadmap: Jalapeño wordt naar verwachting eind 2026 ingezet en vormt de basis voor een hardwareplatform voor meerdere generaties om de afhankelijkheid van GPU's van derden te verminderen.