OpenAI imefichua chip yake ya inference, Jalapeño, na inasema inatoa hadi 1.9 × kiwango cha throughput kwa kila kilowatt ikilinganishwa na kigawanyishi (accelerator) cha Nvidia GB200 na GB300. Timu hiyo imebadilisha dhana kuwa chip ya silicon inayofanya kazi ndani ya miezi tisa—haraka zaidi kuliko mzunguko wa kawaida wa miaka miwili hadi mitatu kwa michakato maalum ya AI.

Kwa nini mbio hizi ni muhimu

OpenAI sasa inatumia mifano (models) kwenye vifaa vya hardware kutoka Cerebras, AWS Trainium, AMD, na vinginevyo badala ya kutegemea tu GPU za Nvidia. Wakati AI inavyohamia kutoka kazi nzito za mafunzo (training) kwenda kazi nzito za inference, matumizi ya nguvu na gharama kwa kila swali yanakuwa muhimu sana. Chip inayopunguza nusu ya nishati inayohitajika kwa mfano wenye trilioni moja ya parameter inaweza kupunguza gharama za uendeshaji kwa huduma zinazoshughulikia maombi mabilioni kila siku.

Jinsi AI ilivyoandika chip hiyo

Jalapeño ni ASIC—chip iliyoundwa kwa madhumuni makuu makuu: kuendesha mifano mikubwa ya lugha (large language models). Tofauti na GPU ya matumizi ya jumla, ASIC huondoa mantiki isiyo ya lazima na kurekebisha njia za data kulingana na mifumo ya LLM inference. Wahandisi wa OpenAI waliandika usanifu huo kwa kutumia XLS, lugha ya maelezo ya hardware inayoruhusu mifano ya machine-learning kutengeneza code. Kampuni inasema mantiki iliyotengenezwa na AI inajumuisha zaidi ya nusu ya kiini cha chip hiyo, ikipunguza mchakato wa usanifu kutoka miaka hadi miezi.

Madai ya utendaji dhidi ya uhalisia

OpenAI inaorodhesha namba tatu kuu kwa Jalapeño:

  • Throughput kwa kila kilowatt: 1.5 – 1.9 × zaidi kuliko GB200/GB300 za Nvidia.
  • Latency: 1.7 – 3.6 × ndogo kuliko mifano hiyo hiyo ya Nvidia.
  • Matumizi ya nguvu kwenye mfano wa trilioni moja ya parameter: 700 W dhidi ya 1,400 W kwenye GB300.

Ikiwa takwimu hizo zitathibitika, kituo cha data (data center) kinaweza kuendesha mfano uleule kwa gharama ya nusu ya umeme huku kikitoa majibu ya haraka zaidi. Madai haya yanajikita kwenye inference; OpenAI haijazungumzia utendaji wa mafunzo (training), jambo linaloendana na msisitizo wake wa sasa wa kutoa huduma za programu za aina ya chat.

Hii inamaanisha nini kwa Nvidia

Chip zinazokuja za Nvidia, Blackwell na Vera Rubin, zinalenga soko la kigawanyishi (accelerator) cha hali ya juu. Faida ya Nvidia ipo katika mfumo uliokomaa wa programu (software stack), upokeaji mpana kutoka kwa watengenezaji, na uwezo wa kubadilika katika kazi mbalimbali za AI. Jalapeño, kwa upande mwingine, ni kifaa chenye madhumuni finyu ambacho hushinda tu wakati mzigo wa kazi unalingana na utaalamu wake.

Shinikizo kwa Nvidia lina pande mbili. Kwanza, wateja wanaoweza kumudu ASIC maalum wanaweza kubadilika ili kupata akiba iliyoahidiwa, jambo linalopunguza sehemu ya Nvidia katika soko la inference. Pili, uthibitisho kwamba AI inaweza kusaidia kusanifu hardware unaweza kufupisha mizunguko ya maendeleo ya washindani, na kuilazimisha Nvidia kuharakisha mpango wake wa maendeleo (roadmap).

Hoja za upinzani na maswali ya wazi

  • Mfumo wa programu (Software ecosystem): Maktaba za CUDA za Nvidia, zana za upimaji (profiling tools), na msaada wa jamii bado vinampa faida kubwa kwa watengenezaji wengi. Kuunganisha Jalapeño kutahitaji mfululizo mpya wa zana (toolchains) na pengine kuandika upya code.
  • Uthibitisho wa ulimwengu halisi: Namba hizi zinatokana na majaribio ya ndani ya OpenAI. Vipimo huru (independent benchmarks), data za uaminifu wa muda mrefu, na tabia ya upanuzi chini ya mizigo mchanganyiko ya watumiaji bado hazijathibitishwa.
  • Uchumi wa uzalishaji mkubwa (Economics of scale): Faida ya gharama ya ASIC huongezeka kadiri uzalishaji unavyoongezeka. Matumizi ya ndani ya OpenAI yanaweza kuhalalisha uwekezaji huo, lakini wateja wa nje wanaweza kukabiliwa na bei kubwa zaidi kwa kila chip isipokuwa uzalishaji upanuke.

Mtazamo wa baadaye

Kwa sasa, Jalapeño inathibitisha kuwa mbio za miezi tisa zinaweza kuzalisha chip ambayo, kwenye karatasi, inafanya vizuri zaidi kuliko GPU iliyopo katika sehemu inayohitaji gharama nafuu zaidi ya mfumo wa AI. Jaribio halisi litakuwa ikiwa faida hiyo itastahimili shinikizo la kazi za ulimwengu halisi.