OpenAI એ પોતાનું ઇન્ફરન્સ ચિપ, Jalapeño રજૂ કર્યું છે, અને જણાવે છે કે તે Nvidia ના GB200 અને GB300 એક્સિલરેટર્સના પ્રતિ કિલોવોટ થ્રુપુટ (throughput) કરતા 1.9 × સુધી વધુ ક્ષમતા આપે છે. ટીમે માત્ર નવ મહિનામાં એક કન્સેપ્ટને કાર્યરત સિલિકોન ડાઈમાં ફેરવી દીધો—જે કસ્ટમ AI પ્રોસેસર્સ માટેના સામાન્ય બે-થી-ત્રણ વર્ષના ચક્ર કરતા ઘણું ઝડપી છે.

આ ઝડપી પ્રક્રિયા શા માટે મહત્વની છે

OpenAI હવે માત્ર Nvidia GPUs પર નિર્ભર રહેવાને બદલે Cerebras, AWS Trainium, AMD અને અન્યના હાર્ડવેર પર મોડલ્સ ચલાવે છે. જેમ જેમ AI ટ્રેનિંગ-હેવી (training-heavy) થી ઇન્ફરન્સ-હેવી (inference-heavy) વર્કલોડ તરફ વળી રહ્યું છે, તેમ પાવરનો વપરાશ અને પ્રતિ ક્વેરી ખર્ચ નિર્ણાયક બની જાય છે. એક ટ્રિલિયન-પેરામીટર મોડલ માટે જરૂરી ઉર્જાને અડધી કરી દેતું ચિપ, દરરોજ અબજો વિનંતીઓ હેન્ડલ કરતી સેવાઓ માટે ઓપરેટિંગ ખર્ચમાં ઘટાડો કરી શકે છે.

AI એ ચિપ કેવી રીતે લખી

Jalapeño એ એક ASIC છે—એક એવું ચિપ જે માત્ર એક જ હેતુ માટે બનાવવામાં આવ્યું છે: લાર્જ લેંગ્વેજ મોડલ્સ ચલાવવા માટે. જનરલ-પર્પઝ GPU થી વિપરીત, એક ASIC બિનજરૂરી લોજિકને દૂર કરે છે અને LLM ઇન્ફરન્સ પેટર્ન મુજબ ડેટા પાથને તૈયાર કરે છે. OpenAI ના એન્જિનિયરોએ આ ડિઝાઇન XLS માં લખી છે, જે એક હાર્ડવેર ડિસ્ક્રિપ્શન લેંગ્વેજ છે જે મશીન-લર્નિંગ મોડલ્સને કોડ જનરેટ કરવાની મંજૂરી આપે છે. કંપનીનું કહેવું છે કે AI-જનરેટેડ લોજિક ચિપના કોરના અડધાથી વધુ ભાગનું નિર્માણ કરે છે, જેનાથી ડિઝાઇન પાઇપલાઇન વર્ષોમાંથી મહિનાઓમાં આવી ગઈ છે.

પરફોર્મન્સના દાવા વિરુદ્ધ વાસ્તવિકતા

OpenAI એ Jalapeño માટે ત્રણ મુખ્ય આંકડા આપ્યા છે:

  • કિલોવોટ દીઠ થ્રુપુટ: Nvidia ના GB200/GB300 કરતા 1.5 – 1.9 × વધુ.
  • લેટન્સી (Latency): સમાન Nvidia મોડલ્સ કરતા 1.7 – 3.6 × ઓછી.
  • 1-ટ્રિલિયન-પેરામીટર મોડલ પર પાવર વપરાશ: GB300 ના 1,400 W ની સામે 700 W.

જો આ આંકડા સાચા સાબિત થાય, તો ડેટા સેન્ટર ઝડપી પ્રતિસાદ આપવાની સાથે અડધા વીજળી ખર્ચે સમાન મોડલ ચલાવી શકે છે. આ દાવાઓ ઇન્ફરન્સ પર કેન્દ્રિત છે; OpenAI ટ્રેનિંગ પરફોર્મન્સ વિશે વાત કરતું નથી, જે ચેટ-પ્રકારની એપ્લિકેશન્સ પૂરી પાડવા પરના તેના વર્તમાન ભાર સાથે સુસંગત છે.

આનો Nvidia માટે શું અર્થ છે

Nvidia ના આગામી Blackwell અને Vera Rubin ચિપ્સ હાઈ-એન્ડ એક્સિલરેટર માર્કેટને લક્ષ્ય બનાવે છે. Nvidia નો ફાયદો તેના પરિપક્વ સોફ્ટવેર સ્ટેક, વ્યાપક ડેવલપર સ્વીકૃતિ અને AI કાર્યોમાં લવચીકતામાં રહેલો છે. તેનાથી વિપરીત, Jalapeño એ એક મર્યાદિત હેતુ ધરાવતું ઉપકરણ છે જે ત્યારે જ સફળ થાય છે જ્યારે વર્કલોડ તેના વિશિષ્ટતા સાથે મેળ ખાય છે.

Nvidia પર દબાણના બે પાસાં છે. પ્રથમ, જે ગ્રાહકો કસ્ટમ ASIC ખરીદી શકે તેમ છે તેઓ વચન આપેલ બચત માટે બદલાઈ શકે છે, જે Nvidia ના ઇન્ફરન્સ માર્કેટ હિસ્સાને ઘટાડી શકે છે. બીજું, AI હાર્ડવેર ડિઝાઇન કરવામાં મદદ કરી શકે છે તે દર્શાવવાથી સ્પર્ધકોના ડેવલપમેન્ટ સાયકલ ટૂંકા થઈ શકે છે, જે Nvidia ને તેના રોડમેપને ઝડપી બનાવવાની ફરજ પાડી શકે છે.

વિરોધ પક્ષના મુદ્દાઓ અને ખુલ્લા પ્રશ્નો

  • સોફ્ટવેર ઇકોસિસ્ટમ: Nvidia ની CUDA લાઇબ્રેરીઓ, પ્રોફાઇલિંગ ટૂલ્સ અને કોમ્યુનિટી સપોર્ટ હજુ પણ મોટાભાગના ડેવલપર્સ માટે તેને નિર્ણાયક લાભ આપે છે. Jalapeño ને ઇન્ટિગ્રેટ કરવા માટે નવા ટૂલચેઇન્સ અને કદાચ કોડ ફરીથી લખવાની જરૂર પડશે.
  • વાસ્તવિક દુનિયામાં પ્રમાણિતતા: આ આંકડા OpenAI ના આંતરિક પરીક્ષણોમાંથી આવ્યા છે. સ્વતંત્ર બેન્ચમાર્ક, લાંબા ગાળાની વિશ્વસનીયતાના ડેટા અને મિશ્ર-ટેનન્ટ લોડ હેઠળ સ્કેલિંગ વર્તણૂક હજુ સુધી વેરિફાઇ કરવામાં આવી નથી.
  • ઇકોનોમિક્સ ઓફ સ્કેલ: ASIC નો ખર્ચનો ફાયદો જથ્થા સાથે વધે છે. OpenAI નો આંતરિક ઉપયોગ આ રોકાણને યોગ્ય ઠેરવી શકે છે, પરંતુ જ્યાં સુધી ઉત્પાદનનું સ્કેલિંગ ન થાય ત્યાં સુધી બાહ્ય ગ્રાહકોએ પ્રતિ-ચિપ ઊંચા ભાવનો સામનો કરવો પડી શકે છે.

ભવિષ્ય તરફ જોતા

હાલ પૂરતું, Jalapeño સાબિત કરે છે કે નવ મહિનાની ઝડપી પ્રક્રિયા એક એવું ચિપ બનાવી શકે છે જે, કાગળ પર, AI સ્ટેક ના સૌથી ખર્ચ-સંવેદનશીલ ભાગમાં વર્તમાન GPU કરતા વધુ સારું પ્રદર્શન કરે છે. સાચી કસોટી એ હશે કે શું તે ફાયદો વાસ્તવિક દુનિયાના વર્કલોડના દબાણ વચ્ચે ટકી રહેશે કે નહીં.