એન્ટરપ્રાઇઝ ઝડપથી AI ઇન્ફ્રાસ્ટ્રક્ચરનું વિસ્તરણ કરી રહ્યા છે, તેમ છતાં મૂડી ખર્ચ (capital expenditure) અને ઓપરેશનલ દેખરેખ વચ્ચે એક વધતો જતો "કમ્પ્યુટ ગેપ" (compute gap) ઉભરી રહ્યો છે. જેમ જેમ સંસ્થાઓ હાર્ડવેર સુરક્ષિત કરવા માટે દોડી રહી છે, તેમ તેમ તેઓ શોધી રહ્યા છે કે યુનિટ ઇકોનોમિક્સ અને GPU ઉપયોગિતા (utilization) માપવાની તેમની ક્ષમતા રોકાણની ગતિ સાથે મેળ ખાતી નથી.

કમ્પ્યુટ ગેપ: ઝડપી રોકાણ વિરુદ્ધ ઓછી વિઝિબિલિટી

107 એન્ટરપ્રાઇઝના VentureBeat Pulse Research અભ્યાસ દ્વારા AI લાઇફસાયક્લમાં એક મોટો તફાવત જોવા મળે છે. કંપનીઓ ઇન્ફ્રાસ્ટ્રક્ચરમાં મૂડી રોકે છે પરંતુ તેને મેનેજ કરવા માટે ટેલિમેટ્રી (telemetry) નો અભાવ છે. ખર્ચ કરવાની ઈચ્છાઓ આસમાને પહોંચી રહી છે, છતાં પ્રોડક્શન મેચ્યોરિટી (production maturity) ઓછી છે; સર્વેક્ષણ કરાયેલ કંપનીઓમાંથી માત્ર 21% જ મોટા પાયે પ્રોડક્શનમાં AI ચલાવે છે.

સૌથી ગંભીર લક્ષણ અક્ષમતા (inefficiency) છે. એક્યાસી ટકા એન્ટરપ્રાઇઝ 50% અથવા તેનાથી ઓછી GPU ઉપયોગિતા નોંધાવે છે. તેનાથી પણ ખરાબ બાબત એ છે કે, અડધાથી પણ ઓછા (44%) એ સચોટ રીતે ટ્રેક કરી શકે છે કે તેમના AI કમ્પ્યુટનો વાસ્તવિક ખર્ચ કેટલો છે. તેથી, ભારે અને ઝડપી રોકાણો લાંબા ગાળાના અર્થશાસ્ત્રને માર્ગદર્શન આપવા માટે જરૂરી વિઝિબિલિટી વગર થઈ રહ્યા છે.

બદલાતી વેન્ડર ડાયનેમિક્સ અને ઊંચું ચર્ન (Churn)

પરંપરાગત હાઇપરસ્કેલર્સ (hyperscalers) અને મોડેલ APIs આ ક્ષેત્રમાં પ્રભુત્વ ધરાવે છે. Google Cloud 48% વપરાશ સાથે અગ્રેસર છે, ત્યારબાદ Microsoft Azure (29%), AWS (22%) અને Oracle Cloud (22%) આવે છે. મોડેલ વપરાશ Gemini (41%) અને OpenAI (40%) ની આસપાસ કેન્દ્રિત છે. CoreWeave, Lambda અને Together જેવા વિશિષ્ટ AI ક્લાઉડ્સ પાસે બજારના 2% થી પણ ઓછો હિસ્સો છે.

અસ્થિરતા વધુ છે. 64% એન્ટરપ્રાઇઝ બાર મહિનાની અંદર ઇન્ફ્રાસ્ટ્રક્ચર પ્રોવાઈડર બદલવા અથવા ઉમેરવાની યોજના બનાવી રહ્યા છે, અને 38% આગામી ત્રિમાસિક ગાળામાં તેમ કરવા ઈચ્છે છે. તેમાંથી 41% નિર્ણયો હાલના સ્ટેક્સ સાથેના ઇન્ટિગ્રેશનથી પ્રેરાયેલા છે, જ્યારે કુલ માલિકીનો ખર્ચ (total cost of ownership) 35% હિસ્સો ધરાવે છે. માત્ર 8% લોકો ટોકન કિંમતોને કારણ તરીકે જણાવે છે.

આગામી ક્ષેત્ર: સ્પેશિયલાઇઝ્ડ ક્લાઉડ્સ અને મેમરી બેન્ડવિડ્થ

પ્રયોગોથી આગળ વધી રહેલી એન્ટરપ્રાઇઝ હવે AI-સ્પેશિયલાઇઝ્ડ ક્લાઉડ્સ તરફ જોઈ રહી છે. 45% આવતા વર્ષે આવા પ્રોવાઈડર્સનું મૂલ્યાંકન કરવાની યોજના ધરાવે છે—જે મૂલ્યાંકન માટેનો સૌથી મોટો આયોજિત વિસ્તાર છે.

એક નવો ટેકનિકલ અવરોધ ઉભરી રહ્યો છે: કાચું GPU કમ્પ્યુટ નહીં, પરંતુ મેમરી બેન્ડવિડ્થ (memory bandwidth) મોટા પાયે ઇન્ફરન્સ (inference) ને મર્યાદિત કરશે. માત્ર લગભગ 20% કંપનીઓ આ અવરોધ વિશે જાણતી છે અથવા તેને ઉકેલવા માટે પગલાં લઈ રહી છે. ડેવલપર્સ અને CTOs માટે, બેન્ડવિડ્થ પર પકડ મેળવવી એ સ્કેલેબલ ઇન્ફરન્સ અને અનિયંત્રિત ખર્ચ વચ્ચેનો તફાવત નક્કી કરશે.

મુખ્ય તારણો

  • અક્ષમતા એ સામાન્ય બાબત છે: 83% એન્ટરપ્રાઇઝ ≤ 50% ઉપયોગિતા સાથે GPU ચલાવે છે; અડધાથી પણ ઓછા કમ્પ્યુટ ખર્ચને સચોટ રીતે ટ્રેક કરી શકે છે.
  • વેન્ડર ચર્ન (Churn) ઊંચું છે: 64% એક વર્ષની અંદર પ્રોવાઈડર બદલવા અથવા ઉમેરવાની યોજના ધરાવે છે, જેમાં ઇન્ટિગ્રેશન (41%) અને TCO (35%) ને પ્રાથમિકતા આપવામાં આવે છે.
  • સ્પેશિયલાઇઝેશન તરફ શિફ્ટ: કમ્પ્યુટ ગેપને પૂરો કરવા માટે 45% નિશ (niche) AI ક્લાઉડ્સનું મૂલ્યાંકન કરશે.
  • મેમરી બેન્ડવિડ્થનો પડકાર: અંદાજે 20% કંપનીઓ આ ઉભરતા અવરોધને ઓળખે છે અથવા તેને ઉકેલવાનો પ્રયાસ કરે છે.

લેખ

107 કંપનીઓના VentureBeat Pulse Research સર્વેક્ષણ દર્શાવે છે કે 83% કંપનીઓ GPUs ને અડધી ક્ષમતા અથવા તેનાથી ઓછી ક્ષમતા પર ચલાવે છે, જ્યારે માત્ર 44% જ દરેક કમ્પ્યુટ અવરના ચોક્કસ ખર્ચને જાણી શકે છે. આ અસંતુલનને કારણે 64% ઉત્તરદાતાઓ આગામી વર્ષમાં ઇન્ફ્રાસ્ટ્રક્ચર વેન્ડર બદલવા અથવા ઉમેરવાની યોજના બનાવી રહ્યા છે.

“કમ્પ્યુટ ગેપ” અત્યારે શા માટે મહત્વનો છે

મુખ્ય આંકડાઓ એક કડવું સત્ય રજૂ કરે છે: AI ખર્ચ વધી રહ્યો છે, પરંતુ પ્રોડક્શન મેચ્યોરિટી પાછળ રહી રહી છે. માત્ર 21% કંપનીઓ કહે છે કે તેઓ પ્રોડક્શનમાં મોટા પાયે AI ચલાવે છે, જેનો અર્થ છે કે મોટાભાગનું રોકાણ લેબ્સ, પ્રૂફ-ઓફ-કન્સેપ્ટ્સ અથવા નિષ્ક્રિય હાર્ડવેરમાં છે. ઓછી GPU ઉપયોગિતા સીધી રીતે બિનઉપયોગી મૂડીમાં પરિણમે છે—અડધા ભરેલા સર્વર્સ હજુ પણ પાવર વાપરે છે, તેને કૂલિંગની જરૂર પડે છે અને રેક સ્પેસ રોકે છે. જ્યારે અડધીથી પણ ઓછી સંસ્થાઓ પ્રતિ-GPU ખર્ચને ટ્રેક કરી શકે છે, ત્યારે બજેટ બનાવવું એ માત્ર અંદાજ બની જાય છે, અને CFOs એવા 'બ્લેક બોક્સ' નો સામનો કરે છે જે એક વર્ષના ટેકનોલોજી બજેટને તોડી શકે છે.

આપણે અહીં કેવી રીતે પહોંચ્યા

આ દોડ ત્યારે શરૂ થઈ જ્યારે હાઇપરસ્કેલર્સ દ્વારા AI-વિશિષ્ટ ઇન્સ્ટન્સ અને મોડેલ-એઝ-એ-સર્વિસ APIs લોન્ચ કરવામાં આવ્યા. Google Cloud હવે સર્વેક્ષણ કરાયેલા વર્કલોડ્સના 48% હોસ્ટ કરે છે, ત્યારબાદ Microsoft Azure (29%), AWS (22%) અને Oracle Cloud (22%) આવે છે. મોડેલ વપરાશ પણ આ જ વિભાજન દર્શાવે છે, જેમાં Gemini અને OpenAI દરેક લગભગ 40% વપરાશ મેળવે છે. આકર્ષણ સ્પષ્ટ હતું: એક વિશ્વસનીય ક્લાઉડ, તૈયાર GPU, અને પારદર્શક ખર્ચનું વચન આપતું પે-એઝ-યુ-ગો (pay-as-you-go) મોડેલ.

આ અભ્યાસ એક છુપો ખર્ચ ઉજાગર કરે છે. બદલવાનો નિર્ણય લેવામાં ઇન્ટિગ્રેશનની મુશ્કેલીઓ મુખ્ય છે: 41% લોકો પ્રોવાઈડરના સ્ટેકને હાલના પાઇપલાઇન્સમાં જોડવામાં મુશ્કેલીનો ઉલ્લેખ કરે છે, જ્યારે 35% કુલ માલિકીના ખર્ચ (TCO) તરફ નિર્દેશ કરે છે. માત્ર 8% લોકો કહે છે કે ટોકન કિંમતો તેમને દૂર કરી રહી છે, જે દર્શાવે છે કે ઇકોસિસ્ટમ સાથેની સુસંગતતા કરતા કિંમત ઓછી મહત્વની છે.

વેન્ડર્સ અને ખરીદદારો માટે જોખમ

મોટા ત્રણ ક્લાઉડ્સ માટે, પ્રભુત્વ ધરાવતો માર્કેટ શેર તેમને પકડ આપે છે, છતાં ચર્ન (churn) ની ઈચ્છા તે પકડના ઘસારાનો સંકેત આપે છે.

ખરીદદારો બે જોખમોનો સામનો કરે છે. પ્રથમ, સતત ઓછી ઉપયોગિતા ઇન્ફરન્સ અથવા ટ્રેનિંગ જોબ દીઠ ખર્ચ વધારે છે, જે AI માટેના બિઝનેસ કેસને નબળો પાડે છે. બીજું, ખર્ચની પારદર્શિતાનો અભાવ વ્યૂહાત્મક આયોજનમાં અવરોધ લાવે છે; સ્પષ્ટ યુનિટ ઇકોનોમિક્સ વિના, વધુ રોકાણને યોગ્ય ઠેરવવું અથવા AI-સજ્જ ઉત્પાદનો માટે કિંમત નક્કી કરવી મુશ્કેલ છે.

સ્પેશિયલાઇઝ્ડ AI ક્લાઉડ્સનો ઉદય

સ્પેશિયલાઇઝ્ડ AI ક્લાઉડ્સ—CoreWeave, Lambda અને Together—હાલમાં બજારના 2% થી પણ ઓછો હિસ્સો ધરાવે છે. 45% એન્ટરપ્રાઇઝ કહે છે કે તેઓ આગામી વર્ષમાં આ નિશ (niche) પ્રોવાઇડર્સનું મૂલ્યાંકન કરશે, જે તેને વેન્ડર આકારણીના સૌથી મોટા આયોજિત ક્ષેત્ર તરીકે બનાવે છે. તેમનું વેલ્યુ પ્રપોઝિશન AI ટૂલચેઇન્સ સાથે વધુ ગાઢ સંકલન, વધુ વિગતવાર બિલિંગ, અને AI વર્કલોડ્સ માટે ટ્યુન કરેલા હાર્ડવેર પર આધારિત છે, જે GPU ઉપયોગિતાને 50% ની મર્યાદાથી ઘણો ઉપર લઈ જઈ શકે છે, જે આજે મોટાભાગના એન્ટરપ્રાઇઝ માટે પડકારરૂપ છે.

એક ટેકનિકલ અંધપોઈન્ટ: મેમરી બેન્ડવિડ્થ

હાર્ડવેર અંગેની ચર્ચા બદલાઈ રહી છે. જેમ જેમ ઇન્ફરન્સ વર્કલોડ્સ વધે છે, તેમ મેમરી બેન્ડવિડ્થ—ડેટા GPU માં કેટલી ઝડપથી અંદર અને બહાર જાય છે—એક અવરોધ (bottleneck) બની જાય છે, જે કાચી કમ્પ્યુટ પાવર પર ભારે પડે છે. તેમ છતાં, સર્વેક્ષણ કરાયેલ કંપનીઓમાંથી માત્ર 20% જ કાં તો આ મર્યાદાને ઓળખે છે અથવા તેને ઉકેલવા માટે પગલાં લઈ રહી છે. બેન્ડવિડ્થની અવગણના કરવાનો અર્થ એ હોઈ શકે કે સંપૂર્ણ ઉપયોગમાં લેવાયેલ GPU પણ જરૂરી થ્રુપુટ આપી શકતું નથી, જેનાથી ઇન્સ્ટન્સ કાઉન્ટ્સ વધે છે અને ખર્ચ પણ ઊંચો જાય છે.

વિરોધ પક્ષ: હાઇપરસકેલર્સ હજુ પણ પ્રભુત્વ ધરાવે છે

હાઇપરસકેલર્સનો યુગ પૂરો થઈ ગયો છે તેમ જાહેર કરવું અકાળ હશે. તેમનું સ્કેલ, વૈશ્વિક હાજરી અને હાલના એન્ટરપ્રાઇઝ કોન્ટ્રાક્ટ્સ હજુ પણ ઘણા માટે તેમને ડિફોલ્ટ પસંદગી બનાવે છે. સર્વે દર્શાવે છે કે મોટાભાગના વર્કલોડ્સ આ પ્લેટફોર્મ્સ પર જ રહે છે, અને મજબૂત મલ્ટી-ક્લાઉડ વ્યૂહરચના ધરાવતા સંગઠનો માટે, સ્થિરતા વધુ ઊંચી ઉપયોગિતાના આકર્ષણ કરતા વધુ મહત્વની હોઈ શકે છે. તદુપરાંત, સ્પેશિયલાઇઝ્ડ ક્લાઉડ્સનો મર્યાદિત બજાર હિસ્સો સૂચવે છે કે રસ ઊંચો છે પરંતુ માઈગ્રેશન ધીમે ધીમે થશે.

આગળ શું જોવું

  • મેમરી બેન્ડવિડ્થની મર્યાદાઓ: જેમ જેમ ઇન્ફરન્સ વર્કલોડ્સ વધશે, તેમ બેન્ડવિડ્થ એક નિર્ણાયક અવરોધ બની શકે છે, જે હાર્ડવેરની પસંદગી અને આર્કિટેક્ચરના નિર્ણયોને અસર કરશે.

મુખ્ય મુદ્દાઓ

  • અક્ષમતા એ સામાન્ય બાબત છે: 83% એન્ટરપ્રાઇઝ ≤ 50% ઉપયોગિતા સાથે GPU ચલાવે છે; માત્ર 44% જ કમ્પ્યુટ ખર્ચને સચોટ રીતે ટ્રેક કરી શકે છે.
  • વેન્ડર બદલવાનો દર ઊંચો છે: 64% એક વર્ષની અંદર ઇન્ફ્રાસ્ટ્રક્ચર પ્રોવાઇડર બદલવા અથવા ઉમેરવાની યોજના ધરાવે છે, જેનું મુખ્ય કારણ ઇન્ટિગ્રેશન (41%) અને TCO (35%) છે.
  • સ્પેશિયલાઇઝ્ડ ક્લાઉડ્સનો ઉદય થઈ રહ્યો છે: કમ્પ્યુટ ગેપને ઘટાડવા માટે 45% આગામી બાર મહિનામાં નિશ AI ક્લાઉડ્સનું મૂલ્યાંકન કરશે.
  • મેમરી બેન્ડવિડ્થ એક આવનારું અવરોધ છે: અંદાજે 20% કંપનીઓ આ ઉભરતા બોટલનેક વિશે જાણકાર છે અથવા તેને ઉકેલવા માટે પગલાં લઈ રહી છે.

AI ખર્ચ અને આર્થિક પારદર્શિતા વચ્ચેનું અંતર હવે માત્ર એક નોંધ નથી; તે પ્રોક્યોરમેન્ટ વ્યૂહરચનાઓને નવું સ્વરૂપ આપે છે અને એવા પ્રોવાઇડર્સ તરફ સ્થળાંતર કરવા પ્રેરે છે જે સાબિત કરી શકે કે દરેક ડોલરનો મહત્તમ ઉપયોગ થઈ રહ્યો છે.