उद्योग AI पायाभूत सुविधांचे (infrastructure) वेगाने विस्तार करत आहेत, तरीही भांडवली खर्च (capital expenditure) आणि कार्यात्मक देखरेख (operational oversight) यांच्यात एक वाढता "compute gap" (संगणकीय तफावत) निर्माण होत आहे. कंपन्या हार्डवेअर सुरक्षित करण्यासाठी घाई करत असताना, त्यांना असे आढळते की युनिट इकॉनॉमिक्स (unit economics) आणि GPU वापर (utilization) मोजण्याची त्यांची क्षमता गुंतवणुकीच्या वेगाशी जुळवून घेऊ शकत नाही.

The Compute Gap: जलद गुंतवणूक विरुद्ध कमी दृश्यमानता

१०७ उद्योगांच्या VentureBeat Pulse Research च्या अभ्यासातून AI जीवनचक्रामध्ये (lifecycle) मोठी विसंगती दिसून येते. कंपन्या पायाभूत सुविधांमध्ये भांडवल ओतत आहेत, परंतु त्याचे व्यवस्थापन करण्यासाठी त्यांच्याकडे आवश्यक टेलिमेट्री (telemetry) नाही. खर्चाचा कल वेगाने वाढत आहे, तरीही उत्पादनातील प्रगती (production maturity) कमी आहे; सर्वेक्षण केलेल्या कंपन्यांपैकी केवळ २१% कंपन्या मोठ्या प्रमाणावर AI उत्पादनात (production) वापरत आहेत.

सर्वात गंभीर लक्षण म्हणजे अकार्यक्षमता. ८३% उद्योगांनी GPU वापर ५०% किंवा त्यापेक्षा कमी असल्याचे सांगितले आहे. त्याहूनही वाईट म्हणजे, अर्ध्याहून कमी (४४%) कंपन्या त्यांच्या AI संगणकीय खर्चाचा (compute cost) अचूक मागोवा घेऊ शकतात. त्यामुळे, दीर्घकालीन अर्थशास्त्राला दिशा देण्यासाठी आवश्यक असलेल्या दृश्यमानतेशिवाय (visibility) मोठ्या प्रमाणावर आणि वेगाने गुंतवणूक होत आहे.

बदलत जाणारी विक्रेता गतिशीलता आणि उच्च चर्न (High Churn)

पारंपारिक हायपरस्केलर्स (hyperscalers) आणि मॉडेल APIs चे वर्चस्व आहे. Google Cloud ४८% वापरासह आघाडीवर आहे, त्यानंतर Microsoft Azure (२९%), AWS (२२%) आणि Oracle Cloud (२२%) आहेत. मॉडेलचा वापर Gemini (४१%) आणि OpenAI (४०%) च्या आसपास केंद्रित आहे. CoreWeave, Lambda आणि Together सारख्या विशेष AI क्लाउड्सचा बाजारपेठेतील वाटा २% पेक्षा कमी आहे.

अस्थिरता जास्त आहे. ६४% उद्योगांचे पुढील बारा महिन्यांत पायाभूत सुविधा पुरवठादार बदलण्याचा किंवा नवीन जोडण्याचा नियोजन आहे, आणि ३८% पुढील तिमाहीत असे करण्याचा विचार करत आहेत. यातील ४१% निर्णय विद्यमान स्टॅकशी एकत्रीकरणाद्वारे (integration) घेतले जातात, तर ३५% निर्णय मालकीच्या एकूण खर्चावर (total cost of ownership) अवलंबून असतात. केवळ ८% कंपन्या टोकनच्या किमतींचा उल्लेख करतात.

पुढील सीमा: विशेष क्लाउड्स आणि मेमरी बँडविड्थ

केवळ प्रयोगांच्या पलीकडे जाणाऱ्या उद्योगांचे लक्ष AI-विशेष क्लाउड्सकडे आहे. ४५% कंपन्या येत्या वर्षभरात अशा पुरवठादारांचे मूल्यांकन करण्याचे नियोजन करत आहेत—हे मूल्यमापनाचे सर्वात मोठे नियोजित क्षेत्र आहे.

एक नवीन तांत्रिक मर्यादा समोर येत आहे: केवळ कच्चा GPU कॉम्प्युट नाही, तर मेमरी बँडविड्थ (memory bandwidth) मोठ्या प्रमाणावर इन्फरन्सला (inference) मर्यादित करेल. केवळ सुमारे २०% कंपन्यांना या अडथळ्याची जाणीव आहे किंवा तो दूर करण्यासाठी पावले उचलली जात आहेत. डेव्हलपर्स आणि CTO साठी, बँडविड्थवर प्रभुत्व मिळवणे हे स्केलेबल इन्फरन्स आणि वाढत्या खर्चाच्या दरम्यानचा फरक ठरवेल.

मुख्य निष्कर्ष

  • अकार्यक्षमता ही सामान्य बाब आहे: ८३% उद्योगांमध्ये GPU वापर ≤ ५०% आहे; अर्ध्याहून कमी कंपन्या संगणकीय खर्चाचा अचूक मागोवा घेऊ शकतात.
  • विक्रेत्यांचे बदलण्याचे प्रमाण (Vendor churn) जास्त आहे: ६४% कंपन्या एका वर्षात पुरवठादार बदलण्याचा किंवा नवीन जोडण्याचा विचार करत आहेत, ज्यामध्ये एकत्रीकरण (४१%) आणि TCO (३५%) ला प्राधान्य दिले जाते.
  • विशेषिकरणाकडे कल: संगणकीय तफावत (compute gap) भरून काढण्यासाठी ४५% कंपन्या विशेष AI क्लाउड्सचे मूल्यांकन करतील.
  • मेमरी बँडविड्थचे आव्हान: सुमारे २०% कंपन्या या उदयोन्मुख अडथळ्याची ओळख पटवत आहेत किंवा त्यावर उपाय शोधत आहेत.

लेख

१०७ कंपन्यांच्या VentureBeat Pulse Research च्या सर्वेक्षणातून असे दिसून येते की ८३% कंपन्या GPU अर्ध्या क्षमतेवर किंवा त्यापेक्षा कमी वापरत आहेत, तर केवळ ४४% कंपन्या प्रत्येक संगणकीय तासाचा (compute hour) अचूक खर्च सांगू शकतात. ही विसंगती ६४% उत्तरदात्यांना पुढील वर्षभरात पायाभूत सुविधा पुरवठादार बदलण्याचा किंवा नवीन जोडण्याचा विचार करण्यास प्रवृत्त करते.

"compute gap" आता का महत्त्वाचा आहे

मुख्य आकडेवारी एक कठोर वास्तव दर्शवते: AI खर्च वाढत आहे, परंतु उत्पादनातील प्रगती मागे पडत आहे. केवळ २१% कंपन्या म्हणतात की ते उत्पादनात मोठ्या प्रमाणावर AI वापरतात, याचा अर्थ बहुतेक गुंतवणूक लॅब्स, प्रूफ-ऑफ-कॉन्सेप्ट्स किंवा निष्क्रिय हार्डवेअरमध्ये अडकलेली आहे. कमी GPU वापर थेट भांडवली नुकसानीत रूपांतरित होतो—अर्ध्या भरलेल्या सर्व्हर देखील वीज वापरतात, त्यांना कूलिंगची गरज असते आणि रॅक स्पेस व्यापतात. जेव्हा अर्ध्याहून कमी संस्था प्रति-GPU खर्चाचा मागोवा घेऊ शकतात, तेव्हा बजेटिंग हे केवळ अंदाज वर्तवण्यासारखे होते आणि CFOs समोर एक 'ब्लॅक बॉक्स' उभा राहतो जो वर्षभराचे तंत्रज्ञान बजेट कोलमडून टाकू शकतो.

आपण इथपर्यंत कसे पोहोचलो

जेव्हा हायपरस्केलर्सनी AI-विशिष्ट इन्स्टन्स आणि मॉडेल-अ‍ॅज-अ-सर्व्हिस APIs लाँच केले, तेव्हा ही घोडदौड सुरू झाली. Google Cloud आता ४८% सर्वेक्षणाधीन वर्कलोड होस्ट करते, त्यानंतर Microsoft Azure (२९%), AWS (२२%) आणि Oracle Cloud (२२%) आहेत. मॉडेलचा वापर देखील याच प्रमाणात विभागलेला आहे, ज्यामध्ये Gemini आणि OpenAI प्रत्येकी सुमारे ४०% वापर मिळवतात. याचे आकर्षण स्पष्ट होते: एक विश्वासार्ह क्लाउड, वापरण्यासाठी तयार GPUs, आणि पारदर्शक खर्चाचे आश्वासन देणारे 'पे-अ‍ॅज-यू-गो' मॉडेल.

हा अभ्यास एक छुपा खर्च उघड करतो. बदलण्याच्या निर्णयामध्ये एकत्रीकरणाच्या अडचणींचे (integration headaches) वर्चस्व आहे: ४१% कंपन्या विद्यमान पाइपलाईन्समध्ये पुरवठादाराचा स्टॅक गुंफण्यातील अडचणींचा उल्लेख करतात, तर ३५% कंपन्या मालकीच्या एकूण खर्चाकडे (TCO) निर्देश करतात. केवळ ८% कंपन्या म्हणतात की टोकनच्या किमती त्यांना दूर नेत आहेत, ज्यावरून असे दिसून येते की इकोसिस्टममधील सुसंगतता (ecosystem fit) ही केवळ किमतीपेक्षा जास्त महत्त्वाची आहे.

विक्रेते आणि खरेदीदारांसाठीचे परिणाम

तीन मोठ्या क्लाउड कंपन्यांसाठी, बाजारपेठेतील वर्चस्व त्यांना ताकद देते, तरीही पुरवठादार बदलण्याच्या de intent (इच्छा) मुळे त्यांच्या या पकडीत घसरण होण्याची चिन्हे दिसत आहेत.

खरेदीदारांना दोन धोके आहेत. पहिले म्हणजे, सततचा कमी वापर (low utilization) प्रति इन्फरन्स किंवा ट्रेनिंग जॉबचा खर्च वाढवतो, ज्यामुळे AI साठीचा व्यवसाय दृष्टिकोन (business case) कमकुवत होतो. दुसरे म्हणजे, खर्चाच्या स्पष्टतेचा अभाव धोरणात्मक नियोजनात अडथळा आणतो; स्पष्ट युनिट इकॉनॉमिक्सशिवाय, पुढील गुंतवणूक करणे किंवा AI-संवर्धित उत्पादनांसाठी किंमत ठरवणे कठीण होते.

विशेषीकृत AI क्लाउड्सचा उदय

विशेषीकृत AI क्लाउड्स—CoreWeave, Lambda आणि Together—सध्या बाजारपेठेतील २% पेक्षा कमी हिस्सा राखून आहेत. ४५% उद्योगांचे म्हणणे आहे की ते येत्या वर्षभरात या विशिष्ट क्षेत्रातील पुरवठादारांचे (niche providers) मूल्यांकन करतील, ज्यामुळे हे विक्रेता मूल्यांकनाचे (vendor assessment) सर्वात मोठे नियोजित क्षेत्र ठरत आहे. त्यांचे मूल्य प्रस्ताव (value proposition) हे AI टूलचेन्ससोबतचे अधिक घट्ट एकत्रीकरण, अधिक तपशीलवार बिलिंग आणि AI वर्कलोडसाठी तयार केलेल्या हार्डवेअरवर आधारित आहे, ज्यामुळे GPU वापर आज बहुतेक उद्योगांना भेडसावणाऱ्या ५०% च्या मर्यादेच्या खूप वर नेला जाऊ शकतो.

तांत्रिक अंधबिंदू: मेमरी बँडविड्थ

हार्डवेअरवरील चर्चा बदलत आहे. जसजसे इन्फरन्स वर्कलोड्स वाढतात, तसतशी मेमरी बँडविड्थ—डेटा GPU मध्ये आणि बाहेर किती वेगाने हलतो—हा एक अडथळा (bottleneck) बनतो, जो कच्च्या संगणकीय क्षमतेपेक्षाही (raw compute power) महत्त्वाचा ठरतो. तरीही, सर्वेक्षण केलेल्या कंपन्यांपैकी केवळ २०% कंपन्या या मर्यादेची दखल घेतात किंवा ती हाताळण्यासाठी पावले उचलत आहेत. बँडविड्थकडे दुर्लक्ष करणे याचा अर्थ असा असू शकतो की, पूर्णपणे वापरलेला GPU देखील आवश्यक थ्रूपुट देऊ शकणार नाही, ज्यामुळे इन्स्टन्सची संख्या वाढेल आणि खर्चही वाढेल.

प्रतिवाद: हायपरस्केलर्सचे वर्चस्व अजूनही कायम आहे

हायपरस्केलर्सचे युग संपले असे घोषित करणे घाईचे ठरेल. त्यांची व्याप्ती, जागतिक विस्तार आणि विद्यमान एंटरप्राइझ करार यामुळे ते अजूनही अनेकांसाठी पहिली पसंती आहेत. सर्वेक्षण असे दर्शवते की बहुतांश वर्कलोड्स या प्लॅटफॉर्मवरच आहेत आणि ज्या संस्थांची मल्टी-क्लाउड धोरणे प्रस्थापित आहेत, त्यांच्यासाठी उच्च वापराच्या आकर्षणापेक्षा सध्याची स्थिती टिकवून ठेवणे अधिक सोपे असू शकते. शिवाय, विशेषीकृत क्लाउड्सचा मर्यादित बाजार हिस्सा असे सूचित करतो की रस जास्त आहे परंतु स्थलांतर (migration) हळूहळू होईल.

पुढे काय पाहावे

  • मेमरी बँडविड्थच्या मर्यादा: जसजसे इन्फरन्स वर्कलोड्स वाढतील, तसतशी बँडविड्थ एक गंभीर अडथळा ठरू शकते, ज्यामुळे हार्डवेअर निवड आणि आर्किटेक्चर निर्णयांवर परिणाम होऊ शकतो.

मुख्य निष्कर्ष

  • अकार्यक्षमता ही सामान्य बाब आहे: ८३% उद्योग GPU चा वापर ≤ ५०% वर करतात; केवळ ४४% कंपन्या संगणकीय खर्चाचा (compute spend) अचूक मागोवा घेऊ शकतात.
  • विक्रेत्यांमध्ये बदल होण्याची शक्यता जास्त आहे: ६४% कंपन्या एका वर्षाच्या आत इन्फ्रास्ट्रक्चर पुरवठादार बदलण्याचा किंवा नवीन जोडण्याचा विचार करत आहेत, ज्यामागे एकत्रीकरण (४१%) आणि TCO (३५%) ही प्रमुख कारणे आहेत.
  • विशेषीकृत क्लाउड्सचा विस्तार होत आहे: संगणकीय तफावत (compute gap) भरून काढण्यासाठी ४५% कंपन्या पुढील बारा महिन्यांत विशिष्ट AI क्लाउड्सचे मूल्यांकन करतील.
  • मेमरी बँडविड्थ हा एक आगामी अडथळा आहे: अंदाजे २०% कंपन्या या उदयोन्मुख अडथळ्याबाबत जागरूक आहेत किंवा तो हाताळण्यासाठी पावले उचलत आहेत.

AI खर्च आणि आर्थिक स्पष्टता यातील तफावत आता केवळ एक दुय्यम गोष्ट राहिलेली नाही; ती खरेदी धोरणांना (procurement strategies) पुनर्गठित करत आहे आणि अशा पुरवठादारांकडे स्थलांतर करण्यास प्रवृत्त करत आहे जे प्रत्येक डॉलरचा जास्तीत जास्त वापर होतो हे सिद्ध करू शकतात.