१६ जुलै रोजी, Moonshot AI ने Kimi K3 लाँच केले. हे केवळ आधीच गर्दी असलेल्या लीडरबोर्डमधील आणखी एक प्रवेश नव्हता. त्यावेळपर्यंत कोणालाही न दिसलेल्या सर्वात मोठ्या ओपन-वेट स्केलवर, त्याने असे तर्कसंगत (reasoning) आणि प्रक्रिया करण्याची शक्ती (processing power) दिली जी सहसा एंटरप्राइझ लायसन्सिंग बिलांसोबत येते, जे बहुतेक स्टार्टअप्स परवडू शकत नाहीत. तुम्ही ते डाउनलोड करू शकता, त्यात बदल करू शकता आणि तुमच्या स्वतःच्या सर्व्हरवर चालवू शकता. प्रत्येक डॉलरचा विचार करणाऱ्या डेव्हलपरसाठी, ही एक अशी ऑफर आहे ज्याकडे दुर्लक्ष करणे कठीण आहे.
पण केवळ दर्शवलेली किंमत (sticker price) ही पूर्ण किंमत नाही.
चिनी ओपन-वेट मॉडेल्सवर आधारित काम करण्याचा खरा खर्च अनपेक्षित ठिकाणी दिसून येत आहे: काँग्रेसच्या सुनावणीमध्ये, निर्यात नियंत्रण मेमोमध्ये आणि वॉशिंग्टनच्या संरक्षण वर्तुळातील वाढत्या चिंतेमध्ये. ज्या खुलापणामुळे (openness) तुम्ही प्रोप्रायटरी APIs टाळू शकता, तोच खुलापाण धोरणकर्त्यांना अस्वस्थ करतो. जेव्हा वेट्स (weights) ओपन असतात, तेव्हा मॉडेल केवळ सॉफ्टवेअर राहत नाही. ते पायाभूत सुविधा (infrastructure) बनते. आणि परदेशात बांधलेली पायाभूत सुविधा राजकीय वजन घेऊन येते.
सुरुवातीला ही डील खूप फायदेशीर वाटते
ही मॉडेल्स का पसरत आहेत याबद्दल आपण प्रामाणिक राहूया. पाश्चात्य क्लोज्ड-सोर्स API तुमच्या युजर बेसच्या वाढीनुसार प्रचंड शुल्क आकारू शकतात. टोकन खर्च वाढत जातो. रेट लिमिट्स तुमच्या उत्पादनाला खीळ घालतात. तुम्ही बुद्धिमत्ता भाड्याने घेतलेले असता आणि घरमालक अटी बदलू शकतो.
Kimi K3 सारखे ओपन-वेट मॉडेल हे नाते पूर्णपणे बदलून टाकते. तुम्ही पॅरामीटर्स एकदा डाउनलोड करता. तुम्ही ते स्थानिक पातळीवर किंवा तुमच्या नियंत्रणाखालील क्लाउड इन्स्टन्सवर होस्ट करता. तुमचा इन्फरन्स (inference) खर्च वीज आणि हार्डवेअर रेंटलपर्यंत मर्यादित होतो. कस्टमर सपोर्ट तिकिट्स प्रोसेस करणाऱ्या SaaS स्टार्टअपसाठी, किंवा अंतर्गत नॉलेज बेस तयार करणाऱ्या मध्यम आकाराच्या एंटरप्राइझसाठी, हे गणित अत्यंत आकर्षक आहे. तुम्ही आता प्रत्येक क्वेरीसाठी पैसे मोजत नाही. तुम्ही कम्प्युटसाठी पैसे मोजत आहात आणि कम्प्युटची किंमत सतत कमी होत आहे.
यामध्ये कस्टमायझेशनचा (customization) पैलू देखील आहे. क्लोज्ड मॉडेल्स हे 'ब्लॅक बॉक्स' सारखे असतात. तुम्ही एक प्रॉम्प्ट पाठवता, तुम्हाला प्रतिसाद मिळतो आणि सर्व व्हर्जनमध्ये त्याचे वर्तन सुसंगत राहील अशी तुम्ही आशा करता. ओपन वेट्ससह, तुमचे इंजिनिअर्स विशिष्ट कामांसाठी मॉडेलला फाईन-ट्यून (fine-tune), प्रून (prune) किंवा डिस्टिल (distill) करू शकतात. एक फिनटेक कंपनी ते प्रोप्रायटरी फ्रॉड पॅटर्नवर प्रशिक्षित करू शकते. एक उत्पादक (manufacturer) हजारो मैल दूर असलेल्या थर्ड-पार्टी सर्व्हरवर संवेदनशील टेलिमेट्री न पाठवता ते थेट एज डिव्हाइसेसवर एम्बेड करू शकते.
ते नियंत्रण महत्त्वाचे आहे. म्हणूनच हे आकर्षण केवळ बचतीबद्दल नाही, तर ते स्वायत्ततेबद्दल (autonomy) आहे.
जेव्हा वेट्ससोबत अटी येतात
समस्या अशी आहे की स्वायत्तता ही तुमच्या पायाखालची जमीन स्थिर राहील या गृहितकावर अवलंबून असते. वॉशिंग्टन आता हे विचारत नाहीये की ही मॉडेल्स चांगली आहेत की नाही. ते हे विचारत आहेत की जर अमेरिकन अर्थव्यवस्थेचे संपूर्ण क्षेत्र त्यांच्यावर अवलंबून राहिले तर काय होईल.
धोरणात्मक चर्चा आता वेगाने बदलली आहे. कृत्रिम बुद्धिमत्तेबद्दलच्या (AI) पूर्वीच्या चर्चा पक्षपातीपणा (bias), सुरक्षा किंवा अस्तित्वाच्या जोखमीवर केंद्रित होत्या. आता चिंता 'तंत्रज्ञान सार्वभौमत्व' (technological sovereignty) याबद्दल आहे. जेव्हा एखादी कंपनी आपल्या प्रॉडक्ट स्टॅकमध्ये चिनी-विकसित वेट्स समाविष्ट करते, तेव्हा धोरणकर्ते अशा सिस्टिमिक असुरक्षिततेबद्दल काळजी करतात ज्याचा मॉडेलच्या 'नेक्स्ट-टोकन प्रेडिक्शन' अचूकतेशी काहीही संबंध नसतो.
याचा व्यावहारिक विचार करा. ओपन वेट्सना अजूनही अपडेट्स, टूलिंग इकोसिस्टम आणि कम्युनिटी सपोर्टची गरज असते. जर एखादे मॉडेल तुमच्या उत्पादनाचा पाया बनले, तर तुम्ही केवळ कोड आयात करत नाही आहात. तुम्ही एक 'डिपेंडन्सी चेन' (dependency chain) आयात करत आहात. काय होईल जर नंतर एक्सपोर्ट कंट्रोल्सद्वारे आर्किटेक्चरला लक्ष्य केले गेले? काय होईल जर होस्टिंग प्रोव्हायडर्सना काही विशिष्ट पॅरामीटर फाइल्स चालवण्यास मनाई करणाऱ्या अनुपालन (compliance) नियमांचा सामना करावा लागला? काय होईल जर भविष्यातील निर्बंधांमुळे व्यावसायिक वापरासाठी डेरिव्हेटिव्ह्ज फाईन-ट्यून करणे बेकायदेशीर ठरले?
हे केवळ सैद्धांतिक प्रश्न नाहीत. ट्रेझरी आणि कॉमर्स मंत्रालयांनी आधीच चिनी तंत्रज्ञान कंपन्यांना 'एन्टिटी लिस्ट'मध्ये टाकण्याची आणि विशिष्ट सॉफ्टवेअर आणि हार्डवेअरच्या डाउनस्ट्रीम वापरावर निर्बंध आणण्याची तयारी दर्शवली आहे. ज्या संस्थापकांनी स्वस्त चिनी GPUs वर आधारित व्यवसाय उभारले होते, त्यांना पुरवठा साखळी (supply chains) रातोरात थांबल्यामुळे याचा कडू अनुभव आला आहे. वेट्स हे केवळ बिट्स आहेत, परंतु त्यांना नियंत्रित करणारे कायदेशीर चौकटी सेमीकंडक्टर बंदी इतक्याच वेगाने बदलू शकतात.
एका CTO साठी, हे अशा प्रकारच्या 'टेक्निकल डेट' (technical debt) ला जन्म देते जी Jira तिकिटांमध्ये दिसत नाही. तुम्ही सहा महिने तुमच्या इंजिनिअरिंग टीमला Kimi K3 टूलचेनवर प्रशिक्षित करण्यात, ते तुमच्या CI/CD पाइपलाइनमध्ये समाविष्ट करण्यात आणि ग्राहक-केंद्रित फीचर्स लाँच करण्यात घालवू शकता. त्यानंतर, केवळ एक फेडरल रजिस्टर नोटीस तुम्हाला स्थलांतर (migration) करण्यास भाग पाडू शकते. मॉडेल फॅमिलीमध्ये बदल करणे हे डेटाबेस बदलण्यासारखे नाही. त्यासाठी प्रॉम्प्ट्स पुन्हा ट्यून करणे, आउटपुट्स पुन्हा व्हॅलिडेट करणे आणि अनेकदा डाउनस्ट्रीम क्लासिफायर्स पुन्हा प्रशिक्षित करणे आवश्यक असते. त्या बदलाचा खर्च तुम्ही API बिलांवर वाचवलेल्या रकमेपेक्षा कितीतरी पटीने जास्त असू शकतो.
स्प्लिट स्टॅक म्हणजे दुप्पट काम
जर वॉशिंग्टनने काही विशिष्ट चिनी मॉडेल्स किंवा त्यांना आधार देणाऱ्या आर्किटेक्चरवर निर्बंध लादण्याचे पाऊल उचलले, तर जागतिक AI मार्केटला केवळ वाढत्या किमतींचाच सामना करावा लागणार नाही, तर त्याला प्रत्यक्ष विखंडनाचा (fragmentation) सामना करावा लागेल.
टेलिकॉम मानके आणि सोशल मीडिया प्लॅटफॉर्म्सच्या बाबतीत आपण हे आधीही पाहिले आहे, परंतु AI इन्फ्रास्ट्रक्चर अधिक मूलभूत आहे. 'स्प्लिट स्टॅक' (split stack) म्हणजे विसंगत टूलचेन्स (toolchains), भिन्न सुरक्षा फ्रेमवर्क आणि दुप्पट अनुपालन प्रणाली (compliance regimes). बर्लिनमधील एखादा डेव्हलपर युरोपियन मार्केटसाठी weights आणि guardrails चा एक संच वापरू शकतो आणि अमेरिकेतील उपयोजनासाठी (deployment) पूर्णपणे वेगळा स्टॅक वापरू शकतो. हे केवळ त्रासदायक नाही, तर ते खर्चिक आहे.
एंटरप्राइझ प्रोक्युरमेंट (procurement) टीम्सना दोन वेगवेगळ्या व्हेंडर रिव्ह्यू करावे लागतील. कायदेशीर विभागांना मॉडेलच्या उगमस्थानाचा (provenance) मागोवा त्याच काटेकोरपणे घ्यावा लागेल, ज्याप्रमाणे ते सध्या डेटा प्रायव्हसीसाठी घेतात. ओपन-सोर्स रिपॉझिटरीज राष्ट्रीय सीमांनुसार विभागल्या (fork) जाऊ शकतात, ज्यामध्ये लोकप्रिय fine-tuning लायब्ररीजमधील चिनी योगदानावर तपासणी किंवा बहिष्कार टाकला जाऊ शकतो. ओपन-वेट डेव्हलपमेंटला (open-weight development) परिभाषित करणारे सहकार्याचे जाळे विस्कळीत होऊ लागते.
लहान कंपन्यांसाठी, हे विभाजन (bifurcation) विशेषतः कठीण आहे. मायक्रोसॉफ्ट किंवा गुगल सारख्या दिग्गज कंपन्या...