Moonshot AI ने १७ जुलै २०२६ रोजी Kimi K3 नावाचे २.८ ट्रिलियन-पॅरामीटर असलेले लँग्वेज मॉडेल रिलीज करून आपली सर्वात मोठी छाप पाडली आणि २७ जुलै रोजी कोणालाही डाउनलोड करता येतील असे मॉडेल वेट्स (model weights) उपलब्ध करून दिले. मॉडेलचा आकार आणि कामगिरी कोडिंग आणि रिझनिंग (reasoning) कामांमध्ये Claude Opus आणि GPT सारख्या मॉडेल्सच्या बरोबरीची आहे, तर कंपनीचा दावा आहे की त्यांनी हे त्यांच्या प्रतिस्पर्ध्यांच्या तुलनेत अत्यंत कमी प्रशिक्षणादरम्यान खर्च करून साध्य केले आहे.

ही रिलीज का महत्त्वाची आहे

ओपन-वेट मॉडेल्समुळे वापरकर्त्यांना क्लाउड API साठी पैसे भरण्याऐवजी स्वतःच्या मशीनवर सॉफ्टवेअर चालवता येते. Ollama किंवा LM Studio सारख्या टूल्सवर अवलंबून असणाऱ्या डेव्हलपर्ससाठी, वारंवार शुल्क न भरता स्थानिक पातळीवर (locally) होस्ट करता येण्याजोग्या 'फ्रंटियर-क्लास' मॉडेलचे आश्वासन अत्यंत आकर्षक आहे.

व्यावहारिक तफावत: डाउनलोड विरुद्ध रन

वापरकर्त्याने हार्डवेअर आवश्यकता तपासताच हा उत्साह कमी होतो. २.८ ट्रिलियन-पॅरामीटर नेटवर्कला कोणत्याही वाजवी वेगाने चालवण्यासाठी एंटरप्राइझ-ग्रेड GPU क्लस्टरची आवश्यकता असते. कोणत्याही कन्झ्युमर-ग्रेड ग्राफिक्स कार्डमध्ये हे मॉडेल मेमरीमध्ये साठवता येत नाही आणि अगदी लहान इन्फरन्स बॅच देखील (inference batch) सामान्य डेस्कटॉपवर ताण आणू शकते. थोडक्यात सांगायचे तर, तुम्ही आज Kimi K3 डाउनलोड करू शकता, परंतु ते होम पीसीवर (home PC) चालवू शकत नाही.

ओपननेस (Openness) वरील वाद

या रिलीजमुळे AI समुदायातील दीर्घकालीन तणाव पुन्हा एकदा निर्माण झाला आहे. एका गटाचा असा युक्तिवाद आहे की, अशा शक्तिशाली मॉडेल्सना खुले करणे हे युनायटेड स्टेट्सना चीनसारख्या प्रतिस्पर्ध्यांच्या पुढे ठेवण्यासाठी आणि अत्याधुनिक तंत्रज्ञानाचा वापर लोकशाहीकृत (democratise) करण्यासाठी आवश्यक आहे.

तांत्रिक परिणाम

जरी बहुतेक वापरकर्त्यांनी Kimi K3 प्रत्यक्ष वापरले नाही, तरीही त्याच्या अस्तित्वाचा त्यांच्या वापरातील मॉडेल्सवर परिणाम होईल. मोठ्या प्रमाणावरील सिस्टिम्समुळे लहान, 'डिस्टिल्ड' (distilled) आवृत्त्यांच्या विकासाला चालना मिळते, ज्या एका सिंगल कन्झ्युमर GPU वर चालू शकतात. 'डिस्टिलेशन' ही एक अशी प्रक्रिया आहे ज्यामध्ये एका प्रचंड मोठ्या मॉडेलचे ज्ञान एका अधिक सुटसुटीत नेटवर्कमध्ये हस्तांतरित केले जाते, ज्यामध्ये सहसा ७ अब्ज ते ७० अब्ज पॅरामीटर्स असतात. ऐतिहासिकदृष्ट्या, एकदा का एखादे हेवीवेट मॉडेल सार्वजनिक झाले की, ओपन-सोर्स इकोसिस्टम काही आठवड्यांतच या हलक्या आवृत्त्या तयार करते आणि Ollama सारखे प्लॅटफॉर्म नियमितपणे त्यांना त्यांच्या कॅटलॉगमध्ये समाविष्ट करतात.

डेव्हलपरसाठी, तात्काळ फायदा स्थानिक पातळीवर होस्ट करण्यासाठी एखादे नवीन महाकाय मॉडेल मिळवणे हा नसून, लवकरच स्वस्त आणि अधिक सक्षम ७-बी ते ७०-बी (7-B-70-B) मॉडेल्स देणारी एक पाइपलाइन मिळवणे हा आहे. ही मॉडेल्स त्यांच्या मोठ्या पूर्वजांची रिझनिंग आणि कोडिंग क्षमता आत्मसात करतात, ज्यामुळे डेटा-सेंटरची गरज न पडता सामान्य वापरकर्त्यांना एक लक्षणीय अपग्रेड मिळतो.

पुढे काय पाहावे

  • डिस्टिल्ड रिलीज (Distilled releases): कन्झ्युमर हार्डवेअरवर बसू शकणाऱ्या पहिल्या Kimi K3-आधारित मॉडेल्ससाठी Ollama, LM Studio आणि इतर हबवर लक्ष ठेवा. २.८ ट्रिलियन-पॅरामीटर इंजिनचे फायदे किती वेगाने सामान्य वापरकर्त्यांपर्यंत पोहोचतात, याचे ते एक मोजमाप (barometer) ठरेल.

हेडलाईनमध्ये "आतापर्यंतचे सर्वात मोठे ओपन-वेट मॉडेल" असे वाचायला मिळू शकते, परंतु खरी गोष्ट ही आहे की ही रिलीज आपल्यापैकी बहुतेकांना प्रत्यक्षात वापरता येणाऱ्या मॉडेल्ससाठी इकोसिस्टमला कशी नवीन आकार देते. ते महाकाय मॉडेल क्लाउडमध्येच राहील, तरीही त्याची सावली लवकरच सर्वत्र असलेल्या डेव्हलपर्सच्या लॅपटॉप आणि वर्कस्टेशन्सवर पडेल.