Kimi K3 चे API कागदावर स्वस्त वाटते, परंतु लपलेले शुल्क आणि तांत्रिक तपशीलांचा अभाव यामुळे ते हेडलाईनवरील आकड्यांपेक्षा कितीतरी पटीने महाग पडू शकते.

प्रसिद्धीमध्ये काय वगळले गेले आहे

Moonshot AI च्या लाँच मटेरियलमध्ये २.८ ट्रिलियन-पॅरामीटर असलेल्या मॉडेलचा दावा केला आहे जे "स्वस्त" आणि "ओपन" आहे. प्रेस रिलीजमध्ये लवकरच डाउनलोड करण्यायोग्य weights मिळण्याचे आश्वासनही देण्यात आले आहे. परंतु या दोन्ही गोष्टी प्रत्यक्षात उतरत नाहीत.

  • Weights उपलब्ध नाहीत – Moonshot ने सार्वजनिक चेकपॉइंटसाठी २७ जुलै २०२६ ही अंतिम मुदत ठेवली आहे. तोपर्यंत वापरकर्त्यांना होस्ट केलेल्या API चाच वापर करावा लागेल, त्यामुळे "ओपन-सोर्स" चे आश्वासन काहीही उपयुक्त देण्यास असमर्थ आहे.
  • २.८ ट्रिलियन पॅरामीटर्स सर्व सक्रिय नाहीत – हा आकडा आर्किटेक्चरची एकूण क्षमता दर्शवतो. K3 च्या Mixture-of-Experts डिझाइनमध्ये प्रत्येक टोकन ८९६ एक्सपर्ट सब-नेटवर्क्सपैकी १६ मधून मार्गक्रमण करते. एका विनंतीसाठी (request) किती पॅरामीटर्स कार्यान्वित होतात, हे Moonshot ने स्पष्ट केलेले नाही, ज्यामुळे मेमरी आणि कॉम्प्युटचा अंदाज लावणे अशक्य होते.

किंमत जी चांगली वाटते – जोपर्यंत तुम्ही शब्दांची गणना करत नाही

प्रसिद्ध दर:

  • Cache-hit इनपुट: $0.30 प्रति १ दशलक्ष टोकन्स
  • Uncached इनपुट: $3.00 प्रति १ दशलक्ष टोकन्स
  • आउटपुट: $15.00 प्रति १ दशलक्ष टोकन्स

हे दर माफक वाटतात, परंतु ते टोकनच्या प्रमाणाकडे (volume) दुर्लक्ष करतात.

एका अलीकडील चाचणीमध्ये K3 चे आउटपुट १३० दशलक्ष टोकन्स इतके मोजले गेले, जे समान कामांसाठी इतर आघाडीच्या मॉडेल्सनी तयार केलेल्या ६३ दशलक्ष टोकन्सच्या दुप्पट आहे. मॉडेलची जास्त शब्दसंख्या (verbosity) थेट आउटपुट बिलात वाढ करते—शब्दांची संख्या दुप्पट म्हणजे खर्चही दुप्पट. कोड जनरेशन, निबंध किंवा चॅट एजंट्ससाठी, प्रति दशलक्ष टोकन $१५ चा दर खर्चाचा मोठा हिस्सा असू शकतो.

विविध वापरकर्त्यांसाठी याचा अर्थ काय

डेव्हलपर्स आणि संशोधक

जर तुम्ही कोडिंग सहाय्य किंवा डेटा-आधारित संशोधनासाठी K3 ची चाचणी घेत असाल, तर टोकन आउटपुटवर कडक मर्यादा (hard caps) लावा. K3 ची तुलना समान आउटपुट मर्यादा असलेल्या बेसलाइन मॉडेलशी करणारी A/B टेस्ट हे स्पष्ट करेल की जास्त टोकन वापर मॉडेलमुळे होतोय की प्रॉम्प्ट डिझाइनमुळे.

बजेटबाबत जागरूक असलेल्या टीम्स

कॅश-हिट (cache-hit) सवलत तेव्हाच लागू होते जेव्हा तेच इनपुट पुन्हा येते. अधिक विनंत्या $०.३० च्या टियरमध्ये आणण्यासाठी असे स्थिर प्रॉम्प्ट प्रीफिक्स तयार करा जे समान इनपुट स्ट्रिंग्स तयार करतील; हे केवळ अत्यंत पुनरावृत्ती होणाऱ्या कामांसाठी (उदा. टेम्पलेटेड क्वेरीज) उपयुक्त आहे. बहुतेक वैविध्यपूर्ण इनपुट्सना $३.०० च्या अनकॅशड (uncached) दराचा सामना करावा लागेल.

सेल्फ-होस्टिंगचा विचार करणाऱ्या कंपन्या

चेकपॉइंट रिलीजची वाट पाहणे शहाणपणाचे ठरेल. मॉडेल होस्ट केल्यामुळे प्रति-टोकन शुल्क वाचते, परंतु अनपेक्षित लायसन्सिंग आणि इन्फ्रास्ट्रक्चर खर्च वाढू शकतो. जोपर्यंत weights सार्वजनिक होत नाहीत, तोपर्यंत होस्ट केलेला API हाच एकमेव वास्तववादी पर्याय आहे.

प्रोडक्शन एन्व्हायरनमेंट्स

केवळ हेडलाईन किंमत प्रतिस्पर्ध्यांपेक्षा कमी वाटते म्हणून स्विच करू नका. प्रति टोकन खर्चाऐवजी, लांब उत्तरांमुळे होणारा लपलेला अतिरिक्त खर्च (overhead) लक्षात घेऊन पूर्ण केलेल्या कामाचा खर्च (cost per completed task) मोजणारी पायलट चाचणी करा. त्यानंतरच तुम्ही ठरवू शकाल की K3 मुळे खरोखरच पैसे वाचतात का.

पुढे काय पाहावे

  • २७ जुलै २०२६ चेकपॉइंट रिलीज – त्या तारखेला weights रिलीज करण्याचे नियोजन आहे.
  • अॅक्टिव्ह-पॅरामीटर खुलासा – प्रति टोकन २.८ ट्रिलियनपैकी किती पॅरामीटर्स कार्यान्वित होतात हे समजल्यास वापरकर्ते हार्डवेअरचे अचूक नियोजन करू शकतील.

सारांश

K3 ची जाहिरात केलेली प्रति दशलक्ष टोकन $१५ ची आउटपुट किंमत केवळ अर्धी गोष्ट सांगते. इतर मॉडेल्सच्या तुलनेत दुप्पट टोकन्स तयार करण्याची त्याची प्रवृत्ती हेडलाईनवरील सर्व बचत संपवू शकते, विशेषतः लांब उत्तरांच्या कामांसाठी. जोपर्यंत weights उपलब्ध होत नाहीत आणि अॅक्टिव्ह-पॅरामीटरची संख्या स्पष्ट होत नाही, तोपर्यंत K3 ला स्वस्त पर्यायाऐवजी एक प्रीमियम आणि संभाव्यतः जास्त शब्दसंख्या देणारी (verbose) सेवा म्हणून पहा. टोकन-बजेट टेस्ट करा, आउटपुट मर्यादा लागू करा आणि पूर्ण झालेल्या कामाचा खरा खर्च मोजल्यानंतरच स्विच करा.