2026 ജൂലൈ 17-ന് 2.8 ട്രില്യൺ പാരാമീറ്ററുകളുള്ള Kimi K3 എന്ന ലാംഗ്വേജ് മോഡൽ പുറത്തിറക്കിക്കൊണ്ട് Moonshot AI തങ്ങളുടെ ഏറ്റവും വലിയ മുന്നേറ്റം നടത്തി. തുടർന്ന് ജൂലൈ 27-ന് ആർക്കും ഡൗൺലോഡ് ചെയ്യാവുന്ന രീതിയിൽ മോഡൽ വെയ്റ്റുകൾ (model weights) അവർ തുറന്നുകൊടുത്തു. കോഡിംഗ്, റീസണിംഗ് (reasoning) ജോലികളിൽ Claude Opus, GPT എന്നിവയ്‌ക്കൊപ്പം തട്ടിക്കൊണ്ടുവരാൻ ഈ മോഡലിന്റെ വലിപ്പത്തിനും പ്രകടനത്തിനും സാധിക്കുന്നു. എന്നാൽ തങ്ങളുടെ എതിരാളികളേക്കാൾ വളരെ കുറഞ്ഞ പരിശീലന ചെലവിൽ (training costs) ആണ് ഇത് നേടിയതെന്നാണ് കമ്പനിയുടെ അവകാശവാദം.

ഈ റിലീസ് പ്രധാനമാകുന്നത് എന്തുകൊണ്ട്

ക്ലൗഡ് API-കൾക്കായി പണം നൽകുന്നതിന് പകരം സ്വന്തം മെഷീനുകളിൽ തന്നെ സോഫ്റ്റ്‌വെയർ പ്രവർത്തിപ്പിക്കാൻ ഓപ്പൺ-വെയ്റ്റ് മോഡലുകൾ ഉപയോക്താക്കളെ അനുവദിക്കുന്നു. Ollama അല്ലെങ്കിൽ LM Studio പോലുള്ള ടൂളുകളെ ആശ്രയിക്കുന്ന ഡെവലപ്പർമാരെ സംബന്ധിച്ചിടത്തോളം, ആവർത്തിച്ചുള്ള ഫീസുകൾ ഇല്ലാതെ ലോക്കലായി ഹോസ്റ്റ് ചെയ്യാവുന്ന ഒരു ഫ്രോണ്ടിയർ-ക്ലാസ് (frontier-class) മോഡൽ എന്ന വാഗ്ദാനം ഏറെ ആകർഷകമാണ്.

പ്രായോഗികമായ വ്യത്യാസം: ഡൗൺലോഡ് ചെയ്യലും പ്രവർത്തിപ്പിക്കലും

ഹാർഡ്‌വെയർ ആവശ്യകതകൾ പരിശോധിക്കുന്ന നിമിഷം ഈ ആവേശം തടസ്സപ്പെടുന്നു. 2.8 ട്രില്യൺ പാരാമീറ്റർ നെറ്റ്‌വർക്ക് ന്യായമായ വേഗതയിൽ പ്രവർത്തിപ്പിക്കാൻ ഒരു എന്റർപ്രൈസ്-ഗ്രേഡ് GPU ക്ലസ്റ്റർ ആവശ്യമാണ്. സാധാരണ ഉപഭോക്തൃ നിലവാരത്തിലുള്ള (consumer-grade) ഒരു ഗ്രാഫിക്സ് കാർഡിനും ഈ മോഡലിനെ മെമ്മറിയിൽ ഉൾക്കൊള്ളാൻ കഴിയില്ല, കൂടാതെ ഒരു ചെറിയ ഇൻഫറൻസ് ബാച്ച് (inference batch) പോലും ഒരു സാധാരണ ഡെസ്ക്ടോപ്പിനെ താങ്ങാൻ കഴിയില്ല. ചുരുക്കത്തിൽ, നിങ്ങൾക്ക് ഇന്ന് Kimi K3 ഡൗൺലോഡ് ചെയ്യാം, പക്ഷേ ഒരു സാധാരണ വീട്ടിലെ പിസിയിൽ അത് പ്രവർത്തിപ്പിക്കാൻ കഴിയില്ല.

ഓപ്പൺനെസ്സ് സംബന്ധിച്ച തർക്കം

ഈ റിലീസ് AI കമ്മ്യൂണിറ്റിയിലെ കാലങ്ങളായുള്ള ഒരു തർക്കത്തിന് വീണ്ടും തിരികൊളുത്തിയിരിക്കുകയാണ്. ഇത്രയും ശക്തമായ മോഡലുകൾ പരസ്യമായി ലഭ്യമാക്കുന്നത് അമേരിക്കയെ മറ്റ് എതിരാളികൾക്ക് (പ്രത്യേകിച്ച് ചൈനയിൽ നിന്നുള്ളവർക്ക്) മുന്നിൽ നിലനിർത്തുന്നതിനും അത്യാധുനിക സാങ്കേതികവിദ്യ എല്ലാവർക്കും ലഭ്യമാക്കുന്നതിനും (democratise) അത്യാവശ്യമാണെന്ന് ഒരു വിഭാഗം വാദിക്കുന്നു.

സാങ്കേതികമായ പ്രത്യാഘാതങ്ങൾ

ഭൂരിഭാഗം ഉപയോക്താക്കളും Kimi K3 പ്രവർത്തിക്കുന്നത് നേരിട്ട് കാണുന്നില്ലെങ്കിൽ പോലും, അതിന്റെ സാന്നിധ്യം അവർ ഉപയോഗിക്കുന്ന മോഡലുകളെ ബാധിക്കും. വലിയ തോതിലുള്ള സിസ്റ്റങ്ങൾ, ഒരു സിംഗിൾ കൺസ്യൂമർ GPU-വിൽ പ്രവർത്തിപ്പിക്കാൻ കഴിയുന്ന ചെറിയ, ഡിസ്റ്റിൽഡ് (distilled) പതിപ്പുകളുടെ വികസനത്തിന് വഴിയൊരുക്കുന്നു. ഒരു വലിയ മോഡലിന്റെ അറിവ് 7 ബില്യൺ മുതൽ 70 ബില്യൺ പാരാമീറ്ററുകൾ വരെയുള്ള കുറച്ചുകൂടി ലളിതമായ ഒരു നെറ്റ്‌വർക്കിലേക്ക് മാറ്റുന്ന പ്രക്രിയയാണ് ഡിസ്റ്റിലേഷൻ (Distillation). ചരിത്രപരമായി നോക്കിയാൽ, ഒരു ഹെവിവെയ്റ്റ് മോഡൽ പൊതുവായി ലഭ്യമായാൽ, ആഴ്ചകൾക്കുള്ളിൽ ഓപ്പൺ സോഴ്സ് ഇക്കോസിസ്റ്റം ഇത്തരം ഭാരം കുറഞ്ഞ പതിപ്പുകൾ പുറത്തിറക്കും, കൂടാതെ Ollama പോലുള്ള പ്ലാറ്റ്‌ഫോമുകൾ അവ പതിവായി തങ്ങളുടെ കാറ്റലോഗുകളിൽ ഉൾപ്പെടുത്തുകയും ചെയ്യുന്നു.

ഒരു ഡെവലപ്പറെ സംബന്ധിച്ചിടത്തോളം, ഇതിന്റെ ഉടനടിയുള്ള ഗുണം ലോക്കലായി ഹോസ്റ്റ് ചെയ്യാൻ കഴിയുന്ന ഒരു പുതിയ ഭീമൻ മോഡൽ എന്നതല്ല, മറിച്ച് കുറഞ്ഞ ചെലവിൽ പ്രവർത്തിപ്പിക്കാൻ കഴിയുന്ന കൂടുതൽ ശേഷിയുള്ള 7-B-70-B മോഡലുകൾ ഉടൻ ലഭ്യമാക്കുമെന്നതാണ്. ഈ മോഡലുകൾ അവയുടെ വലിയ പൂർവ്വികരുടെ റീസണിംഗ്, കോഡിംഗ് കഴിവുകൾ കൈമാറുന്നു, ഇത് ഒരു ഡാറ്റാ സെന്റർ ഇല്ലാതെ തന്നെ സാധാരണ ഉപയോക്താക്കൾക്ക് മികച്ച മാറ്റം നൽകുന്നു.

ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

  • ഡിസ്റ്റിൽഡ് റിലീസുകൾ (Distilled releases): കൺസ്യൂമർ ഹാർഡ്‌വെയറിൽ പ്രവർത്തിപ്പിക്കാൻ കഴിയുന്ന ആദ്യത്തെ Kimi K3-അധിഷ്ഠിത മോഡലുകൾക്കായി Ollama, LM Studio, മറ്റ് ഹബ്ബുകൾ എന്നിവ ശ്രദ്ധിക്കുക. 2.8 ട്രില്യൺ പാരാമീറ്റർ എഞ്ചിന്റെ ഗുണഫലങ്ങൾ എത്ര വേഗത്തിൽ സാധാരണ ഉപയോക്താക്കളിലേക്ക് എത്തുന്നു എന്നതിന്റെ അളവുകോലായി ഇവയുടെ പ്രകടനം മാറും.

"ഇതുവരെ പുറത്തിറങ്ങിയതിൽ വെച്ച് ഏറ്റവും വലിയ ഓപ്പൺ-വെയ്റ്റ് മോഡൽ" എന്നായിരിക്കാം വാർത്താ തലക്കെട്ടുകൾ ആകുന്നത്, എന്നാൽ യഥാർത്ഥ കഥ എന്നത് ഈ റിലീസ് നമ്മളിൽ ഭൂരിഭാഗം പേർക്കും പ്രവർത്തിപ്പിക്കാൻ കഴിയുന്ന മോഡലുകളുടെ ഇക്കോസിസ്റ്റത്തെ എങ്ങനെ പുനർനിർമ്മിക്കുന്നു എന്നതാണ്. ആ ഭീമൻ മോഡൽ ക്ലൗഡിൽ തന്നെ തുടരുമെങ്കിലും, അതിന്റെ സ്വാധീനം ഉടൻ തന്നെ എല്ലായിടത്തുമുള്ള ഡെവലപ്പർമാരുടെ ലാപ്ടോപ്പുകളിലും വർക്ക്സ്റ്റേഷനുകളിലും പതിയും.