വെറും രണ്ട് വർഷം മുമ്പ് 5%-ൽ താഴെയായിരുന്ന ഓപ്പൺറൂട്ടറിലെ (OpenRouter) ടോക്കൺ ട്രാഫിക്കിന്റെ 63% ഇപ്പോൾ ഓപ്പൺ-വെയിറ്റ് (open-weight) AI മോഡലുകൾ കൈകാര്യം ചെയ്യുന്നു. ടോക്കൺ ചെലവിൽ ഉണ്ടായ 50 മടങ്ങ് കുറവും, പ്രകടനത്തിലുള്ള വ്യത്യാസം കുറഞ്ഞതും കാരണം ക്ലോസ്ഡ്-സോഴ്സ് (closed-source) API-കളെ ആശ്രയിക്കുന്നതിനെക്കുറിച്ച് ഡെവലപ്പർമാർ പുനർചിന്തനം നടത്താൻ തുടങ്ങിയിരിക്കുന്നു.

ഈ മാറ്റത്തിന് പിന്നിലെ കണക്കുകൾ

ഓപ്പൺറൂട്ടർ പ്ലാറ്റ്‌ഫോമിൽ കമ്പ്യൂട്ടിംഗിന്റെ പ്രധാന സ്രോതസ്സായി ഓപ്പൺ-വെയിറ്റ് മോഡലുകൾ മാറിയതായി മോസില്ലയുടെ (Mozilla) ട്രാഫിക് വിശകലനം കാണിക്കുന്നു. ഒരു മോഡൽ പ്രോസസ്സ് ചെയ്യുന്ന ഓരോ ടെക്സ്റ്റ് ഭാഗത്തെയും ടോക്കൺ ട്രാഫിക് കണക്കാക്കുന്നു, ഇത് യഥാർത്ഥ ഉപയോഗത്തിന്റെ കൃത്യമായ സൂചകമാണ്. ഇത്രയും ചുരുങ്ങിയ കാലയളവിൽ 5%-ൽ താഴെയിൽ നിന്ന് 63% ആയി ഉയർന്നത് ഒരു താൽക്കാലിക പ്രവണതയല്ല, മറിച്ച് ഒരു ഘടനാപരമായ മാറ്റമാണ് സൂചിപ്പിക്കുന്നത്.

സാമ്പത്തിക സാഹചര്യം മാറിയത് എന്തുകൊണ്ട്?

2023-ൽ, ഒരു ദശലക്ഷം ടോക്കണുകൾ പ്രോസസ്സ് ചെയ്യുന്നതിന് ഉയർന്ന പ്രകടനമുള്ള ഒരു മോഡൽ പ്രവർത്തിപ്പിക്കാൻ ഏകദേശം $20 ചെലവ് വന്നിരുന്നു. ഇന്ന് ആ വില $0.40 ആണ്—കഴിഞ്ഞ 36 മാസത്തിനുള്ളിൽ 50 മടങ്ങ് കുറവ് കൈവരിക്കാൻ സാധിച്ചു.

പ്രകടനത്തിലുള്ള വ്യത്യാസം കുറയുന്നു

സ്റ്റാൻഡേർഡ് ബെഞ്ച്മാർക്കുകളിൽ ഓപ്പൺ മോഡലുകൾ പ്രൊപ്രൈറ്ററി (proprietary) മോഡലുകളെ അപേക്ഷിച്ച് ഏകദേശം 8% പിന്നിലായിരുന്നു. എന്നാൽ മികച്ച ഡാറ്റാ ക്യൂറേഷനും (data curation) ആർക്കിടെക്ചറൽ മാറ്റങ്ങളും വഴി ഏതാനും മാസങ്ങൾക്കുള്ളിൽ ഈ വ്യത്യാസം 3.3% ആയി കുറഞ്ഞു. ചെലവ് പ്രധാന ഘടകമാകുമ്പോൾ, ഒരു ക്ലോസ്ഡ് മോഡലിന് പകരം ഓപ്പൺ മോഡൽ ഉപയോഗിക്കുന്നതിൽ വലിയ ദോഷങ്ങളില്ലെന്ന് പല ഡെവലപ്പർമാരും ഇപ്പോൾ കരുതുന്നു.

ഡെവലപ്പർമാർ കൂട്ടത്തോടെ മാറുന്നു

AI ഫീച്ചറുകൾ ചേർക്കുന്ന ഡെവലപ്പർമാരിൽ 79% പേരും ഇപ്പോൾ ഓപ്പൺ-വെയിറ്റ് മോഡലുകൾ ഉപയോഗിച്ചാണ് തുടങ്ങുന്നത് എന്ന് മോസില്ല ഡാറ്റ കാണിക്കുന്നു. ഈ തിരഞ്ഞെടുപ്പ് വിലയെക്കുറിച്ച് മാത്രമല്ല; ഓപ്പൺ മോഡലുകൾ വെയിറ്റുകൾ (weights), ലൈസൻസിംഗ്, വിന്യാസ രീതികൾ (deployment options) എന്നിവയിൽ ടീമുകൾക്ക് പൂർണ്ണമായ കാഴ്ചപ്പാട് നൽകുന്നു, ഇത് വേഗത്തിലുള്ള പ്രവർത്തന ചക്രങ്ങൾക്ക് (iteration cycles) സഹായിക്കുന്നു.

പരമാധികാരവും അടിയന്തര സാഹചര്യങ്ങളും

വിദേശ AI സേവനങ്ങളെ ഉപയോഗിച്ച് നിർണ്ണായകമായ ജോലികൾ ചെയ്യുന്നത് അടുത്തിടെ 47 രാജ്യങ്ങൾ നിയന്ത്രിച്ചിട്ടുണ്ട്. ഓപ്പൺ മോഡലുകൾ ആഭ്യന്തര ഇൻഫ്രാസ്ട്രക്ചറിൽ ഹോസ്റ്റ് ചെയ്യാൻ കഴിയുന്നതിനാൽ, ഡാറ്റാ നിയന്ത്രണം നിലനിർത്താനും പുതിയ നിയമങ്ങൾ പാലിക്കാനും രാജ്യങ്ങൾക്ക് സാധിക്കും. ഫിനാൻസ്, ഹെൽത്ത് കെയർ, പൊതുഭരണം എന്നീ മേഖലകളിൽ ഈ നയപരമായ സമ്മർദ്ദം ഓപ്പൺ മോഡലുകളുടെ ഉപയോഗം വേഗത്തിലാക്കുന്നു.

യഥാർത്ഥ കരുത്ത് "ഹാർനസ്" (harness) ആണ്

പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ് ഫ്രെയിംവർക്കുകൾ, സേഫ്റ്റി ഫിൽട്ടറുകൾ, ഓർക്കസ്ട്രേഷൻ പൈപ്പ്‌ലൈനുകൾ തുടങ്ങിയ അനുബന്ധ ടൂളുകൾ ഉപയോഗിക്കുന്നത്, ഒരു മോഡലിനെ ചെറിയ മാറ്റങ്ങളോടെ മറ്റൊരു മികച്ച മോഡലിലേക്ക് മാറ്റുന്നതിനേക്കാൾ വലിയ പ്രകടന മെച്ചം നൽകുമെന്ന് മോസില്ലയുടെ വിശകലനം ചൂണ്ടിക്കാട്ടുന്നു.

ക്ലോസ്ഡ് API-കളിൽ മാത്രം ഒതുങ്ങിനിൽക്കുന്നതിലെ അപകടങ്ങൾ

  • വെണ്ടർ റിസ്ക് (Vendor risk) – നയപരമായ മാറ്റങ്ങൾ, വില പുതുക്കലുകൾ അല്ലെങ്കിൽ സർക്കാർ ഉത്തരവുകൾ എന്നിവ വഴി സേവനങ്ങളിലേക്കുള്ള പ്രവേശനം പെട്ടെന്ന് തടയാം, ഇത് പുതിയ കരാർ ഉണ്ടാക്കുന്നത് വരെ സേവനങ്ങൾ പ്രവർത്തനരഹിതമാക്കാൻ കാരണമാകും.

ഇന്നത്തെ ഡെവലപ്പർമാർക്കായി ഒരു പ്രായോഗിക രീതി

  • ഭൂരിഭാഗം പ്രൊഡക്ഷൻ ജോലികൾക്കും ഓപ്പൺ-വെയിറ്റ് മോഡലുകൾ ഉപയോഗിക്കുക.
  • ഹാർനസിൽ (harness) നിക്ഷേപിക്കുക: ഇവാലുവേഷൻ സ്യൂട്ടുകൾ നിർമ്മിക്കുക, വീണ്ടും ഉപയോഗിക്കാവുന്ന പ്രോംപ്റ്റ് ലൈബ്രറികൾ വികസിപ്പിക്കുക, സേഫ്റ്റി ലെയറുകൾ സംയോജിപ്പിക്കുക.
  • പോർട്ടബിലിറ്റിക്കായി രൂപകൽപ്പന ചെയ്യുക: കോഡിൽ മാറ്റം വരുത്താതെ തന്നെ ഒന്നിലധികം പ്രൊവൈഡർമാരിലേക്ക് റൂട്ട് ചെയ്യാൻ കഴിയുന്ന ഒരു ഇന്റർഫേസ് ഉപയോഗിച്ച് മോഡൽ കോളുകൾ ക്രമീകരിക്കുക.
  • അത്യാധുനികമായ റീസണിംഗോ (reasoning) ഓപ്പൺ മോഡലുകൾക്ക് നിലവിൽ എത്തിച്ചേരാൻ കഴിയാത്ത പ്രൊപ്രൈറ്ററി ഡാറ്റയോ ആവശ്യമായ ഏകദേശം 10% ജോലികൾക്കായി മാത്രം ക്ലോസ്ഡ് മോഡലുകൾ മാറ്റിവെക്കുക.

ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

ഓപ്പൺ-വെയിറ്റ് മോഡലുകൾ വളരെ കുറഞ്ഞ ചെലവിലുള്ളതും ക്ലോസ്ഡ് മോഡലുകളെപ്പോലെ തന്നെ കാര്യക്ഷമവുമായതിനാൽ അവ ഇപ്പോൾ AI ടോക്കൺ വിപണിയിൽ ആധിപത്യം പുലർത്തുന്നു. ശക്തമായ ഒരു ഹാർനസ് നിർമ്മിക്കുകയും തങ്ങളുടെ സ്റ്റാക്കുകൾ പോർട്ടബിൾ ആയി നിലനിർത്തുകയും ചെയ്യുന്ന ടീമുകൾക്ക് ചെലവ് കുറയ്ക്കാൻ സാധിക്കും, അതോടൊപ്പം വെണ്ടർമാരിൽ നിന്നോ നയങ്ങളിൽ നിന്നോ ഉണ്ടാകുന്ന ആഘാതങ്ങളിൽ നിന്ന് രക്ഷപ്പെടാനും കഴിയും. ക്ലോസ്ഡ് മോഡലുകൾ പ്രത്യേക ആവശ്യങ്ങൾക്കുള്ള ടൂളുകളായി നിലനിൽക്കും, എന്നാൽ AI ജോലികളിൽ ഭൂരിഭാഗവും ഇപ്പോൾ ഓപ്പൺ മോഡലുകളിലേക്ക് മാറിക്കൊണ്ടിരിക്കുകയാണ്.