Z.ai ഓഗസ്റ്റ് 14-ന് പ്രഖ്യാപിച്ചത് തങ്ങളുടെ പുതിയ GLM-5.3 മോഡൽ വാഗ്ദാനം ചെയ്തതുപോലെ ഓപ്പൺ വെയ്റ്റ്‌സോടെ (open weights) ലഭ്യമാകില്ല എന്നാണ്. സുരക്ഷാ പരിശോധന നടത്തുന്നതിനായി കമ്പനി ഈ മോഡലിനെ അടുത്ത രണ്ടാഴ്ചത്തേക്ക് ഒരു API-ക്കും സബ്‌സ്‌ക്രിപ്‌ഷൻ സേവനത്തിനും പിന്നിലായി നിലനിർത്തും, കൂടാതെ പൊതുവായ ഡൗൺലോഡ് ഓഗസ്റ്റ് 28-ഓടെ ലഭ്യമാക്കും. മോഡലിന്റെ അപ്രതീക്ഷിതമായി ശക്തമായ 'ഓഫൻസീവ്-സെക്യൂരിറ്റി' (offensive-security) കഴിവുകളാണ് ഈ കാലതാമസത്തിന് കാരണമെന്ന് Z.ai പറയുന്നു—മോഡൽ സൗജന്യമായി ഡൗൺലോഡ് ചെയ്യാൻ സാധിച്ചാൽ ഈ കഴിവുകൾ ആയുധമായി ഉപയോഗിക്കാൻ (weaponised) സാധ്യതയുണ്ട്.

ഈ മാറ്റിവെക്കൽ പ്രധാനമാകുന്നത് എന്തുകൊണ്ട്

കോഡിംഗ്, ലോംഗ്-ഹൊറൈസൺ ഏജന്റ് ടാസ്ക്കുകൾ (long-horizon agent tasks), സൈബർ സെക്യൂരിറ്റി എന്നിവയിൽ വിദഗ്ദ്ധനായ ഒന്നായാണ് GLM-5.3 അവതരിപ്പിക്കപ്പെടുന്നത്. മുൻപത്തെ റിലീസുകളിൽ Z.ai മോഡൽ വെയ്റ്റ്‌സ് ഉടനടി ലഭ്യമാക്കിയിരുന്നു, ഇത് സ്വന്തം ഹാർഡ്‌വെയറിൽ ലാർജ് ലാംഗ്വേജ് മോഡലുകൾ പ്രവർത്തിപ്പിക്കുന്ന ഡെവലപ്പർമാരെ ആകർഷിച്ചിരുന്നു. എന്നാൽ ഇത്തവണ ഡൗൺലോഡ് പേജിലെ ഇൻസ്റ്റന്റ്-ആക്സസ് ലിങ്കിന് പകരം "Coming Soon" എന്ന ബട്ടൺ വന്നിരിക്കുന്നു, ഇത് സുതാര്യതയിൽ നിന്ന് ജാഗ്രതയിലേക്കുള്ള മാറ്റത്തെ സൂചിപ്പിക്കുന്നു.

ആന്തരിക പരിശോധനകളിൽ മോഡൽ പ്രതീക്ഷിച്ചതിലും വേഗത്തിൽ 'ഓഫൻസീവ് സെക്യൂരിറ്റി' കഴിവുകൾ നേടിയതായി കണ്ടെത്തിയതിനെത്തുടർന്ന് സുരക്ഷാ ടീം മുന്നറിയിപ്പ് നൽകി. ആർക്കും വെയ്റ്റ്‌സ് കോപ്പി ചെയ്ത് മോഡൽ ഓഫ്‌ലൈനിൽ പ്രവർത്തിപ്പിക്കുന്നതിന് മുമ്പ്, ദുരുപയോഗത്തിനുള്ള സാധ്യത വിലയിരുത്തുന്നതിനായുള്ള ഉത്തരവാദിത്തപരമായ നടപടിയായാണ് Z.ai ഈ കാലതാമസത്തെ കാണുന്നത്.

നിയന്ത്രിത റിലീസുകളിലേക്ക് മാറുന്ന വ്യവസായ മേഖല

തങ്ങളുടെ ഏറ്റവും കഴിവുള്ള ഏജന്റുകളുടെ ആക്സസ് നിയന്ത്രിക്കുന്നതിൽ Z.ai തനിച്ചല്ല. ശക്തമായതും ടൂളുകൾ ഉപയോഗിക്കാൻ ശേഷിയുള്ളതുമായ മോഡലുകളുടെ നിയന്ത്രണമില്ലാത്ത വിതരണം യഥാർത്ഥ അപകടസാധ്യതയുണ്ടാക്കുന്നു എന്ന വളർന്നുവരുന്ന പൊതുവായ അഭിപ്രായത്തെ മറ്റ് മൂന്ന് പ്രമുഖ ലാബുകളുടെ സമീപനങ്ങളും വ്യക്തമാക്കുന്നു.

  • OpenAI ഇപ്പോൾ തങ്ങളുടെ സൈബർ സെക്യൂരിറ്റി കേന്ദ്രീകരിച്ചുള്ള മോഡൽ ഉപയോഗിക്കുന്നതിന് ഐഡന്റിറ്റി വെരിഫിക്കേഷൻ ആവശ്യപ്പെടുന്നു, ഇത് ആർക്കൊക്കെ മോഡലിനെ ഉപയോഗിക്കാം എന്നതിനെ പരിമിതപ്പെടുത്തുന്നു.
  • Anthropic തങ്ങളുടെ ഏറ്റവും മികച്ച പ്രകടനം കാഴ്ചവെക്കുന്ന മോഡലിനെ നിയന്ത്രിത ഇന്റർഫേസുകൾ വഴി മാത്രം ലഭ്യമാക്കിയിരിക്കുന്നു.

ഈ നടപടികൾ കാണിക്കുന്നത് വ്യവസായം ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത് വെറും ബെഞ്ച്മാർക്ക് സ്കോറുകളിൽ നിന്ന് മാറി, മൾട്ടി-സ്റ്റെപ്പ് പ്ലാനുകൾ നടപ്പിലാക്കാനും ബാഹ്യ ടൂളുകൾ കൈകാര്യം ചെയ്യാനും പിഴവുകളിൽ നിന്ന് തിരിച്ചു വരാനുമുള്ള മോഡലുകളുടെ കഴിവിലേക്കാണെന്നാണ്—ഈ കഴിവുകൾ ദുരുപയോഗം ചെയ്യുന്നവർക്കും ആകർഷകമാണ്.

എന്താണ് ഇതിൽ പ്രധാനപ്പെട്ടത്

വെയ്റ്റ്‌സ് ഒടുവിൽ MIT പോലുള്ള അനുമതി നൽകുന്ന ഒരു ലൈസൻസിന് കീഴിൽ പുറത്തിറങ്ങുകയാണെങ്കിൽ, സുരക്ഷാ ഗവേഷകർക്ക് മോഡലിന്റെ സാങ്കേതികവിദ്യകൾ പഠിക്കാനും പ്രതിരോധ മാർഗങ്ങൾ വികസിപ്പിക്കാനും ഈ സാങ്കേതികവിദ്യ പ്രതിരോധ ടൂളുകളിൽ ഉൾപ്പെടുത്താനും സാധിക്കും. സുതാര്യത ഭീഷണികളെ നേരിടാൻ സമൂഹത്തെ സഹായിക്കുന്നു എന്ന തത്വം ഒരു ഓപ്പൺ സോഴ്‌സ് റിലീസ് ശക്തിപ്പെടുത്തും.

നേരെമറിച്ച്, കൂടുതൽ നിയന്ത്രണങ്ങളുള്ള ഒരു ലൈസൻസ് വന്നാൽ, ഓപ്പൺ വെയ്റ്റ്‌സുകൾക്ക് വേണ്ടി വാദിക്കുന്നവർ പോലും മോഡൽ പ്രവർത്തിപ്പിക്കാൻ കഴിയുന്നവരെ പരിമിതപ്പെടുത്തേണ്ടതിന്റെ ആവശ്യകത കാണുന്നു എന്നാണ് അത് സൂചിപ്പിക്കുന്നത്. ഇത് ഒരു പുതിയ രീതിക്ക് തുടക്കമിടുകയും ഈ മേഖലയെ "access-by-API" സാമ്പത്തിക വ്യവസ്ഥയിലേക്ക് നയിക്കുകയും ചെയ്തേക്കാം.

പ്രധാന പ്രശ്നം ഇതാണ്: ഒരു മോഡൽ ഫയൽ പരസ്യമായി പോസ്റ്റ് ചെയ്തുകഴിഞ്ഞാൽ, അതിന്റെ ദുരുപയോഗം തടയാനുള്ള കഴിവ് പബ്ലിഷർക്ക് നഷ്ടപ്പെടുന്നു. രണ്ടാഴ്ചത്തെ സുരക്ഷാ പരിശോധനയ്ക്ക് ഈ പ്രശ്നം പരിഹരിക്കാൻ കഴിയില്ലെങ്കിലും, മാർഗ്ഗനിർദ്ദേശങ്ങൾ തയ്യാറാക്കാനും ഉപയോഗ നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്താനോ ലൈസൻസിംഗിൽ മാറ്റം വരുത്താനോ ഇത് സമയം നൽകുന്നു.

ഓഗസ്റ്റ് 28-ന് ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

GLM-5.3-ന്റെ അടുത്ത അധ്യായം നിർണ്ണയിക്കുന്നത് ഈ രണ്ട് ചോദ്യങ്ങളാണ്: