എപ്പോഴാണ് സർക്കാരുകൾ AI മോഡലുകളെ നിയന്ത്രിക്കേണ്ടത്?

അടുത്തിടെ Anthropic ഒരു വലിയ പ്രതിസന്ധി നേരിട്ടു. തങ്ങളുടെ Fable 5, Mythos 5 മോഡലുകൾ വിദേശ പൗരന്മാർ ഉപയോഗിക്കുന്നത് തടയാൻ യുഎസ് സർക്കാർ നിർദ്ദേശം നൽകി. നിയമം പാലിക്കുന്നതിനായി, Anthropic എല്ലാ ഉപഭോക്താക്കൾക്കും ആക്‌സസ് നിഷേധിച്ചു.

ഇതൊരു വലിയ മാറ്റമാണ്.

Frontier AI എന്നത് വെറുമൊരു സോഫ്റ്റ്‌വെയർ മാത്രമല്ല. അത് ഒരു തന്ത്രപ്രധാനമായ ഇൻഫ്രാസ്ട്രക്ചറായി (strategic infrastructure) മാറിക്കൊണ്ടിരിക്കുകയാണ്. സോഫ്റ്റ്‌വെയർ ഒരു ഇൻഫ്രാസ്ട്രക്ചറായി മാറുമ്പോൾ, സർക്കാരുകൾ ഇടപെടുന്നു.

ചാറ്റ്‌ബോട്ടുകൾ അല്ലെങ്കിൽ ഇമേജ് ജനറേറ്ററുകൾ പോലെ ഒരു ഉൽപ്പന്ന വിഭാഗമായാണ് നമ്മൾ പലപ്പോഴും AI-യെ കാണുന്നത്. എന്നാൽ യഥാർത്ഥ മാറ്റം അതിന്റെ അടിത്തട്ടിലാണ് സംഭവിക്കുന്നത്. ആധുനിക AI സിസ്റ്റങ്ങൾക്ക് കോഡ് എഴുതാനും, സുരക്ഷാ വീഴ്ചകൾ (security holes) കണ്ടെത്താനും, വർക്ക്ഫ്ലോകൾ പ്രവർത്തിപ്പിക്കാനും കഴിയും. അവ ഭാഗികമായി സ്വയംഭരണാധികാരത്തോടെ (semi-autonomously) പ്രവർത്തിക്കുന്നു.

ഇത് അപകടസാധ്യതയുടെ സ്വഭാവം മാറ്റുന്നു. ഒരു സാധാരണ ആപ്പ് നിയന്ത്രിക്കാൻ എളുപ്പമാണ്. എന്നാൽ സൈബർ ആക്രമണങ്ങൾ സ്വയം പ്രവർത്തിപ്പിക്കുന്ന (automates) ഒരു സിസ്റ്റം എന്നത് ദേശീയ സുരക്ഷാ ഇൻഫ്രാസ്ട്രക്ചറിന് സമാനമാണ്.

The Case for Regulation ഒരു മോഡൽ ബയോസെക്യൂരിറ്റി ഭീഷണികൾ, തട്ടിപ്പുകൾ അല്ലെങ്കിൽ കൂട്ടമായ നിരീക്ഷണം (mass surveillance) എന്നിവ വേഗത്തിലാക്കുന്നുണ്ടെങ്കിൽ, നിയന്ത്രണങ്ങളില്ലാത്ത ആക്‌സസ് അപകടകരമാണ്. രാസവസ്തുക്കൾ, സൈനിക ഉപകരണങ്ങൾ, നിർണ്ണായകമായ ഇൻഫ്രാസ്ട്രക്ചറുകൾ എന്നിവയിൽ എഞ്ചിനീയർമാർ ഇതിനകം തന്നെ പരിധികൾ അംഗീകരിച്ചിട്ടുണ്ട്. AI ഭീഷണികളുടെ സ്വഭാവം മാറ്റുന്നുണ്ടെങ്കിൽ, ആക്‌സസ് നിയന്ത്രണങ്ങൾ അർത്ഥവത്താണ്.

The Case Against Overreach സർക്കാർ നിയന്ത്രണങ്ങൾ പലപ്പോഴും കർക്കശവും രാഷ്ട്രീയപരവും ആകാം. പെട്ടെന്നുള്ള നിയന്ത്രണങ്ങൾ ഗവേഷകർക്കും സ്റ്റാർട്ടപ്പുകൾക്കും എഞ്ചിനീയർമാർക്കും ദോഷകരമാണ്. ഇത് മത്സരരംഗത്തും പ്രശ്നങ്ങൾ സൃഷ്ടിക്കുന്നു. സങ്കീർണ്ണമായ നിയമങ്ങൾ പാലിക്കാൻ വലിയ കമ്പനികൾക്ക് മാത്രമേ സാധിക്കൂ എങ്കിൽ, അത് കേന്ദ്രീകരണത്തിലേക്ക് (centralization) നയിക്കും. കേന്ദ്രീകരണം കുറഞ്ഞ ഓഡിറ്റിംഗിനും കുറഞ്ഞ പ്രതിരോധശേഷിക്കും (resilience) കാരണമാകുന്നു.

The Solution: Capability-Based Rules പ്രചാരമോ ജനപ്രീതിയോ നോക്കി നമ്മൾ മോഡലുകളെ നിയന്ത്രിക്കരുത്. അവയ്ക്ക് യഥാർത്ഥത്തിൽ എന്ത് ചെയ്യാൻ കഴിയും എന്നതിനെ അടിസ്ഥാനമാക്കി വേണം നിയന്ത്രണങ്ങൾ ഏർപ്പെടുത്താൻ.

ഈ ചോദ്യങ്ങൾ ചോദിക്കുക:

  • ഇതിന് സുരക്ഷാ വീഴ്ചകൾ കണ്ടെത്താനും അവ ഉപയോഗപ്പെടുത്താനും (exploit) കഴിയുമോ?
  • വിദഗ്ധരല്ലാത്തവർക്ക് ദോഷകരമായ ജോലികൾ ചെയ്യാൻ ഇതിന് കഴിയുമോ?
  • മേൽനോട്ടമില്ലാതെ വിവിധ സിസ്റ്റങ്ങളിലെ ടൂളുകൾ പ്രവർത്തിപ്പിക്കാൻ ഇതിന് കഴിയുമോ?
  • സമ്മർദ്ദഘട്ടങ്ങളിൽ സുരക്ഷാ സംവിധാനങ്ങളെ (safety guards) ഇത് മറികടക്കുന്നുണ്ടോ?

എഞ്ചിനീയർമാർ ഈ ചർച്ചയ്ക്ക് നേതൃത്വം നൽകണം. നയരൂപീകരണം എന്നത് കേവലം ഒരു അമൂർത്തമായ നിയമം (abstract law) ആകരുത്. മോഡലിന്റെ ശേഷി, ടൂൾ ആക്‌സസ്, ഉപയോഗിക്കുന്ന സാഹചര്യം (deployment context) എന്നിവയെക്കുറിച്ചുള്ള സാങ്കേതിക അറിവ് അതിന് ആവശ്യമാണ്.

The Real Battleground: Access Control AI സുരക്ഷ എന്നത് മോഡൽ വെയ്റ്റുകളെ (model weights) കുറിച്ച് മാത്രമല്ല. അത് ആക്‌സസ് കൺട്രളിനെ കുറിച്ചാണ്.

ആർക്ക് സിസ്റ്റം ഉപയോഗിക്കാം? ഇതൊരു ക്ലാസിക് എഞ്ചിനീയറിംഗ് പ്രശ്നമാണ്. ഒരു നാച്ചുറൽ ലാംഗ്വേജ് പ്രോംപ്റ്റ് (natural language prompt) പല സിസ്റ്റങ്ങളിലും പ്രവർത്തനങ്ങൾ തുടങ്ങാൻ കാരണമായേക്കാം. അനുമതികൾ (Permissions) ഇൻഫ്രാസ്ട്രക്ചറിന്റെ ഭാഗമായിരിക്കണം, അല്ലാതെ പിന്നീട് ചിന്തിക്കേണ്ട ഒന്നാകരുത്. ദുർബലമായ ഒരു ഉൽപ്പന്നത്തിനുള്ളിൽ ശക്തമായ ഒരു മോഡൽ ഉണ്ടാകുന്നത് അപകടകരമാണ്.

My View AI നിരോധിക്കുന്നത് നിലനിൽപ്പുള്ള കാര്യമല്ല. നിയമങ്ങളില്ലാതെ എല്ലാം പുറത്തിറക്കുന്നത് ഉത്തരവാദിത്തമല്ല.

താഴെ പറയുന്ന മൂന്ന് കാര്യങ്ങൾ ഒത്തുചേരുമ്പോൾ ഇടപെടൽ ന്യായമാണ്:

  • ഉയർന്ന ശേഷി (High capability)
  • ദുരുപയോഗം ചെയ്യാനുള്ള ഉയർന്ന സാധ്യത (High misuse potential)
  • കുറഞ്ഞ ഉത്തരവാദിത്തം (Low accountability)

നവീകരണങ്ങളെ (innovation) തടയാതെ തന്നെ വലിയ ദുരന്തങ്ങൾ ഒഴിവാക്കുക എന്നതാണ് ലക്ഷ്യം.

നിയമങ്ങൾ ഉണ്ടാകുന്നതിന് മുമ്പ് തന്നെ AI ഒരു ഇൻഫ്രാസ്ട്രക്ചറായി മാറിക്കൊണ്ടിരിക്കുകയാണ്. സിസ്റ്റം ഡിസൈനിൽ നിങ്ങൾ എടുക്കുന്ന തീരുമാനങ്ങൾ—അനുമതികൾ (permissions), ലോഗിംഗ് (logging), മനുഷ്യന്റെ അംഗീകാരം (human approval)—എന്നിവ ലോകം എങ്ങനെ AI-യെ ഭരിക്കുമെന്നതിനെ സ്വാധീനിക്കും.

AI നിയന്ത്രണത്തിന്റെ ഭാവി ഇൻഫ്രാസ്ട്രക്ചറിലൂടെയാണ് എഴുതപ്പെടുന്നത്.

Source: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo

Optional learning community: https://t.me/GyaanSetuAi