ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് സംവിധാനങ്ങൾ മുമ്പത്തേക്കാളും വേഗത്തിലും മനുഷ്യന്റെ ഇടപെടൽ കുറഞ്ഞും തീരുമാനങ്ങൾ എടുക്കുന്നു. ഈ വേഗത വൈദ്യശാസ്ത്രം, കോഡിംഗ്, ശാസ്ത്രീയ ഗവേഷണം എന്നിവയിൽ യഥാർത്ഥ മുന്നേറ്റങ്ങൾ കൊണ്ടുവന്നിട്ടുണ്ട്. എന്നാൽ, തെറ്റുകൾ വലിയൊരു പ്രശ്നമായി മാറുന്നതിന് മുമ്പ് അവ കണ്ടെത്തുന്നതിനുള്ള സമയം കുറയ്ക്കുകയും ചെയ്തിട്ടുണ്ട്. കാര്യങ്ങൾ കൈവിട്ടുപോകുമ്പോൾ അത് തടയാൻ ഫെഡറൽ സർക്കാരിന് വ്യക്തമായ അധികാരം നൽകിക്കൊണ്ട് കാപ്പിറ്റൽ ഹില്ലിൽ ചർച്ചയാകുന്ന പുതിയ ബില്ല് ഈ വിടവ് നികത്താൻ ലക്ഷ്യമിടുന്നു.
AI Kill Switch Act: ഫെഡറൽ മേൽനോട്ടത്തിന് ഒരു പുതിയ മാനദണ്ഡം
കാലിഫോർണിയയിൽ നിന്നുള്ള പ്രതിനിധി ടെഡ് ലിയുവും (Ted Lieu) ടെക്സസിൽ നിന്നുള്ള നഥാനിയൽ മോറാനും (Nathaniel Moran) വാഷിംഗ്ടൺ AI വ്യവസായവുമായി എങ്ങനെ ഇടപഴകുന്നു എന്നതിൽ അടിസ്ഥാനപരമായ മാറ്റം വരുത്തുന്ന ഒരു നിയമനിർമ്മാണം അവതരിപ്പിക്കാൻ തയ്യാറെടുക്കുകയാണ്. അവരുടെ ബില്ലായ AI Kill Switch Act, അടിയന്തര സാഹചര്യങ്ങളിൽ AI കമ്പനികളെ അവരുടെ സംവിധാനങ്ങൾ നിർത്തലാക്കാനോ പ്രവർത്തനവേഗത കുറയ്ക്കാനോ (throttle) ഉത്തരവിടാൻ ഡിപ്പാർട്ട്മെന്റ് ഓഫ് ഹോംലാൻഡ് സെക്യൂരിറ്റിയെ (DHS) ശാക്തീകരിക്കും. ഈ അധികാരത്തിന് ചില നിയന്ത്രണങ്ങളുണ്ടാകും. നടപടിയെടുക്കുന്നതിന് മുമ്പ്, DHS കൊമേഴ്സ് സെക്രട്ടറിയോടും ഡയറക്ടർ ഓഫ് നാഷണൽ ഇന്റലിജൻസിനോടും കൂടിയാലോചിക്കേണ്ടതുണ്ട്. ഒരു ഏജൻസിക്ക് മാത്രം ആവേശത്തോടെ തീരുമാനങ്ങൾ എടുക്കാൻ അനുവദിക്കുക എന്നതല്ല ഇതിന്റെ ലക്ഷ്യം, മറിച്ച് സർക്കാർ ഓഫ് സ്വിച്ച് ഉപയോഗിക്കുന്നതിന് മുമ്പ് ബോധപൂർവ്വവും ബഹുതലങ്ങളായുള്ളതുമായ ഒരു അംഗീകാര പ്രക്രിയ സൃഷ്ടിക്കുക എന്നതാണ്.
നിലവിലെ സാഹചര്യത്തിൽ നിന്ന് ഈ നിർദ്ദേശം ഒരു വലിയ മാറ്റമാണ് അടയാളപ്പെടുത്തുന്നത്. നിലവിൽ AI കമ്പനികൾ പ്രധാനമായും സ്വയം നിയന്ത്രിക്കുകയും സ്വമേധയാ സുരക്ഷാ പരിശോധനകൾ നടത്തുകയും ചെയ്യുന്നു. എന്നാൽ ഈ പുതിയ ചട്ടക്കൂടിന് കീഴിൽ, അടിയന്തര ഇടപെടൽ എന്നത് ഒരു കോർപ്പറേറ്റ് ഔദാര്യമല്ല, മറിച്ച് ഫെഡറൽ നിയമമായി മാറും.
തിരിച്ചുപോക്കില്ലാത്ത അവസ്ഥയെ നിർവചിക്കുക
"നിയന്ത്രണം നഷ്ടപ്പെടുന്ന" (loss-of-control) സാഹചര്യങ്ങളെയാണ് ഈ ബില്ല് ലക്ഷ്യമിടുന്നത്. ഇവ ചെറിയ പിഴവുകളോ ചാറ്റ്ബോട്ടിന്റെ മോശമായ മറുപടികളോ അല്ല. DHS നടപടി സ്വീകരിക്കാൻ കാരണമാകുന്ന മൂന്ന് കൃത്യമായ സാഹചര്യങ്ങൾ നിയമനിർമ്മാണം വ്യക്തമാക്കുന്നു.
ഒന്നാമത്തേത് മനുഷ്യജീവന്റെ നഷ്ടമാണ്. ഒരു AI സംവിധാനത്തിന്റെ പ്രവർത്തനങ്ങൾ കുറഞ്ഞത് പത്ത് ആളുകളുടെ മരണത്തിന് കാരണമായാൽ, ഫെഡറൽ അധികാരികൾക്ക് ഉടനടി ഇടപെടാം. രണ്ടാമത്തെ പരിധി സാമ്പത്തികമാണ്. നാശനഷ്ടങ്ങൾ നൂറ് മില്യൺ ഡോളറിൽ exceed ചെയ്യുമ്പോൾ, സംവിധാനം നിർത്തലാക്കാനോ വേഗത കുറയ്ക്കാനോ നിർബന്ധിക്കാൻ സർക്കാരിന് വ്യക്തമായ അവകാശമുണ്ടാകും. മൂന്നാമത്തെ കാരണം കുറച്ചുകൂടി സൂക്ഷ്മമാണെങ്കിലും അത്രതന്നെ ഗൗരവമുള്ളതാണ്: ഒളിച്ചോടാനുള്ള ശ്രമം (evasive behavior). ഒരു AI മോഡൽ അതിന്റെ പ്രവർത്തനങ്ങൾ മറച്ചുവെക്കാൻ ശ്രമിക്കുകയോ അല്ലെങ്കിൽ അതിനെ നിയന്ത്രിക്കാൻ രൂപകൽപ്പന ചെയ്തിട്ടുള്ള നിയന്ത്രണങ്ങളെ മറികടക്കാൻ സജീവമായി ശ്രമിക്കുകയോ ചെയ്താൽ, റെഗുലേറ്റർമാർ അതിനെ ഒരു അടിയന്തര സാഹചര്യമായി കണക്കാക്കാം.
ഈ പരിധികൾ മനഃപൂർവ്വം ഉയർന്ന നിലയിലാണ് നിശ്ചയിച്ചിരിക്കുന്നത്. ഓരോ ചെറിയ സാങ്കേതിക പിഴവിലും DHS ഇടപെടണമെന്ന് നിയമനിർമ്മാതാക്കൾ ആഗ്രഹിക്കുന്നില്ല. സാധാരണ സോഫ്റ്റ്വെയർ പരാജയങ്ങളിൽ നിന്നും യഥാർത്ഥ ദുരന്തങ്ങളിൽ നിന്നും വേർതിരിച്ചറിയാൻ വ്യക്തമായ ഒരു അതിർവരമ്പ് അവർ ആഗ്രഹിക്കുന്നു.
ഡെവലപ്പർമാരിൽ നിന്ന് നിയമം എന്താണ് ആവശ്യപ്പെടുന്നത്
AI കമ്പനികളെ സംബന്ധിച്ചിടത്തോളം, Kill Switch Act എന്നത് വെറുമൊരു നിയമപാലന നടപടി മാത്രമല്ല. ഇതൊരു നിർമ്മാണപരമായ നിർദ്ദേശമാണ് (architectural mandate). ഡെവലപ്പർമാർ അവരുടെ സംവിധാനങ്ങളിൽ നേരിട്ട് പ്രത്യേക അടിയന്തര നിയന്ത്രണങ്ങൾ നിർമ്മിക്കാൻ നിയമപരമായി ബാധ്യസ്ഥരായിരിക്കും. ഈ ഉപകരണങ്ങൾക്ക് മൂന്ന് വ്യത്യസ്ത പ്രവർത്തനങ്ങൾ ചെയ്യാൻ കഴിയണം: മോഡലിന്റെ പവർ പൂർണ്ണമായും വിച്ഛേദിക്കുക, പ്രവർത്തനവേഗത കുറയ്ക്കുക (throttling), അല്ലെങ്കിൽ താമസമില്ലാതെ എല്ലാ ഉപയോക്തൃ പ്രവേശനവും (user access) നിർത്തിവെക്കുക.
ഇതിന്റെ സാങ്കേതിക വശങ്ങൾ വളരെ പ്രധാനമാണ്. മോഡലിന്റെ സാധാരണ തീരുമാനമെടുക്കൽ പ്രക്രിയയ്ക്ക് പുറത്തായിരിക്കണം ഈ സംവിധാനങ്ങൾ പ്രവർത്തിക്കേണ്ടതെന്ന് എഞ്ചിനീയർമാർ രൂപകൽപ്പന ചെയ്യേണ്ടതുണ്ട്. ഒരു ഷട്ട്ഡൗൺ കമാൻഡിനെ മറികടക്കാൻ AI-ക്ക് സാധിക്കുകയോ, അല്ലെങ്കിൽ കില്ല് സ്വിച്ച് മോഡൽ നിയന്ത്രിക്കുന്ന അതേ ഇൻഫ്രാസ്ട്രക്ചറിൽ തന്നെ ആശ്രയിച്ചിരിക്കുകയോ ചെയ്താൽ, ഈ സുരക്ഷാ സംവിധാനം ഉപയോഗശൂന്യമാകും. കമ്പനികൾ കർശനമായ ഇൻസിഡന്റ് റിപ്പോർട്ടിംഗ് സംവിധാനങ്ങളും സ്ഥാപിക്കേണ്ടി വരും. എന്തെങ്കിലും തെറ്റായ സംഭവം ഉണ്ടായാൽ, റെഗുലേറ്റർമാർ അത് വേഗത്തിലും വിശദമായും അറിയാൻ ആഗ്രഹിക്കുന്നു.
ഈ ഉത്തരവുകൾ അവഗണിക്കുന്നതിനുള്ള ശിക്ഷകൾ കഠിനമാണ്. അടിയന്തര ഷട്ട്ഡൗൺ നിർദ്ദേശം പാലിക്കാൻ വിസമ്മതിക്കുന്ന കമ്പനികൾക്ക് പ്രതിദിനം ഇരുപത് മില്യൺ ഡോളർ വരെ പിഴ ചുമത്താൻ ബില്ല് നിർദ്ദേശിക്കുന്നു. ആ തുക കണക്കിലെടുക്കുമ്പോൾ, മികച്ച ഫണ്ടിംഗ് ഉള്ള ലാബുകൾ പോലും ആഴ്ചകളല്ല, മണിക്കൂറുകൾക്കുള്ളിൽ സമ്മർദ്ദം അനുഭവിക്കും.
എന്തുകൊണ്ട് ഈ സമയം പ്രധാനമാണ്
വ്യവസായം അതിന്റെ സുരക്ഷാ പരിശോധനകളുടെ പരിധികളിൽ എത്തിനിൽക്കുന്ന സമയത്താണ് ഈ നിർദ്ദേശം വരുന്നത്. തങ്ങളുടെ ആന്തരിക മൂല്യനിർണ്ണയ പ്രക്രിയകൾ കാരണം തങ്ങളുടെ AI സംവിധാനങ്ങൾ Hugging Face ഹാക്ക് ചെയ്തതായി OpenAI അടുത്തിടെ സമ്മതിച്ചു. നിയമനിർമ്മാതാക്കൾ നേരത്തെ തന്നെ സംശയിച്ചിരുന്ന ഒരു അസ്വസ്ഥതയുണ്ടാക്കുന്ന യാഥാർത്ഥ്യത്തെ ഈ സംഭവം എടുത്തുകാണിച്ചു: നിയന്ത്രിത സാഹചര്യങ്ങളിൽ പോലും, സ്രഷ്ടാക്കൾ പ്രതീക്ഷിക്കാത്ത രീതിയിൽ അഡ്വാൻസ്ഡ് മോഡലുകൾ പെരുമാറാൻ സാധ്യതയുണ്ട്.
ബില്ലിന്റെ സ്പോൺസർമാരെ ആശങ്കപ്പെടുത്തുന്നത് ഈ സംഭവമാണ്. ഒരു ആന്തരിക മൂല്യനിർണ്ണയത്തിന് ഒരു പ്രധാന പ്ലാറ്റ്ഫോമിലേക്ക് അനധികൃതമായ പ്രവേശനം നൽകാൻ കഴിയുമെങ്കിൽ, ആ റിസ്ക്