ജെൻസൻ ഹുവാങ്ങിന് ഇത്തരം ഭീതിജനകമായ കഥകൾ മതിയായിക്കഴിഞ്ഞു. AI വ്യവസായം നയിക്കുന്നവർ ശാസ്ത്രകഥകളിലെ (sci-fi) ദുരന്തങ്ങളെക്കുറിച്ച് പൊതുജനങ്ങളെ മുന്നറിയിപ്പ് നൽകാൻ കൂടുതൽ സമയവും ചെലവഴിക്കുന്നുവെന്നും, എന്നാൽ ഈ സാങ്കേതികവിദ്യ ഫാക്ടറിത്തറുകളിലും കോഡ്ബേസുകളിലും (codebases) എൻ്റർപ്രൈസ് വർക്ക്ഫ്ലോകളിലും (enterprise workflows) യഥാർത്ഥത്തിൽ എന്താണ് ചെയ്യുന്നതെന്ന് വിശദീകരിക്കാൻ മതിയായ സമയം ചെലവഴിക്കുന്നില്ലെന്നും എൻവിഡിയ (Nvidia) സിഇഒ കരുതുന്നു. അദ്ദേഹത്തിൻ്റെ കാഴ്ചപ്പാടിൽ, ആധുനിക AI-യുടെ കരുത്ത് ഇനി വെളിപ്പെടുത്തേണ്ട രഹസ്യമല്ല. നമുക്കതറിയാം. ഈ സംവിധാനങ്ങൾക്ക് വലിയ കഴിവുകളുണ്ട്. എന്നാൽ ഇപ്പോൾ നമുക്ക് വേണ്ടത് ഉൽപ്പാദനപരമായ യാഥാർത്ഥ്യങ്ങളെക്കുറിച്ചുള്ള (production reality) ഗൗരവമായ ചർച്ചയാണ്—ഈ മോഡലുകൾ യഥാർത്ഥ ഉൽപ്പന്നങ്ങളിൽ ഘടിപ്പിക്കുമ്പോൾ അവ എങ്ങനെ പെരുമാറുന്നു, അവ പരാജയപ്പെടുമ്പോൾ ആരാണ് ഉത്തരവാദി, വലിയ തിരക്കുകൾക്കിടയിൽ (under load) സുരക്ഷാ സംവിധാനങ്ങൾ (guardrails) യഥാർത്ഥത്തിൽ എങ്ങനെയായിരിക്കണം എന്നിവയെക്കുറിച്ചുള്ള ചർച്ച.
ഹുവാങ്ങിൻ്റെ നിലപാട് വ്യക്തമാണ്: AI-യെ ഒരു വിധി (destiny) ആയിട്ടല്ല, മറിച്ച് ഒരു ഉപകരണം (tool) ആയി കാണുക. ഈ വ്യത്യാസം വെറുമൊരു തത്വശാസ്ത്രപരമായ തർക്കമല്ല. കമ്പനികൾ എങ്ങനെ നിർമ്മിക്കുന്നുവെന്നും, നിയന്ത്രണ ഏജൻസികൾ എങ്ങനെ പ്രതികരിക്കുന്നുവെന്നും, ഉപഭോക്താക്കൾ എങ്ങനെ തീരുമാനങ്ങൾ എടുക്കുന്നുവെന്നും ഇത് സ്വാധീനിക്കുന്നു. കഥാപരിസരം 'ലോകാവസാനത്തിൽ' നിന്ന് 'ഉപകരണ ഉപയോഗത്തിലേക്ക്' മാറുമ്പോൾ പ്രായോഗികമായ പല കാര്യങ്ങളിലും മാറ്റം വരുന്നു.
വിശ്വാസ്യതയുടെ വില
AI നേതാക്കൾ രണ്ട് വ്യത്യസ്ത രീതിയിൽ സംസാരിക്കുന്ന ശീലം വളർത്തിയെടുത്തിട്ടുണ്ട്. കോൺഫറൻസ് വേദികളിലും സെനറ്റ് ഹിയറിംഗുകളിലും, സ്വയംഭരണാധികാരമുള്ള (autonomous) സംവിധാനങ്ങൾ മനുഷ്യരാശിയെ തോൽപ്പിക്കുമെന്ന തരത്തിലുള്ള അസ്തിത്വപരമായ ഭീഷണികളെക്കുറിച്ചും (existential risks) സിനിമാറ്റിക് ഭാവികളെക്കുറിച്ചും അവർ സംസാരിക്കുന്നു. എന്നാൽ അടുത്ത ദിവസം തന്നെ, തങ്ങൾ നശിപ്പിക്കുമെന്ന് മുന്നറിയിപ്പ് നൽകിയ അതേ സാങ്കേതികവിദ്യ തന്നെ നിർണ്ണായകമായ വർക്ക്ഫ്ലോകൾ കൈകാര്യം ചെയ്യാൻ എൻ്റർപ്രൈസുകളെ പ്രേരിപ്പിച്ചുകൊണ്ട് അവർ ഉൽപ്പന്ന റോഡ്മാപ്പുകൾ പ്രസിദ്ധീകരിക്കുന്നു. ഈ വൈരുദ്ധ്യം വലിയൊരു വില നൽകേണ്ടി വരുന്ന ഒന്നാണ്.
വാങ്ങുന്നവരും നിയന്ത്രണ ഏജൻസികളും ഇത് ശ്രദ്ധിക്കുന്നു. ഒരേ വ്യക്തികൾ തന്നെ ലോകാവസാനത്തെക്കുറിച്ചും ഉൽപ്പന്ന വിപണനത്തെക്കുറിച്ചും സംസാരിക്കുമ്പോൾ, വ്യവസായത്തിന് അതിന്റെ വിശ്വാസ്യത നഷ്ടപ്പെടുന്നു. എൻ്റർപ്രൈസ് ഉപഭോക്താക്കൾ ഇത്തരം മുന്നറിയിപ്പുകളെയും വാഗ്ദാനങ്ങളെയും ഒരുപോലെ അവഗണിക്കാൻ തുടങ്ങുന്നു. വില നിശ്ചയിക്കാൻ വേണ്ടി നടത്തുന്ന മാർക്കറ്റിംഗ് തന്ത്രമായാണ് പ്രൊക്യുർമെൻ്റ് (procurement) ടീമുകൾ ഈ അസ്തിത്വപരമായ സംസാരങ്ങളെ കാണുന്നത്. ഗവൺമെൻ്റ് ഏജൻസികൾ കൃത്യമായ മാനദണ്ഡങ്ങൾ രൂപീകരിക്കുന്നതിന് പകരം, പൊതുവായ നിയന്ത്രണങ്ങൾ കൊണ്ടുവരാൻ ശ്രമിക്കുന്നു. ഇത് യഥാർത്ഥ ചോദ്യങ്ങളെയും അനാവശ്യമായ ഭീതിയെയും തമ്മിൽ തിരിച്ചറിയാൻ കഴിയാത്ത അവസ്ഥയുണ്ടാക്കുന്നു. AI ഒരു ഉപകരണമാണെങ്കിൽ, ഒരു പുതിയ ഡാറ്റാബേസ് ആർക്കിടെക്ചറോ (database architecture) സപ്ലൈ-ചെയിൻ പ്ലാറ്റ്ഫോമോ കൈകാര്യം ചെയ്യുന്ന അതേ പ്രായോഗികതയോടെ അതിനെക്കുറിച്ച് ചർച്ച ചെയ്യണം എന്നതാണ് ഹുവാങ്ങിൻ്റെ അഭിപ്രായം.
ആശങ്കയേക്കാൾ പ്രധാനം എഞ്ചിനീയറിംഗ്
ഭയം അടിസ്ഥാനമാക്കിയുള്ള റോഡ്മാപ്പുകളും കഴിവിനെ (capability) അടിസ്ഥാനമാക്കിയുള്ളവയും വ്യത്യസ്തമാണ്. ഭയത്താൽ പ്രവർത്തിക്കുന്ന ഒരു സ്ഥാപനം കഠിനവും കേന്ദ്രീകൃതവുമായ നിയന്ത്രണങ്ങൾ നിർമ്മിക്കുന്നു. ഓരോ ഫീച്ചറിനും കമ്മിറ്റിയുടെ അനുമതി ആവശ്യമാണ്. റിസ്ക് എടുക്കാനുള്ള കഴിവ് ഇല്ലാതാകുന്നതിനാൽ സ്വയംഭരണാധികാരം (autonomy) സിദ്ധാന്തങ്ങളിൽ മാത്രം ഒതുങ്ങുന്നു. ഇതിൻ്റെ ഫലം സുരക്ഷയല്ല, മറിച്ച് പ്രവർത്തനരഹിതമായ അവസ്ഥയാണ് (paralysis).
ഇതിനു വിപരീതമായി, കഴിവിനെ അടിസ്ഥാനമാക്കിയുള്ള റോഡ്മാപ്പുകൾ സ്വയംഭരണാധികാരത്തെ വളരെ ശ്രദ്ധയോടെയാണ് അവതരിപ്പിക്കുന്നത്. തെറ്റുകൾ സംഭവിക്കുമ്പോൾ ഉണ്ടാകുന്ന പ്രത്യാഘാതങ്ങൾ കുറഞ്ഞ പരിധിയുള്ള ചെറിയ മേഖലകളിൽ നിന്നാണ് അവർ തുടങ്ങുന്നത്. പ്രധാനപ്പെട്ട തീരുമാനങ്ങൾ എടുക്കുമ്പോൾ human-in-the-loop ഡിസൈൻ അവർ നിർബന്ധമാക്കുന്നു. അവർ ടൂളുകളുടെ പരിധികൾ കൃത്യമായി നിർവചിക്കുന്നു: ഉദാഹരണത്തിന്, ഈ ഏജന്റിന് ഇൻവെൻ്ററി API ക്വറി ചെയ്യാൻ കഴിയും, പക്ഷേ പർച്ചേസ് ഓർഡറുകൾ നൽകാൻ കഴിയില്ല. അവർ ഓഡിറ്റ് ലോഗുകൾ (audit logs) കൃത്യമായി നിർമ്മിക്കുന്നു. ഏറ്റവും പ്രധാനമായി, അവർ യഥാർത്ഥ പ്രൊഡക്ഷൻ ലോഡിൽ kill switches പരീക്ഷിക്കുന്നു. ലാബിൽ പ്രവർത്തിക്കുന്നതും എന്നാൽ തിരക്ക് കൂടുമ്പോൾ പരാജ
ഈ കാര്യങ്ങളിലൊന്നും മെച്ചം വരുത്താതെ കാര്യങ്ങളുടെ ഗൗരവം മാത്രം വർദ്ധിപ്പിക്കുന്ന വാചകപ്രയാസം എന്നത് ഒരു 'മാർക്കറ്റിംഗ് ഡെറ്റ്' (marketing debt) ആണ്. ഇത് ഭാവിയിൽ നിന്ന് ശ്രദ്ധ കടമെടുക്കുകയും, അതേസമയം നിലവിലെ സാഹചര്യങ്ങളിൽ കൂടുതൽ സങ്കീർണ്ണമായ പ്രക്രിയകളും സാവധാനത്തിലുള്ള പുരോഗതിയും അടിച്ചേൽപ്പിക്കുകയും ചെയ്യുന്നു.
യഥാർത്ഥ സുരക്ഷ എങ്ങനെയായിരിക്കും
യഥാർത്ഥ സുരക്ഷ എന്നത് നിരീക്ഷിക്കാവുന്നതും വിരസവുമായ ഒന്നാണ്. ഇത് വെറും പൊതുവായ അറിവിന്റെ മാനദണ്ഡങ്ങൾ (benchmarks) പരിശോധിക്കുന്നതിന് പകരം, ഒരു പ്രത്യേക മേഖലയിലെ അപൂർവ്വ സാഹചര്യങ്ങളെ (edge cases) പരിശോധിക്കുന്ന മികച്ച മൂല്യനിർണ്ണയങ്ങളിലൂടെയാണ് പ്രകടമാകുന്നത്. ഒരു AI സിസ്റ്റത്തിന് അതിന്റെ ജോലിക്ക് ആവശ്യമായ ഏറ്റവും കുറഞ്ഞ അനുമതികൾ മാത്രം നൽകുന്ന സൂക്ഷ്മമായ ടൂൾ പെർമിഷനുകളിലൂടെയും ഇത് കാണാം. കൂടാതെ, പ്രൊഡക്ഷൻ പരിധികളായ rate limits, input sanitization, output filtering, കൂടാതെ പരാജയപ്പെടുമ്പോൾ വലിയ തകർച്ചയ്ക്ക് പകരം സുഗമമായി പ്രവർത്തനം കുറയ്ക്കുന്ന circuit breakers എന്നിവയിലൂടെയും സുരക്ഷ പ്രകടമാകുന്നു.
മുന്നറിയിപ്പുകളെക്കുറിച്ചുള്ള ഹുവാങ്ങിന്റെ മുന്നറിയിപ്പ് യഥാർത്ഥത്തിൽ പ്രവർത്തനപരമായ സത്യസന്ധതയ്ക്കായുള്ള ഒരു അഭ്യർത്ഥനയാണ്. ഭയം വിൽക്കുന്നത് നിർത്തുക. പകരം പ്രവർത്തനക്ഷമമായ നിയന്ത്രണങ്ങൾ നിർമ്മിച്ചു തുടങ്ങുക. തങ്ങളുടെ സുരക്ഷാ കാര്യങ്ങളെ അമിതപ്രചാരണങ്ങളിൽ (hype) നിന്ന് വേർതിരിച്ചു നിർത്തുന്ന നിർമ്മാതാക്കൾക്ക് വിശ്വാസം നേടിയെടുക്കാൻ സാധിക്കും; ഇത് അവർക്ക് ഉൽപ്പന്നങ്ങൾ പുറത്തിറക്കാനും (ship), അവ പരിഷ്കരിക്കാനും, മെച്ചപ്പെടുത്താനും സഹായിക്കും. എന്നാൽ അല്ലാത്തവർക്ക് തങ്ങളുടെ മുന്നറിയിപ്പുകൾ വെറും പശ്ചാത്തല ശബ്ദമായി (background noise) മാറുന്നത് കാണേണ്ടി വരും—അവരുടെ ഉൽപ്പന്നങ്ങൾ യഥാർത്ഥ വ്യാപ്തിയിൽ എത്തുന്നതിന് മുമ്പ് തന്നെ തടസ്സപ്പെടുകയും ചെയ്യും.
Optional learning community: https://t.me/GyaanSetuAi