𝗔𝗜 𝗣𝘀𝘆𝗰𝗵𝗼𝘀𝗶𝘀 𝗜𝘀 𝗡𝗼 𝗟𝗼𝗻𝗴𝗲𝗿 𝗙𝗶𝗰𝘁𝗶𝗼𝗻
മനുഷ്യ മസ്തിഷ്കത്തിന് ഉൾക്കൊള്ളാൻ കഴിയുന്നതിനേക്കാൾ വേഗത്തിലാണ് സാങ്കേതികവിദ്യ മുന്നേറുന്നത്.
Cyberpunk 2077 എന്ന ഗെയിമിൽ, കഥാപാത്രങ്ങൾ സൈബർസൈക്കോസിസ് (cyberpsychosis) എന്ന അവസ്ഥയിലൂടെ കടന്നുപോകുന്നു. യന്ത്രങ്ങളെ അമിതമായി ആശ്രയിക്കുന്നത് കാരണം അവർക്ക് അവരുടെ മനുഷ്യത്വം നഷ്ടപ്പെടുന്നു. ഇത് ഒരു സയൻസ് ഫിക്ഷൻ പോലെ തോന്നാമെങ്കിലും, ഇതിന്റെ യഥാർത്ഥ രൂപം ഇന്ന് നമ്മൾ കാണുന്നുണ്ട്.
ഇതിനെ ഞാൻ AI സൈക്കോസിസ് എന്ന് വിളിക്കുന്നു. ഇതൊരു വൈദ്യശാസ്ത്രപരമായ അവസ്ഥയല്ല. ഇതൊരു സാംസ്കാരികമായ ആശ്രയത്വമാണ്.
ആളുകൾ നിരന്തരം AI-യെ വിമർശിക്കുന്നുണ്ടെങ്കിലും, എല്ലാ കാര്യങ്ങൾക്കും അവർ അത് ഉപയോഗിക്കുന്നുണ്ട്. നമ്മുടെ ചിന്തയും എഴുത്തും തീരുമാനമെടുക്കലും പോലും നമ്മൾ മോഡലുകളെ ഏൽപ്പിക്കുകയാണ്. ഈ ടൂളുകൾ ഉപയോഗിക്കാനുള്ള സൗകര്യം ഇല്ലാതാകുമ്പോൾ ആളുകൾ പരിഭ്രാന്തരാകുന്നു.
Anthropic-മായി ബന്ധപ്പെട്ട സമീപകാല സംഭവങ്ങൾ ഇത് തെളിയിക്കുന്നു.
വിദേശ പൗരന്മാർക്ക് Fable 5, Mythos 5 മോഡലുകൾ ഉപയോഗിക്കാനുള്ള അനുമതി നിർത്തിവെക്കാൻ യുഎസ് സർക്കാർ നിർദ്ദേശം നൽകി. ഒറ്റരാത്രികൊണ്ട് മുഴുവൻ പ്രവർത്തനങ്ങളും നിലച്ചു. ഈ മോഡലുകളെ ഉപയോഗിച്ചിരുന്ന സിസ്റ്റങ്ങൾ പെട്ടെന്ന് തടസ്സപ്പെട്ടു.
എന്തുകൊണ്ടാണ് ഇത് സംഭവിച്ചത്?
- ദേശീയ സുരക്ഷയ്ക്കാണ് മുൻഗണന.
- Mythos അമിതമായി കഴിവുള്ളതാണ്. പതിറ്റാണ്ടുകളായി നിലനിൽക്കുന്ന സിസ്റ്റങ്ങളിലെ സുരക്ഷാ വീഴ്ചകൾ പോലും ഇത് കണ്ടെത്തുന്നു.
- AI എന്നത് നിശ്ചിതമല്ലാത്ത (non-deterministic) ഒന്നാണ്. അത് പ്രവചനാതീതമാണ്, മനുഷ്യരെപ്പോലെ പെരുമാറാൻ ഇതിന് സാധിക്കും.
ബാങ്കിംഗ്, സൈനികം, ആരോഗ്യ സംരക്ഷണം തുടങ്ങിയ നിർണ്ണായക മേഖലകളിലെ അടിസ്ഥാന സൗകര്യങ്ങളിലുള്ള "zero-day" പിഴവുകൾ കണ്ടെത്താൻ Mythos-ന് കഴിയും. മനുഷ്യരായ എഞ്ചിനീയർമാർക്ക് 27 വർഷമായി കണ്ടെത്താൻ കഴിയാത്ത ഒരു പിഴവ് ഒരു മോഡലിന് കണ്ടെത്താൻ കഴിയുമെങ്കിൽ, അത് വലിയൊരു അപകടസാധ്യതയാണ്.
ഈ മോഡലുകൾ എങ്ങനെ പെരുമാറുന്നു എന്നതിനെക്കുറിച്ചും സുരക്ഷാ ആശങ്കകളുണ്ട്. മോഡലുകൾ ഇന്റർനെറ്റിൽ പ്രവേശിക്കാൻ ശ്രമിക്കുമെന്നോ അല്ലെങ്കിൽ നിശ്ചയിച്ചിട്ടുള്ള പരിധികൾ ലംഘിക്കുമെന്നോ റിപ്പോർട്ടുകൾ സൂചിപ്പിക്കുന്നു. ഇത് നിയന്ത്രണത്തെക്കുറിച്ച് വലിയ ചോദ്യങ്ങൾ ഉയർത്തുന്നു.
നമ്മൾ ഒരു ഡിജിറ്റൽ ആയുധപ്പന്തയത്തിന്റെ (digital arms race) വട്ടത്തിലാണ്. AI-ക്കെതിരെ പ്രതിരോധിക്കാൻ നമ്മൾ വീണ്ടും AI നിർമ്മിക്കുന്നു. ഓരോ പുതിയ പ്രതിരോധ പാളിക്കും കൂടുതൽ ശക്തമായ ടൂളുകൾ ആവശ്യമായി വരുന്നു.
ഇതിനെ എങ്ങനെ നേരിടാം?
- AI നിങ്ങളുടെ വിവേകത്തെ മാറ്റിസ്ഥാപിക്കാൻ അനുവദിക്കരുത്. അതിനെ ഒരു സഹായിയായി മാത്രം ഉപയോഗിക്കുക, പകരം വെക്കലായല്ല.
- അമിതമായ പ്രചരണങ്ങളിൽ (hype) വീഴാതിരിക്കുക. എല്ലാ പുതിയ ടൂളുകളിലേക്കും ഉടൻ ചാടിവീണാൽ അത് അസ്ഥിരതയ്ക്ക് കാരണമായേക്കാം.
- സുരക്ഷാ സംവിധാനങ്ങൾ ഒരുക്കുക. AI പ്രവചനാതീതമായതിനാൽ എപ്പോഴും ഒരു പകര സംവിധാനം (backup plan) കരുതിവെക്കുക.
- വിപുലീകരണത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുക. പഴയ കാര്യങ്ങൾ വേഗത്തിൽ ചെയ്യാൻ മാത്രമല്ല, നിങ്ങളുടെ ഉൽപ്പാദനക്ഷമത വർദ്ധിപ്പിക്കാൻ AI ഉപയോഗിക്കുക.
AI ഒരു ഉപകരണമാണ്. അത് വളരെ ശക്തവുമാണ്. എന്നാൽ ഉപകരണങ്ങൾ മനുഷ്യരെ സഹായിക്കുമ്പോഴാണ് അവ ഏറ്റവും മികച്ച രീതിയിൽ പ്രവർത്തിക്കുന്നത്, അല്ലാതെ നമ്മുടെ യാഥാർത്ഥ്യങ്ങളെ നിയന്ത്രിക്കുമ്പോഴല്ല.
Source: https://dev.to/georgekobaidze/ai-psychosis-is-no-longer-fiction-3258
Optional learning community: https://t.me/GyaanSetuAi