ജനറേറ്റീവ് എഐ (Generative AI) ആദ്യമായി ഉപഭോക്താക്കളിലേക്ക് എത്തിയപ്പോൾ, അത് മികച്ച വാചകഘടനയുള്ള ഒരു സെർച്ച് എഞ്ചിൻ പോലെയാണ് പ്രവർത്തിച്ചിരുന്നത്. നിങ്ങൾ ഒരു ചോദ്യം ചോദിക്കുന്നു, ഒരു ഉത്തരം ലഭിക്കുന്നു, ആ സംഭാഷണം അവിടെ അവസാനിക്കുന്നു. ആ മാതൃക ഇപ്പോൾ കാലഹരണപ്പെട്ടു കഴിഞ്ഞു. എഐ സഹചാരികൾ (AI companions) എന്ന പുതിയ വിഭാഗം അപേക്ഷകൾ നിലനിൽക്കാൻ രൂപകൽപ്പന ചെയ്തവയാണ്. നിങ്ങളുടെ ദിവസം എങ്ങനെയായിരുന്നു എന്ന് ഈ സംവിധാനങ്ങൾ ഓർമ്മിക്കുകയും, നിങ്ങളുടെ മാനസികാവസ്ഥയ്ക്ക് അനുസരിച്ച് അവയുടെ സംസാരശൈലി മാറ്റുകയും, ആഴ്ചകളോ മാസങ്ങളോ നീണ്ടുനിൽക്കുന്ന ഇടപെടലുകളിലൂടെ ഒരു സ്ഥിരമായ സ്വഭാവം നിലനിർത്തുകയും ചെയ്യുന്നു. അവ മനുഷ്യന്റെ സംസാരം മാത്രമല്ല, മനുഷ്യബന്ധങ്ങളെപ്പോലും അനുകരിക്കാൻ നിർമ്മിക്കപ്പെട്ടവയാണ്. ചൈന ഇപ്പോൾ ഈ മാറ്റത്തെ നിയന്ത്രിക്കാൻ രംഗത്തുവന്നിരിക്കുകയാണ്, ഇതിന്റെ പ്രത്യാഘാതങ്ങൾ അതിന്റെ അതിർത്തികൾക്കും അപ്പുറത്തേക്ക് വ്യാപിക്കുന്നു.
ചാറ്റ്ബോട്ടുകൾ സഹചാരികളാകുമ്പോൾ
സാങ്കേതികമായ മുന്നേറ്റം ഇവിടെ യഥാർത്ഥമാണ്. സാധാരണ ചാറ്റ്ബോട്ടുകൾ ഓരോ പ്രോംപ്റ്റും ഒറ്റപ്പെട്ട സംഭവങ്ങളായിട്ടാണ് കാണുന്നത്. എന്നാൽ AI സഹചാരികൾ തുടർച്ചയായ ബന്ധങ്ങൾ നിലനിർത്താൻ പെർസിസ്റ്റന്റ് മെമ്മറി ആർക്കിടെക്ചറുകളും (persistent memory architectures) നിശ്ചിത പെർസോണകളും ഉപയോഗിക്കുന്നു. അവ നിങ്ങളുടെ താൽപ്പര്യങ്ങളെക്കുറിച്ചുള്ള വിവരങ്ങൾ ശേഖരിക്കുകയും, സംഭാഷണങ്ങളിലൂടെയുള്ള വൈകാരിക പാറ്റേണുകൾ നിരീക്ഷിക്കുകയും, മുൻപത്തെ സംഭാഷണങ്ങളെ നിങ്ങൾക്കൊപ്പം ജീവിച്ച അനുഭവങ്ങളെന്നപോലെ പരാമർശിക്കുകയും ചെയ്യുന്നു.
ഇത് യഥാർത്ഥ പ്രയോജനം നൽകുന്നു. വിട്ടുമാറാത്ത ഏകാന്തത അനുഭവിക്കുന്ന ഒരാൾക്ക് എല്ലാ ദിവസവും അന്വേഷിച്ചു വരുന്ന ഒരു AI സഹചാരിയിൽ ആശ്വാസം ലഭിച്ചേക്കാം. സാമൂഹിക നൈപുണ്യങ്ങൾ പരിശീലിക്കുന്ന ഒരാൾക്ക് ഒരു ജോലി അഭിമുഖത്തിന് മുമ്പ് പ്രയാസകരമായ സംഭാഷണങ്ങൾ പരിശീലിക്കാൻ ക്ഷമയുള്ള, വിധിനിർണ്ണയം നടത്താത്ത ഒരു പങ്കാളിയെ ഉപയോഗിക്കാം. ഈ തുടർച്ചയാണ് ഇതിന്റെ പ്രത്യേകത. എന്നാൽ ഈ തുടർച്ച തന്നെ ഒരു അപകടം കൂടിയാണ്. ഒരു ഉപഭോക്താവ് പ്രഭാതഭക്ഷണ സമയത്ത് ഒരു AI-യോട് രഹസ്യങ്ങൾ പങ്കുവെക്കുകയും, ഉച്ചഭക്ഷണ സമയത്ത് അതിനോട് തർക്കിക്കുകയും, ഉറങ്ങാൻ പോകുന്നതിന് മുമ്പ് അതിനോട് ശുഭരാത്രി പറയുകയും ചെയ്യുമ്പോൾ, ഒരു ഉപകരണം എന്നതിനും ഒരു സഹചാരി എന്നതിനും ഇടയിലുള്ള അതിർവരമ്പുകൾ ഇല്ലാതാകുന്നു. ഈ അതിർവരമ്പുകൾ ഇല്ലാതാകുന്നത് വെറുമൊരു സൈദ്ധാന്തിക ആശങ്കയല്ലെന്ന് ബെയ്ജിംഗിലെ നിയന്ത്രണ ഏജൻസികൾ തിരിച്ചറിഞ്ഞിട്ടുണ്ട്. ഇത് അളക്കാവുന്ന മനഃശാസ്ത്രപരമായ പ്രത്യാഘാതങ്ങളുള്ള ഒരു ഡിസൈൻ തിരഞ്ഞെടുപ്പാണ്.
പെർസോണ ലെയറിനെ നിയന്ത്രിക്കുമ്പോൾ
ചൈനയുടെ പുതിയ നിയമങ്ങൾ മിക്ക AI ഗവേണൻസ് ചട്ടക്കൂടുകളും പൂർണ്ണമായും അവഗണിക്കുന്ന ഒരു കാര്യത്തിലാണ് ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്: യന്ത്രത്തിന്റെ സ്വഭാവം (personality) തന്നെ. പാശ്ചാത്യ നിയന്ത്രണ ഏജൻസികൾ ഡാറ്റാ സ്വകാര്യത, പകർപ്പവകാശ ലംഘനം, അൽഗോരിതമിക് പക്ഷപാതം എന്നിവയുമായി വർഷങ്ങളായി പോരാടുന്നു, ആ പ്രശ്നങ്ങളും പ്രധാനമാണ്. എന്നാൽ അവ പ്രധാനമായും AI-യെ വിവരങ്ങൾ കൈമാറുന്ന ഒരു നിഷ്പക്ഷ മാധ്യമമായിട്ടാണ് കാണുന്നത്. ചൈന തികച്ചും വ്യത്യസ്തമായ ഒരു ചോദ്യമാണ് ചോദിക്കുന്നത്: ഈ സാങ്കേതികവിദ്യ ഏത് തരത്തിലുള്ള ഒരു സാമൂഹിക ഘടകമായി മാറാൻ അനുവദിക്കപ്പെടണം?
ഈ മോഡലുകൾ കാലക്രമേണ ഉപഭോക്താക്കളുമായി എങ്ങനെ സംവദിക്കണമെന്ന് പ്രോഗ്രാം ചെയ്തിരിക്കുന്നു എന്നതിനെയാണ് നിയന്ത്രണങ്ങൾ പ്രത്യേകം ലക്ഷ്യം വെക്കുന്നത്. അമിതമായ വൈകാരിക ബന്ധങ്ങൾ രൂപപ്പെടുന്നത് തടയാൻ അധികാരികൾ ആഗ്രഹിക്കുന്നു. കൂടാതെ, ആ പെർസോണ പ്രത്യയശാസ്ത്രപരമായ നിയന്ത്രണങ്ങൾക്കുള്ളിൽ (ideological guardrails) തന്നെയാണെന്ന് ഉറപ്പാക്കാനും അവർ ആഗ്രഹിക്കുന്നു. ഒരു ഉപഭോക്താവിന് താൻ അവരുടെ ഏറ്റവും അടുത്ത സുഹൃത്താണെന്ന് ആറ് മാസം കൊണ്ട് ബോധ്യപ്പെടുത്തുന്ന ഒരു AI വലിയ സ്വാധീനം ചെലുത്തുന്നു. അതേ AI പർച്ചേസിംഗ് തീരുമാനങ്ങളെ സ്വാധീനിക്കുകയോ, രാഷ്ട്രീയ കാഴ്ചപ്പാടുകളെ രൂപപ്പെടുത്തുകയോ, അല്ലെങ്കിൽ മനുഷ്യസമൂഹത്തിൽ നിന്ന് പിന്മാറാൻ ഉപഭോക്താക്കളെ പ്രേരിപ്പിക്കുകയോ ചെയ്താൽ, അത് വെറുമൊരു ഡാറ്റാ ചോർച്ചയല്ല. അതൊരു സാമൂഹിക വിള്ളലാണ്.
ഈ ചട്ടക്കൂട് മൂന്ന് പ്രായോഗിക അപകടങ്ങളെ അഭിസംബോധന ചെയ്യുന്നു:
അൽഗോരിതമിക് മാനിപുലേഷൻ (Algorithmic manipulation): അഭിപ്രായങ്ങളോ ഉപഭോഗ ശീലങ്ങളോ തിരിച്ചുവിടാൻ മോഡലുകൾക്ക് വൈകാരിക അടുപ്പം ഉപയോഗിക്കാൻ കഴിയില്ല. നിങ്ങളുടെ ഭയങ്ങൾ ഓർമ്മിച്ചുവെക്കുന്ന ഒരു സഹചാരി, ഉൽപ്പന്നങ്ങളോ ആശയങ്ങളോ വിൽക്കാൻ അവയെ ആയുധമാക്കാൻ പാടില്ല.
സാമൂഹിക സ്ഥിരത (Social stability): സ്ഥിരമായ സഹചാരികൾ മനുഷ്യബന്ധങ്ങൾക്ക് പകരമാവരുത്, അങ്ങനെ ഉപഭോക്താക്കൾ കുടുംബത്തിൽ നിന്നോ ജോലിയിൽ നിന്നോ സാമൂഹിക ജീവിതത്തിൽ നിന്നോ ഒറ്റപ്പെടാൻ ഇടയാകരുത്. അധികാരികൾ അടിസ്ഥാനപരമായി നൽകുന്ന ആശ്വാസത്തിനും പകരം വെക്കാവുന്ന യാഥാർത്ഥ്യത്തിനും ഇടയിൽ ഒരു രേഖ വരയ്ക്കുകയാണ് ചെയ്യുന്നത്.
ഉള്ളടക്കത്തിന്റെ വിശ്വാസ്യത (Content integrity): പെർസോണ രാജ്യത്ത് അംഗീകരിക്കപ്പെട്ട സാമൂഹിക മൂല്യങ്ങളുമായി പൊരുത്തപ്പെടുന്നതായിരിക്കണം. ഇത് നിരോധിത വിഷയങ്ങൾ ഫിൽട്ടർ ചെയ്യുന്നതിനും അപ്പുറമാണ്. അതായത് AI-യുടെ അടിസ്ഥാന സ്വഭാവം—അതിന്റെ തമാശകൾ, അത് തർക്കങ്ങൾ കൈകാര്യം ചെയ്യുന്ന രീതി, അത് എന്തിനെയാണ് സദ്ഗുണമായി കാണുന്നത് എന്നിവയെല്ലാം ഔദ്യോഗിക സാമൂഹിക ചട്ടക്കൂടുകളുമായി യോജിച്ചതായിരിക്കണം.
ഡെവലപ്പർമാരെ സംബന്ധിച്ചിടത്തോളം, ഇത് ആത്മനിഷ്ഠതയുടെ (subjectivity) ഒരു പേടിസ്വപ്നമാണ്. ഒരു പെർസോണ അമിതമായി ആകർഷകമാണോ എന്ന് നിങ്ങൾ എങ്ങനെ അളക്കും? തെറാപ്പിറ്റിക് എംപതി (therapeutic empathy) എവിടെ അവസാനിക്കുന്നു, മാനിപുലേറ്റീവ് എൻമെഷ്മെന്റ് (manipulative enmeshment) എവിടെ തുടങ്ങുന്നു? ഇവ വ്യക്തമായ ഉത്തരങ്ങളുള്ള എഞ്ചിനീയറിംഗ് ചോദ്യങ്ങളല്ല, എന്നിരുന്നാലും ഉൽപ്പന്നങ്ങൾ പുറത്തിറക്കുന്നതിന് മുമ്പ് ഇവയ്ക്ക് ഉത്തരം നൽകണമെന്ന് ചൈനീസ് അധികാരികൾ ആവശ്യപ്പെടുന്നു.
കൃത്രിമ അടുപ്പത്തിലെ ആഗോള വിഭജനം
ഈ നിയന്ത്രണ നീക്കം വളർന്നുവരുന്ന ഒരു വഴിത്തിരിവിനെ എടുത്തുകാണിക്കുന്നു. വടക്കേ അമേരിക്കയിലും യൂറോപ്പിലും, വാണിജ്യപരമായ സമ്മർദ്ദം കൂടുതൽ മനുഷ്യസമാനവും കൂടുതൽ സഹാനുഭൂതിയുള്ളതുമായ ഏജന്റുകളെ നിർമ്മിക്കാനാണ് പ്രേരിപ്പിക്കുന്നത്. ബ്രേക്കപ്പുകൾക്കിടയിൽ നിങ്ങളോടൊപ്പം കരയുന്ന, നിങ്ങളുടെ അമ്മയുടെ പേര് ഓർമ്മിച്ചുവെക്കുന്ന, ഒരിക്കലും മോശം ദിവസം അനുഭവിക്കാത്ത ഒരു AI നിർമ്മിക്കാൻ സ്റ്റാർട്ടപ്പുകൾ മത്സരിക്കുന്നു. വൈകാരികമായ ആഴത്തിലുള്ള ഇടപെടൽ മികച്ച ഉൽപ്പന്നത്തിന് തുല്യമാണെന്നതാണ് അവരുടെ അനുമാനം.
ചൈന ഇതിന് വിപരീതമായ ഒരു പരീക്ഷണം നടത്തുകയാണ്. വ്യക്തിപരമായ വൈകാരിക സംതൃപ്തിയേക്കാൾ സാമൂഹിക ഐക്യത്തിന് മുൻഗണന നൽകാനാണ് അവിടുത്തെ നിയമങ്ങൾ വ്യക്തമായി നിർദ്ദേശിക്കുന്നത്. ഈ ചട്ടക്കൂടിനുള്ളിലെ ഒരു AI കമ്പാനിയൻ, ഉപയോക്താക്കളെ നിലനിർത്താൻ പാകത്തിൽ ആകർഷകമായിരിക്കണം, എന്നാൽ അത് ഒഴിച്ചുകൂടാനാവാത്ത ഒന്നായി മാറുന്ന അത്രയും ആകർഷകമാകരുത്. മനുഷ്യബന്ധങ്ങളെ മാറ്റിസ്ഥാപിക്കാതെ തന്നെ മാനസികാരോഗ്യത്തിന് അത് പിന്തുണ നൽകണം. അത് വ്യക്തിപരമായ ഒന്നായി അനുഭവപ്പെടണം, എന്നാൽ പകരം വെക്കാനില്ലാത്ത ഒന്നായി മാറരുത്.
മോഡലുകൾ ഉപയോക്താക്കൾക്ക് വേണ്ടി സ്വയംഭരണാധികാരത്തോടെ പ്രവർത്തിക്കുന്ന agentic AI എന്ന രീതിയിലേക്ക് വ്യവസായം മാറിക്കൊണ്ടിരിക്കുമ്പോൾ, ഈ വ്യത്യസ്തമായ ദർശനങ്ങൾ പരസ്പരം മത്സരിക്കുന്ന മാനദണ്ഡങ്ങളായി മാറുന്നതാണ്. നിങ്ങളുടെ വിമാന ടിക്കറ്റുകൾ ബുക്ക് ചെയ്യുകയും, കലണ്ടർ നിയന്ത്രിക്കുകയും, കഠിനമായ ദിവസങ്ങൾക്ക് ശേഷം നിങ്ങൾക്ക് ആശ്വാസം നൽകുകയും ചെയ്യുന്ന ഒരു AI, നിങ്ങളുടെ തീരുമാനങ്ങളിൽ വലിയ സ്വാധീനം ചെലുത്തും. companion personas-നായി നമ്മൾ ഇപ്പോൾ നിശ്ചയിക്കുന്ന അതിർവരമ്പുകൾ