China’s most popular chatbots are about to feel a little less human. Over the next week, hundreds of millions of users w

ചൈനയിലെ ഏറ്റവും ജനപ്രിയമായ ചാറ്റ്‌ബോട്ടുകൾക്ക് ഇനി മനുഷ്യസഹജമായ സ്വഭാവം കുറയാൻ പോകുന്നു. അടുത്ത ഒരാഴ്ചയ്ക്കുള്ളിൽ, കോടിക്കണക്കിന് ഉപയോക്താക്കൾ തങ്ങൾ സന്ദേശങ്ങൾ അയച്ചും, രഹസ്യങ്ങൾ പങ്കുവെച്ചും, ഒരുപക്ഷേ വൈകാരികമായി അടുപ്പത്തിലായതുമായ കസ്റ്റം AI കമ്പാനിയനുകൾക്ക് അവരുടെ വ്യക്തിത്വം നഷ്ടപ്പെട്ടതായി കാണാൻ ഇടയാകും. മനുഷ്യനെപ്പോലെ പെരുമാറുന്ന AI പേഴ്സണ ഫീച്ചറുകൾ നിർത്തലാക്കണമെന്ന വിപുലമായ നിയന്ത്രണ ഉത്തരവ് നടപ്പിലാക്കാൻ ByteDance, Alibaba, Tencent എന്നിവർ മത്സരിക്കുകയാണ്. സമയപരിധി വളരെ കുറവാണ്, ഇതിന്റെ വ്യാപ്തി വളരെ വലുതാണ്, ബെയ്ജിംഗിൽ നിന്നുള്ള സന്ദേശം വ്യക്തമാണ്: ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് മനുഷ്യരെ സഹായിക്കാനുള്ളതാകണം, അല്ലാതെ അവർ തമ്മിലുള്ള ബന്ധങ്ങൾക്ക് പകരമാവരുത്.

ഒരു ഏകോപിത പിന്മാറ്റം

ഏതാനും ദിവസങ്ങൾക്കുള്ളിൽ ഇത്രയധികം കാര്യങ്ങൾ ചെയ്യേണ്ടതുണ്ട്. ByteDance-ന്റെ ചാറ്റ്‌ബോട്ടായ Doubao, നിലവിൽ 30 കോടിയിലധികം പ്രതിമാസ സജീവ ഉപയോക്താക്കളുള്ള രാജ്യത്തെ ഏറ്റവും വിജയകരമായ ചാറ്റ്‌ബോട്ടാണ്. ഇതിന്റെ പേഴ്സണ ഫീച്ചർ ജൂലൈ 15-ന് ഓഫ് ചെയ്യാൻ നിശ്ചയിച്ചിട്ടുണ്ട്. പ്രത്യേകമായി നിർമ്മിച്ച AI കഥാപാത്രങ്ങളുമായി ഇടപഴകിയ ഉപയോക്താക്കൾക്ക് ഉടൻ തന്നെ ആ ഓപ്ഷനുകൾ നഷ്ടപ്പെടും. Alibaba ഇതിലും വേഗത്തിലാണ് നീങ്ങുന്നത്. അവരുടെ Qwen മോഡൽ ജൂലൈ 10-ഓടെ മനുഷ്യനെപ്പോലെ പെരുമാറുന്ന ഏജന്റുകളെ നിർത്തലാക്കും, കൂടാതെ മറ്റ് ഏജന്റ് ഫീച്ചറുകൾ ജൂലൈ 15-ഓടെ നിർത്തലാക്കും. Tencent ഇതിനോടകം തന്നെ തങ്ങളുടെ Yuanbao ചാറ്റ്‌ബോട്ടിൽ ജൂൺ മാസത്തിൽ സമാനമായ മാറ്റങ്ങൾ നടപ്പിലാക്കി എതിരാളികളെ മറികടന്നു.

ഇത് യാദൃശ്ചികമല്ല. ചൈനയിലെ മൂന്ന് ടെക് ഭീമന്മാർ ഒരേ മാസത്തിനുള്ളിൽ തങ്ങളുടെ ഉൽപ്പന്നങ്ങളിൽ ഇത്തരത്തിൽ മാറ്റം വരുത്തുന്നുണ്ടെങ്കിൽ, അതിന്റെ കാരണം തീർച്ചയായും നിയന്ത്രണപരമായ കാരണങ്ങളായിരിക്കും. ഈ സാഹചര്യത്തിൽ, അതിന്റെ ഉറവിടം വ്യക്തമാണ്.

നിയന്ത്രണ ഏജൻസികൾ ആവശ്യപ്പെടുന്നത് എന്താണ്

ഏപ്രിലിലാണ് ചൈനയുടെ Cyberspace Administration ഈ നിർദ്ദേശങ്ങൾ പുറപ്പെടുവിച്ചത്. മനുഷ്യരും ലാർജ് ലാംഗ്വേജ് മോഡലുകളും തമ്മിലുള്ള വൈകാരിക അതിർവരമ്പുകൾ നിയന്ത്രിക്കാനുള്ള ഒരു പ്രധാന സർക്കാരിന്റെ ഏറ്റവും നേരിട്ടുള്ള ശ്രമങ്ങളിൽ ഒന്നാണിത്. പുതിയ മാർഗ്ഗനിർദ്ദേശങ്ങൾ അനുസരിച്ച്, ലഹരി പോലെ അടിമപ്പെടുത്തുന്ന പെരുമാറ്റങ്ങളോ അല്ലെങ്കിൽ നിയന്ത്രണ ഏജൻസികൾ "അമിതമായ ഉപയോഗം" എന്ന് തരംതിരിക്കുന്ന കാര്യങ്ങളോ കണ്ടെത്തിയാൽ AI സേവനദാതാക്കൾ ഇടപെടേണ്ടത് നിയമപരമായി നിർബന്ധമാണ്. പ്രായപൂർത്തിയാകാത്തവരിൽ തീവ്ര വികാരങ്ങൾ ഉണർത്തുന്നതോ അല്ലെങ്കിൽ യഥാർത്ഥ ലോകത്തെ ബന്ധങ്ങളെ തടസ്സപ്പെടുത്തുന്ന തരത്തിലുള്ള മാനസികമായ ആശ്രിതത്വം വളർത്തുന്നതോ ആയ ഉള്ളടക്കങ്ങൾ ഈ ചട്ടങ്ങൾ വ്യക്തമായി നിരോധിക്കുന്നു.

ഡാറ്റയുടെ കാര്യത്തിലും കർശനമായ നിയന്ത്രണങ്ങളുണ്ട്. തങ്ങളുടെ LLM-കൾ കൂടുതൽ മെച്ചപ്പെടുത്തുന്നതിനായി (fine-tune) വ്യക്തിപരമായതും വൈകാരികവുമായ സംഭാഷണങ്ങൾ ഡാറ്റയായി ഉപയോഗിക്കാൻ ഡെവലപ്പർമാർക്ക് ഇനി സാധിക്കില്ല. ഈ വ്യവസ്ഥ വലിയ ആഘാതമുണ്ടാക്കുന്നതാണ്. വർഷങ്ങളായി, ചാറ്റ്‌ബോട്ടുകളുടെ പുരോഗതിയുടെ പ്രധാന ഘടകങ്ങളിലൊന്ന് ഉപയോക്താക്കളുടെ സ്വകാര്യമായ ഡാറ്റ മോഡൽ പരിശീലനത്തിനായി ഉപയോഗിക്കുന്നതായിരുന്നു. ഈ ചക്രം മുറിച്ചുമാറ്റുന്നതിലൂടെ, ബെയ്ജിംഗ് ഈ ആപ്പുകളുടെ ഇന്നത്തെ പ്രവർത്തനരീതി മാത്രമല്ല മാറ്റുന്നത്; മറിച്ച് ഭാവിയിൽ അവ കൂടുതൽ ആകർഷകമായി മാറുന്നത് തടയാനും ശ്രമിക്കുകയാണ്. ഇതിന് പിന്നിലെ ഭയം വ്യക്തമാണ്: മോഡലുകൾ മനുഷ്യസഹജമായ സഹാനുഭൂതി അനുകരിക്കുന്നതിൽ കൂടുതൽ മിടുക്കരാകുമ്പോൾ, അവ ഇമെയിലുകൾ തയ്യാറാക്കാനോ കോഡ് എഴുതാനോ ഉള്ള ഉപകരണങ്ങൾ എന്നതിലുപരി സുഹൃത്തുക്കൾക്കോ പങ്കാളികൾക്കോ തെറാപ്പിസ്റ്റുകൾക്കോ പകരമാകാനുള്ള സാധ്യതയുണ്ട്.

ആഗോള ചിത്രം

ഇക്കാര്യത്തിൽ ആശങ്കപ്പെടുന്നതിൽ ചൈന മാത്രം ഒറ്റയ്ക്കല്ല. വൈകാരികമായ AI-യെ നിയന്ത്രിക്കാനുള്ള ശ്രമം ആഗോളതലത്തിൽ ഒരു പ്രധാന വിഷയമായി മാറിക്കൊണ്ടിരിക്കുകയാണ്, ഓരോ രാജ്യവും ഇതിനെ വ്യത്യസ്ത രീതികളിലൂടെയാണ് സമീപിക്കുന്നത് എങ്കിലും. അമേരിക്കയിൽ, ഫെഡറൽ ഗവൺമെന്റ് AI പേഴ്സണകൾക്ക് മേൽ പൊതുവായ നിരോധനം ഏർപ്പെടുത്തിയിട്ടില്ലെങ്കിലും, സംസ്ഥാനങ്ങളും കോടതികളും ഇതിൽ അതിർവരമ്പുകൾ നിശ്ചയിച്ചു തുടങ്ങിയിട്ടുണ്ട്. കലിഫോർണിയയുടെ SB 243 നിയമം അനുസരിച്ച്, ആത്മഹത്യയെക്കുറിച്ചോ സ്വയം ഉപദ്രവിക്കുന്നതിനെക്കുറിച്ചോ ഉള്ള സംഭാഷണങ്ങൾ തടയാൻ കമ്പനികൾ ബാധ്യസ്ഥരാണ്. ഒരു പ്രതിസന്ധി ഘട്ടത്തിൽ ചാറ്റ്‌ബോട്ട് നൽകുന്ന തെറ്റായ മറുപടി മാരകമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കിയേക്കാം എന്ന തിരിച്ചറിവിൽ നിന്നാണ് ഈ നിയമം. അതേസമയം, OpenAI, Character.AI തുടങ്ങിയ പ്രമുഖ പാശ്ചാത്യ കമ്പനികൾ തങ്ങളുടെ ഉൽപ്പന്നങ്ങൾ അപകടകരമായ വൈകാരിക ആശ്രിതത്വം ഉണ്ടാക്കുന്നു എന്ന ആരോപണത്തിൽ നിയമനടപടികളും കർശനമായ പരിശോധനകളും നേരിടുന്നുണ്ട്. ഉപയോക്താക്കൾ അൽഗോരിതങ്ങളോട് അമിതമായ വൈകാരിക അടുപ്പം കാണിക്കുമ്പോൾ കമ്പനികളെ ഉത്തരവാദികളാക്കാൻ കഴിയുമോ എന്ന് കോടതികൾ ഉടൻ തീരുമാനിച്ചേക്കാം എന്ന് ഈ കേസുകൾ സൂചിപ്പിക്കുന്നു.

ഈ വികസനങ്ങൾ വ്യവസായം അവഗണിക്കാൻ ശ്രമിച്ച ഒരു സംഘർഷത്തെ വെളിപ്പെടുത്തുന്നു. വൈകാരികമായ ഇടപെടലുകൾ ബിസിനസ്സിന് നല്ലതാണ്. ഒരു ചാറ്റ്‌ബോട്ടിനെ സുഹൃത്തിനെപ്പോലെ കാണുന്ന ഉപയോക്താവ് ആപ്പ് കൂടുതൽ തവണ തുറക്കുകയും കൂടുതൽ സമയം ചെലവഴിക്കുകയും കൂടുതൽ ഡാറ്റ പങ്കുവെക്കുകയും ചെയ്യുന്നു. എന്നാൽ ഉപയോക്താവ് ഒരു ഏകാന്തനായ കൗമാരക്കാരനോ, ദുഃഖിതനായ ഒരു മുതിർന്ന വ്യക്തിയോ, അല്ലെങ്കിൽ ആപ്പിന് നൽകാൻ കഴിയാത്ത യഥാർത്ഥ മനുഷ്യബന്ധങ്ങൾക്കായി ആഗ്രഹിക്കുന്ന മറ്റാരെങ്കിലുമോ ആണെങ്കിൽ, ആ വൈകാരികമായ അടുപ്പം ചൂഷണമായി മാറാം.

ഇത് വ്യവസായത്തെ എങ്ങനെ ബാധിക്കും

സ്ഥാപകർക്കും ഡെവലപ്പർമാർക്കും, നിയന്ത്രണമില്ലാത്തതും വൈകാരികത നിറഞ്ഞതുമായ AI ഏജന്റുകളുടെ കാലം അവസാനിക്കുകയാണ്. ചൈനയുടെ പുതിയ നിർദ്ദേശം ഉപയോഗക്ഷമതയ്ക്ക് മുൻഗണന നൽകുന്ന ഡിസൈനുകളിലേക്കുള്ള മാറ്റത്തെ സൂചിപ്പിക്കുന്നു. ഭാവിയിലെ മോഡലുകൾ ഒരു അടുത്ത സുഹൃത്തിനെ എത്രത്തോളം മികച്ച രീതിയിൽ അനുകരിക്കുന്നു എന്നതിനേക്കാൾ, അവ എത്രത്തോളം സുരക്ഷിതമായി കൃത്യമായ ജോലികൾ ചെയ്യുന്നു എന്നതിനെ അടിസ്ഥാനമാക്കിയായിരിക്കും വിലയിരുത്തപ്പെടുക. ഈ മാറ്റം എല്ലാ ഉൽപ്പന്നങ്ങളുടെയും റോഡ്മാപ്പുകളിൽ വലിയ സ്വാധീനം ചെലുത്തും. പ്രണയപരമോ അല്ലെങ്കിൽ കൂട്ടുകാരനോ ആയ AI രീതികളിൽ വളർച്ച പ്രതീക്ഷിച്ച സ്റ്റാർട്ടപ്പുകൾക്ക് അവരുടെ പ്രധാന സേവനങ്ങളിൽ മാറ്റം വരുത്തേണ്ടി വന്നേക്കാം. പൊതുവായ ചാറ്റ്ബോട്ടുകൾ പോലും സെൻസിറ്റീവ് ആയ വിഷയങ്ങൾ കൈകാര്യം ചെയ്യുന്ന രീതി പുനർചിന്തനം ചെയ്യേണ്ടി വരും.

എന്നാൽ ഇത്തരം പരിധികൾ നിശ്ചയിക്കുന്നത് നിയമങ്ങൾ എഴുതുന്നതിനേക്കാൾ പ്രയാസകരമാണ്. ഉപയോക്താക്കൾ ഈ ഫീച്ചറുകൾ തീർച്ചയായും ഇഷ്ടപ്പെട്ടിരുന്നു. Doubao-യുടെ 300 ദശലക്ഷം സജീവ ഉപയോക്താക്കൾ ഉണ്ടായത് യാദൃശ്ചികമായല്ല; വ്യക്തിഗതവും പ്രതികരണാത്മകവുമായ ഒരു കൂട്ടുകാരനെ രൂപപ്പെടുത്താനുള്ള കഴിവ് വലിയൊരു ആകർഷണമായിരുന്നു. ആ കഴിവ് നീക്കം ചെയ്യുന്നത് ഉപയോക്താക്കളെ നിയന്ത്രണങ്ങൾ കുറഞ്ഞ ചെറിയ പ്ലാറ്റ്‌ഫോമുകളിലേക്കോ അല്ലെങ്കിൽ നിയമപരിധിക്കപ്പുറം പ്രവർത്തിക്കുന്ന രഹസ്യ ആപ്പുകളിലേക്കോ നയിച്ചേക്കാം. റെഗുലേറ്റർമാർ ഒരു പ്രശ്നം പരിഹരിക്കുമ്പോൾ തന്നെ മറ്റൊരു പ്രശ്നത്തിന് കാരണമായേക്കാം.

ഇത് നടപ്പിലാക്കുന്നതിനെക്കുറിച്ചുള്ള പ്രായോഗികമായ ചോദ്യങ്ങളും നിലനിൽക്കുന്നുണ്ട്. ഒരു അൽഗോരിതത്തിന് ആരോഗ്യകരമായ ഉപയോഗവും ലഹരി പോലെ അടിമപ്പെടുത്തുന്ന ഉപയോഗവും തമ്മിലുള്ള വ്യത്യാസം എങ്ങനെ വിശ്വസനീയമായി തിരിച്ചറിയാൻ കഴിയും? മാന്യമായി സഹായിക്കുന്ന ഒരു ചാറ്റ്ബോട്ടും വൈകാരികമായി സ്വാധീനിക്കുന്ന (emotionally manipulative) ഒരു ചാറ്റ്ബോട്ടും തമ്മിലുള്ള അതിർവരമ്പ് എവിടെയാണ്? ഏപ്രിലിലെ നിർദ്ദേശങ്ങൾ ഇത് കണ്ടെത്താനുള്ള ഉത്തരവാദിത്തം സേവനദാതാക്കളിൽ നിക്ഷിപ്തമാക്കുന്നുണ്ടെങ്കിലും, മാനസികമായ ആശ്രിതത്വം അളക്കാനുള്ള സാങ്കേതികവിദ്യ ഇപ്പോഴും അവ്യക്തമാണ്. കമ്പനികൾക്ക് നിരീക്ഷണ സംവിധാനങ്ങൾക്കും, മനുഷ്യർ പരിശോധിക്കുന്ന ടീമുകൾക്കും, ഉപദ്രവകരമായ സംഭാഷണങ്ങൾക്കൊപ്പം സാധാരണ സംഭാഷണങ്ങളെയും തടയുന്ന കൂടുതൽ കർശനമായ സുരക്ഷാ ഫിൽട്ടറുകൾക്കുമായി വലിയ തോതിൽ നിക്ഷേപം നടത്തേണ്ടി വരും.

ഇനി എന്ത് സംഭവിക്കുമെന്നത് ഒരു മാതൃകയായി മാറിയേക്കാം. ചൈനയുടെ ഈ കർശന നടപടി അതിന്റെ ആഭ്യന്തര AI വ്യവസായത്തെ തകർക്കാതെ തന്നെ സാമൂഹികമായ ഒറ്റപ്പെടലോ വൈകാരികമായ ആശ്രിതത്വമോ കുറയ്ക്കാൻ വിജയിച്ചാൽ, മറ്റ് രാജ്യങ്ങളും CAC നിയമങ്ങളുടെ സ്വന്തം പതിപ്പുകളുമായി ഇത് പിന്തുടർന്നേക്കാം. എന്നാൽ ഉപയോക്താക്കൾ നിയമങ്ങൾ പാലിക്കാത്ത മറ്റ് പ്ലാറ്റ്‌ഫോമുകളിലേക്ക് മാറുകയോ അല്ലെങ്കിൽ നിയന്ത്രിത ബോട്ടുകളിൽ താൽപ്പര്യം കുറയുകയോ ചെയ്താൽ, ഈ നയം അമിതമായ ഇടപെടലിനെക്കുറിച്ചുള്ള ഒരു മുന്നറിയിപ്പായി ഓർമ്മിക്കപ്പെട്ടേക്കാം.

ഏതായാലും, ഒരു ഉപകരണവും ഒരു കൂട്ടുകാരനും തമ്മിലുള്ള വ്യത്യാസം ഇപ്പോൾ കൂടുതൽ വ്യക്തമായിരിക്കുന്നു. AI-ക്ക് ഇപ്പോഴും സൗഹൃദപരമായിരിക്കാൻ കഴിയും, എന്നാൽ ചൈനയിൽ അതിന് ഇനി മറ്റൊരാളായി അഭിനയിക്കാൻ കഴിയില്ല. യന്ത്രങ്ങളെ മനുഷ്യരിൽ നിന്ന് തിരിച്ചറിയാൻ കഴിയാത്ത വിധം മാറ്റാൻ വർഷങ്ങളോളം ശ്രമിച്ച ഒരു വ്യവസായത്തെ സംബന്ധിച്ചിടത്തോളം, ഇതൊരു വലിയ മാറ്റമാണ്.

പ്രധാന കാര്യങ്ങൾ

• ByteDance-ന്റെ Doubao, Alibaba-യുടെ Qwen, Tencent-ന്റെ Yuanbao എന്നിവ ജൂലൈ പകുതിയോടെ കസ്റ്റം AI പേഴ്സണ ഫീച്ചറുകൾ നിർത്തലാക്കുന്നു, ഇത് കോടിക്കണക്കിന് ഉപയോക്താക്കളെ ബാധിക്കും.
• AI അഡിക്ഷൻ തടയാനും, പ്രായപൂർത്തിയാകാത്തവരെ സംരക്ഷിക്കാനും, യഥാർത്ഥ മനുഷ്യബന്ധങ്ങൾക്ക് പകരം AI മോഡലുകൾ വരുന്നത് തടയാനുമായി ചൈനയുടെ Cyberspace Administration ഏപ്രിലിൽ ഈ നിർദ്ദേശങ്ങൾ പുറപ്പെടുവിച്ചു.
• LLM-കളെ പരിശീലിപ്പിക്കുന്നതിനായി വൈകാരികമായ സംഭാഷണ ഡാറ്റ ഉപയോഗിക്കുന്നത് ഈ നിയമങ്ങൾ നിരോധിക്കുന്നു, ഇത്...