Tribunal Rules AI Chatbot Can Bind Airlines – Air Canada Hit With Liability

നിലവിലില്ലാത്ത ഒരു റീഫണ്ട് വാഗ്ദാനം ചെയ്ത ചാറ്റ്ബോട്ടിന് എയർ കാനഡ ഉത്തരവാദിയാണെന്ന് ട്രൈബ്യൂണൽ കണ്ടെത്തിയതിനെത്തുടർന്ന്, 812.02 CAD നൽകാൻ എയർ കാനഡയ്ക്ക് ഉത്തരവ് ലഭിച്ചു.

തർക്കം എങ്ങനെ ഉടലെടുത്തു

2022-ൽ ഒരു ശവസംസ്കാര ചടങ്ങിൽ പങ്കെടുക്കുന്നതിനായി ജേക്ക് മോഫാറ്റിന് (Jake Moffatt) അവസാന നിമിഷം ഒരു വിമാന ടിക്കറ്റ് ആവശ്യമായി വന്നു. മരണാനന്തര യാത്രകൾക്കുള്ള നിരക്കുകളെക്കുറിച്ച് (bereavement fares) അദ്ദേഹം എയർലൈനിന്റെ ഓൺലൈൻ ചാറ്റ്ബോട്ടിനോട് ചോദിച്ചു. മുഴുവൻ തുക നൽകി ടിക്കറ്റ് വാങ്ങാമെന്നും പിന്നീട് റീഫണ്ട് ആവശ്യപ്പെടാമെന്നും ബോട്ട് മറുപടി നൽകി. ആ മറുപടി വിശ്വസിച്ച് മോഫാറ്റ് 1,630.36 CAD നൽകി. എന്നാൽ വാഗ്ദാനം ചെയ്ത റീഫണ്ട് ആവശ്യപ്പെട്ടപ്പോൾ എയർ കാനഡ അത് നിരസിച്ചു.

മോഫാറ്റ് ഈ വിഷയം ഒരു ട്രൈബ്യൂണലിന് മുന്നിൽ എത്തിച്ചു. എയർലൈൻ അശ്രദ്ധമായ തെറ്റായ വിവരങ്ങൾ നൽകി (negligent misrepresentation) എന്ന് അഡ്ജുഡിക്കേറ്റർമാർ പറഞ്ഞു - ചാറ്റ്ബോട്ടിന്റെ പ്രസ്താവന ഒരു തെറ്റായ വാഗ്ദാനമായിരുന്നുവെന്നും അത് ഒരു പർച്ചേസ് നടത്താൻ പ്രേരിപ്പിച്ചുവെന്നും അവർ നിരീക്ഷിച്ചു. ഒരു സോഫ്റ്റ്‌വെയർ ഏജന്റിന് കരാറിൽ ഏർപ്പെടാൻ കഴിയില്ലെന്ന എയർ കാനഡയുടെ വാദം അവർ തള്ളി. ബോട്ട് കമ്പനിയുടെ പൊതു വെബ്‌സൈറ്റിൽ ലഭ്യമായതിനാൽ അത് എയർലൈനിന് വേണ്ടി പ്രവർത്തിക്കുന്നുണ്ടെന്ന് അവർ ചൂണ്ടിക്കാട്ടി. മോഫാറ്റിന് 812.02 CAD തിരികെ നൽകാൻ ട്രൈബ്യൂണൽ എയർലൈനിനോട് ഉത്തരവിട്ടു.

ഈ കേസ് പ്രധാനമാകുന്നത് എന്തുകൊണ്ട്

AI പിശകുകളെക്കുറിച്ചുള്ള പൊതുജനങ്ങളുടെ പ്രതിഷേധങ്ങൾ മിക്കപ്പോഴും ഡാറ്റാ നഷ്ടം, തകരാറിലായ കോഡ് അല്ലെങ്കിൽ വ്യക്തമായ പക്ഷപാതപരമായ ഔട്ട്‌പുട്ടുകൾ തുടങ്ങിയ പ്രകടമായ പരാജയങ്ങളിലാണ് ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നത്. എന്നാൽ ഈ തീരുമാനം കൂടുതൽ സൂക്ഷ്മമായ ഒരു അപകടത്തെയാണ് ചൂണ്ടിക്കാണിക്കുന്നത്: നയങ്ങൾ (policy) കൃത്രിമമായി നിർമ്മിക്കുമ്പോഴും ആത്മവിശ്വാസത്തോടെ സംസാരിക്കുന്ന ഒരു AI, നിയമപരമായി നടപ്പിലാക്കാൻ കഴിയുന്ന ബാധ്യതകൾ സൃഷ്ടിച്ചേക്കാം. ബോട്ട് ഒന്നും "ഡിലീറ്റ്" ചെയ്തില്ല; മറിച്ച്, ഒരു സാധാരണ ഉപഭോക്താവ് എയർലൈനിന്റെ ഔദ്യോഗിക നിലപാടായി കണക്കാക്കാൻ സാധ്യതയുള്ള വ്യക്തവും നിരുപാധികവുമായ ഒരു മറുപടി നൽകുക മാത്രമാണ് ചെയ്തത്.

"സോഫ്റ്റ്‌വെയർ വെറുമൊരു ഉപകരണം മാത്രമാണ്" എന്ന വാദമുയർത്തി AI നിർമ്മിത പ്രസ്താവനകളിൽ നിന്ന് രക്ഷപ്പെടാൻ കഴിയില്ല എന്ന നിയമപരമായ കീഴ്വഴക്കം ഈ വിധി നിശ്ചയിക്കുന്നു. ഒരു ഉപഭോക്താവ് പർച്ചേസ് നടത്തുന്നതിനായി വിശ്വസിക്കുന്ന വിവരങ്ങൾ ഒരു വെർച്വൽ അസിസ്റ്റന്റ് നൽകുന്നുണ്ടെങ്കിൽ, ആ വിവരത്തെ ഒരു കരാർ വ്യവസ്ഥയായി (contractual term) കണക്കാക്കാം. കർശനമായ നിയന്ത്രണങ്ങളില്ലാതെ ചാറ്റ്ബോട്ടുകൾ ഉപയോഗിക്കുന്ന കമ്പനികൾക്ക് സമാനമായ നിയമപരമായ ബാധ്യതകൾ നേരിടേണ്ടി വന്നേക്കാം.

പിശകിന്റെ സാങ്കേതിക കാരണം

റിട്രീവൽ-ഓഗ്മെന്റഡ് ജനറേഷൻ (RAG) പൈപ്പ്‌ലൈനിൽ നിന്നാണ് ഈ പിശക് ഉണ്ടായത്. സിസ്റ്റം ശരിയായ പോളിസി ഡോക്യുമെന്റ് കണ്ടെത്തിയെങ്കിലും, തെറ്റായ ഒരു വാചകം എടുത്ത് അത് വസ്തുതയായി അവതരിപ്പിച്ചു. അർത്ഥശൂന്യമായതോ അധിക്ഷേപകരമായതോ ആയ ഭാഷാപ്രയോഗങ്ങളെ ഫിൽട്ടർ ചെയ്യുന്ന ഗാർഡ്‌റെയിലുകൾ (Guardrails), കൃത്യമായി എഴുതപ്പെട്ട എന്നാൽ തെറ്റായ വിവരങ്ങൾ പലപ്പോഴും തിരിച്ചറിയാറില്ല. ഈ സാഹചര്യത്തിൽ, ബോട്ടിന്റെ ഒഴുക്കുള്ള സംസാരരീതിയും "എനിക്ക് ഉറപ്പില്ല" എന്ന് പറയാതിരുന്നതും ആ തെറ്റായ വാഗ്ദാനത്തിന് ഒരു ഔദ്യോഗിക സ്വഭാവം നൽകി.

എയർലൈനുകൾക്കും മറ്റ് സ്ഥാപനങ്ങൾക്കും ഇപ്പോൾ എന്തുചെയ്യാൻ കഴിയും

• സാമ്പത്തികമായോ അവകാശപരമായോ ഉള്ള വാചകങ്ങൾ ഹാർഡ്-കോഡ് ചെയ്യുക. റീഫണ്ടുകൾ, ഡിസ്കൗണ്ടുകൾ അല്ലെങ്കിൽ ഫീസുകൾ എന്നിവയെക്കുറിച്ചുള്ള പ്രസ്താവനകൾക്കായി നിശ്ചിത ടെംപ്ലേറ്റുകൾ ഉപയോഗിക്കുക.
• ചാറ്റ്ബോട്ടിനെ ഒരു മുൻനിര ജീവനക്കാരനായി പരിഗണിക്കുക. നിയമത്തിന്റെ കണ്ണിൽ ചാറ്റ്ബോട്ടിന് കരാറുകളിൽ "ഒപ്പുവെക്കാൻ" കഴിയുമെന്ന് കരുതുക, കൂടാതെ അതിന്റെ ഔട്ട്‌പുട്ടുകൾ ഒരു മനുഷ്യ ഏജന്റിന്റേതിന് തുല്യമായ പരിശോധനാ പ്രക്രിയയ്ക്ക് വിധേയമാക്കുക.
• സെർച്ചിനെയും ജനറേഷനെയും വേർതിരിക്കുക. പോളിസി ടെക്സ്റ്റ് കണ്ടെത്തുക എന്നതാണ് ലക്ഷ്യമെങ്കിൽ, കാര്യങ്ങൾ മാറ്റിപ്പേസ് ചെയ്ത് (paraphrased) മറുപടി നൽകുന്നതിന് പകരം ഒരു ലിങ്കോ അല്ലെങ്കിൽ ഉദ്ധരിച്ച ഭാഗമോ നൽകുക.

ഈ നടപടികൾ സംഭാഷണ ശൈലിയെ കുറച്ചേക്കാം, എന്നാൽ എയർ കാനഡയ്ക്ക് കോടതി ഉത്തരവ് പ്രകാരം പണം നൽകേണ്ടി വന്നതുപോലെയുള്ള തെറ്റായ വിവരങ്ങൾ നൽകുന്നത് തടയാൻ ഇവ സഹായിക്കും.

എതിർവാദം: ഈ ബാധ്യത ന്യായമാണോ?

ഒരു കോഡ് കഷണത്തിന് നിയമപരമായ വ്യക്തിത്വം (legal personhood) ഇല്ലെന്നും കരാറുകളാൽ അതിനെ ബാധകമാക്കാൻ കഴിയില്ലെന്നും എയർ കാനഡ വാദിച്ചു. എന്നാൽ കമ്പനി ചാറ്റ്ബോട്ടിനെ ഒരു ഔദ്യോഗിക കോൺടാക്റ്റ് പോയിന്റായി അവതരിപ്പിക്കുന്നു എന്ന തത്വത്തിന്റെ അടിസ്ഥാനത്തിലാണ് ട്രൈബ്യൂണൽ ഈ വാദം തള്ളിയത്. AI-ക്ക് മേൽ ബാധ്യതകൾ ചുമത്തുന്നത് നൂതനമായ കണ്ടുപിടുത്തങ്ങളെ തടഞ്ഞേക്കാം എന്നും, ഉപഭോക്താക്കളുടെ അനുഭവം കുറയ്ക്കുന്ന തരത്തിലുള്ള സുരക്ഷാ സംവിധാനങ്ങൾ നിർമ്മിക്കാൻ കമ്പനികളെ നിർബന്ധിതരാക്കുമെന്നും വിമർശകർ ആശങ്കപ്പെടുന്നു. ഉപഭോക്താക്കളെ സംരക്ഷിക്കുന്നതും AI-യുടെ വേഗത നിലനിർത്തുന്നതും തമ്മിലുള്ള സന്തുലിതാവസ്ഥ ഭാവി കേസുകളിൽ ചർച്ച ചെയ്യപ്പെടാൻ സാധ്യതയുണ്ട്.

ഇനി ശ്രദ്ധിക്കേണ്ട കാര്യങ്ങൾ

• തുടർ നിയമനടപടികൾ. എയർ കാനഡ അപ്പീൽ നൽകുകയാണെങ്കിൽ, AI കരാർ ബാധ്യതകളുടെ വ്യാപ്തിയെക്കുറിച്ച് ഉയർന്ന കോടതികൾ കൂടുതൽ വ്യക്തത നൽകിയേക്കാം.
• നിയമപരമായ മാർഗ്ഗനിർദ്ദേശങ്ങൾ. ഫിനാൻസ്, ട്രാവൽ, ഹെൽത്ത് തുടങ്ങിയ മേഖലകളിൽ AI നിർമ്മിത വിവരങ്ങൾ വെളിപ്പെടുത്തുന്നതിനെക്കുറിച്ച് ഉപഭോക്തൃ സംരക്ഷണ ഏജൻസികൾ നിയമങ്ങൾ പുറപ്പെടുവിച്ചേക്കാം.
• വ്യവസായ മാനദണ്ഡങ്ങൾ. നിലവിലുള്ള സുരക്ഷാ, സ്വകാര്യതാ മാർഗ്ഗനിർദ്ദേശങ്ങൾ പോലെ, "കരാർ സുരക്ഷിതമായ" (contract-safe) AI മറുപടികൾക്കായി സാങ്കേതിക ഗ്രൂപ്പുകൾ മികച്ച രീതിയിലുള്ള ചട്ടക്കൂടുകൾ വികസിപ്പിച്ചേക്കാം.

ഇതിൽ നിന്നുള്ള പാഠം വ്യക്തമാണ്: വില, റീഫണ്ട് അല്ലെങ്കിൽ അവകാശങ്ങൾ എന്നിവയെക്കുറിച്ചുള്ള ചോദ്യങ്ങൾക്ക് ഉത്തരം നൽകാൻ കഴിയുന്ന ഒരു AI ചാറ്റ്ബോട്ട്, നിയമത്തിന്റെ കണ്ണിൽ ആ ബിസിനസ്സിന്റെ ഒരു പ്രതിനിധിയാണ്. അതിനെ വെറുമൊരു സെർച്ച് ബോക്സ് ആയി മാത്രം കാണുന്ന കമ്പനികൾ, തങ്ങളുടെ പോളിസികൾ ഒരിക്കലും നൽകാൻ ഉദ്ദേശിക്കാത്ത വാഗ്ദാനങ്ങൾക്ക് പണം നൽകേണ്ടി വരുന്ന അപകടസാധ്യത നേരിടുന്നു.