एयर कनाडा को $812.02 CAD का भुगतान करने का आदेश दिया गया है, क्योंकि एक ट्रिब्यूनल ने एयरलाइन को उस चैटबॉट के लिए उत्तरदायी पाया है जिसने ऐसे रिफंड का वादा किया था जो कभी अस्तित्व में ही नहीं था।

विवाद कैसे शुरू हुआ

2022 में, जेक मॉफैट (Jake Moffatt) को एक अंतिम संस्कार के लिए आखिरी समय में उड़ान की आवश्यकता थी। उन्होंने एयरलाइन के ऑनलाइन चैटबॉट से शोक यात्रा किराए (bereavement fares) के बारे में पूछा। बॉट ने उत्तर दिया कि वह पूर्ण मूल्य का टिकट खरीद सकते हैं और बाद में रिफंड का अनुरोध कर सकते हैं। उस उत्तर पर भरोसा करते हुए, मॉफैट ने $1,630.36 CAD का भुगतान किया। जब उन्होंने वादे के अनुसार रिफंड मांगा, तो एयर कनाडा ने अनुरोध को अस्वीकार कर दिया।

मॉफैट ने मामला ट्रिब्यूनल में ले लिया। निर्णयकर्ताओं ने कहा कि एयरलाइन ने लापरवाहीपूर्ण गलत बयानी (negligent misrepresentation) की थी – चैटबॉट का बयान एक झूठा वादा था जिसने खरीदारी के लिए प्रेरित किया। उन्होंने एयर कनाडा के इस दावे को खारिज कर दिया कि एक सॉफ्टवेयर एजेंट अनुबंध करने वाला पक्ष (contracting party) नहीं हो सकता, और यह नोट किया कि बॉट कंपनी की सार्वजनिक वेबसाइट पर मौजूद है और इसलिए एयरलाइन की ओर से कार्य करता है। ट्रिब्यूनल ने एयरलाइन को मॉफैट को $812.02 CAD वापस करने का आदेश दिया।

यह मामला क्यों महत्वपूर्ण है

AI की गलतियों पर अधिकांश सार्वजनिक आक्रोश स्पष्ट विफलताओं—डेटा हानि, टूटे हुए कोड, या स्पष्ट रूप से पक्षपाती आउटपुट—पर केंद्रित होता है। यह निर्णय एक सूक्ष्म खतरे को उजागर करता है: एक AI जो नीतिगत विवरणों को गढ़ते समय आत्मविश्वास से भरा लगता है, वह लागू करने योग्य दायित्व (enforceable obligations) बना सकता है। बॉट ने कुछ भी "डिलीट" नहीं किया था; इसने बस एक स्पष्ट, बिना शर्त उत्तर दिया जिसे एक तर्कसंगत ग्राहक एयरलाइन के आधिकारिक रुख के रूप में मानेगा।

यह फैसला एक कानूनी मिसाल कायम करता है कि AI-जनरेटेड बयानों को "सॉफ्टवेयर केवल एक उपकरण है" वाले बचाव से सुरक्षा नहीं मिल सकती। यदि कोई वर्चुअल असिस्टेंट ऐसी जानकारी प्रदान करता है जिस पर उपभोक्ता खरीदारी करने के लिए भरोसा करता है, तो उस जानकारी को एक संविदात्मक शर्त (contractual term) माना जा सकता है। जो कंपनियां सख्त नियंत्रण के बिना चैटबॉट तैनात करती हैं, उन्हें इसी तरह की देनदारी का जोखिम रहता है।

गलती की तकनीकी जड़

यह त्रुटि एक रिट्रीवल-ऑगमेंटेड जनरेशन (RAG) पाइपलाइन से उत्पन्न हुई थी। सिस्टम ने सही नीति दस्तावेज़ तो ढूंढ लिया, लेकिन गलत वाक्य निकाल लिया और उसे तथ्य के रूप में प्रस्तुत कर दिया। गार्डरेल्स (Guardrails) जो निरर्थक या अपमानजनक भाषा को फ़िल्टर करते हैं, वे अक्सर अच्छी तरह से लिखे गए लेकिन गलत अंशों को नहीं पहचान पाते। इस मामले में, बॉट की प्रवाहपूर्ण भाषा—उसकी हिचकिचाहट की कमी या "मुझे यकीन नहीं है" जैसे शब्दों का न होना—ने उस झूठे वादे को अधिकारपूर्ण बना दिया।

एयरलाइंस और अन्य कंपनियां अब क्या कर सकती हैं

  • किसी भी वित्तीय या पात्रता संबंधी शब्दावली को हार्ड-कोड करें। रिफंड, छूट या शुल्क के बारे में बयानों के लिए निश्चित टेम्पलेट का उपयोग करें।
  • चैटबॉट को फ्रंटलाइन कर्मचारी की तरह मानें। यह मानकर चलें कि कानून की नज़र में वह अनुबंधों पर "हस्ताक्षर" कर सकता है और उसके आउटपुट को मानव एजेंट की तरह ही समीक्षा प्रक्रिया के अधीन रखें।
  • सर्च (खोज) को जनरेशन (निर्माण) से अलग करें। जब कार्य नीति पाठ (policy text) का पता लगाना हो, तो पैराफ्रेज़ किए गए उत्तर के बजाय एक लिंक या उद्धृत अंश (quoted excerpt) प्रदान करें।

ये कदम बातचीत को कम संवादात्मक बना सकते हैं, लेकिन ये उस तरह की आत्मविश्वासपूर्ण गलत सूचना को रोकते हैं जिसकी वजह से एयर कनाडा को अदालत के आदेशानुसार भुगतान करना पड़ा।

जवाबी तर्क: क्या यह देनदारी उचित है?

एयर कनाडा ने तर्क दिया कि कोड के टुकड़े में कानूनी व्यक्तित्व (legal personhood) का अभाव होता है और उसे अनुबंध से नहीं बांधा जा सकता। ट्रिब्यूनल का इनकार इस सिद्धांत पर आधारित है कि कंपनी चैटबॉट को एक आधिकारिक संपर्क बिंदु के रूप में प्रस्तुत करती है। आलोचकों को डर है कि AI तक देनदारी का विस्तार करने से नवाचार (innovation) बाधित हो सकता है, जिससे कंपनियां ऐसे सुरक्षा जाल बनाने के लिए मजबूर होंगी जो उपयोगकर्ता अनुभव को कम कर देते हैं। उपभोक्ताओं की सुरक्षा और AI की चपलता (agility) को बनाए रखने के बीच का संतुलन भविष्य के मामलों में बहस का विषय बनेगा।

आगे क्या देखने की आवश्यकता है

  • अनुवर्ती मुकदमेबाजी। यदि एयर कनाडा अपील करता है, तो उच्च न्यायालय AI-अनुबंध देनदारी के दायरे को और स्पष्ट कर सकते हैं।
  • नियामक मार्गदर्शन। उपभोक्ता संरक्षण एजेंसियां AI-जनरेटेड खुलासों पर नियम जारी कर सकती हैं, विशेष रूप से वित्त, यात्रा और स्वास्थ्य क्षेत्रों में।
  • उद्योग मानक। तकनीकी समूह मौजूदा सुरक्षा और गोपनीयता दिशानिर्देशों के समान "अनुबंध-सुरक्षित" AI प्रतिक्रियाओं के लिए सर्वोत्तम अभ्यास ढांचे (best-practice frameworks) विकसित कर सकते हैं।

निष्कर्ष स्पष्ट है: एक AI चैटबॉट जो कीमत, रिफंड या पात्रता के बारे में सवालों के जवाब दे सकता है, वह कानून की नज़र में व्यवसाय का एक प्रतिनिधि है। जो कंपनियां इसे एक साधारण सर्च बॉक्स की तरह मानती हैं, उन्हें उन वादों के लिए भुगतान करने का जोखिम उठाना पड़ सकता है जिन्हें उनकी नीतियों ने कभी करने का इरादा ही नहीं किया था।