একটি ট্রাইব্যুনাল এয়ার কানাডাকে একটি চ্যাটবটের জন্য দায়ী সাব্যস্ত করার পর কোম্পানিটিকে ৮১২.০২ কানাডিয়ান ডলার পরিশোধের নির্দেশ দিয়েছে, যা এমন একটি রিফান্ড বা অর্থ ফেরতের প্রতিশ্রুতি দিয়েছিল যা আসলে ছিল না।

বিরোধটি যেভাবে উদ্ভূত হয়েছিল

২০২২ সালে জেক মফাট (Jake Moffatt)-এর একটি অন্ত্যেষ্টিক্রিয়ার জন্য শেষ মুহূর্তে একটি ফ্লাইটের প্রয়োজন ছিল। তিনি এয়ারলাইন্সের অনলাইন চ্যাটবটকে শোকাতুর যাত্রীদের জন্য বিশেষ ভাড়ার (bereavement fares) বিষয়ে জিজ্ঞাসা করেন। চ্যাটবটটি উত্তর দেয় যে তিনি পূর্ণমূল্যে টিকিট কিনতে পারেন এবং পরে রিফান্ডের জন্য অনুরোধ করতে পারেন। সেই উত্তরের ওপর ভিত্তি করে মফাট ১,৬৩০.৩৬ কানাডিয়ান ডলার প্রদান করেন। যখন তিনি প্রতিশ্রুতি অনুযায়ী রিফান্ড চাইলেন, এয়ার কানাডা সেই অনুরোধ প্রত্যাখ্যান করে।

মফাট বিষয়টি একটি ট্রাইব্যুনালে নিয়ে যান। বিচারকরা বলেন যে এয়ারলাইন্সটি অবহেলাজনিত ভুল উপস্থাপনায় (negligent misrepresentation) লিপ্ত হয়েছে – চ্যাটবটের বক্তব্য ছিল একটি মিথ্যা প্রতিশ্রুতি যা তাকে কেনাকাটা করতে প্ররোচিত করেছিল। তারা এয়ার কানাডার এই দাবি প্রত্যাখ্যান করেন যে একটি সফটওয়্যার এজেন্ট চুক্তির পক্ষ হতে পারে না; তারা উল্লেখ করেন যে চ্যাটবটটি কোম্পানির পাবলিক ওয়েবসাইটে থাকে এবং তাই এটি এয়ারলাইন্সের পক্ষ থেকে কাজ করে। ট্রাইব্যুনাল এয়ার কানাডাকে মফাটকে ৮১২.০২ কানাডিয়ান ডলার ফেরত দেওয়ার নির্দেশ দেয়।

মামলাটি কেন গুরুত্বপূর্ণ

এআই (AI) সংক্রান্ত ভুলের ক্ষেত্রে জনরোষের বেশিরভাগ অংশই স্পষ্ট ব্যর্থতাগুলোর ওপর কেন্দ্রীভূত থাকে—যেমন ডেটা হারিয়ে যাওয়া, কোড ভেঙে যাওয়া বা প্রকাশ্য পক্ষপাতদুষ্ট আউটপুট। এই সিদ্ধান্তটি একটি সূক্ষ্ম বিপদকে সামনে এনেছে: একটি এআই যা নীতিমালার বিবরণ উদ্ভাবন করার সময় আত্মবিশ্বাসী শোনায়, তা আইনত কার্যকর বাধ্যবাধকতা তৈরি করতে পারে। চ্যাটবটটি কোনো কিছু "মুছে" ফেলেনি; এটি কেবল একটি স্পষ্ট ও শর্তহীন উত্তর দিয়েছিল যা একজন যুক্তিসঙ্গত গ্রাহক এয়ারলাইন্সের আনুষ্ঠানিক অবস্থান হিসেবে গণ্য করবেন।

এই রায় একটি আইনি নজির স্থাপন করেছে যে, এআই-জেনারেটেড বা এআই দ্বারা তৈরি বক্তব্যগুলো "সফটওয়্যার কেবল একটি সরঞ্জাম" এই যুক্তির মাধ্যমে সুরক্ষা পেতে পারে না। যদি কোনো ভার্চুয়াল অ্যাসিস্ট্যান্ট এমন তথ্য প্রদান করে যার ওপর ভিত্তি করে একজন ভোক্তা কেনাকাটা করেন, তবে সেই তথ্যকে চুক্তির শর্ত হিসেবে গণ্য করা যেতে পারে। কঠোর নিয়ন্ত্রণ ছাড়া চ্যাটবট ব্যবহারকারী কোম্পানিগুলো একই ধরনের আইনি দায়বদ্ধতার ঝুঁকিতে রয়েছে।

ভুলের প্রযুক্তিগত মূল কারণ

এই ত্রুটিটি একটি রিট্রিভাল-অগমেন্টেড জেনারেশন (RAG) পাইপলাইন থেকে উদ্ভূত হয়েছিল। সিস্টেমটি সঠিক নীতিমালার নথিটি খুঁজে পেয়েছিল কিন্তু ভুল বাক্যটি তুলে ধরেছিল এবং সেটিকে সত্য হিসেবে উপস্থাপন করেছিল। গার্ডরেল (Guardrails) যা অর্থহীন বা আপত্তিকর ভাষা ফিল্টার করে, সেগুলো প্রায়শই সুবিন্যস্ত কিন্তু ভুল উদ্ধৃতিগুলো শনাক্ত করতে ব্যর্থ হয়। এই ক্ষেত্রে, চ্যাটবটের সাবলীলতা—তার দ্বিধা বা "আমি নিশ্চিত নই" বলার অভাব—মিথ্যা প্রতিশ্রুতিটিকে একটি কর্তৃত্বপূর্ণ রূপ দিয়েছিল।

এয়ারলাইন্স এবং অন্যান্য প্রতিষ্ঠানগুলো এখন যা করতে পারে

  • যেকোনো আর্থিক বা পাওনা সংক্রান্ত শব্দাবলী হার্ড-কোড করুন। রিফান্ড, ডিসকাউন্ট বা ফি সংক্রান্ত বিবৃতির জন্য নির্দিষ্ট টেমপ্লেট ব্যবহার করুন।
  • চ্যাটবটকে একজন ফ্রন্টলাইন কর্মী হিসেবে বিবেচনা করুন। ধরে নিন যে আইনের চোখে এটি চুক্তি "স্বাক্ষর" করতে পারে এবং এর আউটপুটগুলোকে একজন মানুষের মতো একই পর্যালোচনা প্রক্রিয়ার মধ্য দিয়ে দিন।
  • সার্চ এবং জেনারেশনকে আলাদা করুন। যখন কাজ হবে কোনো নীতিমালার টেক্সট খুঁজে বের করা, তখন প্যারাফ্রেজ করা উত্তরের পরিবর্তে একটি লিঙ্ক বা উদ্ধৃত অংশ প্রদান করুন।

এই পদক্ষেপগুলো কথোপকথনটিকে কিছুটা কম প্রাণবন্ত করে তুলতে পারে, তবে এগুলো সেই ধরণের আত্মবিশ্বাসী ভুল তথ্য প্রদান রোধ করবে যার কারণে এয়ার কানাডাকে আদালতের নির্দেশ অনুযায়ী অর্থ প্রদান করতে হয়েছে।

পাল্টা যুক্তি: এই দায়বদ্ধতা কি ন্যায্য?

এয়ার কানাডা যুক্তি দিয়েছিল যে একটি কোড বা প্রোগ্রামের কোনো আইনি সত্তা নেই এবং তাকে চুক্তির মাধ্যমে বাধ্য করা যায় না। ট্রাইব্যুনালের এই প্রত্যাখ্যান এই নীতির ওপর ভিত্তি করে যে, কোম্পানিটি চ্যাটবটটিকে একটি অফিসিয়াল যোগাযোগের মাধ্যম হিসেবে উপস্থাপন করে। সমালোচকরা আশঙ্কা করছেন যে এআই-এর ওপর দায়বদ্ধতা সম্প্রসারণ করলে উদ্ভাবন বাধাগ্রস্ত হতে পারে, যা কোম্পানিগুলোকে অতিরিক্ত নিরাপত্তা ব্যবস্থা তৈরি করতে বাধ্য করবে যা ব্যবহারকারীর অভিজ্ঞতাকে কমিয়ে দেবে। ভোক্তা সুরক্ষা এবং এআই-এর চপলতা বা গতিশীলতা বজায় রাখার মধ্যে ভারসাম্য নিয়ে সম্ভবত ভবিষ্যতে আরও মামলায় বিতর্ক হবে।

পরবর্তীতে যা লক্ষ্য রাখতে হবে

  • পরবর্তী মামলা। যদি এয়ার কানাডা আপিল করে, তবে উচ্চতর আদালত এআই-চুক্তি সংক্রান্ত দায়বদ্ধতার পরিধি আরও সুনির্দিষ্ট করতে পারে।
  • নিয়ন্ত্রক নির্দেশনা। ভোক্তা সুরক্ষা সংস্থাগুলো এআই-জেনারেটেড তথ্য প্রকাশের বিষয়ে নিয়ম জারি করতে পারে, বিশেষ করে অর্থ, ভ্রমণ এবং স্বাস্থ্য খাতে।
  • শিল্প মানদণ্ড। প্রযুক্তি গোষ্ঠীগুলো বিদ্যমান নিরাপত্তা এবং গোপনীয়তা নির্দেশিকার মতো "চুক্তি-নিরাপদ" এআই উত্তরের জন্য সর্বোত্তম অনুশীলন কাঠামো (best-practice frameworks) তৈরি করতে পারে।

মূল শিক্ষাটি স্পষ্ট: একটি এআই চ্যাটবট যা মূল্য, রিফান্ড বা পাওনা সংক্রান্ত প্রশ্নের উত্তর দিতে পারে, তা আইনের চোখে ব্যবসার একজন প্রতিনিধি। যে কোম্পানিগুলো এটিকে কেবল একটি সাধারণ সার্চ বক্স হিসেবে বিবেচনা করে, তারা এমন সব প্রতিশ্রুতির জন্য অর্থ প্রদানের ঝুঁকিতে থাকে যা তাদের নীতিমালা কখনোই দিতে চায়নি।