ایر کانادا پس از آنکه یک دادگاه رسیدگیکننده، این شرکت هواپیمایی را مسئولیتدار یک چتبات دانست که وعده بازپرداخت وجهی را داده بود که هرگز وجود نداشت، محکوم به پرداخت ۸۱۲.۰۲ دلار کانادا شد.
چگونگی شکلگیری این اختلاف
در سال ۲۰۲۲، جِیک مافات برای شرکت در یک مراسم تدفین به پروازی در آخرین لحظه نیاز داشت. او از چتبات آنلاین این شرکت هواپیمایی درباره نرخهای ویژه سوگواری پرسید. ربات پاسخ داد که او میتواند یک بلیط با قیمت کامل بخرد و بعداً درخواست بازپرداخت وجه کند. مافات با اعتماد به این پاسخ، مبلغ ۱۶۳۰.۳۶ دلار کانادا پرداخت کرد. اما وقتی او درخواست بازپرداخت وعدهدادهشده را کرد، ایر کانادا با آن مخالفت کرد.
مافات موضوع را به یک دادگاه رسیدگیکننده (tribunal) برد. داوران اعلام کردند که این شرکت هواپیمایی مرتکب «ارائه اطلاعات نادرست از روی سهلانگاری» شده است؛ اظهارات چتبات وعدهای دروغین بود که باعث انجام خرید شد. آنها ادعای ایر کانادا مبنی بر اینکه یک عامل نرمافزاری نمیتواند طرف قرارداد باشد را رد کردند و خاطرنشان کردند که از آنجایی که ربات در وبسایت عمومی شرکت قرار دارد، از طرف شرکت هواپیمایی عمل میکند. دادگاه شرکت هواپیمایی را ملزم کرد تا مبلغ ۸۱۲.۰۲ دلار کانادا به مافات بازگرداند.
چرا این پرونده اهمیت دارد
بیشتر اعتراضات عمومی نسبت به خطاهای هوش مصنوعی بر شکستهای آشکار تمرکز دارد؛ مانند از دست رفتن دادهها، کدهای خراب یا خروجیهای آشکارا سوگیرانه. این تصمیم بر خطری ظریفتر تمرکز میکند: هوش مصنوعی که در حین ابداع جزئیات سیاستهای شرکت، با اعتمادبهنفس صحبت میکند، میتواند تعهدات قانونی ایجاد کند. ربات چیزی را «پاک» نکرد؛ بلکه صرفاً پاسخی شفاف و بدون قید و شرط ارائه داد که یک مشتری منطقی آن را به عنوان موضع رسمی شرکت هواپیمایی تلقی میکرد.
این حکم یک رویه حقوقی ایجاد میکند که بر اساس آن، اظهارات تولیدشده توسط هوش مصنوعی با دفاعیه «نرمافزار فقط یک ابزار است» مصون نمیمانند. اگر یک دستیار مجازی اطلاعاتی ارائه دهد که مصرفکننده برای انجام خرید به آن اعتماد کند، آن اطلاعات ممکن است به عنوان یک شرط قراردادی تلقی شود. شرکتهایی که چتباتها را بدون کنترلهای دقیق به کار میگیرند، با خطر مسئولیتهای مشابه روبرو هستند.
ریشه فنی این اشتباه
این خطا از یک خط لوله تولید تقویتشده با بازیابی (RAG) نشأت گرفته بود. سیستم سند سیاستگذاری صحیح را پیدا کرد، اما جمله اشتباهی را استخراج و آن را به عنوان واقعیت ارائه داد. حفاظهای امنیتی (Guardrails) که متون بیمعنی یا زبان توهینآمیز را فیلتر میکنند، اغلب بخشهای بهخوبی نوشتهشده اما نادرست را نادیده میگیرند. در این مورد، روانی کلام ربات — یعنی عدم تردید یا نگفتن جملاتی مثل «مطمئن نیستم» — به آن وعده دروغین، ظاهری مقتدرانه بخشید.
اقداماتی که شرکتهای هواپیمایی و سایر شرکتها میتوانند انجام دهند
- عبارات مربوط به مسائل مالی یا حقوقی را بهصورت ثابت (Hard-code) تعریف کنید. برای اظهارات مربوط به بازپرداخت وجه، تخفیفها یا هزینهها از قالبهای ثابت استفاده کنید.
- با چتبات مانند یک کارمند خط مقدم برخورد کنید. فرض کنید که از نظر قانون، ربات میتواند قراردادها را «امضا» کند و خروجیهای آن را مشمول همان فرآیند بازبینی کنید که برای یک کارمند انسانی در نظر میگیرید.
- جستجو را از تولید متن (Generation) جدا کنید. زمانی که وظیفه یافتن متن سیاستگذاری است، به جای ارائه پاسخ بازنویسیشده، یک لینک یا بخشی از متن اصلی را نقلقول کنید.
این اقدامات ممکن است باعث شود تعامل کمتر حالت گفتگویی داشته باشد، اما از انتشار اطلاعات نادرست و با اعتمادبهنفسی که باعث شد ایر کانادا مجبور به پرداخت خسارت از طریق دادگاه شود، جلوگیری میکند.
استدلال مخالف: آیا این مسئولیت عادلانه است؟
ایر کانادا استدلال کرد که یک قطعه کد فاقد شخصیت حقوقی است و نمیتواند متعهد به قرارداد شود. رد این ادعا توسط دادگاه بر این اصل استوار است که شرکت، چتبات را به عنوان یک نقطه تماس رسمی معرفی میکند. منتقدان نگرانند که گسترش مسئولیت به هوش مصنوعی بتواند مانع نوآوری شود و شرکتها را مجبور به طراحی بیش از حد سیستمهای حفاظتی کند که تجربه کاربری را کاهش میدهد. تعادل بین محافظت از مصرفکنندگان و حفظ چابکی هوش مصنوعی احتمالاً در پروندههای آینده مورد بحث قرار خواهد گرفت.
آنچه باید در آینده زیر نظر داشت
- شکایات حقوقی بعدی. اگر ایر کانادا درخواست تجدیدنظر کند، دادگاههای بالاتر ممکن است دامنه مسئولیت قراردادی هوش مصنوعی را بازتعریف کنند.
- رهنمودهای نظارتی. نهادهای حمایت از مصرفکننده ممکن است قوانینی را در مورد افشاگریهای تولیدشده توسط هوش مصنوعی، بهویژه در بخشهای مالی، سفر و سلامت صادر کنند.
- استانداردهای صنعت. گروههای فناوری میتوانند چارچوبهای «بهترین عملکرد» را برای پاسخهای هوش مصنوعی «ایمن از نظر قراردادی» توسعه دهند، مشابه دستورالعملهای موجود در زمینه امنیت و حریم خصوصی.
نتیجهگیری روشن است: یک چتبات هوش مصنوعی که میتواند به سوالات مربوط به قیمت، بازپرداخت یا حقوق مشتری پاسخ دهد، از نظر قانون، نماینده آن کسبوکار است. شرکتهایی که با آن مانند یک جعبه جستجوی ساده برخورد میکنند، با خطر پرداخت خسارت بابت وعدههایی روبرو هستند که سیاستهای آنها هرگز قصد ارائه آنها را نداشته است.