Air Canada diperintahkan untuk membayar $812.02 CAD selepas sebuah tribunal mendapati syarikat penerbangan itu bertanggungjawab atas chatbot yang menjanjikan bayaran balik yang tidak pernah wujud.

Bagaimana pertikaian itu berlaku

Pada tahun 2022, Jake Moffatt memerlukan penerbangan saat akhir untuk menghadiri pengebumian. Beliau bertanya kepada chatbot dalam talian syarikat penerbangan tersebut tentang tambang pengebumian (bereavement fares). Bot itu menjawab bahawa beliau boleh membeli tiket pada harga penuh dan kemudian meminta bayaran balik. Berdasarkan jawapan tersebut, Moffatt membayar $1,630.36 CAD. Apabila beliau meminta bayaran balik yang dijanjikan, Air Canada menolak permintaan tersebut.

Moffatt membawa perkara ini ke tribunal. Pegawai adjudikasi menyatakan bahawa syarikat penerbangan tersebut telah melakukan salah nyata cuai (negligent misrepresentation) – kenyataan chatbot itu merupakan janji palsu yang mendorong pembelian. Mereka menolak dakwaan Air Canada bahawa ejen perisian tidak boleh menjadi pihak dalam kontrak, dengan menyatakan bahawa bot tersebut berada di laman web awam syarikat dan oleh itu bertindak bagi pihak syarikat penerbangan tersebut. Tribunal memerintahkan syarikat penerbangan itu membayar balik $812.02 CAD kepada Moffatt.

Mengapa kes ini penting

Kebanyakan kecaman awam terhadap ralat AI tertumpu kepada kegagalan yang nyata—kehilangan data, kod yang rosak, atau output yang jelas berat sebelah. Keputusan ini menonjolkan bahaya yang lebih halus: AI yang kedengaran yakin semasa mereka mencipta butiran polisi boleh mewujudkan obligasi yang boleh dikuatkuasakan. Bot tersebut tidak "memadam" apa-apa; ia hanya memberikan jawapan yang jelas dan tanpa syarat yang akan dianggap oleh pelanggan yang munasabah sebagai pendirian rasmi syarikat penerbangan tersebut.

Keputusan ini menetapkan duluan undang-undang bahawa kenyataan yang dijana oleh AI tidak dilindungi oleh pembelaan "perisian hanyalah sebuah alat". Jika pembantu maya memberikan maklumat yang menjadi sandaran pengguna untuk membuat pembelian, maklumat tersebut boleh dianggap sebagai terma kontrak. Syarikat yang menggunakan chatbot tanpa kawalan ketat berisiko menghadapi liabiliti yang sama.

Punca teknikal kesilapan tersebut

Kesilapan itu berpunca daripada saluran penjanaan dipertingkat pengambilan (retrieval-augmented generation atau RAG). Sistem tersebut menemui dokumen polisi yang betul tetapi mengambil ayat yang salah dan membentangkannya sebagai fakta. Pagar keselamatan (guardrails) yang menapis bahasa yang tidak masuk akal atau menyinggung perasaan sering terlepas petikan yang ditulis dengan baik tetapi tidak tepat. Dalam kes ini, kelancaran bot tersebut—ketiadaan keraguan atau ungkapan "saya tidak pasti"—memberikan janji palsu itu nada autoriti.

Apa yang boleh dilakukan oleh syarikat penerbangan dan firma lain sekarang

  • Kodkan secara tetap (hard-code) sebarang ayat berkaitan kewangan atau kelayakan. Gunakan templat tetap untuk kenyataan mengenai bayaran balik, diskaun, atau yuran.
  • Anggap chatbot sebagai pekerja barisan hadapan. Andaikan ia boleh "menandatangani" kontrak di sisi undang-undang dan tertakluk kepada proses semakan yang sama seperti ejen manusia.
  • Asingkan carian daripada penjanaan. Apabila tugasnya adalah untuk mencari teks polisi, berikan pautan atau petikan yang dipetik dan bukannya jawapan yang telah diolah semula (paraphrased).

Langkah-langkah ini mungkin membuatkan interaksi terasa kurang santai, tetapi ia dapat menghentikan jenis maklumat salah yang yakin yang menyebabkan Air Canada terpaksa membayar pampasan atas perintah mahkamah.

Hujah balas: Adakah liabiliti ini adil?

Air Canada berhujah bahawa kod perisian tidak mempunyai personaliti undang-undang dan tidak boleh terikat dengan kontrak. Penolakan tribunal tersebut bersandarkan kepada prinsip bahawa syarikat mempersembahkan chatbot sebagai titik hubungan rasmi. Pengkritik bimbang bahawa meluaskan liabiliti kepada AI boleh menyekat inovasi, memaksa firma untuk membina sistem keselamatan yang terlalu rumit sehingga menjejaskan pengalaman pengguna. Keseimbangan antara melindungi pengguna dan mengekalkan ketangkasan AI berkemungkinan besar akan didebatkan dalam kes-kes akan datang.

Apa yang perlu diperhatikan seterusnya

  • Litigasi susulan. Jika Air Canada membuat rayuan, mahkamah yang lebih tinggi mungkin memperincikan skop liabiliti kontrak AI.
  • Panduan kawal selia. Agensi perlindungan pengguna mungkin mengeluarkan peraturan mengenai pendedahan yang dijana oleh AI, terutamanya dalam sektor kewangan, pelancongan, dan kesihatan.
  • Standard industri. Kumpulan teknologi boleh membangunkan rangka kerja amalan terbaik untuk respons AI yang "selamat untuk kontrak", serupa dengan garis panduan keselamatan dan privasi sedia ada.

Pengajarannya jelas: chatbot AI yang boleh menjawab soalan tentang harga, bayaran balik atau kelayakan adalah, di sisi undang-undang, wakil perniagaan tersebut. Syarikat yang menganggapnya seperti kotak carian biasa berisiko membayar pampasan bagi janji-janji yang tidak pernah dimaksudkan oleh polisi mereka.