Air Canada diperintahkan untuk membayar $812,02 CAD setelah sebuah tribunal menyatakan maskapai tersebut bertanggung jawab atas chatbot yang menjanjikan pengembalian dana yang sebenarnya tidak ada.

Bagaimana perselisihan ini terjadi

Pada tahun 2022, Jake Moffatt membutuhkan penerbangan mendadak untuk menghadiri pemakaman. Ia bertanya kepada chatbot online maskapai tersebut mengenai tarif duka cita (bereavement fares). Bot tersebut menjawab bahwa ia dapat membeli tiket dengan harga penuh dan kemudian mengajukan pengembalian dana. Berdasarkan jawaban tersebut, Moffatt membayar $1.630,36 CAD. Ketika ia meminta pengembalian dana yang dijanjikan, Air Canada menolak permintaan tersebut.

Moffatt membawa masalah ini ke tribunal. Para adjudikator menyatakan bahwa maskapai tersebut telah melakukan salah representasi yang lalai (negligent misrepresentation) – pernyataan chatbot tersebut adalah janji palsu yang mendorong terjadinya pembelian. Mereka menolak klaim Air Canada bahwa agen perangkat lunak tidak dapat menjadi pihak dalam kontrak, dengan mencatat bahwa bot tersebut berada di situs web publik perusahaan dan oleh karena itu bertindak atas nama maskapai. Tribunal memerintahkan maskapai untuk mengganti rugi Moffatt sebesar $812,02 CAD.

Mengapa kasus ini penting

Sebagian besar kecaman publik atas kesalahan AI berfokus pada kegagalan yang nyata—kehilangan data, kode yang rusak, atau hasil yang sangat bias. Keputusan ini menyoroti bahaya yang lebih halus: AI yang terdengar percaya diri saat mengarang detail kebijakan dapat menciptakan kewajiban yang dapat ditegakkan secara hukum. Bot tersebut tidak "menghapus" apa pun; ia hanya memberikan jawaban yang jelas dan tanpa syarat yang akan dianggap oleh pelanggan yang wajar sebagai sikap resmi maskapai.

Putusan ini menetapkan preseden hukum bahwa pernyataan yang dihasilkan AI tidak terlindungi oleh pembelaan "perangkat lunak hanyalah sebuah alat". Jika asisten virtual memberikan informasi yang diandalkan konsumen untuk melakukan pembelian, informasi tersebut dapat dianggap sebagai ketentuan kontrak. Perusahaan yang menerapkan chatbot tanpa kontrol yang ketat berisiko menghadapi tanggung jawab hukum yang serupa.

Akar teknis dari kesalahan tersebut

Kesalahan tersebut berasal dari alur kerja retrieval-augmented generation (RAG). Sistem menemukan dokumen kebijakan yang benar tetapi mengambil kalimat yang salah dan menyajikannya sebagai fakta. Guardrails (pagar pembatas) yang menyaring omong kosong atau bahasa yang menyinggung sering kali melewatkan kutipan yang ditulis dengan baik tetapi tidak akurat. Dalam kasus ini, kefasihan bot—kurangnya keraguan atau pernyataan "saya tidak yakin"—memberikan kesan otoritas pada janji palsu tersebut.

Apa yang dapat dilakukan maskapai dan perusahaan lain sekarang

  • Tuliskan secara kaku (hard-code) setiap kata terkait keuangan atau hak. Gunakan templat tetap untuk pernyataan tentang pengembalian dana, diskon, atau biaya.
  • Perlakukan chatbot sebagai karyawan lini depan. Anggaplah ia dapat "menandatangani" kontrak di mata hukum dan tundukkan hasilnya pada proses peninjauan yang sama seperti agen manusia.
  • Pisahkan pencarian dari pembuatan (generation). Ketika tugasnya adalah menemukan teks kebijakan, berikan tautan atau kutipan teks daripada jawaban yang diparfrasakan.

Langkah-langkah ini mungkin membuat interaksi terasa kurang seperti percakapan, tetapi langkah ini menghentikan jenis misinformasi percaya diri yang membuat Air Canada harus membayar ganti rugi berdasarkan perintah pengadilan.

Argumen tandingan: Apakah tanggung jawab ini adil?

Air Canada berargumen bahwa sebuah kode tidak memiliki kepribadian hukum (legal personhood) dan tidak dapat terikat oleh kontrak. Penolakan tribunal didasarkan pada prinsip bahwa perusahaan menyajikan chatbot sebagai titik kontak resmi. Para kritikus khawatir bahwa memperluas tanggung jawab hukum ke AI dapat menghambat inovasi, memaksa perusahaan untuk merancang sistem pengaman yang berlebihan sehingga mengurangi pengalaman pengguna. Keseimbangan antara melindungi konsumen dan menjaga kelincahan AI kemungkinan besar akan diperdebatkan dalam kasus-kasus mendatang.

Apa yang perlu diperhatikan selanjutnya

  • Litigasi lanjutan. Jika Air Canada mengajukan banding, pengadilan yang lebih tinggi mungkin akan memperhalus cakupan tanggung jawab kontrak AI.
  • Panduan regulasi. Lembaga perlindungan konsumen mungkin akan mengeluarkan aturan mengenai pengungkapan yang dihasilkan AI, terutama di sektor keuangan, perjalanan, dan kesehatan.
  • Standar industri. Kelompok teknologi dapat mengembangkan kerangka kerja praktik terbaik untuk respons AI yang "aman secara kontrak", serupa dengan pedoman keamanan dan privasi yang ada.

Kesimpulannya jelas: chatbot AI yang dapat menjawab pertanyaan tentang harga, pengembalian dana, atau hak adalah, di mata hukum, perwakilan dari bisnis tersebut. Perusahaan yang memperlakukannya seperti kotak pencarian biasa berisiko harus membayar janji-janji yang tidak pernah dimaksudkan oleh kebijakan mereka.