Air Canada ถูกสั่งให้จ่ายเงินจำนวน 812.02 ดอลลาร์แคนาดา หลังจากคณะตุลาการตัดสินว่าสายการบินต้องรับผิดชอบต่อแชทบอทที่ให้สัญญาเรื่องการคืนเงินซึ่งไม่มีอยู่จริง

ลำดับเหตุการณ์ข้อพิพาท

ในปี 2022 Jake Moffatt จำเป็นต้องจองเที่ยวบินแบบกะทันหันเพื่อไปร่วมงานศพ เขาจึงสอบถามแชทบอทออนไลน์ของสายการบินเกี่ยวกับค่าโดยสารสำหรับกรณีการสูญเสียบุคคลในครอบครัว (bereavement fares) โดยบอทตอบว่าเขาสามารถซื้อตั๋วราคาเต็มไปก่อน แล้วค่อยทำเรื่องขอคืนเงินในภายหลังได้ Moffatt จึงตัดสินใจจ่ายเงินจำนวน 1,630.36 ดอลลาร์แคนาดาตามคำแนะนำนั้น แต่เมื่อเขาขอคืนเงินตามที่ได้รับสัญญาไว้ Air Canada กลับปฏิเสธคำขอ

Moffatt จึงนำเรื่องนี้เข้าสู่กระบวนการพิจารณาของคณะตุลาการ ซึ่งผู้ตัดสินระบุว่าสายการบินได้กระทำการนำเสนอข้อมูลอันเป็นเท็จโดยประมาทเลินเล่อ (negligent misrepresentation) กล่าวคือ คำแถลงของแชทบอทเป็นคำสัญญาอันเป็นเท็จที่จูงใจให้เกิดการซื้อ นอกจากนี้ คณะตุลาการยังปฏิเสธข้อโต้แย้งของ Air Canada ที่ว่าตัวแทนซอฟต์แวร์ไม่สามารถเป็นคู่สัญญาได้ โดยให้เหตุผลว่าบอทนี้ทำงานอยู่บนเว็บไซต์สาธารณะของบริษัท ดังนั้นจึงถือว่าเป็นการกระทำในนามของสายการบิน คณะตุลาการจึงสั่งให้สายการบินชดใช้เงินคืนแก่ Moffatt เป็นจำนวน 812.02 ดอลลาร์แคนาดา

ทำไมคดีนี้จึงมีความสำคัญ

เสียงวิพากษ์วิจารณ์ส่วนใหญ่มักมุ่งเน้นไปที่ความผิดพลาดที่เห็นได้ชัดของ AI เช่น ข้อมูลสูญหาย โค้ดพัง หรือผลลัพธ์ที่มีอคติอย่างชัดเจน แต่คำตัดสินนี้ได้ชี้ให้เห็นถึงอันตรายที่แนบเนียนกว่านั้น นั่นคือ AI ที่ตอบด้วยความมั่นใจในขณะที่กุเรื่องรายละเอียดนโยบายขึ้นมาเอง สามารถสร้างพันธะผูกพันที่บังคับใช้ได้ตามกฎหมาย บอทไม่ได้ "ลบ" ข้อมูลใดๆ แต่มันเพียงแค่ให้คำตอบที่ชัดเจนและไม่มีเงื่อนไข ซึ่งลูกค้าที่มีวิจารณญาณย่อมเข้าใจว่าเป็นจุดยืนอย่างเป็นทางการของสายการบิน

คำตัดสินนี้สร้างบรรทัดฐานทางกฎหมายว่า คำแถลงที่สร้างโดย AI ไม่สามารถใช้ข้อต่อสู้ที่ว่า "ซอฟต์แวร์เป็นเพียงเครื่องมือ" เพื่อหลีกเลี่ยงความรับผิดชอบได้ หากผู้ช่วยเสมือนให้ข้อมูลที่ผู้บริโภคใช้ประกอบการตัดสินใจซื้อ ข้อมูลนั้นอาจถูกถือว่าเป็นข้อกำหนดในสัญญา บริษัทที่ใช้งานแชทบอทโดยไม่มีการควบคุมที่เข้มงวดจึงมีความเสี่ยงที่จะต้องรับผิดชอบในลักษณะเดียวกัน

ต้นตอทางเทคนิคของความผิดพลาด

ความผิดพลาดนี้มีต้นตอมาจากกระบวนการ retrieval-augmented generation (RAG) โดยระบบสามารถค้นหาเอกสารนโยบายที่ถูกต้องได้ แต่กลับดึงประโยคที่ผิดมานำเสนอเสมือนว่าเป็นข้อเท็จจริง ทั้งนี้ ระบบป้องกัน (guardrails) ที่ทำหน้าที่กรองข้อความที่อ่านไม่รู้เรื่องหรือภาษาที่หยาบคาย มักจะไม่สามารถตรวจจับข้อความที่เขียนได้อย่างสละสลวยแต่ข้อมูลไม่ถูกต้องได้ ในกรณีนี้ ความลื่นไหลของบอท—การที่มันตอบโดยไม่มีอาการลังเลหรือไม่มีคำว่า "ฉันไม่แน่ใจ"—ทำให้คำสัญญาอันเป็นเท็จนั้นดูมีความน่าเชื่อถือและมีอำนาจสั่งการ

สิ่งที่สายการบินและบริษัทอื่นๆ สามารถทำได้ในขณะนี้

  • กำหนดข้อความเกี่ยวกับเรื่องการเงินหรือสิทธิประโยชน์แบบตายตัว (Hard-code) ใช้เทมเพลตที่กำหนดไว้ล่วงหน้าสำหรับคำแถลงเกี่ยวกับเรื่องการคืนเงิน ส่วนลด หรือค่าธรรมเนียม
  • ปฏิบัติต่อแชทบอทเสมือนเป็นพนักงานด่านหน้า ให้ถือว่าบอทสามารถ "ลงนาม" ในสัญญาได้ในทางกฎหมาย และต้องผ่านกระบวนการตรวจสอบผลลัพธ์เช่นเดียวกับพนักงานที่เป็นมนุษย์
  • แยกการค้นหาออกจากส่วนการสร้างคำตอบ เมื่อต้องระบุข้อความในนโยบาย ให้ส่งเป็นลิงก์หรือข้อความที่คัดลอกมาโดยตรง แทนที่จะเป็นการสรุปความด้วยภาษาของบอทเอง

ขั้นตอนเหล่านี้อาจทำให้การโต้ตอบดูไม่เป็นธรรมชาติเหมือนการสนทนาเท่าใดนัก แต่จะช่วยหยุดยั้งการให้ข้อมูลผิดๆ อย่างมั่นใจ ซึ่งเป็นสาเหตุที่ทำให้ Air Canada ต้องจ่ายเงินชดเชยตามคำสั่งศาล

ข้อโต้แย้ง: ความรับผิดนี้ยุติธรรมหรือไม่?

Air Canada โต้แย้งว่าชุดคำสั่ง (code) ไม่มีสถานะเป็นบุคคลตามกฎหมายและไม่สามารถผูกพันด้วยสัญญาได้ แต่การที่คณะตุลาการปฏิเสธข้อโต้แย้งนี้ตั้งอยู่บนหลักการที่ว่า บริษัทนำเสนอแชทบอทในฐานะช่องทางการติดต่ออย่างเป็นทางการ นักวิจารณ์กังวลว่าการขยายความรับผิดไปยัง AI อาจขัดขวางนวัตกรรม โดยบีบให้บริษัทต่างๆ ต้องสร้างระบบป้องกันที่ซับซ้อนเกินความจำเป็นจนทำให้ประสบการณ์ของผู้ใช้ลดลง การสร้างสมดุลระหว่างการคุ้มครองผู้บริโภคและการรักษาความคล่องตัวของ AI น่าจะเป็นประเด็นที่มีการถกเถียงกันต่อไปในคดีอื่นๆ ในอนาคต

สิ่งที่ต้องจับตามองต่อไป

  • การดำเนินคดีต่อเนื่อง หาก Air Canada ยื่นอุทธรณ์ ศาลที่สูงขึ้นอาจมีการกำหนดขอบเขตความรับผิดทางสัญญาของ AI ให้ชัดเจนยิ่งขึ้น
  • แนวทางจากหน่วยงานกำกับดูแล หน่วยงานคุ้มครองผู้บริโภคอาจออกกฎระเบียบเกี่ยวกับการเปิดเผยข้อมูลที่สร้างโดย AI โดยเฉพาะในภาคการเงิน การท่องเที่ยว และสาธารณสุข
  • มาตรฐานอุตสาหกรรม กลุ่มเทคโนโลยีอาจพัฒนาโครงร่างแนวทางปฏิบัติที่ดีที่สุด (best-practice frameworks) สำหรับการตอบโต้ของ AI ที่ "ปลอดภัยต่อสัญญา" (contract-safe) เช่นเดียวกับแนวทางด้านความปลอดภัยและความเป็นส่วนตัวที่มีอยู่ในปัจจุบัน

บทเรียนที่ได้รับนั้นชัดเจน: แชทบอท AI ที่สามารถตอบคำถามเกี่ยวกับราคา การคืนเงิน หรือสิทธิประโยชน์ได้นั้น ในสายตาของกฎหมายถือเป็นตัวแทนของธุรกิจ บริษัทที่ปฏิบัติกับบอทเหมือนเป็นเพียงกล่องค้นหาข้อมูลธรรมดาๆ กำลังเผชิญกับความเสี่ยงที่จะต้องจ่ายเงินชดเชยสำหรับคำสัญญาที่นโยบายของพวกเขาไม่เคยตั้งใจจะให้ไว้ตั้งแต่แรก