エア・カナダは、存在しない払い戻しを約束したチャットボットに対して航空会社に責任があると判断された審判所から、812.02カナダドルの支払いを命じられました。

紛争の経緯

2022年、ジェイク・モファット氏は葬儀のために急遽フライトを必要としていました。彼は航空会社のオンラインチャットボットに、遺族割引（bereavement fares）について尋ねました。ボットは、一旦正規料金のチケットを購入し、後で払い戻しを申請できると回答しました。その回答を信じたモファット氏は、1,630.36カナダドルを支払いました。しかし、約束された払い戻しを求めたところ、エア・カナダは要求を拒否しました。

モファット氏はこの問題を審判所に持ち込みました。審判官は、航空会社が「過失による虚偽表示（negligent misrepresentation）」を行ったと判断しました。つまり、チャットボットの声明は、購入を誘発した虚偽の約束であったということです。審判所は、「ソフトウェア・エージェントは契約当事者にはなり得ない」というエア・カナダの主張を退け、ボットが会社の公開ウェブサイト上に存在しており、したがって航空会社に代わって行動しているものであると指摘しました。審判所は、航空会社に対し、モファット氏へ812.02カナダドルを払い戻すよう命じました。

なぜこの事例が重要なのか

AIの誤りに対する世間の批判の多くは、データの消失、コードの破損、あるいは明らかに偏った出力といった、明白な失敗に集中しています。しかし、今回の決定はより微妙な危険性にスポットライトを当てています。それは、自信たっぷりにポリシーの詳細を捏造するAIが、法的拘束力のある義務を生じさせてしまう可能性があるということです。ボットは何かを「削除」したわけではありません。単に、合理的な顧客であれば航空会社の公式な見解として受け取るような、明確で限定条件のない回答をしただけなのです。

この判決は、AIが生成した声明は「ソフトウェアは単なるツールである」という弁護によって免責されるわけではない、という法的先例を作りました。バーチャルアシスタントが、消費者が購入の判断材料として信頼する情報を提供した場合、その情報は契約条項として扱われる可能性があります。厳格な管理なしにチャットボットを導入している企業は、同様の責任を負うリスクがあります。

ミスの技術的な原因

このエラーは、検索拡張生成（RAG）パイプラインに起因していました。システムは正しいポリシー文書を見つけ出しましたが、誤った一文を抽出して事実として提示してしまったのです。支離滅裂な内容や不適切な言葉をフィルタリングするガードレールは、文章としては整っているものの不正確な抜粋を見逃すことがよくあります。今回のケースでは、ボットの流暢さ（躊躇したり「分かりかねます」と言ったりしなかったこと）が、その虚偽の約束に権威ある響きを与えてしまいました。

航空会社やその他の企業が今できること

  • 金銭や権利に関する文言をハードコードする。 払い戻し、割引、手数料に関する声明には、固定のテンプレートを使用してください。
  • チャットボットをフロントラインの従業員として扱う。 法的な観点からは、ボットが契約を「締結」できるものと想定し、その出力を人間のエージェントと同じレビュープロセスにかけます。
  • 検索と生成を分離する。 ポリシーのテキストを探すことが目的である場合は、言い換えた回答ではなく、リンクや引用された抜粋を返すようにします。

これらの措置により、やり取りの会話的な感覚は損なわれるかもしれませんが、エア・カナダが裁判所からの支払いを命じられることになったような、自信に満ちた誤情報の拡散を防ぐことができます。

反論：その責任は公平か？

エア・カナダは、コードには法的主体性がなく、契約に縛られることはできないと主張しました。審判所がこれを退けた根拠は、会社がチャットボットを公式な連絡窓口として提示しているという原則にあります。批判的な人々は、AIへの責任拡大がイノベーションを阻害し、企業にユーザー体験を損なうような過剰な安全策の構築を強いるのではないかと懸念しています。消費者保護とAIの機敏性の維持とのバランスについては、今後の裁判でも議論されることになるでしょう。

今後の注目点

  • 追跡訴訟。 エア・カナダが控訴した場合、上級裁判所がAIの契約責任の範囲をより明確にする可能性があります。
  • 規制の指針。 消費者保護機関が、特に金融、旅行、ヘルスケア分野において、AIが生成する開示情報に関する規則を発行する可能性があります。
  • 業界標準。 テクノロジー団体が、既存のセキュリティやプライバシーのガイドラインと同様に、「契約上安全な」AI回答のためのベストプラクティス・フレームワークを策定する可能性があります。

教訓は明確です。価格、払い戻し、または権利に関する質問に答えることができるAIチャットボットは、法の目には企業の代表者として映ります。チャットボットを単なる検索ボックスのように扱っている企業は、自社のポリシーが意図していない約束に対して、支払いを命じられるリスクを負うことになるのです。