Air Canada is bevolen om $812,02 CAD te betalen nadat een tribunaal de luchtvaartmaatschappij aansprakelijk stelde voor een chatbot die een terugbetaling beloofde die nooit had bestaan.

Hoe het geschil zich ontvouwde

In 2022 had Jake Moffatt een last-minute vlucht nodig voor een begrafenis. Hij vroeg de online chatbot van de luchtvaartmaatschappij naar tarieven voor rouwverlof. De bot antwoordde dat hij een ticket tegen het volledige tarief kon kopen en later een terugbetaling kon aanvragen. Vertrouwend op dat antwoord betaalde Moffatt $1.630,36 CAD. Toen hij om de beloofde terugbetaling vroeg, weigerde Air Canada het verzoek.

Moffatt bracht de zaak voor een tribunaal. De beslissers stelden dat de luchtvaartmaatschappij zich schuldig had gemaakt aan nalatige misrepresentatie – de verklaring van de chatbot was een valse belofte die tot een aankoop aanzette. Ze verwierpen de claim van Air Canada dat een softwareagent geen contractpartij kan zijn, met de opmerking dat de bot op de openbare website van het bedrijf staat en daarom namens de luchtvaartmaatschappij handelt. Het tribunaal beval de luchtvaartmaatschappij om Moffatt $812,02 CAD te vergoeden.

Waarom deze zaak ertoe doet

De meeste publieke verontwaardiging over AI-fouten richt zich op overduidelijke tekortkomingen — gegevensverlies, kapotte code of overduidelijk bevooroordeelde output. Deze beslissing werpt licht op een subtieler gevaar: een AI die zelfverzekerd klinkt terwijl hij beleidsdetails verzint, kan afdwingbare verplichtingen creëren. De bot heeft niets "verwijderd"; hij gaf simpelweg een duidelijk, onvoorwaardelijk antwoord dat een redelijke klant zou beschouwen als het officiële standpunt van de luchtvaartmaatschappij.

De uitspraak zet een juridisch precedent dat door AI gegenereerde verklaringen niet beschermd zijn door het verweer dat "software slechts een hulpmiddel is". Als een virtuele assistent informatie verstrekt waarop een consument vertrouwt om een aankoop te doen, kan die informatie worden beschouwd als een contractvoorwaarde. Bedrijven die chatbots inzetten zonder strikte controles, lopen een vergelijkbaar risico op aansprakelijkheid.

De technische oorzaak van de fout

De fout ontstond door een retrieval-augmented generation (RAG) pipeline. Het systeem vond het juiste beleidsdocument, maar haalde de verkeerde zin op en presenteerde deze als feit. Guardrails die onzin of aanstootgevende taal filteren, missen vaak goed geschreven maar onjuiste fragmenten. In dit geval gaf de vloeiendheid van de bot — het gebrek aan aarzeling of de woorden "ik weet het niet zeker" — de valse belofte een aura van autoriteit.

Wat luchtvaartmaatschappijen en andere bedrijven nu kunnen doen

  • Hardcode alle bewoordingen over financiën of rechten. Gebruik vaste sjablonen voor verklaringen over terugbetalingen, kortingen of kosten.
  • Behandel de chatbot als een medewerker aan de frontlinie. Ga ervan uit dat de bot in de ogen van de wet contracten kan "ondertekenen" en onderwerp de output aan hetzelfde beoordelingsproces als een menselijke medewerker.
  • Scheid zoeken van genereren. Wanneer de taak is om beleidstekst te lokaliseren, geef dan een link of een geciteerd fragment terug in plaats van een geparafraseerd antwoord.

Deze stappen zorgen er misschien voor dat de interactie minder natuurlijk aanvoelt, maar ze voorkomen het soort zelfverzekerde desinformatie dat Air Canada een door de rechter opgelegde betaling kostte.

Tegenargument: Is de aansprakelijkheid eerlijk?

Air Canada voerde aan dat een stuk code geen rechtspersoonlijkheid heeft en niet aan een contract gebonden kan zijn. De afwijzing door het tribunaal is gebaseerd op het principe dat het bedrijf de chatbot presenteert als een officieel contactpunt. Critici maken zich zorgen dat het uitbreiden van aansprakelijkheid naar AI innovatie zou kunnen smoren, waardoor bedrijven gedwongen worden om veiligheidsnetten te overontwerpen die de gebruikerservaring verminderen. De balans tussen consumentenbescherming en het behoud van AI-wendbaarheid zal waarschijnlijk in toekomstige zaken worden besproken.

Waar u op moet letten

  • Vervolgprocedures. Als Air Canada in beroep gaat, kunnen hogere rechtbanken de reikwijdte van de contractuele aansprakelijkheid van AI verfijnen.
  • Regulering en richtlijnen. Consumentenbeschermingsinstanties kunnen regels opstellen voor door AI gegenereerde mededelingen, vooral in de financiële sector, de reisbranche en de gezondheidszorg.
  • Industriestandaarden. Techgroepen zouden best-practice kaders kunnen ontwikkelen voor "contractveilige" AI-antwoorden, vergelijkbaar met bestaande richtlijnen voor beveiliging en privacy.

De les is duidelijk: een AI-chatbot die vragen kan beantwoorden over prijzen, terugbetalingen of rechten is in de ogen van de wet een vertegenwoordiger van het bedrijf. Bedrijven die de chatbot behandelen als een simpele zoekbalk, lopen het risico te moeten betalen voor beloften die hun beleid nooit had bedoeld te doen.