Air Canada została nakazana zapłacić 812,02 CAD po tym, jak trybunał uznał linię lotniczą za odpowiedzialną za chatbota, który obiecał zwrot kosztów, który nigdy nie istniał.
Przebieg sporu
W 2022 roku Jake Moffatt potrzebował biletu lotniczego na ostatnią chwilę z powodu pogrzebu. Zapytał chatbota linii lotniczych o taryfy pogrzebowe (bereavement fares). Bot odpowiedział, że może kupić bilet w pełnej cenie, a następnie ubiegać się o zwrot kosztów. Opierając się na tej odpowiedzi, Moffatt zapłacił 1630,36 CAD. Gdy poprosił o obiecaną kwotę, Air Canada odrzuciła jego wniosek.
Moffatt skierował sprawę do trybunału. Orzekający stwierdzili, że linia lotnicza dopuściła się niedbałego wprowadzenia w błąd (negligent misrepresentation) – oświadczenie chatbota było fałszywą obietnicą, która skłoniła do zakupu. Odrzucili argument Air Canada, jakoby agent oprogramowania nie mógł być stroną umowy, zauważając, że bot znajduje się na publicznej stronie internetowej firmy i w związku z tym działa w imieniu linii lotniczej. Trybunał nakazał linii lotniczej wypłacić Moffattowi 812,02 CAD.
Dlaczego ta sprawa jest ważna
Większość publicznych protestów przeciwko błędom AI skupia się na oczywistych awariach – utracie danych, błędnym kodzie czy wyraźnie stronniczych wynikach. Ta decyzja rzuca światło na subtelniejsze zagrożenie: AI, która brzmi pewnie, wymyślając szczegóły polityki firmy, może tworzyć wiążące zobowiązania. Bot niczego nie „usunął”; po prostu udzielił jasnej, bezwarunkowej odpowiedzi, którą rozsądny klient uznałby za oficjalne stanowisko linii lotniczej.
Orzeczenie to ustanawia precedens prawny, zgodnie z którym oświadczenia wygenerowane przez AI nie są chronione argumentem, że „oprogramowanie to tylko narzędzie”. Jeśli wirtualny asystent podaje informacje, na których konsument polega przy dokonaniu zakupu, informacje te mogą zostać uznane za warunek umowy. Firmy wdrażające chatboty bez ścisłej kontroli ryzykują podobną odpowiedzialność.
Techniczna przyczyna błędu
Błąd wynikał z działania potoku RAG (retrieval-augmented generation). System znalazł właściwy dokument z polityką firmy, ale wyciągnął niewłaściwe zdanie i przedstawił je jako fakt. Mechanizmy zabezpieczające (guardrails), które filtrują bełkot lub obraźliwy język, często pomijają dobrze napisane, ale nieprawdziwe fragmenty. W tym przypadku płynność wypowiedzi bota – brak wahania czy zwrotów typu „nie jestem pewien” – nadała fałszywej obietnicy ton autorytetu.
Co linie lotnicze i inne firmy mogą zrobić teraz
- Zastosuj sztywne sformułowania dotyczące kwestii finansowych lub uprawnień. Używaj stałych szablonów dla oświadczeń dotyczących zwrotów, zniżek lub opłat.
- Traktuj chatbota jak pracownika pierwszej linii kontaktu. Przyjmij, że w świetle prawa może on „podpisywać” umowy, i poddawaj jego odpowiedzi temu samemu procesowi weryfikacji, co odpowiedzi ludzkiego agenta.
- Oddziel wyszukiwanie od generowania treści. Gdy zadaniem jest odnalezienie tekstu polityki firmy, zwracaj link lub cytowany fragment zamiast sparafrazowanej odpowiedzi.
Kroki te mogą sprawić, że interakcja będzie wydawać się mniej konwersacyjna, ale zapobiegną tego typu pewnym siebie dezinformacjom, które kosztowały Air Canada wypłatę zasądzoną przez sąd.
Kontrargument: Czy ta odpowiedzialność jest sprawiedliwa?
Air Canada argumentowała, że fragment kodu nie posiada osobowości prawnej i nie może być związany umową. Odrzucenie tego argumentu przez trybunał opiera się na zasadzie, że firma prezentuje chatbota jako oficjalny punkt kontaktu. Krytycy obawiają się, że rozszerzenie odpowiedzialności na AI może zahamować innowacje, zmuszając firmy do nadmiernego projektowania zabezpieczeń, które obniżają komfort użytkowania. Równowaga między ochroną konsumentów a zachowaniem zwinności AI będzie prawdopodobnie przedmiotem debat w przyszłych sprawach.
Na co warto zwrócić uwagę w przyszłości
- Dalsze postępowania sądowe. Jeśli Air Canada złoży apelację, sądy wyższej instancji mogą doprecyzować zakres odpowiedzialności AI w umowach.
- Wytyczne regulacyjne. Agencje ochrony konsumentów mogą wydać zasady dotyczące informacji generowanych przez AI, szczególnie w sektorach finansowym, turystycznym i zdrowotnym.
- Standardy branżowe. Grupy technologiczne mogą opracować ramy dobrych praktyk dla „bezpiecznych umownie” odpowiedzi AI, podobnie jak istniejące wytyczne dotyczące bezpieczeństwa i prywatności.
Wniosek jest jasny: chatbot AI, który potrafi odpowiadać na pytania o cenę, zwrot lub uprawnienia, jest w świetle prawa przedstawicielem firmy. Firmy, które traktują go jak zwykłe pole wyszukiwania, ryzykują konieczność wypłaty odszkodowań za obietnice, których ich polityka nigdy nie zakładała.