A Air Canada foi condenada a pagar $812,02 CAD após um tribunal considerar a companhia aérea responsável por um chatbot que prometeu um reembolso que nunca existiu.

Como a disputa se desenrolou

Em 2022, Jake Moffatt precisava de um voo de última hora para um funeral. Ele perguntou ao chatbot online da companhia aérea sobre tarifas de luto. O bot respondeu que ele poderia comprar uma passagem pelo preço integral e, posteriormente, solicitar um reembolso. Confiando nessa resposta, Moffatt pagou $1.630,36 CAD. Quando solicitou o reembolso prometido, a Air Canada negou o pedido.

Moffatt levou o caso a um tribunal. Os juízes afirmaram que a companhia aérea incorreu em declaração negligente (negligent misrepresentation) – a afirmação do chatbot foi uma promessa falsa que induziu à compra. Eles rejeitaram o argumento da Air Canada de que um agente de software não pode ser uma parte contratante, observando que o bot reside no site público da empresa e, portanto, age em nome da companhia aérea. O tribunal ordenou que a companhia aérea reembolsasse Moffatt em $812,02 CAD.

Por que o caso é importante

A maior parte da indignação pública sobre erros de IA foca em falhas óbvias — perda de dados, código quebrado ou resultados abertamente tendenciosos. Esta decisão destaca um perigo mais sutil: uma IA que soa confiante enquanto inventa detalhes de políticas pode criar obrigações juridicamente exigíveis. O bot não "deletou" nada; ele simplesmente deu uma resposta clara e inequívoca que um cliente razoável trataria como a posição oficial da companhia aérea.

A decisão estabelece um precedente jurídico de que declarações geradas por IA não estão protegidas pela defesa de que "o software é apenas uma ferramenta". Se um assistente virtual fornecer informações nas quais um consumidor confia para realizar uma compra, essa informação pode ser tratada como um termo contratual. Empresas que implementam chatbots sem controles rigorosos correm riscos de responsabilidade semelhantes.

A raiz técnica do erro

O erro originou-se de um pipeline de geração aumentada por recuperação (RAG — retrieval-augmented generation). O sistema encontrou o documento de política correto, mas extraiu a frase errada e a apresentou como um fato. As salvaguardas (guardrails) que filtram textos sem sentido ou linguagem ofensiva muitas vezes deixam passar trechos bem escritos, mas imprecisos. Neste caso, a fluência do bot — sua falta de hesitação ou de um "não tenho certeza" — deu à falsa promessa um ar de autoridade.

O que as companhias aéreas e outras empresas podem fazer agora

  • Codifique rigidamente qualquer redação financeira ou de direitos. Use modelos fixos para declarações sobre reembolsos, descontos ou taxas.
  • Trate o chatbot como um funcionário de linha de frente. Assuma que ele pode "assinar" contratos perante a lei e submeta suas respostas ao mesmo processo de revisão de um agente humano.
  • Separe a busca da geração. Quando a tarefa for localizar um texto de política, retorne um link ou um trecho citado em vez de uma resposta parafraseada.

Essas etapas podem fazer com que a interação pareça menos conversacional, mas elas impedem o tipo de desinformação confiante que custou à Air Canada um pagamento determinado pela justiça.

Contra-argumento: A responsabilidade é justa?

A Air Canada argumentou que um pedaço de código carece de personalidade jurídica e não pode ser vinculado por contrato. A rejeição do tribunal baseia-se no princípio de que a empresa apresenta o chatbot como um ponto de contato oficial. Críticos temem que estender a responsabilidade à IA possa sufocar a inovação, forçando as empresas a projetar excessivamente redes de segurança que diminuem a experiência do usuário. O equilíbrio entre a proteção dos consumidores e a preservação da agilidade da IA provavelmente será debatido em casos futuros.

O que observar a seguir

  • Litígios subsequentes. Se a Air Canada recorrer, tribunais superiores podem refinar o escopo da responsabilidade contratual da IA.
  • Orientações regulatórias. Agências de proteção ao consumidor podem emitir regras sobre divulgações geradas por IA, especialmente nos setores financeiro, de viagens e de saúde.
  • Padrões da indústria. Grupos de tecnologia podem desenvolver frameworks de melhores práticas para respostas de IA "seguras para contratos", semelhantes às diretrizes de segurança e privacidade existentes.

A lição é clara: um chatbot de IA que pode responder perguntas sobre preços, reembolsos ou direitos é, perante a lei, um representante da empresa. Empresas que o tratam como uma simples caixa de pesquisa correm o risco de pagar por promessas que suas políticas nunca tiveram a intenção de fazer.