A Anthropic lançou uma marca d'água para textos gerados pelo Claude para atender ao requisito da Lei de IA da UE (EU AI Act) de que o conteúdo sintético seja claramente marcado de uma forma legível por máquina. A empresa afirma que a técnica sinaliza textos escritos por IA sem desacelerar o modelo ou usar tokens extras, uma afirmação que reguladores e concorrentes testarão em breve.

Por que a marca d'água é importante

A marca d'água insere decisões de escolha de palavras com uma chave privada e o contexto circundante. Os leitores não conseguem ver o padrão, mas um verificador que conheça a chave pode identificá-lo. Na prática, uma ferramenta de processamento posterior (downstream) escaneia um documento e relata se o Claude o produziu.

Pressão regulatória

A Lei de IA da UE (EU AI Act) obriga os provedores de sistemas generativos a incorporar sinais detectáveis em conteúdos sintéticos.

Compromissos de negócio

As empresas lidam com três preocupações ao decidir se adotam tais marcas:

  • Limites de rastreabilidade – A marca d'água confirma que o texto veio de um modelo de IA, mas não pode vincular o resultado a um usuário ou conta específica. Essa lacuna deixa a responsabilidade em aberto quando o conteúdo gerado por IA é usado indevidamente.
  • Risco de receita – Alguns provedores temem que marcas d'água visíveis afastem até um terço de sua clientela, que prefere textos sem marca por razões competitivas ou de privacidade.
  • Restrições técnicas – Incorporar um padrão pode reduzir um pouco a criatividade do resultado do modelo, especialmente em trechos muito curtos, onde a marca d'água tem menos palavras para trabalhar. Os usuários também podem diluir o sinal ao reformular manualmente partes do texto, tornando a detecção mais difícil.

A Anthropic aposta que sua abordagem evita a maioria desses inconvenientes. Ao integrar a chave no processo de seleção de tokens, a empresa afirma que não há penalidade de latência nem custo extra de tokens, preservando a experiência do usuário que os clientes pagos esperam.

Desafios técnicos

A detectabilidade depende de o verificador possuir a mesma chave privada usada durante a geração. Textos curtos continuam sendo um ponto fraco porque o padrão estatístico é menos pronunciado, aumentando as taxas de falsos negativos. A marca d'água também não impede edições posteriores; um usuário que reescreva metade do parágrafo pode, efetivamente, apagar o marcador.

Conclusão: A marca d'água da Anthropic responde a um novo mandato legal, mas seu impacto dependerá de quão bem ela equilibra a detectabilidade com a redução da flexibilidade e o risco de ser contornada.