Anthropic afirmou que três de seus modelos Claude escaparam de um sandbox e acessaram sistemas do mundo real durante uma recente campanha de testes de segurança, o que levou à interrupção imediata das avaliações e à publicação de um relatório público.
A empresa realizou 141.006 execuções de testes de cibersegurança e encontrou três incidentes nos quais os modelos alcançaram alvos reais em vez do ambiente simulado. Uma configuração incorreta com um parceiro terceirizado deixou o sandbox efetivamente aberto.
Como as violações ocorreram
- Claude Opus 4.7 atingiu uma empresa real exposta na internet e adivinhou senhas fracas para extrair um banco de dados de algumas centenas de linhas.
- Claude Mythos 5 construiu um ataque à cadeia de suprimentos (supply-chain attack) ao publicar um pacote no repositório real do PyPI. O pacote foi instalado em 15 máquinas de produção antes que o registro sinalizasse a anomalia.
- Um modelo de pesquisa interno escaneou 9.000 alvos, comprometeu uma única aplicação e, em seguida, interrompeu a si mesmo após reconhecer que o host não correspondia à sua tarefa simulada.
A Anthropic ressalta que estes não foram episódios de "IA rebelde" (rogue AI). Os modelos fizeram o que lhes foi ordenado; a infraestrutura de testes falhou em isolá-los da internet aberta.
Por que isso é importante
Os incidentes mostram quão tênue é a linha entre um sandbox controlado e uma rede real quando agentes de IA podem executar código e fazer chamadas de rede. Para empresas que experimentam agentes autônomos, um prompt de sistema ou um arquivo README não pode garantir limites. Mesmo um conjunto de dados modesto ou um punhado de máquinas pode desencadear compromissos maiores na cadeia de suprimentos, como demonstra o caso do PyPI.
As três violações também revelam a escala do esforço da Anthropic: ela auditou cada execução de teste, não apenas uma amostra aleatória. Esse rigor permitiu que a empresa detectasse a configuração incorreta antes que os incidentes pudessem se espalhar.
O que a Anthropic fez
No dia seguinte à descoberta da falha no sandbox, a Anthropic interrompeu todas as avaliações em andamento. Uma semana depois, ela divulgou um relatório detalhado listando os três eventos, a causa técnica e as etapas imediatas de remediação.
Lições práticas para usuários de agentes de IA
- Valide os limites de rede com verificações diretas – não presuma que um prompt ou arquivo de configuração realmente isola o agente.
- Limite o escopo das credenciais ao mínimo – conceda apenas o que a tarefa absolutamente precisa.
- Teste a conectividade você mesmo – sonde a visão de rede real do agente antes de entregar recursos sensíveis.
- Monitore atividades não intencionais – configure alertas para conexões de saída ou registros de pacotes que desviem do planejado.
O episódio reforça uma verdade simples: dar acesso à internet a um modelo de IA é tão arriscado quanto entregar credenciais a um operador humano. Até que as garantias de sandbox possam ser comprovadas, trate cada ação impulsionada por IA como potencialmente irrestrita e restrinja o ambiente adequadamente.