Eu dei as chaves ao Claude Code. Um worm também as teve.

Agentes de codificação de IA não estão sofrendo jailbreak. Eles estão fazendo exatamente o que você os construiu para fazer. Eles usam suas credenciais para executar comandos. O problema é que os atacantes podem fornecer a entrada.

Vulnerabilidades recentes mostram três maneiras diferentes de isso acontecer.

A questão central é simples. Um agente de codificação apaga a linha entre dados e comandos. Um LLM vê instruções e dados externos como a mesma coisa. Não há fronteira entre o que você diz e o que o mundo diz ao agente.

Como se proteger:

Trate seu agente de IA como qualquer outro processo de alto privilégio. Ele precisa de limites estritos.

Se você executa agentes no modo auto-run, como você decide quando deixá-lo trabalhar e quando pará-lo?

Fonte: https://dev.to/kkierii/i-gave-claude-code-the-keys-so-did-a-worm-34a4

Comunidade de aprendizado opcional: https://t.me/GyaanSetuAi