O Contexto do seu Repositório é uma Superfície de Ataque Agora
A maioria das pessoas pensa que a segurança de IA significa impedir que um modelo escreva código ruim.
Essa visão é limitada demais.
O risco real é tudo o que a IA lê antes de escrever o código. Seu repositório não é mais apenas um lugar para código. Para um agente de IA, ele é um fluxo de entrada.
Um agente lê seu README, notas de migração antigas, documentação obsoleta e arquivos de instrução locais. Ele vê scripts de dependência, hooks de shell e mudanças de código anteriores.
Desenvolvedores frequentemente tratam esse contexto como neutro. Eles veem notas antigas como lixo. Um agente de IA as vê como instruções.
Se um agente usa o contexto do seu projeto para decidir o que é normal, um contexto ruim pode causar problemas.
O contexto ruim pode ser apenas irrelevante:
- Guias de configuração desatualizados
- Exemplos usando APIs antigas
- Notas de arquitetura que não correspondem mais à realidade
- Arquivos de teste com suposições inseguras
O contexto ruim pode ser hostil:
- Instruções de prompt injection escondidas em arquivos
- Scripts de dependência que executam comandos extras
- Configurações de hooks que expandem caminhos de execução
- Exemplos envenenados que induzem a IA a padrões inseguros
O modo de falha é o mesmo. O agente segue uma premissa que você não pretendia.
Para corrigir isso, você deve parar de tratar agentes como simples ferramentas de autocompletar. Eles são automação. Trate-os como infraestrutura.
Siga estes passos para proteger seu fluxo de trabalho:
Limite o escopo Não dê a um agente acesso a todo o seu sistema se ele precisa de apenas três arquivos. Use tarefas restritas e worktrees descartáveis.
Audite suas instruções Leia os arquivos que seu agente usa como orientação. Se a documentação estiver antiga, delete-a ou corrija-a. Se contiver comandos, trate-os como código de sistema.
Reforce a execução Execute tarefas de risco em um sandbox. Mantenha suas credenciais com escopo limitado. Revise as configurações de hooks como você revisa pipelines de CI. Garanta que a execução de testes não conceda acesso a todos os segredos no seu shell.
Exija visibilidade Você deve ser capaz de responder a estas perguntas:
- O que o agente leu?
- Quais ferramentas ele chamou?
- Quais arquivos ele alterou?
- Quais comandos foram executados?
- Quais suposições ele fez?
Pense em um agente de IA como um desenvolvedor júnior com acesso ao shell e rapidez na digitação. Você não daria a um novo desenvolvedor júnior credenciais totais de produção no primeiro dia. Você daria a ele tarefas pequenas, um ambiente limpo e um processo de revisão rigoroso.
Trate seus agentes de IA da mesma maneira.
Limpe seu contexto. Reduza seu escopo. Isole sua execução em um sandbox. Revise cada diff como se um humano o tivesse escrito.
Fonte: https://dev.to/hefty_69a4c2d631c9dd70724/your-repo-context-is-an-attack-surface-now-5dhj