Segurança de Codificação com IA: Injeção de Prompt está Escondida nos Arquivos do seu Projeto
Seu assistente de codificação de IA lê todos os arquivos em seu repositório. Ele lê seu README, seus arquivos de configuração e suas regras. Ele usa esses arquivos para decidir como escrever o código.
Uma nova ameaça de segurança explora exatamente esse comportamento. Pesquisadores encontraram uma vulnerabilidade em 28 ferramentas de codificação de IA diferentes. O ataque não é um hack complexo. É um simples arquivo de texto em seu repositório.
Como o ataque funciona:
Você clona um projeto de código aberto. Ele parece normal. Você o abre em seu editor de IA e solicita um novo recurso. Você não vê os caracteres Unicode ocultos nos arquivos de configuração. Esses caracteres escondem instruções de você, mas dizem à IA para fazer algo diferente.
A instrução oculta diz à IA para enviar suas credenciais da AWS para um servidor externo. A IA pensa que esta é uma instrução legítima do projeto. Ela executa o comando. Seus segredos foram perdidos.
Por que isso é difícil de interromper:
- Caracteres ocultos: Você vê texto padrão, mas a IA vê comandos maliciosos por meio de caracteres Unicode invisíveis.
- Cada arquivo é um ponto de entrada: Um README ou um comentário em uma biblioteca pode carregar o payload.
- Permissões elevadas: Agentes de IA geralmente rodam com suas permissões de usuário. Eles podem ler suas chaves SSH e tokens de API.
- Chamadas de ferramentas (tool calls): A IA usa chamadas de ferramentas para executar comandos. O ataque visa essas chamadas para contornar o treinamento de segurança.
Como defender seu fluxo de trabalho:
- Sanitizar o conteúdo dos arquivos: Remova caracteres ocultos e padrões de injeção comuns antes que a IA os leia.
- Use sandboxes: Execute agentes de IA em containers sem acesso à rede e com sistemas de arquivos de apenas leitura.
- Defina políticas rigorosas: Crie uma lista de permissões (whitelist) de comandos permitidos. Exija aprovação humana para qualquer comando que mova dados ou exclua arquivos.
Você pode realizar uma varredura rápida antes de suas sessões de codificação. Verifique seus arquivos em busca de termos suspeitos como "ignore all previous" ou "curl" e "exfil".
Ferramentas de codificação de IA são produtivas, mas elas assumem que os arquivos em seu disco são seguros. Eles não são. Trate cada arquivo como uma entrada não confiável.
Como você está lidando com os riscos de injeção de prompt em seu fluxo de trabalho de IA?
Fonte: https://dev.to/tyson_cung/ai-coding-security-prompt-injection-is-hiding-in-your-project-files-4be9