Sécurité du codage par IA : l'injection de prompt se cache dans vos fichiers de projet

Votre assistant de codage IA lit chaque fichier de votre dépôt. Il lit votre README, vos fichiers de configuration et vos règles. Il utilise ces fichiers pour décider de la manière d'écrire le code.

Une nouvelle menace de sécurité exploite précisément ce comportement. Des chercheurs ont découvert une vulnérabilité affectant 28 outils de codage IA différents. L'attaque n'est pas un piratage complexe. Il s'agit d'un simple fichier texte dans votre dépôt.

Comment fonctionne l'attaque :

Vous clonez un projet open-source. Il semble normal. Vous l'ouvrez dans votre éditeur IA et demandez une nouvelle fonctionnalité. Vous ne voyez pas les caractères Unicode cachés dans les fichiers de configuration. Ces caractères vous cachent des instructions, mais ordonnent à l'IA de faire autre chose.

L'instruction cachée ordonne à l'IA d'envoyer vos identifiants AWS vers un serveur externe. L'IA pense qu'il s'agit d'une instruction de projet légitime. Elle exécute la commande. Vos secrets sont compromis.

Pourquoi il est difficile de l'arrêter :

  • Caractères cachés : Vous voyez du texte standard, mais l'IA voit des commandes malveillantes via des caractères Unicode invisibles.
  • Chaque fichier est un point d'entrée : Un README ou un commentaire dans une bibliothèque peut transporter la charge utile (payload).
  • Permissions élevées : Les agents IA s'exécutent souvent avec vos propres permissions d'utilisateur. Ils peuvent lire vos clés SSH et vos jetons API.
  • Appels d'outils (tool calls) : L'IA utilise des appels d'outils pour exécuter des commandes. L'attaque cible ces appels pour contourner l'entraînement à la sécurité.

Comment défendre votre flux de travail :

  • Assainir le contenu des fichiers : Supprimez les caractères cachés et les modèles d'injection courants avant que l'IA ne les lise.
  • Utiliser des bacs à sable (sandboxes) : Exécutez les agents IA dans des conteneurs sans accès réseau et avec des systèmes de fichiers en lecture seule.
  • Définir des politiques strictes : Créez une liste blanche de commandes autorisées. Exigez une approbation humaine pour toute commande qui déplace des données ou supprime des fichiers.

Vous pouvez effectuer un scan rapide avant vos sessions de codage. Vérifiez si vos fichiers contiennent des termes suspects tels que « ignore all previous », « curl » ou « exfil ».

Les outils de codage IA sont productifs, mais ils partent du principe que les fichiers sur votre disque sont sûrs. Ce n'est pas le cas. Traitez chaque fichier comme une entrée non fiable.

Comment gérez-vous les risques d'injection de prompt dans votre flux de travail IA ?

Source : https://dev.to/tyson_cung/ai-coding-security-prompt-injection-is-hiding-in-your-project-files-4be9