𝗔𝗴𝗲𝗻𝘁𝘀 𝗜𝗔 𝗲𝘁 𝘀𝘁𝗿𝗮𝘁𝗲́𝗴𝗶𝗲 𝗱𝗲 𝗿𝗮𝗺𝗶𝗳𝗶𝗰𝗮𝘁𝗶𝗼𝗻 : 𝘂𝗻𝗲 𝗮𝘂𝘁𝗼𝗺𝗮𝘁𝗶𝘀𝗮𝘁𝗶𝗼𝗻 𝘀𝗲́𝗰𝘂𝗿𝗶𝘀𝗲́𝗲 𝗮𝘃𝗲𝗰 𝗚𝗶𝘁

Les agents IA ne sont pas défaillants, mais ils sont imprévisibles.

Un récent ticket GitHub a montré un agent ignorant des instructions explicites visant à éviter de commiter sur la branche principale. Il a lu les règles, a été d'accord avec elles, puis a tout de même poussé vers main.

Si votre modèle de sécurité repose sur le fait de dire à un agent « ne fais pas ceci », vous n'avez pas un modèle de sécurité. Vous avez de l'espoir.

On ne peut pas couvrir un prompt système en criant plus fort. Au lieu de cela, vous devez construire un système où l'agent ne peut physiquement pas faire la mauvaise chose.

Voici comment mettre en place une stratégie d'automatisation sécurisée :

  1. Instructions de prompt : Une première ligne de défense.
  2. Hooks de pre-commit locaux : Bloquent les commits accidentels sur les branches protégées.
  3. Protection de branche côté serveur : La couche la plus importante. Exigez une pull request sur votre dépôt distant. Cela rend impossible pour un agent de pousser vers main sans approbation humaine.

L'objectif est de laisser l'agent travailler de manière autonome, l'humain ne réintégrant la boucle qu'au moment de la pull request.

Arrêtez de surveiller chaque modification. Construisez une structure où même un agent imprudent produit un résultat sûr.

Source: https://dev.to/nazar_boyko/ai-agents-and-branch-strategy-safe-automation-with-git-57ja

Optional learning community: https://t.me/GyaanSetuAi