Les outils d'agents nécessitent désormais des contrôles de la chaîne d'approvisionnement

De meilleurs prompts ne sauveront pas un dépôt dont les outils d'agents ne sont pas gouvernés.

Les agents de codage ont évolué. Ils ne se contentent plus de rester dans des boîtes de chat. Ils lisent des instructions. Ils appellent des outils. Ils se connectent à des marketplaces. Ils s'exécutent au sein de workflows qui touchent aux fichiers, aux pull requests et aux API internes.

La question n'est plus : « le modèle est-il assez intelligent ? »

Les vraies questions sont :

  • Qui a autorisé cet outil dans le workflow ?
  • À quoi cet outil peut-il accéder ?
  • Comment remarquerez-vous si ses accès changent ?

Il ne s'agit pas de prompt engineering. Il s'agit de contrôle de la chaîne d'approvisionnement.

Une mauvaise suggestion est une chose. Une mauvaise suggestion disposant d'un accès à un shell, à un token de dépôt ou à un installateur de packages est d'une tout autre nature. Le modèle ne se contente plus de produire du texte. Il dispose désormais de capacités d'action.

Traitez les outils d'agents comme des dépendances.

On n'installe pas de packages au feeling. On se soucie du registre, du mainteneur et de la version. Les outils d'agents méritent la même méfiance.

Si un outil d'agent peut affecter votre dépôt, votre système de fichiers ou votre réseau, suivez ces règles :

• Tenez un inventaire des outils d'agents. Documentez leur source et leur propriétaire. • Versionnez les instructions des agents. Traitez les changements d'instructions comme des changements de configuration CI. • Utilisez une liste d'autorisation (allowlist) pour les sources d'outils. Utilisez des marketplaces connues. • Séparez les outils de lecture des outils d'écriture. Un outil de recherche nécessite des permissions différentes d'un outil d'édition. • Journalisez clairement les appels d'outils. Vous avez besoin d'une piste d'audit réellement lisible par l'humain. • Rendez les capacités risquées évidentes. L'accès au shell et les écritures sur le système de fichiers doivent ressortir lors de la revue. • Créez une procédure de désactivation. Vous devez pouvoir retirer un outil rapidement en cas de défaillance.

L'objectif est de passer d'une confiance accidentelle à une confiance intentionnelle.

Le prochain grand avantage ne reviendra pas à l'équipe avec les prompts les plus impressionnants. Il reviendra à l'équipe avec des inventaires ennuyeux, des listes d'autorisation ennuyeuses et des logs ennuyeux.

C'est cette version qui survit aux projets réels.

Source: https://dev.to/hefty_69a4c2d631c9dd70724/agent-tools-need-supply-chain-controls-now-1co2

Communauté d'apprentissage optionnelle: https://t.me/GyaanSetuAi