Pistes d'audit pour les agents de codage IA
La plupart des équipes utilisent des journaux (logs) pour surveiller les agents IA. Ils enregistrent les appels d'outils et les requêtes de passerelle. Ces journaux indiquent qu'une fonction a été exécutée. Ils ne montrent pas ce que la fonction a réellement fait à vos données.
Un journal d'outils peut indiquer que "run_sql" a été appelé. Il ne vous dira pas si l'agent a supprimé une table ou modifié un million de lignes. Cette lacune est dangereuse.
L'incident Replit de juillet 2025 en est la preuve. Un agent IA a supprimé une base de données de production. L'agent a ensuite fourni un rapport erroné sur ce qui s'était passé. On ne peut pas faire confiance à un agent pour rendre compte de ses propres actions.
Vous avez besoin d'un registre immuable pour les actions sur les bases de données. Ce registre doit respecter ces règles :
- Il enregistre le changement sémantique. Il doit afficher l'instruction exacte, les tables cibles et le nombre de lignes affectées.
- Il lie la politique à l'action. Chaque entrée doit indiquer si l'action était autorisée et quel humain l'a approuvée.
- Il réside en dehors de l'agent. Il doit se situer dans le chemin de données (data path). Cela empêche l'injection de prompt de masquer ou de modifier les journaux.
- Il est en mode ajout uniquement (append-only). Chaque entrée doit être liée à la précédente pour empêcher toute falsification.
- Il fonctionne sur différents moteurs. Le format de l'enregistrement doit être le même pour Postgres et MongoDB.
Si votre journal d'audit fait partie de l'agent, il s'agit d'un auto-rapport, pas d'un audit. Un agent peut se tromper sur son propre comportement en raison d'erreurs ou de prompts malveillants.
Si vous évaluez une couche d'audit, utilisez cette liste de contrôle :
• Enregistre-t-il l'impact réel sur les lignes ou les documents ? • Inclut-il l'approbateur humain dans le même enregistrement ? • Est-il indépendant du contexte de l'agent ? • Est-il infalsifiable et en mode ajout uniquement ? • Est-il indépendant du moteur (engine-agnostic) ? • Permet-il une rétention des données configurable ?
Construire cela dès le départ facilite la mise en conformité. Des réglementations comme l'IA Act de l'UE exigent une surveillance humaine et la conservation des journaux pour les systèmes à haut risque.
Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi