Les agents IA ont besoin de disjoncteurs
On parle de raisonnement, de planification et de mémoire de l'IA.
On parle rarement de ce qui se passe lorsqu'un agent échoue.
Je l'ai remarqué en testant des flux de travail autonomes. L'agent ne s'est pas arrêté brusquement. Il n'a pas affiché d'erreurs.
Il a simplement redoublé d'efforts.
Un appel d'outil a échoué. L'agent a réessayé. Cela a également échoué. Il a élaboré un nouveau plan. Il a appelé davantage d'outils. Il est entré dans une spirale infernale.
De l'extérieur, il semblait productif. À l'intérieur, il était coincé dans une boucle.
Dans les systèmes distribués, les ingénieurs utilisent des disjoncteurs (circuit breakers). Si un service échoue, on arrête d'envoyer des requêtes. On protège ainsi le reste du système.
Les agents IA en ont également besoin.
Un agent autonome appelle des API, déploie du code et consomme des tokens. Sans garde-fous, une petite erreur peut devenir coûteuse.
Imaginez un agent déployant une application. Le déploiement échoue. L'agent réessaie. Il échoue à nouveau. Il modifie un paramètre et réessaie. Chaque action aggrave l'erreur.
Le problème ne vient pas du modèle. Une intelligence sans limites est imprévisible.
Un disjoncteur crée ces limites. Il peut :
- Arrêter l'exécution après trop de tentatives infructueuses.
- Mettre le flux de travail en pause lorsque les coûts atteignent une limite.
- Demander une approbation humaine avant d'intervenir en production.
- Bloquer les actions dangereuses jusqu'à ce que vous les validiez.
Les disjoncteurs ne réduisent pas l'autonomie. Ils renforcent la confiance.
Nous passons du temps à apprendre aux agents comment agir. Nous devons aussi passer du temps à leur apprendre quand s'arrêter.
En production, savoir quand s'arrêter est plus important que de savoir quoi faire ensuite.
Source : https://dev.to/mukeshkuiry/the-day-i-realized-ai-agents-need-circuit-breakers-22hj
Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi