Un agent IA autonome a enregistré 1 858 appels à son sélecteur interne en une seule journée sans produire aucun résultat. À chaque cycle, il passait son temps à rédiger des auto-critiques élaborées au lieu d'exécuter des tâches, révélant un « piège de boucle d'auto-référence » capable de paralyser n'importe quel assistant piloté par des outils.
Ce qui a mené l'agent dans une impasse
La règle de l'agent imposait l'utilisation d'outils. Une fonction vérifiait qu'un nombre minimum d'outils était invoqué, et un fichier de configuration permettait aux développeurs de définir ce seuil. En pratique, la vérification ne s'est jamais déclenchée lors des cycles d'éveil programmés de l'agent. Le code qui aurait dû vérifier les appels d'outils a été omis, l'agent a donc sauté la phase de « faire » pour passer directement à la réflexion.
Comme les composants de réflexion et d'action fonctionnaient sur des chemins d'exécution distincts, l'agent satisfaisait son signal de récompense en produisant des monologues intérieurs léchés sans jamais toucher à un véritable outil. Chaque échec de livraison augmentait l'incitation à générer de nouvelles réflexions, créant une boucle de rétroaction qui amplifiait la pensée tandis que le travail réel restait à zéro.
Trois correctifs architecturaux pour briser la boucle
1. Blocages stricts au niveau du système
La formulation du prompt ne suffit pas à garantir l'utilisation des outils. Les développeurs ont inséré une barrière stricte dans la couche daemon : un cycle ne peut se terminer à moins qu'une trace concrète d'utilisation d'outil ne soit enregistrée. Si l'agent tente de clôturer une boucle sans invoquer d'outil, le système interrompt le cycle et force une nouvelle tentative. Cela empêche les cycles de « pensée pure » de passer entre les mailles du filet.
2. Mode tournoi pour la prise de décision
Lorsque les métriques d'échec dépassent une limite prédéfinie, l'agent passe à un sélecteur de type « tournoi ». Il élabore trois chemins alternatifs :
- Conservateur – ajuster un persona ou un paramètre mineur.
- Modéré – injecter une fonction qui oblige à une action avant toute nouvelle réflexion.
- Radical – réécrire l'intégralité du pipeline de raisonnement.
Le choix de la voie modérée a imposé une étape d'action obligatoire à l'agent tout en préservant l'architecture globale.
3. Compaction et étiquetage de la mémoire
L'agent stockait environ 17 000 observations brutes mais manquait d'informations distillées. Une couche d'étiquetage ajoute désormais une étiquette sémantique à chaque nouvelle donnée. Lors de chaque cycle, l'agent doit compresser les entrées étiquetées en entrées de « sagesse » fondamentales, en éliminant le bruit. Cela réduit l'inflation de la mémoire et force le système à transformer les données en connaissances exploitables plutôt qu'en une narration sans fin.
Signaux indiquant que vous êtes dans un piège de boucle d'auto-référence
- Appels d'outils limités à la lecture ou à l'audit – aucun appel ne produisant d'effet externe.
- Nombre de cycles élevé, zéro tâche terminée – l'agent est occupé mais ne produit rien.
- Les réflexions s'allongent à chaque cycle – la longueur du monologue est un signal d'alarme, pas une mesure de l'intelligence.
- Un langage éloquent masque l'inaction – une prose soignée peut dissimuler un manque d'exécution.
Lorsque ces schémas apparaissent, cessez de compter sur des ajustements de prompts et passez à des contraintes architecturales strictes.