𝗙𝗮𝘀𝘁𝗖𝗼𝗻𝘁𝗲𝘅 : 𝗦𝗲́𝗽𝗮𝗿𝗲𝗿 𝗹𝗮 𝗿𝗲𝗰𝗵𝗲𝗿𝗰𝗵𝗲 𝗱𝗲 𝗹𝗮 𝗿𝗲𝘀𝗼𝗹𝘂𝘁𝗶𝗼𝗻
Les agents de codage perdent trop de temps à chercher du code.
Microsoft et l'Université Jiao Tong de Shanghai ont étudié ce problème. Ils ont découvert que la recherche de code occupe 56,2 % des tours d'utilisation d'outils. Elle utilise également 46,5 % du total des tokens.
Lorsqu'un seul modèle recherche et corrige du code, sa mémoire devient désordonnée. Elle se remplit d'extraits de fichiers inutiles et de tentatives infructueuses. Cela rend le raisonnement plus difficile.
FastContext résout ce problème. Il utilise un sous-agent distinct pour l'exploration du dépôt.
Fonctionnement : • L'agent explorateur trouve les bons fichiers et les numéros de ligne. • Il n'envoie pas de longs résumés à l'agent principal. • Il n'envoie qu'un petit ensemble de preuves précises. • L'agent principal reste concentré sur la correction du bug.
Cette conception offre deux avantages majeurs :
- Moins de bruit. L'agent principal ne voit pas chaque impasse.
- Une meilleure efficacité. Des modèles plus petits (de 4B à 30B de paramètres) peuvent gérer efficacement la tâche de recherche.
Les résultats sont clairs. L'utilisation de FastContext avec Mini-SWE-Agent a amélioré le taux de réussite des tâches de 5,5 %. Cela a également réduit l'utilisation des tokens de 60 %.
Leçons pour la création d'agents :
- Traitez la recherche comme une tâche centrale, et non comme une étape secondaire.
- Envoyez des chemins de fichiers et des numéros de ligne, pas des historiques de chat complets.
- Entraînez les modèles à fournir des données structurées pour le modèle suivant.
- Surveillez votre consommation de tokens aussi attentivement que votre taux de réussite.
Ne forcez pas un seul modèle à tout faire. Un spécialiste de la recherche rend le solveur plus rapide et plus fiable.
Communauté d'apprentissage optionnelle : https://t.me/GyaanSetuAi