FastContext: فصل البحث عن الحل
تستهلك وكلاء البرمجة (Coding agents) الكثير من الوقت في البحث عن الكود.
قامت Microsoft وجامعة Shanghai Jiao Tong بدراسة هذه المشكلة. ووجدوا أن البحث عن الكود يستهلك 56.2% من دورات استخدام الأدوات (tool use turns)، كما يستهلك 46.5% من إجمالي الرموز (tokens).
عندما يقوم نموذج واحد بالبحث عن الكود وإصلاحه، تصبح ذاكرته مشوشة؛ حيث تمتلئ بمقتطفات ملفات غير مفيدة وتخمينات خاطئة، مما يجعل عملية الاستنتاج (reasoning) أكثر صعوبة.
يحل FastContext هذه المشكلة، حيث يستخدم وكيلًا فرعيًا (subagent) منفصلاً لاستكشاف المستودع (repository).
كيف يعمل: • يقوم وكيل الاستكشاف بالعثور على الملفات وأرقام الأسطر الصحيحة. • لا يرسل ملخصات طويلة إلى الوكيل الرئيسي. • يرسل فقط حزمة صغيرة من الأدلة الدقيقة. • يظل الوكيل الرئيسي مركزًا على إصلاح الخطأ (bug).
يوفر هذا التصميم ميزتين كبيرتين:
- ضجيج أقل. لا يرى الوكيل الرئيسي كل طريق مسدود.
- كفاءة أفضل. يمكن للنماذج الأصغر (من 4 مليار إلى 30 مليار معلمة/parameter) التعامل مع مهمة البحث بفعالية.
النتائج واضحة. أدى استخدام FastContext مع Mini-SWE-Agent إلى تحسين نجاح المهام بنسبة 5.5%، كما قلل من استهلاك الرموز (tokens) بنسبة 60%.
دروس لبناء الوكلاء:
- تعامل مع البحث كمهمة أساسية، وليس كخطوة جانبية.
- أرسل مسارات الملفات وأرقام الأسطر، وليس سجلات الدردشة الكاملة.
- درّب النماذج على تقديم بيانات مهيكلة للنموذج التالي.
- راقب استهلاكك للرموز (tokens) بنفس الدقة التي تراقب بها معدل نجاحك.
لا تجبر نموذجًا واحدًا على القيام بكل شيء. فوجود متخصص في البحث يجعل "المُصلح" (solver) أسرع وأكثر موثوقية.
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi