𝗙𝗮𝘀𝘁𝗖𝗼𝗻𝘁𝗲𝘅: 𝗦𝗲𝗽𝗮𝗿𝗮𝘁𝗲 𝗦𝗲𝗮𝗿𝗰𝗵 𝗳𝗿𝗼𝗺 𝗦𝗼𝗹𝘃𝗶𝗻𝗴
کوڈنگ ایجنٹس کوڈ تلاش کرنے میں بہت زیادہ وقت ضائع کرتے ہیں۔
مائیکروسافٹ اور شنگھائی جیاؤ ٹونگ یونیورسٹی نے اس مسئلے کا مطالعہ کیا۔ انہوں نے پایا کہ کوڈ تلاش کرنے میں ٹول کے استعمال کے 56.2% مراحل (turns) خرچ ہوتے ہیں۔ یہ کل ٹوکنز (tokens) کا 46.5% بھی استعمال کرتا ہے۔
جب ایک ہی ماڈل کوڈ تلاش کرتا ہے اور اسے ٹھیک کرتا ہے، تو اس کی میموری الجھ جاتی ہے۔ یہ غیر ضروری فائل اسنیپٹس (snippets) اور ناکام اندازوں سے بھر جاتی ہے۔ اس سے منطقی سوچ (reasoning) مشکل ہو جاتی ہے۔
FastContext اس مسئلے کو حل کرتا ہے۔ یہ ریپوزٹری کی تلاش (repository exploration) کے لیے ایک الگ سب ایجنٹ (subagent) استعمال کرتا ہے۔
یہ کیسے کام کرتا ہے: • ایکسپلورر ایجنٹ درست فائلیں اور لائن نمبر تلاش کرتا ہے۔ • یہ مین ایجنٹ کو طویل خلاصے نہیں بھیجتا۔ • یہ صرف درست شواہد کا ایک چھوٹا سا مجموعہ بھیجتا ہے۔ • مین ایجنٹ بگ (bug) کو ٹھیک کرنے پر توجہ مرکوز رکھتا ہے۔
یہ ڈیزائن دو بڑے فائدے فراہم کرتا ہے:
- شور (noise) میں کمی۔ مین ایجنٹ ہر ناکام کوشش (dead end) کو نہیں دیکھتا۔
- بہتر کارکردگی۔ چھوٹے ماڈلز (4B سے 30B پیرامیٹرز) تلاش کے کام کو مؤثر طریقے سے سنبھال سکتے ہیں۔
نتائج واضح ہیں۔ Mini-SWE-Agent کے ساتھ FastContext کے استعمال سے کام کی کامیابی میں 5.5% اضافہ ہوا۔ اس نے ٹوکن کے استعمال کو بھی 60% تک کم کر دیا۔
ایجنٹس بنانے کے لیے اسباق:
- تلاش کو ایک بنیادی کام کے طور پر لیں، نہ کہ ایک ضمنی مرحلے کے طور پر۔
- فائل کے راستے (paths) اور لائن نمبر بھیجیں، نہ کہ مکمل چیٹ ہسٹری۔
- ماڈلز کو اس طرح تربیت دیں کہ وہ اگلے ماڈل کے لیے منظم ڈیٹا (structured data) فراہم کر سکیں۔
- اپنے ٹوکن کے استعمال پر اتنی ہی باریک بینی سے نظر رکھیں جتنی اپنی کامیابی کی شرح پر۔
ایک ہی ماڈل پر سب کچھ کرنے کے لیے زبردستی نہ کریں۔ تلاش کے لیے ایک ماہر (specialist) ہول کرنے والے ماڈل کو تیز تر اور زیادہ قابل اعتماد بناتا ہے۔
اختیاری لرننگ کمیونٹی: https://t.me/GyaanSetuAi