𝗙𝗮𝘀𝘁𝗖𝗼𝗻𝘁𝗲𝘅: સર્ચ અને સોલ્વિંગને અલગ કરો
કોડિંગ એજન્ટ્સ કોડ શોધવામાં ઘણો સમય બગાડે છે.
Microsoft અને Shanghai Jiao Tong University એ આ સમસ્યાનો અભ્યાસ કર્યો. તેઓએ જોયું કે કોડ શોધવા માટે ટૂલ ઉપયોગના 56.2% ટર્ન વપરાય છે. તે કુલ ટોકન્સના 46.5% નો ઉપયોગ પણ કરે છે.
જ્યારે એક જ મોડેલ કોડ શોધે અને તેને સુધારે છે, ત્યારે તેની મેમરી અસ્તવ્યસ્ત થઈ જાય છે. તે બિનઉપયોગી ફાઇલ સ્નિપેટ્સ અને નિષ્ફળ અનુમાનોથી ભરાઈ જાય છે. આનાથી રીઝનિંગ (reasoning) કરવું મુશ્કેલ બને છે.
FastContext આ સમસ્યાનું સમાધાન કરે છે. તે રિપોઝિટરી એક્સપ્લોરેશન માટે અલગ સબ-એજન્ટનો ઉપયોગ કરે છે.
તે કેવી રીતે કામ કરે છે: • એક્સપ્લોરર એજન્ટ યોગ્ય ફાઇલો અને લાઇન નંબર શોધી કાઢે છે. • તે મુખ્ય એજન્ટને લાંબા સારાંશ (summaries) મોકલતું નથી. • તે માત્ર ચોક્કસ પુરાવાઓનો એક નાનો સંગ્રહ મોકલે છે. • મુખ્ય એજન્ટ બગ (bug) સુધારવા પર ધ્યાન કેન્દ્રિત રાખે છે.
આ ડિઝાઇન બે મોટા ફાયદા આપે છે:
- ઓછું નોઈઝ (noise). મુખ્ય એજન્ટ દરેક નિષ્ફળ પ્રયાસો (dead ends) જોતો નથી.
- વધુ સારી કાર્યક્ષમતા. નાના મોડેલ્સ (4B થી 30B પેરામીટર્સ) સર્ચ કાર્યને અસરકારક રીતે સંભાળી શકે છે.
પરિણામો સ્પષ્ટ છે. Mini-SWE-Agent સાથે FastContext નો ઉપયોગ કરવાથી કાર્યની સફળતામાં 5.5% નો વધારો થયો. તેણે ટોકન વપરાશમાં પણ 60% નો ઘટાડો કર્યો.
એજન્ટ્સ બનાવવા માટેના પાઠ:
- સર્ચને મુખ્ય કાર્ય તરીકે ગણો, માત્ર એક પૂરક પગલું તરીકે નહીં.
- ફાઇલ પાથ અને લાઇન નંબર મોકલો, આખી ચેટ હિસ્ટ્રી નહીં.
- આગામી મોડેલ માટે સ્ટ્રક્ચર્ડ ડેટા પૂરો પાડવા માટે મોડેલ્સને તાલીમ આપો.
- તમારી સફળતાના દર જેટલું જ ધ્યાન તમારા ટોકન વપરાશ પર પણ રાખો.
એક જ મોડેલને બધું કરવા માટે દબાણ ન કરો. સર્ચ માટેનો સ્પેશિયાલિસ્ટ સોલ્વરને વધુ ઝડપી અને વધુ વિશ્વસનીય બનાવે છે.
વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi