સંશોધકો Yuxing Lu, Yicheng Chen અને Shanchan Wu એ “Procedural Graph” ફ્રેમવર્ક રજૂ કર્યું છે જે લાર્જ-લેંગ્વેજ-મોડલ (LLM) એજન્ટ્સને કામ કરતી વખતે તેમની પોતાની કાર્ય-અમલીકરણ યોજનાઓ (task-execution plans) ફરીથી લખવાની મંજૂરી આપે છે.
આજના એજન્ટ્સ સાથેની સમસ્યા
મોટાભાગના LLM-સંચાલિત આસિસ્ટન્ટ્સ એવા શેફની જેમ કામ કરે છે જે ફક્ત રેસીપી જ બોલી શકે છે. મોડલ સ્ટેપ્સને ટ્રાન્ઝિયન્ટ મેમરીમાં સ્ટોર કરે છે, પછીનું ટૂલ પસંદ કરે છે, અને આશા રાખે છે કે આગામી ટોકન સાચું આવે. વ્યવહારમાં, ત્રણ પ્રકારની નિષ્ફળતાઓ વારંવાર જોવા મળે છે:
- Goal drift (ધ્યેયમાંથી વિચલન) – થોડા જ સ્ટેપ્સ પછી એજન્ટ મૂળ ઉદ્દેશ્ય ભૂલી જાય છે.
- Tool misuse (ટૂલનો દુરુપયોગ) – તે ખોટા ક્રમમાં API કોલ કરે છે અથવા એક જ કોલ પર લૂપમાં ફસાય છે.
- Unlearned mistakes (ન શીખેલી ભૂલો) – સમાન ભૂલ સંબંધિત ન હોય તેવા સેશન્સમાં ફરીથી જોવા મળે છે કારણ કે નિષ્ફળતાને કાયમી રીતે રેકોર્ડ કરતું કંઈ હોતું નથી.
કારણ કે તર્ક (reasoning) અસ્પષ્ટ (implicit) રહે છે, ડેવલપર્સ જોઈ શકતા નથી કે કોઈ ક્રિયા શા માટે થઈ, અને વપરાશકર્તાઓ પદ્ધતિસરની ખામીઓને સુધારી શકતા નથી.
પ્રોમ્પ્ટ્સને ગ્રાફમાં રૂપાંતરિત કરવા
Procedural Graphs "માત્ર મેમરી" અભિગમને બદલે એક સ્પષ્ટ અને સંપાદન કરી શકાય તેવી (editable) રચનાનો ઉપયોગ કરે છે. આ ફ્રેમવર્ક ત્રણ મુખ્ય ઘટકો વ્યાખ્યાયિત કરે છે:
| ઘટક | ભૂમિકા |
|---|---|
| Node | "ફ્લાઇટ સર્ચ કરો" અથવા "પેમેન્ટ વેરિફાય કરો" જેવું ચોક્કસ સ્ટેપ. |
| Edge | નોડ્સ વચ્ચેનો પ્રવાહ – સીધી રેખાના ક્રમ, શરતી શાખાઓ (if/then) અને લૂપ્સ. |
| Attribute | નોડ અથવા એજ સાથે જોડાયેલ મેટાડેટા, જેમ કે સફળતાનો દર, સરેરાશ અમલીકરણ સમય અથવા કોન્ફિડન્સ સ્કોર. |
જ્યારે LLM એજન્ટને વિનંતી મળે છે, ત્યારે તે પહેલા વિનંતીને હાલના ગ્રાફ પર મેપ કરે છે અથવા તરત જ નવો ગ્રાફ બનાવે છે. ત્યારબાદ અમલીકરણ એજ (edges) ને અનુસરે છે, ટૂલ્સનો ઉપયોગ કરે છે અને પરિણામોને એટ્રિબ્યુટ્સમાં સ્ટોર કરે છે. ગ્રાફ મોડલના ટોકન સ્ટ્રીમની બહાર હોવાથી, લોકો તેનું નિરીક્ષણ કરી શકે છે, વિઝ્યુઅલાઈઝ કરી શકે છે અને તેમાં સુધારો કરી શકે છે.
પાંચ સ્ટેપ્સમાં સ્વ-ઉત્ક્રાંતિ (Self-evolution)
તેની નવીનતા એ લૂપમાં રહેલી છે જે એજન્ટને તેના પોતાના ગ્રાફને સુધારવાની મંજૂરી આપે છે:
- Record (રેકોર્ડ) એજન્ટ જે દરેક માર્ગ પરથી પસાર થાય છે તેને રેકોર્ડ કરો, જેમાં ઇનપુટ્સ, ટૂલ કોલ્સ અને પરિણામોનો સમાવેશ થાય છે.
- Compare (તુલના) સફળ માર્ગોની નિષ્ફળ માર્ગો સાથે તુલના કરો, અને તેઓ ક્યાં અલગ પડે છે તે શોધો.
- Diagnose (નિદાન) નોડ એટ્રિબ્યુટ્સ (દા.ત., ઓછો સફળતા દર) અને એજ કન્ડિશન્સની તપાસ કરીને ભૂલનું નિદાન કરો.
- Propose (પ્રસ્તાવિત) સુધારાઓ – LLM નિષ્ફળતાનું વિશ્લેષણ મેળવે છે અને ગ્રાફમાં ફેરફારો સૂચવે છે (ખૂટતું વેરિફિકેશન સ્ટેપ ઉમેરો, બિનજરૂરી લૂપ દૂર કરો, અથવા શરત વધુ સચોટ બનાવો).
- Validate (ચકાસણી) ટેસ્ટ ઇન્સ્ટન્સ પર સુધારેલા ગ્રાફની ચકાસણી કરો; જો પ્રદર્શન સુધરે છે, તો ફેરફાર કાયમી રાખવામાં આવે છે.
ગ્રાફ 'સિંગલ સોર્સ ઓફ ટ્રુથ' (સત્યનો એકમાત્ર સ્ત્રોત) તરીકે કામ કરતો હોવાથી, એજન્ટ માનવીય મદદ વગર સ્ટેપ્સ ઉમેરી શકે છે, નિષ્ફળ માર્ગો (dead-ends) દૂર કરી શકે છે અથવા લોજિકને ફરીથી ગોઠવી શકે છે. માનવ દ્વારા બનાવવામાં આવેલ અસ્તવ્યસ્ત વર્કફ્લો પણ સમય જતાં સુધરી શકે છે.
આ પરિવર્તન શા માટે મહત્વનું છે
યાદશક્તિથી આગળ જઈને જનરલાઈઝેશન (Generalization)
એક સ્થિર (static) પ્રોમ્પ્ટ ફક્ત એક જ કાર્યના ઉદાહરણને કેપ્ચર કરે છે. ગ્રાફ આખી શ્રેણી માટે "કેવી રીતે કરવું" (how-to) ને એબ્સ્ટ્રેક્ટ કરે છે—જેમ કે સર્ચ-એન્ડ-બુક, ડેટા-એન્ટ્રી પાઇપલાઇન્સ, ટ્રબલશૂટિંગ ડાયલોગ્સ—જેથી સમાન માળખું વિવિધ પેરામીટર્સ સાથે કામ કરી શકે છે. ટીમોને હવે દરેક ફેરફાર માટે મોડલને ફરીથી પ્રોમ્પ્ટ કરવાની જરૂર નથી.
પારદર્શક નિર્ણય લેવાની પ્રક્રિયા
ગ્રાફ ફ્લોચાર્ટ જેવો દેખાય છે. સ્ટેકહોલ્ડર્સ ચોક્કસપણે ટ્રેસ કરી શકે છે કે કયા નોડ દ્વારા ટૂલ કોલ ટ્રિગર થયો હતો અને શા માટે કોઈ ચોક્કસ શાખા (branch) પસંદ કરવામાં આવી હતી.
ન્યુરો-સિમ્બોલિક સિનર્જી (Neuro-symbolic synergy)
Procedural Graphs ડીપ-લર્નિંગ પેટર્ન રેકગ્નિશન (LLM ની ભાષા સમજવાની ક્ષમતા) ને સિમ્બોલિક રીઝનિંગ (સ્પષ્ટ ગ્રાફ લોજિક) સાથે જોડે છે. LLM સ્ટેપ્સ બનાવવા અથવા સુધારવા માટે અંતર્જ્ઞાન (intuition) પૂરૂં પાડે છે; ગ્રાફ તાર્કિક સુસંગતતા જાળવી રાખે છે. લેખકો આને LLMs ને “System 2” મગજ આપવા તરીકે વર્ણવે છે—એક ઇરાદાપૂર્વકનું, ચકાસી શકાય તેવું કંટ્રોલર જે કાચા ટોકન પ્રેડિક્શનના ઝડપી, એસોસિએટિવ “System 1” ને પૂરક બનાવે છે.
સારાંશ
Procedural Graphs LLM એજન્ટ્સને એક બદલી શકાય તેવું (mutable) અને નિરીક્ષણ કરી શકાય તેવું બેકબોન આપે છે જે તેમને દરેક અમલીકરણમાંથી શીખવા દે છે. ક્ષણિક પ્રોમ્પ્ટ્સને કાયમી માળખામાં ફેરવીને, આ અભિગમ એવા AI આસિસ્ટન્ટ્સનું વચન આપે છે જેમને તોડવા મુશ્કેલ છે, સમજવા સરળ છે અને નવા પડકારો માટે વધુ અનુકૂળ છે.