એક ડેવલપરની “ડ્રીમિંગ” પાઇપલાઇન દિવસમાં બે વાર ચાલે છે, જે LLM-એજન્ટના કાચા ઇવેન્ટ લોગને સંક્ષિપ્ત અને ચકાસાયેલ મેમરી સ્ટોરમાં રૂપાંતરિત કરે છે અને ટોકન ખર્ચમાં મોટો ઘટાડો કરે છે. આ યુક્તિ મહત્વની છે કારણ કે મોટાભાગની એજન્ટ સિસ્ટમ્સ તેમની વર્કિંગ મેમરીમાં દરેક વિગત ભરી દે છે, જેનાથી ઝડપથી વિરોધાભાસ, ભૂલી ગયેલ સંદર્ભ અને વધતો જતો API ખર્ચ થાય છે.
LLM એજન્ટ્સ માટે મેમરી શા માટે મહત્વની છે
LLM એજન્ટ્સ દરેક યુઝર રિક્વેસ્ટ, ટૂલ કોલ અથવા આંતરિક અવલોકનને એક નવી “ઇવેન્ટ” તરીકે ગણે છે. સામાન્ય અભિગમ દરેક ઇવેન્ટને તે પ્રોમ્પ્ટમાં ઉમેરી દે છે જે આગલા નિર્ણયને પ્રેરે છે. વ્યવહારમાં, આનાથી પ્રોમ્પ્ટ બિનજરૂરી માહિતીથી ભરાઈ જાય છે, મોડેલને જૂના તથ્યો ફરીથી તપાસવા માટે મજબૂર કરે છે અને ટોકન વપરાશને સૌથી ઊંચા પ્રાઇસિંગ ટાયરમાં ધકેલી દે છે. પરિણામ: વધુ ભૂલો અને દરેક ઇન્ટરેક્શન સાથે વધતું જતું છુપાયેલું બિલ.
નાઇટલી ડ્રીમિંગ કેવી રીતે કામ કરે છે
સિસ્ટમ write path (એજન્ટનો લાઇવ લોગ) ને work path (મોડેલનું નિર્ણય લેવાની પ્રક્રિયા) થી અલગ કરે છે. દિવસમાં બે વાર એક બેકગ્રાઉન્ડ જોબ—જેને “ડ્રીમ” કહેવામાં આવે છે—ત્રણ તબક્કાઓ દ્વારા એકત્રિત થયેલ ઇવેન્ટ્સ પર પ્રક્રિયા કરે છે:
- Reflect – એક LLM સંબંધિત ઇવેન્ટ્સના ક્લસ્ટર્સને સ્કેન કરે છે, સંક્ષિપ્ત તથ્યો સૂચવે છે, અને કઈ ઇવેન્ટ્સ દરેક પ્રસ્તાવને સમર્થન આપે છે તે રેકોર્ડ કરે છે.
- Score – પાઇપલાઇન તપાસે છે કે કોઈ તથ્ય પાસે પૂરતી સમર્થક ઇવેન્ટ્સ છે કે નહીં અને શું તે ઇવેન્ટ્સ વિશ્વસનીય હોવા માટે સમયમાં પૂરતા અંતરે છે.
- Judge – બે સેનિટી ચેક્સ (sanity checks) ચકાસે છે કે નવો તથ્ય કોઈપણ અસ્તિત્વ ધરાવતી મેમરી સાથે વિરોધાભાસ કરતો નથી અને તે ડુપ્લીકેટ નથી.
જે તથ્યો તમામ તપાસમાં પાસ થાય છે તેને permanent memory માં પ્રોમોટ કરવામાં આવે છે. જેઓ નિષ્ફળ જાય છે તેઓ review queue માં જાય છે જ્યાં એક માનવ ઓપરેટર માત્ર એક કીસ્ટ્રોક દ્વારા તેને મંજૂર અથવા નકાર કરી શકે છે. દરેક મંજૂરી એક git-શૈલીનું કમિટ (commit) બનાવે છે, જે કઈ મેમરી ક્યારે બદલાઈ તેનો સંપૂર્ણ ઓડિટ ટ્રેઇલ આપે છે.
મુખ્ય એન્જિનિયરિંગ તારણો
- Write અને Work ને અલગ કરો. એજન્ટ્સને દરેક અવલોકન લોગમાં ડમ્પ કરવા દો; શું રાખવું તે નક્કી કરવા માટે એક સમર્પિત પ્રક્રિયાને કામ કરવા દો.
- જનરેશન પર નહીં, રિફ્યુઝલ પર ધ્યાન કેન્દ્રિત કરો. વિચારો જનરેટ કરવા સસ્તા છે; મેમરી પ્રદૂષણને રોકવું એ અઘરો ભાગ છે.
- સૌથી સસ્તા ચેકપોઈન્ટ પર માનવીય નિયંત્રણ (Human gates). ઓટો-ડ્રાફ્ટિંગ અને ત્યારબાદ ઝડપી મેન્યુઅલ સાઇન-ઓફ એ ખર્ચ અને સુરક્ષામાં સંપૂર્ણ સ્વાયત્તતા કરતા વધુ સારું છે.
- દરેક સાયકલ દીઠ ટોકન ખર્ચ મર્યાદિત કરો. ડ્રીમિંગ રન દીઠ ટોકન્સ પર કડક મર્યાદા અનિયંત્રિત ખર્ચને અટકાવે છે.
- સાયલન્ટ ફેલ્યોર માટે ઓડિટ કરો. જો એક સ્ટેજ બીજા સ્ટેજ કરતા અલગ નિયમો લાગુ કરે છે, તો ડેટા અજાણતામાં ગુમ થઈ શકે છે; સ્પષ્ટ તપાસ આ અસંગતતાને પકડી પાડે છે.
સંભવિત ગેરફાયદા
કન્સોલિડેશન (એકીકરણ) ઓફલાઇન ચલાવવાથી વિલંબ (lag) થાય છે: એજન્ટ આગામી ડ્રીમ સાયકલ સુધી નવા ચકાસાયેલ તથ્યો જોઈ શકશે નહીં. ઝડપથી બદલાતા એપ્લિકેશન્સમાં જેને તાત્કાલિક શિક્ષણની જરૂર હોય છે, ત્યાં આ વિલંબ એક ગેરફાયદો હોઈ શકે છે. સિસ્ટમ એક સિંગલ હ્યુમન રિવ્યુઅર પર પણ આધાર રાખે છે; મજૂરી ખર્ચ વધાર્યા વગર રિવ્યુ ક્યુને સ્કેલ કરવી એ હજુ પણ એક ખુલ્લો પ્રશ્ન છે.
આગળ શું જોવું
LLM એજન્ટ્સ સાથે પ્રયોગ કરી રહેલા ડેવલપર્સે “મેમરી પ્રદૂષણ” (memory pollution) ના સંકેતો માટે ટોકન બિલ અને એરર લોગનું નિરીક્ષણ કરવું જોઈએ – જે વારંવાર અથવા વિરોધાભાસી વિધાનો છે જે કાચા ઇવેન્ટ એકત્રીકરણમાંથી ઉદભવે છે. ડ્રીમિંગ પાઇપલાઇન ઉમેરવાથી ઓડિટેબલ મેમરી હિસ્ટ્રી મેળવવાની સાથે તે ખર્ચ ઘટાડવા માટે એક ચોક્કસ સાધન પૂરું પાડે છે. જેમ જેમ વધુ ટીમો સ્પ્લિટ-લોગ મોડેલ અપનાવશે, તેમ reflect-score-judge સ્ટેપ્સને ઓટોમેટ કરતી અને વર્ઝન-કંટ્રોલ-શૈલીની રિવ્યુ સાથે ઇન્ટિગ્રેટ થતી ટૂલ્સ સંભવતઃ જોવા મળશે, જે આ અભિગમને ઓછો