આ વચન શા માટે મહત્વનું છે

AI એજન્ટ્સને ચેટબોટ્સથી આગળનું આગામી પગલું તરીકે વેચવામાં આવે છે: એક એવી સિસ્ટમ જે વેબ બ્રાઉઝ કરી શકે, આંકડા મેળવી શકે, API કોલ કરી શકે અને માનવીય હસ્તક્ષેપ વગર નિર્ણય લઈ શકે. ટ્રેડર્સ, એનાલિસ્ટ્સ અને SaaS પ્લેટફોર્મ્સ માટે આ આકર્ષક છે. વ્યવહારમાં, આજના એજન્ટ્સ "સ્માર્ટ ઓટોમેશન" જેવું વર્તન કરે છે જે હજુ પણ યોગ્ય માર્ગ પર રહેવા માટે ડેવલપર્સ પર નિર્ભર છે.

"એજન્ટ" પાછળનું એન્જિનિયરિંગ સ્ટેક

એક કાર્યક્ષમ એજન્ટ બનાવવા માટે ઘણા ભાગોને એકસાથે જોડવા પડે છે:

  • Large Language Model (LLM) – રિઝનિંગ કોર જે પ્રોમ્પ્ટ્સ વાંચે છે અને આગામી પગલું પસંદ કરે છે.
  • Memory layer – વર્તમાન કાર્ય માટે ટૂંકા ગાળાનો સંદર્ભ (context) અને પછીથી ઉપયોગ માટે એમ્બેડિંગ્સ (embeddings) સાચવતું લાંબા ગાળાનું વેક્ટર ડેટાબેઝ.
  • Planner – એક નિયમ-આધારિત અથવા શીખેલ મોડ્યુલ જે LLM ના આઉટપુટમાંથી આગામી ક્રિયા પસંદ કરે છે.
  • Tools – APIs, વેબ સ્ક્રૅપર્સ, કોડ ઇન્ટરપ્રિટર અથવા કોઈપણ બાહ્ય સેવા જેને એજન્ટ દ્વારા બોલાવવી (invoke) પડે.
  • Feedback loop – એક તપાસ જે દરેક પગલાના પરિણામનું મૂલ્યાંકન કરે છે અને પ્લાનરને આગળ વધવા અથવા પાછા ખેંચવા (backtrack) માટે સૂચના આપે છે.

દરેક ભાગ કામ કરે છે, પરંતુ ઇન્ટિગ્રેશન પોઈન્ટ્સ (જોડાણના બિંદુઓ) નાજુક હોય છે. પ્રયોગમાં, ડેવલપરે LLM ને યોગ્ય માર્ગ પર રાખવા માટે કલાકો સુધી ડીબગિંગ કરવામાં અને સતત પ્રોમ્પ્ટ્સને ફરીથી એન્જિનિયર કરવામાં વિતાવ્યા.

છુપાયેલા પડકારો

Hallucinations

LLMs એવા તથ્યો બનાવી શકે છે જે સાચા લાગે તેવા હોય.

Infinite loops

સ્પષ્ટ સુરક્ષા વ્યવસ્થાઓ વિના, એક એજન્ટ નિષ્ફળ ગયેલું પગલું અનંતકાળ સુધી દોહરાવી શકે છે—દા.ત., "પેજ X મેળવવાનો ફરી પ્રયાસ કરો" એવું સતત કરવું. ડેવલપરે રીટ્રાય (retries) પર નિયમ-આધારિત મર્યાદાઓ ઉમેરીને આ અટકાવ્યું, જેનાથી અન્ય એક કસ્ટમ ઘટક ઉમેરાયો.

Cost control

LLM કોલ્સ ટોકન દીઠ બિલ કરવામાં આવે છે. લાંબા સમય સુધી ચાલતું કાર્ય જે વારંવાર હાઈ-કેપેસિટી મોડેલનો ઉપયોગ કરે છે તે મધ્યમ બજેટને પણ ખતમ કરી શકે છે. પ્રયોગમાં હાઇબ્રિડ અભિગમનો ઉપયોગ કરવામાં આવ્યો હતો: રૂટિન સ્ટેપ્સ માટે સસ્તા મોડેલથી શરૂઆત કરો, અને જ્યારે રિઝનિંગ જટિલ બને ત્યારે જ વધુ સક્ષમ (અને મોંઘા) મોડેલ પર સ્વિચ કરો. આનાથી ખર્ચ ઘટે છે પરંતુ આર્કિટેક્ચરલ જટિલતા વધે છે.

Security exposure

એજન્ટને API કી અથવા રાઈટ એક્સેસ (write access) આપવાથી એટેક સર્ફેસ (attack surface) વધી જાય છે. જો એજન્ટ સાથે છેડછાડ કરવામાં આવે, તો તે ડેટા ચોરી શકે છે અથવા અનધિકૃત વ્યવહારો કરી શકે છે. ડેવલપરે "least privilege" (ન્યૂનતમ વિશેષાધાન) સિદ્ધાંત લાગુ કર્યો, જ્યાં સુધી શક્ય હોય ત્યાં સુધી એજન્ટને માત્ર 'રીડ-ઓન્લી' એક્સેસ સુધી મર્યાદિત રાખ્યો, જેનાથી તે કરી શકતા કાર્યો પણ મર્યાદિત થાય છે.

નિષ્કર્ષ

AI એજન્ટ્સ પુનરાવર્તિત ડેટા-ગેટરિંગને ઓટોમેટ કરી શકે છે, પરંતુ તેઓ "પ્લગ-એન્ડ-પ્લે" નથી. ખરેખર સ્વાયત્ત (autonomous) સિસ્ટમ બનાવવા માટે હજુ પણ સંપૂર્ણ એન્જિનિયરિંગ સ્ટેક, કડક સુરક્ષા પદ્ધતિઓ અને સક્રિય ખર્ચ વ્યવસ્થાપનની જરૂર છે. જ્યાં સુધી આ છુપાયેલા સ્તરોને સુવ્યવસ્થિત કરવામાં ન આવે, ત્યાં સુધી કોઈપણ "સ્વાયત્ત" AI વર્કફ્લોમાં માનવીય દેખરેખ નિર્ણાયક પરિબળ રહેશે.