તમારા AI એજન્ટ પાસે કેટલી સ્વાયત્તતા હોવી જોઈએ?

લોકો Agentic AI વિશે વધુ સ્વાયત્તતાની સ્પર્ધા તરીકે વાત કરે છે.

તેઓ વધુ સાધનો ઈચ્છે છે. વધુ તર્ક. વધુ સ્વતંત્રતા.

સોફ્ટવેર એન્જિનિયરો આ રીતે કામ નથી કરતા. અમે માત્ર તે લોકપ્રિય છે એટલે માઇક્રોસર્વિસીસ (microservices) નથી બનાવતા. અમે એવી સિસ્ટમ્સ બનાવીએ છીએ જે ક્ષમતા અને જટિલતા વચ્ચે સંતુલન જાળવે છે.

AI એજન્ટ્સ માટે પણ સમાન અભિગમની જરૂર છે.

પ્રશ્ન એ નથી કે એક એજન્ટ કેટલો સ્વાયત્ત હોઈ શકે છે. પ્રશ્ન એ છે કે એક એજન્ટ કેટલો સ્વાયત્ત હોવો જોઈએ.

સ્વાયત્તતા એ એક ડિઝાઇન નિર્ણય છે. જ્યારે પણ એજન્ટ કોઈ નિર્ણય લે છે, ત્યારે તમે તેની જવાબદારી વધારો છો.

ઉચ્ચ સ્વાયત્તતા એજન્ટને નવી પરિસ્થિતિઓ સાથે અનુકૂલન સાધવામાં મદદ કરે છે. તે સતત માર્ગદર્શન વિના લક્ષ્યો સુધી પહોંચવામાં મદદ કરે છે.

પરંતુ ઉચ્ચ સ્વાયત્તતા એજન્ટને અનુમાનિત (predict) અને ડિબગ (debug) કરવાનું મુશ્કેલ બનાવે છે. તે તેના પર વિશ્વાસ કરવો પણ મુશ્કેલ બનાવે છે.

સ્વાયત્તતા એ એક સ્પેક્ટ્રમ છે.

  • ઓછી સ્વાયત્તતા: એવી સિસ્ટમ્સ જે ફક્ત ટેક્સ્ટ જ જનરેટ કરે છે.
  • મધ્યમ સ્વાયત્તતા: એવી સિસ્ટમ્સ જે ક્રિયાઓ સૂચવે છે અને સાધનોનો ઉપયોગ કરે છે.
  • ઉચ્ચ સ્વાયત્તતા: એવી સિસ્ટમ્સ જે માનવીય મદદ વગર લક્ષ્ય સુધી કેવી રીતે પહોંચવું તેનો નિર્ણય લે છે.

દરેક પગલું ક્ષમતા અને જટિલતા વધારે છે. તમારે તમારી સમસ્યાને જરૂરી હોય તેવા સ્તર પર જ અટકવું જોઈએ.

એક HR આસિસ્ટન્ટનો વિચાર કરો. તે પોલિસીના પ્રશ્નોના જવાબ આપે છે. તેને કર્મચારીઓના રેકોર્ડ્સમાં ફેરફાર કરવાની પરવાનગી આપવાથી વધુ મૂલ્ય ઉમેરાયા વગર જોખમ વધે છે.

હવે એક ઓપરેશન્સ એજન્ટનો વિચાર કરો. તે પ્રોડક્શનની ઘટનાઓની તપાસ કરે છે. તેણે લોગ્સ (logs) તપાસવા પડે છે અને ડોક્યુમેન્ટેશન શોધવું પડે છે. તેણે તેને જે મળે તેના આધારે તેની શોધને અનુકૂલિત કરવાની જરૂર છે. અહીં ફિક્સ્ડ વર્કફ્લો (fixed workflow) નિષ્ફળ જાય છે. વધુ સ્વાયત્તતા આ ઉકેલને સુધારે છે.

સમસ્યા સ્વાયત્તતાનું સ્તર નક્કી કરે છે.

સફળ પ્રોડક્શન સિસ્ટમ્સ ઘણીવાર જાણીજોઈને મર્યાદિત રાખવામાં આવે છે. આને 'bounded autonomy' કહેવામાં આવે છે. સિસ્ટમને વિશ્વસનીય રાખવા માટે તમે મર્યાદાઓ નક્કી કરો છો.

મર્યાદાઓના ઉદાહરણો:

  • સાધનોની એક્સેસ મર્યાદિત કરવી
  • કાર્યનો વ્યાપ મર્યાદિત કરવો
  • મોટા કાર્યો માટે માનવીય મંજૂરીની જરૂરિયાત
  • ખર્ચની મર્યાદાઓ નક્કી કરવી
  • ક્યારે માનવી પાસે મોકલવું (escalate કરવું) તે નક્કી કરવું

આ મર્યાદાઓ તમારા એજન્ટને વધુ અનુમાનિત બનાવે છે.

વધુ સ્વાયત્તતા આપતા પહેલા, આ પ્રશ્નો પૂછો:

  • શું ફિક્સ્ડ વર્કફ્લો આ સમસ્યાનો ઉકેલ લાવી શકે છે?
  • શું આગળનું પગલું અજાણી માહિતી પર આધારિત છે?
  • જો એજન્ટ નિષ્ફળ જાય તો શું થાય?
  • શું તમે જોખમી ક્રિયાઓને ઓછા જોખમી તર્કથી અલગ કરી શકો છો?

શ્રેષ્ઠ એન્જિનિયરો સ્વાયત્તતાને મહત્તમ બનાવતા નથી. તેઓ નક્કી કરે છે કે તે ક્યાં શરૂ થાય છે અને ક્યાં સમાપ્ત થાય છે.

સારું આર્કિટેક્ચર એ જરૂરી હોય તેટલું જ કરવા વિશે છે, તેનાથી વધુ નહીં.

સ્ત્રોત: https://dev.to/rohith_kn/how-much-autonomy-should-your-ai-agent-have-4h4n