AI એજન્ટ્સને સર્કિટ બ્રેકર્સની જરૂર છે
લોકો AI રીઝનિંગ, પ્લાનિંગ અને મેમરી વિશે વાત કરે છે.
જ્યારે કોઈ એજન્ટ નિષ્ફળ જાય ત્યારે શું થાય છે, તે વિશે તેઓ ભાગ્યે જ વાત કરે છે.
ઓટોનોમસ વર્કફ્લોનું પરીક્ષણ કરતી વખતે મેં આ નોંધ્યું. એજન્ટ ક્રેશ થયો નહીં. તેણે કોઈ એરર બતાવી નહીં.
તેણે ફક્ત વધુ પ્રયત્નો કર્યા.
એક ટૂલ કોલ નિષ્ફળ ગયો. એજન્ટે ફરી પ્રયાસ કર્યો. તે પણ નિષ્ફળ ગયો. તેણે નવી યોજના બનાવી. તેણે વધુ ટૂલ્સનો ઉપયોગ કર્યો. તે સતત એક ચક્રમાં ફસાઈ ગયું.
બહારથી તે ઉત્પાદક લાગતું હતું. પણ અંદરથી તે એક લૂપમાં ફસાઈ ગયું હતું.
ડિસ્ટ્રિબ્યુટેડ સિસ્ટમ્સમાં, એન્જિનિયરો સર્કિટ બ્રેકર્સનો ઉપયોગ કરે છે. જો કોઈ સર્વિસ નિષ્ફળ જાય, તો તમે રિક્વેસ્ટ મોકલવાનું બંધ કરી દો છો. તમે બાકીની સિસ્ટમને સુરક્ષિત કરો છો.
AI એજન્ટ્સને પણ આની જરૂર છે.
એક ઓટોનોમસ એજન્ટ APIs કોલ કરે છે, કોડ ડિપ્લોય કરે છે અને ટોકન્સનો ખર્ચ કરે છે. ગાર્ડરેલ્સ વગર, એક નાની ભૂલ પણ મોંઘી પડી શકે છે.
કલ્પના કરો કે એક એજન્ટ એપ્લિકેશન ડિપ્લોય કરી રહ્યો છે. ડિપ્લોયમેન્ટ નિષ્ફળ જાય છે. એજન્ટ ફરી પ્રયાસ કરે છે. તે ફરી નિષ્ફળ જાય છે. તે એક સેટિંગ બદલે છે અને ફરી પ્રયાસ કરે છે. દરેક ક્રિયા ભૂલને વધુ વણસે છે.
મોડલ સમસ્યા નથી. મર્યાદાઓ વગરની બુદ્ધિ અણધારણી હોય છે.
સર્કિટ બ્રેકર તે મર્યાદાઓ બનાવે છે. તે આ કરી શકે છે:
- ઘણા નિષ્ફળ પ્રયત્નો પછી એક્ઝિક્યુશન અટકાવી શકે છે.
- જ્યારે ખર્ચ મર્યાદા પર પહોંચે ત્યારે વર્કફ્લોને સ્થગિત કરી શકે છે.
- પ્રોડક્શનને સ્પર્શતા પહેલા માનવીય મંજૂરી માંગી શકે છે.
- જ્યાં સુધી તમે તેને વેલિડેટ ન કરો ત્યાં સુધી જોખમી ક્રિયાઓને બ્લોક કરી શકે છે.
સર્કિટ બ્રેકર્સ સ્વાયત્તતા ઘટાડતા નથી. તેઓ વિશ્વાસ બનાવે છે.
આપણે એજન્ટોને કેવી રીતે કાર્ય કરવું તે શીખવવામાં સમય વિતાવીએ છીએ. આપણે તેમને ક્યારે અટકવું તે શીખવવામાં પણ સમય વિતાવવો જોઈએ.
પ્રોડક્શનમાં, આગળ શું કરવું તે જાણવા કરતાં ક્યારે અટકવું તે જાણવું વધુ મહત્વનું છે.
સ્ત્રોત: https://dev.to/mukeshkuiry/the-day-i-realized-ai-agents-need-circuit-breakers-22hj
વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi