AI એજન્ટ રોલબેક પ્લાન: વપરાશકર્તાઓનો વિશ્વાસ ગુમાવે તે પહેલાં ખોટી ક્રિયાઓને રદ કરો
એક વિશ્વસનીય AI એજન્ટને સંપૂર્ણ હોવાની જરૂર નથી. તેને કેવી રીતે અટકવું, તેની ભૂલ સમજાવવી અને સુધારો કરવો તે જાણવાની જરૂર છે.
જો તમારો એજન્ટ ખોટું CRM ફીલ્ડ અપડેટ કરે અથવા ડુપ્લીકેટ પેમેન્ટ મોકલે, તો માત્ર ફરીથી પ્રયાસ (retry) કરવાથી નુકસાન સુધરી શકશે નહીં. વાસ્તવિક ઘટનાનો સામનો કરતા પહેલા તમારે રોલબેક પ્લાનની જરૂર છે.
જેમ એજન્ટો ચેટથી વાસ્તવિક કામ તરફ આગળ વધે છે, તેમ તેઓ હવે સ્ટેટ (state) માં ફેરફાર કરે છે. આના કારણે રોલબેક એ માત્ર બેકએન્ડ કાર્ય નથી, પરંતુ એક પ્રોડક્ટ ફીચર બની જાય છે.
સામાન્ય નિષ્ફળતાના પ્રકારો:
- એજન્ટ ખોટી રેકોર્ડ ID વાપરે છે.
- રીટ્રાય (retry) દ્વારા એક જ ક્રિયા બે વાર થાય છે.
- મોડેલ બદલવાથી ટૂલ કેવી રીતે કામ કરે છે તેમાં ફેરફાર થાય છે.
- વર્કફ્લો જૂની મેમરી સાથે ફરી શરૂ થાય છે.
- અપૂર્ણ ક્રમ ડેટાને અસંગત (inconsistent) છોડી દે છે.
રિકવરી લેયર કેવી રીતે બનાવવું:
એક્શન લેજર (Action Ledger) નો ઉપયોગ કરો લોગ્સ (logs) પર આધાર રાખશો નહીં. એક એવું લેજર બનાવો જે દરેક સ્ટેટ ચેન્જને રેકોર્ડ કરે. દરેક ટૂલ કોલ એક્ઝિક્યુશન પહેલા અને પછી એન્ટ્રી બનાવવી જોઈએ. રિકવરી માટે આ તમારો સોર્સ ઓફ ટ્રુથ (source of truth) છે.
તમારી ક્રિયાઓનું વર્ગીકરણ કરો દરેક ક્રિયા સમાન હોતી નથી.
- Read-only: રોલબેકની જરૂર નથી.
- Internal updates: સ્નેપશોટમાંથી અગાઉની વેલ્યુ પુનઃસ્થાપિત કરો.
- External reversible: ઇવેન્ટ ડિલીટ કરો અથવા સ્ટેટસ અપડેટ કરો.
- External irreversible: સાચા 'undo' ને બદલે કોમ્પેન્સેશન (compensation) નો ઉપયોગ કરો. ઈમેલ અથવા પેમેન્ટ માટે, તમે તેને "un-send" કરી શકતા નથી. તમારે સુધારો અથવા રિફંડ મોકલવું પડશે.
આઈડેમપોટન્સી (Idempotency) લાગુ કરો મોડેલ આઈડેમપોટન્સી લાગુ કરતું નથી. તમારા ટૂલ રનટાઇમે (tool runtime) એ કરવું જોઈએ. આઈડેમપોટન્સી કીનો ઉપયોગ એ સુનિશ્ચિત કરવા માટે કરો કે જો એજન્ટ કોઈ કાર્ય ફરીથી કરે છે, તો તે ડુપ્લીકેટ સાઇડ ઇફેક્ટ્સ પેદા ન કરે.
સાગા પેટર્ન (Saga Pattern) નો ઉપયોગ કરો લાંબા વર્કફ્લો માટે, દરેક આગળ વધતી ક્રિયા માટે એક કોમ્પેન્સેટિંગ (compensating) ક્રિયાની જરૂર હોય છે.
- કાર્ય બનાવો છો? તેનું કોમ્પેન્સેશન તેને ડિલીટ કરવું અથવા રદ કરવું છે.
- ફીલ્ડ અપડેટ કરો છો? તેનું કોમ્પેન્સેશન જૂની વેલ્યુ પુનઃસ્થાપિત કરવું છે.
- ઈમેલ મોકલો છો? તેનું કોમ્પેન્સેશન સુધારો મોકલવો છે.
ચેકપોઈન્ટ્સ (Checkpoints) લાગુ કરો ક્રેસ (crash) થયા પછી મોડેલને "આપણે ક્યાં હતા તે શોધો" એમ કહેવાનું બંધ કરો. વર્તમાન સ્ટેટ, પૂર્ણ થયેલ ક્રિયાઓ અને પેન્ડિંગ કાર્યોને સ્ટોર કરવા માટે ચેકપોઈન્ટ્સનો ઉપયોગ કરો. કામ ફરી શરૂ કરવા માટે સિસ્ટમે ચેકપોઈન્ટ લોડ કરવો જોઈએ.
રિકવરી ક્યુ (Recovery Queue) બનાવો જ્યારે વેરિફિકેશન સ્ટેપ નિષ્ફળ જાય, ત્યારે કાર્યને રિકવરી ક્યુમાં ખસેડો. આ તમને કાર્યને ફરી શરૂ કરવા, કોમ્પેન્સેટ કરવા અથવા બંધ કરવાની મંજૂરી આપે છે. ઉચ્ચ જોખમ ધરાવતી ભૂલો માટે, હંમેશા માનવીય મંજૂરી માંગો.
વિશ્વાસ દેખીતી રિકવરી દ્વારા builds થાય છે. જ્યારે એજન્ટ ભૂલ કરે છે, ત્યારે અસ્પષ્ટ ભાષાનો ઉપયોગ કરશો નહીં. વપરાશકર્તાને ચોક્કસપણે જણાવો કે શું બદલાયું, તે શા માટે થયું અને તમે તેને કેવી રીતે સુધાર્યું.
પ્રથમ ઘટના બનતા પહેલા તમારો રોલબેક પ્લાન તૈયાર કરો.
Optional learning community: https://t.me/GyaanSetuAi