𝟳 𝗖𝗿𝗶𝘁𝗶𝗰𝗮𝗹 𝗠𝗶𝘀𝘁𝗮𝗸𝗲𝘀 𝗧𝗵𝗮𝘁 𝗕𝗿𝗲𝗮𝗸 𝗔𝗜 𝗔𝗴𝗲𝗻𝘁𝘀
તમારો AI એજન્ટ ટેસ્ટિંગમાં બરાબર કામ કરે છે. તે ઝડપી અને સચોટ છે. પછી તમે તેને પ્રોડક્શનમાં ડિપ્લોય કરો છો. અચાનક, યુઝર્સ ટાઈમઆઉટ અને એરરની જાણ કરે છે.
મજબૂત AI એજન્ટ્સ બનાવવા માટે માત્ર સારા કોડ કરતાં વધુની જરૂર છે. તમારે પ્રોડક્શનની જટિલ વાસ્તવિકતા માટે તૈયાર રહેવું જોઈએ.
અહીં એવી 7 ભૂલો છે જે AI એજન્ટ્સને નિષ્ફળ બનાવે છે અને તેને કેવી રીતે સુધારવી તે જણાવેલ છે.
- એક્સટર્નલ API નિષ્ફળતાઓને અવગણવી ડેવલપર્સ ઘણીવાર માની લે છે કે API કોલ્સ હંમેશા કામ કરશે. પણ તે હંમેશા થતું નથી. ટાઈમઆઉટ અથવા રેટ લિમિટને કારણે નેટવર્ક રિક્વેસ્ટ નિષ્ફળ જાય છે.
- તમામ કોલ્સને try-catch બ્લોક્સમાં રાખો.
- દરેક રિક્વેસ્ટ માટે ચોક્કસ ટાઈમઆઉટ વેલ્યુ સેટ કરો.
- એક્સપોનેન્શિયલ બેકઓફ (exponential backoff) સાથે રીટ્રાય લોજિક ઉમેરો.
- નિષ્ફળ જતી સેવાઓ માટે સર્કિટ બ્રેકર્સનો ઉપયોગ કરો.
- નિષ્ફળતાને બાઈનરી (Binary) તરીકે જોવી ઘણા ડેવલપર્સ વિચારે છે કે સિસ્ટમ કાં તો કામ કરે છે અથવા નિષ્ફળ જાય છે. વાસ્તવમાં, સિસ્ટમના અમુક ભાગો નિષ્ફળ જાય છે જ્યારે અન્ય ભાગો ઓનલાઇન રહે છે.
- મલ્ટી-ટાયર ફોલબેક વ્યૂહરચનાઓ (fallback strategies) ડિઝાઇન કરો.
- ઘટાડેલી કાર્યક્ષમતા (reduced functionality) કેવી હશે તે વ્યાખ્યાયિત કરો.
- ઉપલબ્ધ ઘટકોનો ઉપયોગ કરીને રિક્વેસ્ટ આપવાનું ચાલુ રાખો.
- નબળું લોગિંગ અને વિઝિબિલિટી જો તમારી પાસે ન્યૂનતમ લોગ્સ હશે, તો આઉટેજ (outage) દરમિયાન તમે અંધ હોવ એવું બની શકે છે. તમે જે જોઈ શકતા નથી તેને સુધારી શકતા નથી.
- INFO અને ERROR જેવા વિવિધ સ્તરો પર લોગ કરો.
- યુઝર પાથ ટ્રેસ કરવા માટે રિક્વેસ્ટ ID નો ઉપયોગ કરો.
- રિસ્પોન્સ ટાઈમ પર્સન્ટાઈલ્સ (p50, p95, p99) ટ્રેક કરો.
- એરર રેટમાં વધારો થાય ત્યારે એલર્ટ સેટ કરો.
- ફક્ત 'હેપ્પી પાથ' (Happy Paths) ટેસ્ટ કરવા જો તમે ફક્ત સફળ રનિંગ ટેસ્ટ કરો છો, તો તમારો એજન્ટ તણાવ (stress) માંથી બહાર આવી શકશે નહીં.
- ડિપેન્ડન્સીઝ તોડવા માટે કેઓસ એન્જિનિયરિંગનો ઉપયોગ કરો.
- નેટવર્ક લેટન્સી અને ટાઈમઆઉટનું સિમ્યુલેશન કરો.
- ખોટા (malformed) ડેટા ફોર્મેટ સાથે ટેસ્ટ કરો.
- તમારી અપેક્ષિત ક્ષમતા કરતાં વધુ લોડ ટેસ્ટ ચલાવો.
- એજન્ટ સ્ટેટ (Agent State) ગુમાવવું જો એજન્ટ તેની પ્રગતિ સેવ કર્યા વિના ક્રેશ થાય છે, તો તે તમામ કોન્ટેક્સ્ટ (context) ગુમાવે છે.
- મુખ્ય માઈલસ્ટોન્સ પર સ્ટેટ ચેકપોઈન્ટ કરો.
- ડુપ્લીકેટ એક્શન અટકાવવા માટે આઈડેમપોટેન્ટ (idempotent) ઓપરેશન્સનો ઉપયોગ કરો.
- વર્કફ્લો ફરી શરૂ કરવા માટે પૂરતો કોન્ટેક્સ્ટ સ્ટોર કરો.
- કોન્ફિગરેશન્સ હાર્ડકોડ કરવા ટાઈમઆઉટ અને API એન્ડપોઈન્ટ્સને સીધા તમારા કોડમાં મૂકવાથી અપડેટ્સ ધીમા પડે છે.
- કોન્ફિગરેશન્સને એન્વાયરમેન્ટ વેરિયેબલ્સમાં ખસેડો.
- નવા બિહેવિયર્સ માટે ફીચર ફ્લેગ્સનો ઉપયોગ કરો.
- કોડ ફરીથી ડિપ્લોય કર્યા વિના થ્રેશોલ્ડ એડજસ્ટેબલ બનાવો.
- સામાન્ય એરર હેન્ડલિંગ દરેક એરર માટે એક જ ઉકેલનો ઉપયોગ કરવો એ ભૂલ છે. નેટવર્ક ટાઈમઆઉટ કરતા વેલિડેશન એરર માટે અલગ પ્રતિસાદની જરૂર હોય છે.
- રીટ્રાય કરી શકાય તેવી એરર્સને કાયમી એરર્સથી અલગ કરો.
- રેટ લિમિટ જેવી ક્ષણિક (transient) સમસ્યાઓ માટે રીટ્રાય કરો.
- ઓથેન્ટિકેશન નિષ્ફળતા જેવી કાયમી સમસ્યાઓ માટે રીટ્રાય કરશો નહીં.
સ્થિતિસ્થાપકતા એટલે વાસ્તવિકતાનું પૂર્વાનુમાન કરે તેવો કોડ લખવો. તમારા વર્તમાન એજન્ટ્સનું આ સાત ખામીઓ સામે ઓડિટ કરીને શરૂઆત કરો.