તમારો AI એજન્ટ બગડેલો નથી. તમારી કંપનીનું સત્ય બગડેલું છે.

એક AI એજન્ટ પાસે એક જ કામ હતું. તેણે એક મંજૂર કરેલા વેન્ડરના ઇનવોઇસનું પેમેન્ટ કરવાનું હતું. ફાઇનાન્સ ટીમ આ કામ મેન્યુઅલી કરવાનું બંધ કરવા માંગતી હતી.

મંગળવારે, એજન્ટે 48,000 Ksh નું એક ઇનવોઇસ લીધું. ERP સિસ્ટમે તેને 'મંજૂર' (approved) અને 'અનપેઇડ' (unpaid) તરીકે માર્ક કર્યું. એજન્ટે નિયમો તપાસ્યા. બધું બરાબર હતું. તેણે ઇનવોઇસનું પેમેન્ટ કરી દીધું.

સમસ્યા શું હતી? તે ઇનવોઇસનું પેમેન્ટ ગયા ગુરુવારે એક માણસ દ્વારા પહેલેથી જ કરવામાં આવ્યું હતું.

કોઈ પણ એક સિસ્ટમ ખોટી નહોતી, પરંતુ તેઓ બધા વચ્ચે મતભેદ હતો:

• ERP એ કહ્યું કે તે અનપેઇડ હતું કારણ કે બેંક સિંક નિષ્ફળ ગયું હતું. • બેંક ફીડે કહ્યું કે તે પેઇડ હતું. • Slack થ્રેડમાં આ વેન્ડરને તમામ પેમેન્ટ રોકી રાખવા માટે કહ્યું હતું. • વેન્ડર તરફથી આવેલા એક ઇમેઇલ દ્વારા પુષ્ટિ થઈ કે તેમને પૈસા મળી ગયા છે.

દરેક સિસ્ટમ પાસે કોયડાનો એક ટુકડો હતો. પરંતુ કોઈ પણ સિસ્ટમ એ એકમાત્ર પ્રશ્નનો જવાબ આપી શકી નહીં જે મહત્વનો છે: શું આ ચોક્કસ ઇનવોઇસનું પેમેન્ટ થઈ ગયું છે?

એક માનવ ક્લાર્ક આ ભૂલ પકડી લેત. એ એટલા માટે નહીં કે તેઓ વધુ હોશિયાર છે, પરંતુ એટલા માટે કારણ કે તેઓ વિસંગતતા અનુભવે છે. માણસ કાર્યને યાદ રાખે છે અથવા Slack મેસેજ પર ધ્યાન આપે છે. માણસો અસ્તવ્યસ્ત સિસ્ટમો વચ્ચે ગુંદર (glue) તરીકે કામ કરે છે. આપણે નિર્ણય લેવાની ક્ષમતા (judgment) પૂરી પાડીએ છીએ.

AI એજન્ટો પાસે કોઈ સહજ વૃત્તિ (instinct) હોતી નથી. તેઓ મશીનની ઝડપે ડેટા વાંચે છે. તેઓ "Approved" અને "Unpaid" જુએ છે અને કાર્ય કરે છે. તેમને એવું લાગતું નથી કે કંઈક ખોટું છે.

એજન્ટ નિષ્ફળ ગયો નથી. તે બરાબર તે જ રીતે કામ કરી રહ્યો હતો જે રીતે તેને ડિઝાઇન કરવામાં આવ્યો હતો. આ નિષ્ફળતાને હું 'epistemic collapse' કહું છું.

મોટાભાગની કંપનીઓ બહેતર પ્રોમ્પ્ટ્સ અથવા બહેતર મોડલ્સ દ્વારા એજન્ટ્સને સુધારવાનો પ્રયાસ કરે છે. આ ખોટું પગલું છે. તમારા ડેટામાં જે માહિતી જ નથી, તેને તમે પ્રોમ્પ્ટ દ્વારા મેળવી શકતા નથી.

વાસ્તવિક સમસ્યા epistemic infrastructure નો અભાવ છે.

ડેટા એ છે જે તમારી સિસ્ટમો સ્ટોર કરે છે. સત્ય એ છે જે ખરેખર બની રહ્યું છે. મોટાભાગની કંપનીઓ પાસે પુષ્કળ ડેટા છે પરંતુ સત્ય શૂન્ય છે.

વર્તમાન સિસ્ટમો ત્રણ અલગ-અલગ વસ્તુઓને એક જ ફિલ્ડમાં ભેગી કરી દે છે:

  • અવલોકન (Observation): સિસ્ટમ શું કહે છે કે શું થયું.
  • સત્ય (Truth): જે ખરેખર સાચું છે.
  • ઇતિહાસ (History): જે પહેલા સાચું હતું.

જ્યારે ડેટાબેઝ "Status: Unpaid" કહે છે, ત્યારે તે ઇતિહાસ અને શંકા બંનેને ભૂંસી નાખે છે. તે એકમાત્ર અવલોકનને સંપૂર્ણ સત્ય તરીકે રજૂ કરે છે.

AI એજન્ટો આ જૂની સમસ્યા માટે એક સ્ટ્રેસ ટેસ્ટ છે. તેઓ એવા માણસોને દૂર કરે છે જેઓ દરરોજ શાંતિથી આ વિરોધાભાસોને સુધારી રહ્યા હતા. ખામીઓને પૂરવા માટે માણસો વગર, તમારા ડેટામાં રહેલી તિરાડો મોંઘી ભૂલો બની જાય છે.

બહેતર એજન્ટ્સ બનાવવાનો પ્રયાસ કરવાનું બંધ કરો. તેની નીચેના લેયર (layer) બનાવવાનું શરૂ કરો. તમારે એવી સિસ્ટમની જરૂર છે જે અવલોકનોને ટ્રેક કરે, મતભેદોને ઓળખે અને જૂના (stale) ડેટાને ઓળખે.

જ્યાં સુધી તમે સત્યનું એક સ્તર ન બનાવો, ત્યાં સુધી તમારા એજન્ટો ખોટું કામ પણ સંપૂર્ણ રીતે કરતા રહેશે.

સ્ત્રોત: https://dev.to/code_with_mwai/your-ai-agent-isnt-broken-your-companys-truth-is-2cl8

વૈકલ્પિક લર્નિંગ કોમ્યુનિટી: https://t.me/GyaanSetuAi