જ્યારે કોઈ AI એજન્ટ દાવો કરે છે કે તેણે કાર્ય પૂર્ણ કર્યું છે, ત્યારે શંકા એ જ એકમાત્ર સમજદારીભર્યો પ્રતિસાદ છે. "Task completed at 14:32" વાંચતો લોગ એન્ટ્રી માત્ર ટેક્સ્ટની એક હારમાળા છે. એજન્ટ કદાચ શાંતિથી ક્રેશ થઈ ગયો હોય, ખાલી ફોર્મ સબમિટ કર્યું હોય, ખાલી સર્ચ રિઝલ્ટમાં લૂપમાં ફસાઈ ગયો હોય, અથવા આખું વર્કફ્લો હલ્યુસિનેટ (ભ્રમિત) કરી દીધું હોય. જો તમારા આર્કિટેક્ચરમાં અલગ-અલગ મશીનો, ક્લાઉડ રિજન્સ અથવા IP એડ્રેસ પર ચાલતા અનેક એજન્ટો સામેલ હોય, તો સમસ્યા ઝડપથી વધતી જાય છે. જ્યાં સુધી એજન્ટ A તેનું કામ બતાવી ન શકે ત્યાં સુધી એજન્ટ B પાસે એજન્ટ A ના રિપોર્ટ પર વિશ્વાસ કરવા માટે કોઈ કારણ નથી.
દરેક વિશ્વસનીય વેરિફિકેશન સિસ્ટમ ત્રણ સ્તરો પર બનેલી હોય છે. Evidence એ કાચો આર્ટિફેક્ટ છે—સ્ક્રીનશોટ, API પ્રતિસાદ, અથવા HTML ડમ્પ. Attestation એ એક સહી કરેલો અથવા ક્રિપ્ટોગ્રાફિક દાવો છે જે તે પુરાવાને ચોક્કસ એજન્ટ અને ચોક્કસ Task ID સાથે જોડે છે. Verification એ એવી પ્રક્રિયા છે જે પુષ્ટિ કરે છે કે પુરાવો ખરેખર મૂળ લક્ષ્યને સંતોષે છે, માત્ર ફાઇલ અસ્તિત્વ ધરાવે છે એટલું જ નહીં. Attestation વગરના પુરાવાને એક કામમાંથી બીજા કામમાં ફરીથી વાપરી શકાય છે. Verification વગરનું Attestation તમને જણાવે છે કે ડેટા અસલી છે, પરંતુ તમે પૂછેલા પ્રશ્નનો તે જવાબ આપે છે કે નહીં તે નહીં.
વિઝ્યુઅલ પ્રૂફ: સ્ક્રીનશોટ્સ અને OCR
જ્યારે કોઈ એજન્ટ બ્રાઉઝર ચલાવે છે અથવા ગ્રાફિકલ ઇન્ટરફેસ સાથે સંપર્ક કરે છે, ત્યારે સૌથી સરળ પુરાવો એક ચિત્ર છે. એજન્ટ કાર્ય પૂર્ણ થયા પછી આખા પેજનો સ્ક્રીનશોટ લે છે, દેખી શકાય તેવા ટેક્સ્ટને કાઢવા માટે OCR ચલાવે છે, અને છબી (image) તથા કાઢવામાં આવેલા સ્ટ્રિંગ્સ બંનેને પુરાવા તરીકે સબમિટ કરે છે.
આ પેટર્ન સોશિયલ મીડિયા પોસ્ટ્સ, ફોર્મ સબમિશન અથવા ચેકઆઉટ ફ્લો માટે યોગ્ય છે. કલ્પના કરો કે એક એજન્ટને કંપનીના LinkedIn પેજ પર સાપ્તાહિક અપડેટ પ્રકાશિત કરવાનું કામ સોંપવામાં આવ્યું છે. સ્ક્રીનશોટ સર્વર-રેન્ડર્ડ ટાઈમસ્ટેમ્પ અને URL માં એમ્બેડેડ પોસ્ટ ID સાથેની લાઈવ પોસ્ટ બતાવે છે. OCR એ વાતની પુષ્ટિ કરી શકે છે કે પ્લેટફોર્મ-વિશિષ્ટ માર્કર્સની સાથે ચોક્કસ હેડલાઇન અને બોડી ટેક્સ્ટ પેજ પર દેખાય છે.
જોખમ સ્પષ્ટ છે: સ્ક્રીનશોટ્સ બનાવટી હોઈ શકે છે. એક કમ્પ્રોમાઈઝ થયેલ એજન્ટ સ્થાનિક રીતે (locally) નકલી વેબપેજ રજૂ કરી શકે છે, તેનો સ્ક્રીનશોટ લઈ શકે છે અને સફળતા જાહેર કરી શકે છે. આ સ્તર વધારવા માટે, એવા ડાયનેમિક ટેક્સ્ટ માર્કર્સની જરૂર પડે છે જેનું અનુમાન લગાવવું મુશ્કેલ હોય. પ્લેટફોર્મ દ્વારા જારી કરાયેલ કન્ફર્મેશન ID, સર્વર પરથી ટાઈમસ્ટેમ્પ, અથવા વેરિફાયર દ્વારા જોબ ઇન્સ્ટ્રક્શનમાં ઉમેરવામાં આવેલ એક યુનિક નોન્સ (nonce) એન્કર તરીકે કામ કરી શકે છે. જો OCR આઉટપુટમાં તે ચોક્કસ કાર્ય સાથે જોડાયેલ અપેક્ષિત કન્ફર્મેશન ID ન હોય, તો પુરાવો નિષ્ફળ જાય છે.
જોકે, સ્ક્રીનશોટ્સ ભારે હોય છે. તેઓ બેન્ડવિડ્થ અને સ્ટોરેજનો વપરાશ કરે છે, અને જ્યારે પ્લેટફોર્મ્સ તેમના લેઆઉટને ફરીથી ડિઝાઇન કરે છે ત્યારે તે કામ કરતા નથી. જ્યારે UI એકમાત્ર ઉપલબ્ધ સપાટી હોય ત્યારે જ તેનો ઉપયોગ કરો, પરંતુ તેને માત્ર એક બેઝલાઇન તરીકે ગણો, કિલ્લા (fortress) તરીકે નહીં.
સાઇન્ડ API રિસીપ્ટ્સ
જ્યારે એજન્ટ બેકએન્ડ API દ્વારા કામ કરે છે, ત્યારે ઇમેજ છોડી દો. સાઇન્ડ રિસીપ્ટ (signed receipt) માંગો.
ઓટોમેટેડ પોસ્ટ અથવા ડેટા સ્ક્રેપિંગ પછી, પ્લેટફોર્મ સામાન્ય રીતે સ્ટ્રક્ચર્ડ પેલોડ (payload) પરત કરે છે. તે JSON માં એક ID, ટાઈમસ્ટેમ્પ, સ્ટેટસ ફીલ્ડ્સ અને ક્યારેક રેટ-લિમિટ હેડર્સ હોય છે. એજન્ટ આ આખા પેલોડ પર પ્રાઇવેટ કી સાથે સહી કરે છે, સાઇન્ડ બ્લોબ (signed blob) ની અંદર Task ID સામેલ કરે છે, અને બંડલ સબમિટ કરે છે. વેરિફાયર એજન્ટની પબ્લિક કી સામે સહી તપાસે છે અને એક્શન સફળ થયું છે તેની પુષ્ટિ કરવા માટે રિસીપ્ટનું નિરીક્ષણ કરે છે.
અહીં નબળો મુદ્દો કી કસ્ટડી (key custody) છે. જો એજન્ટ જે મશીન પર ચાલે છે તે જ મશીન પર તેની પોતાની પ્રાઇવેટ કી રાખે છે, તો પ્રોમ્પ્ટ ઇન્જેક્શન, માલવેર ફ્લેર અથવા કન્ટેનર એસ્કેપ તેને કાઢી શકે છે અને ક્યારેય ન થયા હોય તેવા કાર્યો માટે બનાવટી રિસીપ્ટ્સ બનાવી શકે છે. એજન્ટના એન્વાયરમેન્ટમાં લાંબા સમય સુધી ચાલતી કીનો ઉપયોગ ન કરો. તેના બદલે, કી મેનેજમેન્ટ સિસ્ટમનો ઉપયોગ કરો જે ટૂંકા ગાળાના, ટાસ્ક-સ્કોપ્ડ ક્રેડેન્શિયલ્સ જારી કરે છે. દરેક કાર્ય માટે કી રોટેટ કરો. જો એજન્ટને પાંચ મિનિટના સમયગાળા માટે સુરક્ષિત એન્ક્લેવ (enclave) અથવા KMS માંથી સાઇનિંગ કીની વિનંતી કરવી પડે, તો કમ્પ્રોમાઈઝનું અસરનું ક્ષેત્ર (blast radius) ઓછું રહે છે.
આ પેટર્ન હાઈ-વોલ્યુમ, હેડલેસ ઓટોમેશન માટે શ્રેષ્ઠ રીતે કામ કરે છે: એડ સ્પેન્ડ રિપોર્ટ્સ સિંક કરવા, સોશિયલ મીડિયા API દ્વારા પ્રકાશિત કરવું અથવા સ્ટ્રક્ચર્ડ JSON પરત કરતા એન્ડપોઇન્ટ્સ સ્ક્રેપ કરવા માટે. તે સ્ક્રીનશોટ્સ કરતા હળવું છે અને પ્રોગ્રામમેટિકલી વેરિફાય કરવું ઘણું સરળ છે.
સતત કાર્ય માટે પ્રૂફ ચેઇન્સ
કેટલાક કાર્યો એક જ... માં સમાઈ શકતા નથી