ਜਦੋਂ ਕੋਈ AI ਏਜੰਟ ਦਾਅਵਾ ਕਰਦਾ ਹੈ ਕਿ ਉਸਨੇ ਕੋਈ ਕੰਮ ਪੂਰਾ ਕਰ ਲਿਆ ਹੈ, ਤਾਂ ਸ਼ੱਕ ਕਰਨਾ ਹੀ ਇੱਕੋ-ਇੱਕ ਸਹੀ ਪ੍ਰਤੀਕਿਰਿਆ ਹੈ। ਇੱਕ ਲੌਗ ਐਂਟਰੀ ਜੋ ਲਿਖਦੀ ਹੈ “Task completed at 14:32” ਸਿਰਫ਼ ਟੈਕਸਟ ਦੀ ਇੱਕ ਲੜੀ ਹੈ। ਏਜੰਟ ਸ਼ਾਂਤੀ ਨਾਲ ਕ੍ਰੈਸ਼ ਹੋ ਸਕਦਾ ਹੈ, ਇੱਕ ਖਾਲੀ ਫਾਰਮ ਜਮ੍ਹਾਂ ਕਰ ਸਕਦਾ ਹੈ, ਖਾਲੀ ਸਰਚ ਨਤੀਜਿਆਂ ਵਿੱਚ ਫਸ ਸਕਦਾ ਹੈ, ਜਾਂ ਪੂਰੇ ਵਰਕਫਲੋਅ ਦਾ ਭਰਮ (hallucinate) ਕਰ ਸਕਦਾ ਹੈ। ਜੇਕਰ ਤੁਹਾਡੇ ਆਰਕੀਟੈਕਚਰ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਮਸ਼ੀਨਾਂ, ਕਲਾਉਡ ਰੀਜਨਾਂ, ਜਾਂ IP ਐਡਰੈੱਸਾਂ 'ਤੇ ਚੱਲ ਰਹੇ ਕਈ ਏਜੰਟ ਸ਼ਾਮਲ ਹਨ, ਤਾਂ ਸਮੱਸਿਆ ਤੇਜ਼ੀ ਨਾਲ ਵਧਦੀ ਹੈ। ਏਜੰਟ B ਕੋਲ ਏਜੰਟ A ਦੀ ਰਿਪੋਰਟ 'ਤੇ ਭਰੋਸਾ ਕਰਨ ਦਾ ਕੋਈ ਕਾਰਨ ਨਹੀਂ ਹੈ ਜਦੋਂ ਤੱਕ ਏਜੰਟ A ਆਪਣਾ ਕੰਮ ਦਿਖਾ ਨਹੀਂ ਸਕਦਾ।
ਹਰ ਭਰੋਸੇਯੋਗ ਵੈਰੀਫਿਕੇਸ਼ਨ ਸਿਸਟਮ ਤਿੰਨ ਪਰਤਾਂ 'ਤੇ ਬਣਿਆ ਹੁੰਦਾ ਹੈ। Evidence (ਸਬੂਤ) ਕੱਚਾ ਆਰਟੀਫੈਕਟ ਹੈ—ਸਕ੍ਰੀਨਸ਼ੌਟ, API ਰਿਸਪਾਂਸ, HTML ਡੰਪ। Attestation (ਤਸਦੀਕ) ਇੱਕ ਸਾਈਨ ਕੀਤਾ ਜਾਂ ਕ੍ਰਿਪਟੋਗ੍ਰਾਫਿਕ ਦਾਅਵਾ ਹੈ ਜੋ ਉਸ ਸਬੂਤ ਨੂੰ ਇੱਕ ਖਾਸ ਏਜੰਟ ਅਤੇ ਇੱਕ ਖਾਸ ਟਾਸਕ ID ਨਾਲ ਜੋੜਦਾ ਹੈ। Verification (ਪੁਸ਼ਟੀ) ਉਹ ਪ੍ਰਕਿਰਿਆ ਹੈ ਜੋ ਇਹ ਯਕੀਨੀ ਬਣਾਉਂਦੀ ਹੈ ਕਿ ਸਬੂਤ ਅਸਲ ਵਿੱਚ ਮੂਲ ਟੀਚੇ ਨੂੰ ਪੂਰਾ ਕਰਦਾ ਹੈ, ਨਾ ਕਿ ਸਿਰਫ਼ ਇਹ ਕਿ ਫਾਈਲ ਮੌਜੂਦ ਹੈ। ਐਟੈਸਟੇਸ਼ਨ ਤੋਂ ਬਿਨਾਂ ਸਬੂਤ ਨੂੰ ਇੱਕ ਕੰਮ ਤੋਂ ਦੂਜੇ ਕੰਮ ਵਿੱਚ ਦੁਬਾਰਾ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਵੈਰੀਫਿਕੇਸ਼ਨ ਤੋਂ ਬਿਨਾਂ ਐਟੈਸਟੇਸ਼ਨ ਤੁਹਾਨੂੰ ਦੱਸਦੀ ਹੈ ਕਿ ਡੇਟਾ ਅਸਲੀ ਹੈ, ਪਰ ਇਹ ਨਹੀਂ ਕਿ ਕੀ ਇਹ ਤੁਹਾਡੇ ਪੁੱਛੇ ਗਏ ਸਵਾਲ ਦਾ ਜਵਾਬ ਦਿੰਦਾ ਹੈ।
ਵਿਜ਼ੂਅਲ ਪ੍ਰੂਫ: ਸਕ੍ਰੀਨਸ਼ੌਟ ਅਤੇ OCR
ਜਦੋਂ ਕੋਈ ਏਜੰਟ ਬ੍ਰਾਊਜ਼ਰ ਚਲਾਉਂਦਾ ਹੈ ਜਾਂ ਗ੍ਰਾਫਿਕਲ ਇੰਟਰਫੇਸ ਨਾਲ ਗੱਲਬਾਤ ਕਰਦਾ ਹੈ, ਤਾਂ ਸਭ ਤੋਂ ਸਧਾਰਨ ਸਬੂਤ ਇੱਕ ਤਸਵੀਰ ਹੁੰਦੀ ਹੈ। ਏਜੰਟ ਕਾਰਵਾਈ ਪੂਰੀ ਹੋਣ ਤੋਂ ਬਾਅਦ ਇੱਕ ਫੁੱਲ-ਪੇਜ ਸਕ੍ਰੀਨਸ਼ੌਟ ਲੈਂਦਾ ਹੈ, ਦਿਖਾਈ ਦੇਣ ਵਾਲੇ ਟੈਕਸਟ ਨੂੰ ਕੱਢਣ ਲਈ OCR ਚਲਾਉਂਦਾ ਹੈ, ਅਤੇ ਤਸਵੀਰ ਅਤੇ ਕੱਢੇ ਗਏ ਸਟ੍ਰਿੰਗਸ ਦੋਵਾਂ ਨੂੰ ਸਬੂਤ ਵਜੋਂ ਜਮ੍ਹਾਂ ਕਰਦਾ ਹੈ।
ਇਹ ਪੈਟਰਨ ਸੋਸ਼ਲ ਮੀਡੀਆ ਪੋਸਟਾਂ, ਫਾਰਮ ਸਬਮਿਸ਼ਨ, ਜਾਂ ਚੈੱਕਆਊਟ ਫਲੋਅ ਲਈ ਢੁਕਵਾਂ ਹੈ। ਇੱਕ ਅਜਿਹੇ ਏਜੰਟ ਦੀ ਕਲਪਨਾ ਕਰੋ ਜਿਸਨੂੰ ਕੰਪਨੀ ਦੇ LinkedIn ਪੇਜ 'ਤੇ ਹਫ਼ਤਾਵਾਰੀ ਅਪਡੇਟ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਨ ਦਾ ਕੰਮ ਦਿੱਤਾ ਗਿਆ ਹੈ। ਸਕ੍ਰੀਨਸ਼ੌਟ ਲਾਈਵ ਪੋਸਟ ਨੂੰ ਸਰਵਰ-ਰੈਂਡਰਡ ਟਾਈਮਸਟੈਂਪ ਅਤੇ URL ਵਿੱਚ ਐਮਬੈਡ ਕੀਤੀ ਪੋਸਟ ID ਦੇ ਨਾਲ ਦਿਖਾਉਂਦਾ ਹੈ। OCR ਪੁਸ਼ਟੀ ਕਰ ਸਕਦਾ ਹੈ ਕਿ ਸਹੀ ਹੈੱਡਲਾਈਨ ਅਤੇ ਬਾਡੀ ਟੈਕਸਟ ਉਹਨਾਂ ਪਲੇਟਫਾਰਮ-ਵਿਸ਼ੇਸ਼ ਮਾਰਕਰਾਂ ਦੇ ਨਾਲ ਪੇਜ 'ਤੇ ਦਿਖਾਈ ਦੇ ਰਹੇ ਹਨ।
ਜੋਖਮ ਸਪੱਸ਼ਟ ਹੈ: ਸਕ੍ਰੀਨਸ਼ੌਟ ਜਾਅਲੀ ਹੋ ਸਕਦੇ ਹਨ। ਇੱਕ ਕੰਪ੍ਰੋਮਾਈਜ਼ਡ ਏਜੰਟ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਇੱਕ ਜਾਅਲੀ ਵੈੱਬਪੇਜ ਦਿਖਾ ਸਕਦਾ ਹੈ, ਉਸਦਾ ਸਕ੍ਰੀਨਸ਼ੌਟ ਲੈ ਸਕਦਾ ਹੈ, ਅਤੇ ਸਫਲਤਾ ਦੀ ਘੋਸ਼ਣਾ ਕਰ ਸਕਦਾ ਹੈ। ਮਿਆਰ ਨੂੰ ਉੱਚਾ ਚੁੱਕਣ ਲਈ, ਅਜਿਹੇ ਡਾਇਨਾਮਿਕ ਟੈਕਸਟ ਮਾਰਕਰਾਂ ਦੀ ਮੰਗ ਕਰੋ ਜਿਨ੍ਹਾਂ ਦਾ ਅੰਦਾਜ਼ਾ ਲਗਾਉਣਾ ਮੁਸ਼ਕਲ ਹੋਵੇ। ਪਲੇਟਫਾਰਮ ਦੁਆਰਾ ਜਾਰੀ ਕੀਤੀ ਗਈ ਇੱਕ ਕਨਫਰਮੇਸ਼ਨ ID, ਸਰਵਰ ਤੋਂ ਇੱਕ ਟਾਈਮਸਟੈਂਪ, ਜਾਂ ਇੱਕ ਵਿਲੱਖਣ nonce ਜੋ ਵੈਰੀਫਾਇਰ ਕੰਮ ਦੇ ਨਿਰਦੇਸ਼ਾਂ ਵਿੱਚ ਜੋੜਦਾ ਹੈ, ਸਾਰੇ ਐਂਕਰ ਵਜੋਂ ਕੰਮ ਕਰ ਸਕਦੇ ਹਨ। ਜੇਕਰ OCR ਆਉਟਪੁੱਟ ਵਿੱਚ ਉਸੇ ਟਾਸਕ ਨਾਲ ਜੁੜੀ ਉਮੀਦ ਕੀਤੀ ਗਈ ਕਨਫਰਮੇਸ਼ਨ ID ਨਹੀਂ ਹੈ, ਤਾਂ ਸਬੂਤ ਅਸਫਲ ਹੋ ਜਾਂਦਾ ਹੈ।
ਹਾਲਾਂਕਿ, ਸਕ੍ਰੀਨਸ਼ੌਟ ਭਾਰੀ ਹੁੰਦੇ ਹਨ। ਉਹ ਬੈਂਡਵਿਡਥ ਅਤੇ ਸਟੋਰੇਜ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਅਤੇ ਜਦੋਂ ਪਲੇਟਫਾਰਮ ਆਪਣੇ ਲੇਆਉਟ ਨੂੰ ਰੀਡਿਜ਼ਾਈਨ ਕਰਦੇ ਹਨ ਤਾਂ ਉਹ ਖਰਾਬ ਹੋ ਜਾਂਦੇ