𝗛𝘂𝗺𝗮𝗻-𝗶𝗻-𝘁𝗵𝗲-𝗟𝗼𝗼𝗽 𝗗𝗲𝘀𝗶𝗴𝗻 𝗳𝗼𝗿 𝗘𝗺𝗮𝗶𝗹 𝗔𝗴𝗲𝗻𝘁𝘀
ਇੱਕ ਰਿਫੰਡ ਬੇਨਤੀ ਤੁਹਾਡੀ ਸਪੋਰਟ ਕਿਊ (queue) ਵਿੱਚ ਆਉਂਦੀ ਹੈ। ਤੁਹਾਡਾ AI ਏਜੰਟ 91% ਭਰੋਸੇ (confidence) ਨਾਲ ਗਿਆਨ ਅਧਾਰ (knowledge base) ਵਿੱਚ ਮੇਲ ਲੱਭ ਲੈਂਦਾ ਹੈ। ਫਿਰ ਵੀ ਏਜੰਟ ਨੂੰ ਉਹ ਜਵਾਬ ਨਹੀਂ ਭੇਜਣਾ ਚਾਹੀਦਾ।
ਜ਼ਿਆਦਾਤਰ ਟੀਮਾਂ ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ (human oversight) ਨੂੰ ਇੱਕ ਸਧਾਰਨ ਚੋਣ ਵਜੋਂ ਦੇਖਦੀਆਂ ਹਨ: ਜਾਂ ਤਾਂ AI ਇਕੱਲਾ ਈਮੇਲ ਭੇਜਦਾ ਹੈ ਜਾਂ ਕੋਈ ਇਨਸਾਨ ਸਭ ਕੁਝ ਚੈੱਕ ਕਰਦਾ ਹੈ। ਦੋਵੇਂ ਤਰੀਕੇ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ।
ਪੂਰੀ ਤਰ੍ਹਾਂ ਆਟੋਮੇਸ਼ਨ ਗਲਤ ਜਵਾਬਾਂ ਵੱਲ ਲੈ ਜਾਂਦੀ ਹੈ ਜੋ ਤੁਹਾਡੇ ਬ੍ਰਾਂਡ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦੇ ਹਨ। ਪੂਰੀ ਮਨੁੱਖੀ ਸਮੀਖਿਆ AI ਨੂੰ ਇੱਕ ਮਹਿੰਗਾ ਡਰਾਫਟ ਜਨਰੇਟਰ ਬਣਾ ਦਿੰਦੀ ਹੈ ਜੋ ਕੋਈ ਸਮਾਂ ਨਹੀਂ ਬਚਾਉਂਦਾ।
ਇੱਕ ਸਵਿੱਚ ਦੀ ਬਜਾਏ ਡਾਇਲ (dial) ਦੀ ਵਰਤੋਂ ਕਰੋ। ਸੁਨੇਹੇ ਦੀ ਕਿਸਮ ਦੇ ਅਧਾਰ 'ਤੇ ਆਟੋਮੇਸ਼ਨ ਦਾ ਪੱਧਰ ਸੈੱਟ ਕਰੋ।
Gate 1: Knowledge Match ਇਹ ਗੇਟ ਇਸ ਗੱਲ ਵੱਲ ਦੇਖਦਾ ਹੈ ਕਿ AI ਜਵਾਬ ਬਾਰੇ ਕਿੰਨਾ ਯਕੀਨੀ ਹੈ।
• ਭਰੋਸਾ (Confidence) 85% ਜਾਂ ਇਸ ਤੋਂ ਵੱਧ: ਸਿੱਧਾ ਲੇਖ (article) ਤੋਂ ਜਵਾਬ ਦਾ ਡਰਾਫਟ ਤਿਆਰ ਕਰੋ। • ਭਰੋਸਾ 60% ਤੋਂ 85%: ਜਵਾਬ ਦਾ ਡਰਾਫਟ ਤਿਆਰ ਕਰੋ ਪਰ ਸਰੋਤ ਲਿੰਕ (source link) ਸ਼ਾਮਲ ਕਰੋ ਤਾਂ ਜੋ ਕੋਈ ਇਨਸਾਨ ਇਸਦੀ ਜਲਦੀ ਪੁਸ਼ਟੀ ਕਰ ਸਕੇ। • ਭਰੋਸਾ 60% ਤੋਂ ਘੱਟ: ਡਰਾਫਟ ਤਿਆਰ ਨਾ ਕਰੋ। ਇਸਨੂੰ ਮੈਨੂਅਲ ਸਮੀਖਿਆ ਲਈ ਫਲੈਗ ਕਰੋ।
Gate 2: Risk Level ਇਹ ਗੇਟ ਗਲਤੀ ਦੇ ਨਤੀਜਿਆਂ ਵੱਲ ਦੇਖਦਾ ਹੈ। ਇਹ ਭਰੋਸੇ ਦੇ ਸਕੋਰਾਂ (confidence scores) ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦਾ ਹੈ।
• ਘੱਟ ਜੋਖਮ (Password resets, FAQs): ਮਨੁੱਖੀ ਮਨਜ਼ੂਰੀ ਲਈ ਜਵਾਬ ਦਾ ਡਰਾਫਟ ਤਿਆਰ ਕਰੋ। • ਦਰਮਿਆਨਾ ਜੋਖਮ (Refunds, billing changes): ਜਵਾਬ ਦਾ ਡਰਾਫਟ ਤਿਆਰ ਕਰੋ ਪਰ ਵਾਧੂ ਮਨੁੱਖੀ ਜਾਂਚ ਦੀ ਲੋੜ ਹੋਵੇਗੀ। • ਉੱਚ ਜੋਖਮ (Legal threats, fraud): ਡਰਾਫਟ ਤਿਆਰ ਨਾ ਕਰੋ। ਤੁਰੰਤ ਕਿਸੇ ਵਿਅਕਤੀ ਕੋਲ ਭੇਜੋ (Escalate)।
ਇਹੀ ਕਾਰਨ ਹੈ ਕਿ 91% ਭਰੋਸੇ ਵਾਲਾ ਰਿਫੰਡ ਜਵਾਬ ਬਾਹਰ ਨਹੀਂ ਜਾਂਦਾ। ਭਰੋਸਾ ਤੁਹਾਨੂੰ ਦੱਸਦਾ ਹੈ ਕਿ ਕੀ AI ਜਵਾਬ ਜਾਣਦਾ ਹੈ। ਜੋਖਮ ਤੁਹਾਨੂੰ ਦੱਸਦਾ ਹੈ ਕਿ ਜੇਕਰ AI ਗਲਤ ਹੋਵੇ ਤਾਂ ਕੀ ਹੋਵੇਗਾ। ਤੁਹਾਨੂੰ ਇਹਨਾਂ ਦੋਵਾਂ ਵਿਚਾਰਾਂ ਨੂੰ ਵੱਖ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
ਨਿਯਮ ਸਧਾਰਨ ਹੈ: ਭੇਜਣ ਤੋਂ ਪਹਿਲਾਂ ਹਮੇਸ਼ਾ ਡਰਾਫਟ ਦਿਖਾਓ। ਕਦੇ ਵੀ ਆਟੋ-ਸੈਂਡ ਨਾ ਕਰੋ।
ਮਨੁੱਖੀ ਨਿਗਰਾਨੀ ਕੋਈ ਟੈਕਸ ਨਹੀਂ ਹੈ। ਇਹ ਉਹ ਤਰੀਕਾ ਹੈ ਜਿਸ ਨਾਲ ਤੁਸੀਂ ਬਾਅਦ ਵਿੱਚ ਹੋਰ ਆਟੋਮੇਸ਼ਨ ਕਰਨ ਲਈ ਲੋੜੀਂਦਾ ਡਾਟਾ ਇਕੱਠਾ ਕਰਦੇ ਹੋ। 'ਡਰਾਫਟ-ਅੰਡ-ਐਪਰੂਵ' ਤੋਂ 'ਫੁੱਲ-ਆਟੋ' ਵੱਲ ਵਧਣ ਲਈ, ਆਪਣੀ ਸ਼ੁੱਧਤਾ ਸਾਬਤ ਕਰਨ ਲਈ ਲੌਗਸ (logs) ਦੀ ਵਰਤੋਂ ਕਰੋ। ਭਾਵਨਾਵਾਂ 'ਤੇ ਭਰੋਸਾ ਨਾ ਕਰੋ।
ਇਸ ਹਫ਼ਤੇ ਆਪਣੇ ਸੁਨੇਹਿਆਂ ਦੀਆਂ ਕਿਸਮਾਂ ਨੂੰ ਇਹਨਾਂ ਤਿੰਨ ਜੋਖਮ ਪੱਧਰਾਂ ਵਿੱਚ ਵੰਡੋ। ਫੈਸਲਾ ਕਰੋ ਕਿ ਤੁਸੀਂ ਕਿੱਥੇ ਜ਼ਿਆਦਾ ਸਮੀਖਿਆ ਕਰ ਰਹੇ ਹੋ ਅਤੇ ਕਿੱਥੇ ਤੁਸੀਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਜੋਖਮ ਲੈ ਰਹੇ ਹੋ।
Source: https://dev.to/qasim157/human-in-the-loop-design-for-email-agents-3fhc
Optional learning community: https://t.me/GyaanSetuAi