𝗦𝘁𝗼𝗽 𝗧𝗲𝗹𝗹𝗶𝗻𝗴 𝗬𝗼𝘂𝗿 𝗔𝗜 𝘁𝗼 𝗯𝗲 𝗰𝗮𝗿𝗲𝗳𝘂𝗹
ਆਪਣੇ AI ਨੂੰ ਸਾਵਧਾਨ ਰਹਿਣ ਲਈ ਕਹਿਣਾ ਬੰਦ ਕਰੋ। ਇਸ ਕੋਲ ਬੀਤੇ ਕੱਲ੍ਹ ਦੀ ਕੋਈ ਯਾਦ ਨਹੀਂ ਹੈ।
ਮੈਂ ਇੱਕ ਵਾਰ ਆਪਣੇ AI agent ਨੂੰ ਗਲਤੀਆਂ ਕਰਨ ਤੋਂ ਰੋਕਣ ਲਈ ਨਿਯਮਾਂ ਦੀ ਇੱਕ ਵਿਸ਼ਾਲ ਫਾਈਲ ਬਣਾਈ ਸੀ। ਹਰ ਵਾਰ ਜਦੋਂ ਇਹ ਅਸਫਲ ਹੁੰਦਾ ਸੀ, ਮੈਂ ਨਿਰਦੇਸ਼ ਜੋੜਦਾ ਰਿਹਾ। ਫਾਈਲ 56,000 ਅੱਖਰਾਂ ਤੱਕ ਵੱਡੀ ਹੋ ਗਈ। ਫਿਰ agent ਨੇ ਕੰਮ ਕਰਨਾ ਬੰਦ ਕਰ ਦਿੱਤਾ।
ਮੈਂ ਇਸਦਾ ਧਿਆਨ ਬਹੁਤ ਜ਼ਿਆਦਾ ਖਿੰچا ਦਿੱਤਾ ਸੀ। ਮੈਂ ਨਿਯਮਾਂ ਨੂੰ ਘਟਾ ਕੇ 1,200 ਅੱਖਰ ਕਰ ਦਿੱਤਾ। ਘੱਟ ਨਿਯਮਾਂ ਨਾਲ agent ਨੇ ਬਿਹਤਰ ਕੰਮ ਕੀਤਾ।
ਮੈਂ ਇੱਕ ਸਖ਼ਤ ਸਬਕ ਸਿੱਖਿਆ। ਨਿਯਮ ਜੋੜਨਾ ਭਰੋਸੇਯੋਗ AI ਬਣਾਉਣ ਦਾ ਤਰੀਕਾ ਨਹੀਂ ਹੈ।
ਜ਼ਿਆਦਾਤਰ ਲੋਕ AI ਨਾਲ ਇੱਕ ਮਨੁੱਖੀ ਸਾਥੀ ਵਾਂਗ ਪੇਸ਼ ਆਉਂਦੇ ਹਨ। ਉਹਨਾਂ ਨੂੰ ਲੱਗਦਾ ਹੈ ਕਿ ਅੱਜ ਕੀਤੀ ਗਈ ਸੁਧਾਰ ਕੱਲ੍ਹ AI ਦੀ ਮਦਦ ਕਰੇਗੀ। AI stateless ਹੈ। ਹਰ session ਨਵੇਂ ਸਿਰੇ ਤੋਂ ਸ਼ੁਰੂ ਹੁੰਦਾ ਹੈ। ਇਹ ਤੁਹਾਡੇ ਪਿਛਲੇ ਲੈਕਚਰ ਯਾਦ ਨਹੀਂ ਰੱਖਦਾ।
ਕਿਸੇ ਨਿਯਮ ਨੂੰ ਜਾਣਨ ਅਤੇ ਕਿਸੇ ਨਿਯਮ ਦੀ ਪਾਲਣਾ ਕਰਨ ਵਿੱਚ ਬਹੁਤ ਫਰਕ ਹੁੰਦਾ ਹੈ।
ਪ੍ਰੋਂਪਟ (prompt) ਵਿੱਚ ਨਿਯਮ ਪਾਉਣਾ ਇੱਕ ਸੁਝਾਅ ਹੈ। ਮਾਡਲ ਇਸਨੂੰ ਦੇਖਦਾ ਹੈ, ਪਰ ਕੰਮ ਪੂਰਾ ਕਰਨ ਲਈ ਇਹਨੂੰ ਅਣਗੌਲਿਆ ਕਰ ਸਕਦਾ ਹੈ। ਜੇਕਰ ਤੁਸੀਂ ਚਾਹੁੰਦੇ ਹੋ ਕਿ agent ਰੁਕ ਜਾਵੇ, ਤਾਂ ਕੋਈ ਬਿਹਤਰ ਵਾਕ ਨਾ ਲਿਖੋ। ਆਪਣੇ ਕੋਡ ਵਿੱਚ ਇੱਕ ਭੌਤਿਕ ਗੇਟ (physical gate) ਬਣਾਓ। ਅਜਿਹਾ ਸਕ੍ਰਿਪਟ ਵਰਤੋ ਜੋ ਉਦੋਂ ਤੱਕ ਅੱਗੇ ਵਧਣ ਤੋਂ ਇਨਕਾਰ ਕਰ ਦੇਵੇ ਜਦੋਂ ਤੱਕ ਚੈੱਕ ਪਾਸ ਨਾ ਹੋ ਜਾਵੇ।
AI ਨੂੰ ਵਧੇਰੇ ਸਹੀ ਕਿਵੇਂ ਬਣਾਇਆ ਜਾਵੇ, ਇਹ ਪੁੱਛਣਾ ਬੰਦ ਕਰੋ। ਇਹ ਪੁੱਛਣਾ ਸ਼ੁਰੂ ਕਰੋ ਕਿ ਗਲਤੀਆਂ ਨੂੰ ਸਸਤਾ (cheap) ਕਿਵੇਂ ਬਣਾਇਆ ਜਾਵੇ।
ਡੇਟਾ ਦਿਖਾਉਂਦਾ ਹੈ ਕਿ ਸਿਰਫ਼ ਸਹੀ ਹੋਣਾ ਹੀ ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ: • ਸਿਰਫ਼ 4% ਕੰਪਨੀਆਂ ਕਹਿੰਦੀਆਂ ਹਨ ਕਿ generative AI ਉਮੀਦਾਂ ਤੋਂ ਵੱਧ ਹੈ (JUAS)। • ਸਿਰਫ਼ 5% enterprise AI pilots production ਤੱਕ ਪਹੁੰਚਦੇ ਹਨ (MIT)। • ਜ਼ਿਆਦਾਤਰ AI ਉਪਭੋਗਤਾ ਅਸਲ ਵਿੱਚ ਵਧੇਰੇ overtime ਕੰਮ ਕਰਦੇ ਹਨ, ਘੱਟ ਨਹੀਂ (Persol)।
ਜੇਤੂਆਂ ਕੋਲ ਵਧੇਰੇ ਸਹੀ ਮਾਡਲ ਨਹੀਂ ਹੁੰਦੇ। ਉਹਨਾਂ ਕੋਲ ਬਿਹਤਰ ਢਾਂਚੇ (structures) ਹੁੰਦੇ ਹਨ।
ਵਧੇਰੇ ਨਿਯਮ ਲਿਖਣ ਦੀ ਬਜਾਏ ਇਹਨਾਂ ਤਿੰਨ ਪੈਟਰਨਾਂ ਦੀ ਵਰਤੋਂ ਕਰੋ:
- ਅਸਹਿਮਤੀ ਨੂੰ ਇੱਕ ਸੰਕੇਤ ਵਜੋਂ ਵਰਤੋ। ਇੱਕੋ ਕੰਮ ਨੂੰ ਤਿੰਨ ਵੱਖ-ਵੱਖ ਮਾਡਲਾਂ ਰਾਹੀਂ ਚਲਾਓ। ਜੇਕਰ ਉਹ ਅਸਹਿਮਤ ਹੁੰਦੇ ਹਨ, ਤਾਂ ਇਸਨੂੰ ਮਨੁੱਖ ਕੋਲ ਭੇਜੋ। ਜੇਕਰ ਉਹ ਸਹਿਮਤ ਹੁੰਦੇ ਹਨ, ਤਾਂ ਇਸਨੂੰ ship ਕਰ ਦਿਓ।
- escalation criteria ਲਿਖੋ। Agent ਨੂੰ ਸਪੱਸ਼ਟ exit points ਦਿਓ। ਜੇਕਰ ਇਹ ਦੋ ਮਿੰਟਾਂ ਵਿੱਚ ਕਿਸੇ ਸਮੱਸਿਆ ਨੂੰ ਹੱਲ ਨਹੀਂ ਕਰ ਸਕਦਾ, ਤਾਂ ਇਸਨੂੰ ਰੁਕਣ ਅਤੇ ਮਨੁੱਖ ਨੂੰ ਪੁੱਛਣ ਲਈ ਕਹੋ।
- Agent ਨੂੰ ਇੱਕ ਨਿਸ਼ਚਿਤ ਸੀਟ ਦਿਓ। ਇਸਨੂੰ ਮਦਦ ਕਰਨ ਦਾ ਕੋਈ ਅਸਪਸ਼ਟ ਕੰਮ ਨਾ ਦਿਓ। ਇਸਨੂੰ ਇੱਕ ਖਾਸ ਕੰਮ ਦਿਓ, ਜਿਵੇਂ ਕਿ ਮੀਟਿੰਗ ਦੇ ਮਿੰਟ ਤਿਆਰ ਕਰਨਾ। ਇੱਕ ਸੀਮਤ ਕੰਮ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਗਲਤੀ ਦਾ ਪ੍ਰਭਾਵ ਘੱਟ ਹੋਵੇਗਾ।
ਅਸਲੀ guardrails ਤੁਹਾਨੂੰ ਹੌਲੀ ਕਰਨ ਲਈ ਨਹੀਂ ਹੁੰਦੇ। ਉਹ ਤੁਹਾਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਚੱਲਣ ਦੇਣ ਲਈ ਹੁੰਦੇ ਹਨ ਕਿਉਂਕਿ ਤੁਸੀਂ ਜਾਣਦੇ ਹੋ ਕਿ agent ਨੂੰ ਬਿਲਕੁਲ ਕਿੱਥੇ ਰੁਕਣਾ ਚਾਹੀਦਾ ਹੈ।
ਆਪਣੇ AI ਨੂੰ ਲੈਕਚਰ ਦੇਣਾ ਬੰਦ ਕਰੋ। ਅਜਿਹਾ ਢਾਂਚਾ ਬਣਾਓ ਜੋ ਉਦੋਂ ਵੀ ਕੰਮ ਕਰੇ ਜਦੋਂ AI ਗਲਤ ਹੋਵੇ।
ਵਿਕਲਪਿਕ ਲਰਨਿੰਗ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi