ਕੀ ਤੁਸੀਂ ਕਦੇ ਕਿਸੇ AI ਅਸਿਸਟੈਂਟ ਦੁਆਰਾ ਧੋਖਾ ਖਾਧਾ ਹੈ?
AI ਕਹਿੰਦਾ ਹੈ ਕਿ ਕੰਮ ਹੋ ਗਿਆ ਹੈ। ਤੁਸੀਂ ਉਸ 'ਤੇ ਭਰੋਸਾ ਕਰਦੇ ਹੋ। ਫਿਰ ਤੁਸੀਂ ਇਹ ਪਤਾ ਲਗਾਉਣ ਵਿੱਚ ਦਿਨ ਬਿਤਾ ਦਿੰਦੇ ਹੋ ਕਿ ਉਸਨੇ ਕੰਮ ਕਦੇ ਪੂਰਾ ਹੀ ਨਹੀਂ ਕੀਤਾ ਸੀ।
ਮੈਂ ਇਸਨੂੰ 'ਗੈਪ' (gap) ਕਹਿੰਦਾ ਹਾਂ। ਇਹ ਉਹ ਦੂਰੀ ਹੈ ਜੋ AI ਦੀ ਰਿਪੋਰਟ ਅਤੇ ਅਸਲ ਵਿੱਚ ਜੋ ਵਾਪਰਿਆ ਹੈ, ਉਸਦੇ ਵਿਚਕਾਰ ਹੁੰਦੀ ਹੈ।
ਉਹ ਖੱਡ ਉਸੇ ਗੈਪ ਵਿੱਚ ਲੁਕਿਆ ਹੁੰਦਾ ਹੈ। ਕਦੇ AI ਦੀ ਗਲਤੀ ਹੁੰਦੀ ਹੈ। ਕਦੇ ਮੇਰੀ ਗਲਤੀ ਹੁੰਦੀ ਹੈ। ਕਦੇ ਇੰਜੀਨੀਅਰਿੰਗ ਦੀ ਗਲਤੀ ਹੁੰਦੀ ਹੈ।
ਇੱਥੇ ਤਿੰਨ ਅਸਲ ਉਦਾਹਰਣਾਂ ਹਨ:
- ਪ੍ਰੋਵੇਨੈਂਸ ਟ੍ਰੈਪ (The Provenance Trap) ਮੈਂ ਇੱਕ AI ਨੂੰ git branch ਤੋਂ ਕੋਡ ਰਿਕਵਰ ਕਰਨ ਲਈ ਕਿਹਾ। ਉਸਨੇ ਕਿਹਾ ਕਿ ਉਸਨੇ ਇਸਨੂੰ ਦੂਜੀ branch ਤੋਂ ਪੁੱਲ (pull) ਕੀਤਾ ਹੈ। ਪਰ ਉਸਨੇ ਅਜਿਹਾ ਨਹੀਂ ਕੀਤਾ। ਅਸਲ ਵਿੱਚ ਉਸਨੇ ਕੋਡ ਨੂੰ ਹੱਥ ਨਾਲ ਦੁਬਾਰਾ ਲਿਖਿਆ ਸੀ।
ਇੱਕ cherry-pick ਦਾ ਇਤਿਹਾਸ ਹੁੰਦਾ ਹੈ ਜਿਸਨੂੰ ਤੁਸੀਂ ਫੋਲੋ ਕਰ ਸਕਦੇ ਹੋ। ਇੱਕ ਮੈਨੁਅਲ ਰੀ-ਰਾਈਟ (manual rewrite) ਇੱਕ ਅਨਾਥ ਵਾਂਗ ਹੁੰਦਾ ਹੈ। ਇਹ ਸਹੀ ਲੱਗਦਾ ਹੈ, ਪਰ ਇਸਦਾ ਕੋਈ ਇਤਿਹਾਸਕ ਮੂਲ (lineage) ਨਹੀਂ ਹੁੰਦਾ। ਜਦੋਂ ਮੈਂ ਸੱਚਾਈ ਜਾਣਨ ਲਈ ਜ਼ੋਰ ਦਿੱਤਾ, ਤਾਂ AI ਨੇ ਇਸਦਾ ਇਕਬਾਲ ਕਰ ਲਿਆ।
ਸਬਕ: AI ਦੇ ਪ੍ਰੋਵੇਨੈਂਸ ਦਾਅਵੇ ਭਰੋਸੇਯੋਗ ਨਹੀਂ ਹੁੰਦੇ। ਇਹ ਨਾ ਪੁੱਛੋ ਕਿ ਉਸਨੇ ਕੀ ਕੀਤਾ। ਇਹ ਦੇਖਣ ਲਈ git history ਦੇਖੋ ਕਿ ਉਸਨੇ ਅਸਲ ਵਿੱਚ ਕੀ ਕੀਤਾ ਸੀ।
- ਸਪੌਟ-ਚੈੱਕ ਟ੍ਰੈਪ (The Spot-Check Trap) ਮੈਂ ਇੱਕ AI ਨੂੰ form logic ਬਦਲਣ ਲਈ ਕਿਹਾ। ਉਸਨੇ ਕਿਹਾ "done" (ਹੋ ਗਿਆ)। ਮੈਂ ਚਾਰ ਦਿਨ front end ਨੂੰ ਡਿਬੱਗ (debug) ਕਰਨ ਵਿੱਚ ਬਿਤਾ ਦਿੱਤੇ।
ਇੱਕ line-by-line diff ਨੇ ਦਿਖਾਇਆ ਕਿ ਉਸਨੇ ਪੰਜ ਵਿੱਚੋਂ ਚਾਰ scopes ਬਦਲ ਦਿੱਤੇ ਸਨ। ਮੈਂ ਕੋਡ ਵਿੱਚ ਬਹੁਤ ਜ਼ਿਆਦਾ ਬਦਲਾਅ ਦੇਖਿਆ ਅਤੇ ਮੰਨ ਲਿਆ ਕਿ ਬਾਕੀ ਸਭ ਠੀਕ ਹੈ। ਮੇਰੇ ਦਿਮਾਗ ਨੇ ਖਾਲੀ ਥਾਵਾਂ ਨੂੰ ਆਪਣੇ ਆਪ ਭਰ ਦਿੱਤਾ।
ਬਦਲਾਅ ਜਿੰਨਾ ਵੱਡਾ ਹੋਵੇਗਾ, ਜਾਲ ਉਨਾ ਹੀ ਡੂੰਘਾ ਹੋਵੇਗਾ। ਵੱਡੇ ਬਦਲਾਅ ਤੁਹਾਡਾ ਆਤਮ-ਵਿਸ਼ਵਾਸ ਵਧਾ ਦਿੰਦੇ ਹਨ ਜਦੋਂ ਕਿ ਤੁਹਾਡੀ ਅਸਲ ਕਵਰੇਜ ਘਟਦੀ ਜਾਂਦੀ ਹੈ।
ਸਬਕ: ਸਿਰਫ਼ ਸਕੈਨ ਨਾ ਕਰੋ। ਗਿਣਤੀ ਕਰੋ। ਜੇਕਰ ਤੁਹਾਡੇ ਕੋਲ ਪੰਜ ਕੰਮ ਹਨ, ਤਾਂ ਪੰਜਾਂ ਨੂੰ ਇੱਕ-ਇੱਕ ਕਰਕੇ ਵੈਰੀਫਾਈ (verify) ਕਰੋ।
- ਇੰਜੀਨੀਅਰਿੰਗ ਟ੍ਰੈਪ (The Engineering Trap) ਇੱਕ AI ਲੂਪ (loop) ਵਿੱਚ ਫਸ ਗਿਆ। ਮੈਨੂੰ ਲੱਗ