ਮੈਂ ਇੱਕ ਰੈਂਡਮ AI ਪਲੱਗਇਨ 'ਤੇ ਭਰੋਸਾ ਕੀਤਾ
Cisco ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੇ 2026 ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ ਇੱਕ ਵੱਡੀ ਸੁਰੱਖਿਆ ਖਾਮੀ ਲੱਭੀ। OpenClaw ਮਾਰਕੀਟਪਲੇਸ ਵਿੱਚ ਇੱਕ ਪਲੱਗਇਨ ਆਮ ਲੱਗ ਰਿਹਾ ਸੀ। ਇਹ ਵਾਅਦੇ ਅਨੁਸਾਰ ਕੰਮ ਕਰ ਰਿਹਾ ਸੀ। ਪਰ ਇਸਨੇ ਗੁਪਤ ਤਰੀਕੇ ਨਾਲ ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ਵੀ ਚੋਰੀ ਕਰ ਲਿਆ। ਇਸਨੇ ਤੁਹਾਡੀ ਇਜਾਜ਼ਤ ਤੋਂ ਬਿਨਾਂ ਤੁਹਾਡਾ ਡੇਟਾ ਇੱਕ ਬਾਹਰੀ ਸਰਵਰ 'ਤੇ ਭੇਜ ਦਿੱਤਾ।
ਇੱਕ OpenClaw ਡਿਵੈਲਪਰ ਨੇ ਕਿਹਾ ਕਿ ਜੇਕਰ ਤੁਸੀਂ ਕਮਾਂਡ ਲਾਈਨ (command line) ਨੂੰ ਨਹੀਂ ਸਮਝਦੇ, ਤਾਂ ਇਹ ਟੂਲ ਤੁਹਾਡੇ ਲਈ ਬਹੁਤ ਖ਼ਤਰਨਾਕ ਹੈ।
ਤਿੰਨ ਮਹੀਨਿਆਂ ਬਾਅਦ, ਚੀਨੀ ਸਰਕਾਰ ਨੇ ਸਰਕਾਰੀ ਏਜੰਸੀਆਂ ਨੂੰ OpenClaw ਦੀ ਵਰਤੋਂ ਕਰਨ ਤੋਂ ਮਨ੍ਹਾ ਕਰ ਦਿੱਤਾ। ਉਨ੍ਹਾਂ ਨੇ ਡੇਟਾ ਲੀਕ ਅਤੇ ਸਰੋਤਾਂ (resource) ਦੀਆਂ ਸਮੱਸਿਆਵਾਂ ਦਾ ਹਵਾਲਾ ਦਿੱਤਾ।
2026 ਵਿੱਚ ਅਸਲ ਖ਼ਤਰਾ AI ਦੁਆਰਾ ਮਾੜਾ ਕੋਡ ਲਿਖਣਾ ਨਹੀਂ ਹੈ। ਤੁਸੀਂ ਰਿਵਿਊਜ਼ (reviews) ਰਾਹੀਂ ਮਾੜੇ ਕੋਡ ਨੂੰ ਠੀਕ ਕਰ ਸਕਦੇ ਹੋ। ਅਸਲ ਖ਼ਤਰਾ ਆਟੋਨੋਮਸ ਏਜੰਟਸ (autonomous agents) ਹਨ। ਇਹਨਾਂ ਏਜੰਟਾਂ ਕੋਲ ਫਾਈਲਾਂ ਤੱਕ ਪਹੁੰਚ ਅਤੇ ਤੁਹਾਡੀਆਂ ਪਾਈਪਲਾਈਨਾਂ (pipelines) 'ਤੇ ਕੰਟਰੋਲ ਹੁੰਦਾ ਹੈ। ਜਦੋਂ ਤੁਸੀਂ ਸੌਂ ਰਹੇ ਹੁੰਦੇ ਹੋ, ਉਹ ਰਾਤ ਦੇ 2 ਵਜੇ ਫੈਸਲੇ ਲੈਂਦੇ ਹਨ।
ਡੇਟਾ ਇੱਕ ਵਧ ਰਹੀ ਸਮੱਸਿਆ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ: • 45% AI-ਨਿਰਮਿਤ ਕੋਡ ਡਿਪਲਾਈਮੈਂਟਸ (deployments) ਕਾਰਨ ਸਮੱਸਿਆਵਾਂ ਪੈਦਾ ਹੋਈਆਂ। • 48% ਕੰਪਨੀਆਂ AI ਕੋਡਿੰਗ ਤੋਂ ਵਧੇਰੇ ਸੁਰੱਖਿਆ ਖ਼ਤਰਿਆਂ ਦੀ ਰਿਪੋਰਟ ਕਰਦੀਆਂ ਹਨ। • ਇਹ ਅੰਕੜੇ ਉਹਨਾਂ ਟੀਮਾਂ ਤੋਂ ਹਨ ਜਿੱਥੇ ਇਨਸਾਨ ਅਜੇ ਵੀ ਕੰਮ ਦਾ ਰਿਵਿਊ ਕਰਦੇ ਹਨ।
ਕਿਸੇ ਏਜੰਟ ਨੂੰ ਕੰਮ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦੇਣ ਤੋਂ ਪਹਿਲਾਂ ਤੁਹਾਨੂੰ ਇਹ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ:
ਸਾਵਧਾਨੀਪੂਰਵਕ ਆਟੋਨੋਮੀ (autonomy) ਦੀ ਵਰਤੋਂ ਕਰੋ। ਜਿੰਨੀ ਸੰਭਵ ਹੋ ਸਕੇ ਘੱਟ ਤੋਂ ਘੱਟ ਪਰਮਿਸ਼ਨਾਂ ਨਾਲ ਸ਼ੁਰੂ ਕਰੋ। ਸਥਿਰ ਵਿਵਹਾਰ ਦੇਖਣ ਤੋਂ ਬਾਅਦ ਹੀ ਹੋਰ ਪਹੁੰਚ (access) ਦਿਓ।
ਆਡਿਟ ਲੌਗਸ (audit logs) ਲਾਜ਼ਮੀ ਕਰੋ। ਹਰ ਏਜੰਟ ਦੀ ਕਾਰਵਾਈ ਦਾ ਰਿਕਾਰਡ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ। ਜਦੋਂ ਚੀਜ਼ਾਂ ਫੇਲ੍ਹ ਹੁੰਦੀਆਂ ਹਨ, ਤਾਂ ਜਾਂਚ ਕਰਨ ਲਈ ਤੁਹਾਨੂੰ ਇਹਨਾਂ ਲੌਗਸ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
ਰਿਵਰਸੀਬਿਲਟੀ (reversibility) ਲਈ ਡਿਜ਼ਾਈਨ ਕਰੋ। ਚੈੱਕਪੁਆਇੰਟਸ 'ਤੇ Git commits ਦੀ ਵਰਤੋਂ ਕਰੋ। ਤੁਸੀਂ ਏਜੰਟ ਦੁਆਰਾ ਕੀਤੇ ਕਿਸੇ ਵੀ ਬਦਲਾਅ ਨੂੰ ਵਾਪਸ ਲੈਣ (undo) ਦੇ ਯੋਗ ਹੋਣੇ ਚਾਹੀਦੇ ਹੋ।
ਤੀਜੀ-ਪਾਰਟੀ ਸਕਿੱਲਜ਼ (third-party skills) ਦੀ ਬਾਰੀਕੀ ਨਾਲ ਜਾਂਚ ਕਰੋ। ਇੱਕ ਮਾੜਾ ਪੈਕੇਜ ਐਪ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦਾ ਹੈ। ਇੱਕ ਮਾੜੀ ਏਜੰਟ ਸਕਿੱਲ ਤੁਹਾਡੇ ਪੂਰੇ ਸਿਸਟਮ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦੀ ਹੈ।
ਜਵਾਬਦੇਹੀ (accountability) ਬਣਾਈ ਰੱਖੋ। ਜੇਕਰ ਕੋਈ ਏਜੰਟ pull request ਖੋਲ੍ਹਦਾ ਹੈ, ਤਾਂ ਉਸ ਰਿਕਵੈਸਟ ਦੇ ਜ਼ਿੰਮੇਵਾਰ ਤੁਸੀਂ ਹੋ। ਜੇਕਰ ਕੋਈ ਏਜੰਟ ਕੋਡ ਕਮਿਟ ਕਰਦਾ ਹੈ, ਤਾਂ ਉਸ ਕੋਡ ਦੇ ਜ਼ਿੰਮੇਵਾਰ ਤੁਸੀਂ ਹੋ।
ਕੱਲ੍ਹ ਮੈਂ ਉਸ ਟੂਲ ਬਾਰੇ ਚਰਚਾ ਕਰਾਂਗਾ ਜਿਸਨੇ ਕੋਡ ਜਨਰੇਸ਼ਨ ਬਾਰੇ ਮੇਰਾ ਨਜ਼ਰੀਆ ਬਦਲ ਦਿੱਤਾ ਅਤੇ ਉਹਨਾਂ AI ਏਜੰਟਾਂ ਬਾਰੇ ਜਿਨ੍ਹਾਂ ਨੂੰ ਤੁਹਾਨੂੰ 2026 ਵਿੱਚ ਜਾਣਨ ਦੀ ਲੋੜ ਹੈ।