ਤੁਹਾਡੀ AI ਏਜੰਟ ਆਰਕੀਟੈਕਚਰ ਇੱਕ ਸੁਰੱਖਿਆ ਖ਼ਤਰਾ ਕਿਉਂ ਹੈ
2027 ਤੱਕ, ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਤੈਨਾਤੀਆਂ (deployments) ਵਿੱਚੋਂ 40% ਨੂੰ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ (prompt injection) ਜਾਂ ਏਜੰਟ ਹਾਈਜੈਕ ਦੀਆਂ ਘਟਨਾਵਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਵੇਗਾ। ਇਹ 2025 ਦੇ ਸ਼ੁਰੂ ਵਿੱਚ 5% ਤੋਂ ਵੀ ਘੱਟ ਤੋਂ ਇੱਕ ਬਹੁਤ ਵੱਡਾ ਉਛਾਲ ਹੈ।
ਆਰਕੈਸਟ੍ਰੇਸ਼ਨ ਲੇਅਰ (orchestration layer) ਏਜੰਟਾਂ ਨੂੰ ਲਾਭਦਾਇਕ ਬਣਾਉਂਦੀ ਹੈ। ਇਹ ਉਹਨਾਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਵੀ ਬਣਾਉਂਦੀ ਹੈ।
ਸਿੰਗਾਪੁਰ ਦੀ ਇੱਕ ਲੌਜਿਸਟਿਕਸ ਫਰਮ ਨੇ ਹਾਲ ਹੀ ਵਿੱਚ $2.3 ਮਿਲੀਅਨ ਦਾ ਨੁਕਸਾਨ ਕੀਤਾ। ਇੱਕ ਸੁਰੱਖਿਆ ਨਾਲ ਛੇੜਛਾੜ ਵਾਲੇ (compromised) ਕੈਲੰਡਰ ਇਨਵਾਈਟ ਨੇ ਸ਼ਡਿਊਲਿੰਗ ਏਜੰਟ ਨੂੰ ਧੋਖਾ ਦਿੱਤਾ। ਏਜੰਟ ਨੇ CRM ਰਿਕਾਰਡ ਇੱਕ ਹਮਲਾਵਰ ਨੂੰ ਭੇਜ ਦਿੱਤੇ। ਮਾਡਲ ਵਿੱਚ ਕੋਈ ਖ਼ਰਾਬ ਕੋਡ ਨਹੀਂ ਸੀ। ਇਸਨੇ ਹਦਾਇਤਾਂ ਦੀ ਬਿਲਕੁਲ ਸਹੀ ਪਾਲਣਾ ਕੀਤੀ। ਸਮੱਸਿਆ ਆਰਕੀਟੈਕਚਰ ਵਿੱਚ ਸੀ।
ਏਜੰਟ ਸਿਰਫ਼ ਚੈਟਬੋਟ ਨਹੀਂ ਹਨ। ਉਹ ਅਜਿਹੇ ਸਿਸਟਮ ਹਨ ਜੋ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਫਾਈਲਾਂ ਪੜ੍ਹਦੇ ਹਨ, ਅਤੇ ਟ੍ਰਾਂਜੈਕਸ਼ਨਾਂ ਨੂੰ ਅਮਲ ਵਿੱਚ ਲਿਆਉਂਦੇ ਹਨ। ਰਵਾਇਤੀ ਸੁਰੱਖਿਆ ਇਹ ਮੰਨਦੀ ਹੈ ਕਿ ਇੱਕ ਰਿਕਵੈਸਟ ਆਉਂਦੀ ਹੈ ਅਤੇ ਇੱਕ ਜਵਾਬ ਜਾਂਦਾ ਹੈ। ਏਜੰਟ ਇਸ ਮਾਡਲ ਨੂੰ ਤੋੜਦੇ ਹਨ।
ਇੱਕ ਏਜੰਟ ਜੋ ਈਮੇਲ ਡਰਾਫਟ ਕਰਦਾ ਹੈ ਅਤੇ ਰਿਫੰਡ ਜਮ੍ਹਾਂ ਕਰਦਾ ਹੈ, ਉਹ ਇੱਕ ਰਨਟਾਈਮ (runtime) ਵਿੱਚ ਤਿੰਨ ਐਪਸ ਵਾਂਗ ਕੰਮ ਕਰਦਾ ਹੈ। ਹਰ ਟੂਲ ਕਾਲ ਇੱਕ ਜੋਖਮ ਹੈ। ਹਰ ਮੈਮੋਰੀ ਰਾਈਟ ਇੱਕ ਜੋਖਮ ਹੈ। ਹਰ ਈਮੇਲ ਜਾਂ ਦਸਤਾਵੇਜ਼ ਇੱਕ ਐਗਜ਼ੀਕਿਊਟੇਬਲ ਕੋਡ (executable code) ਹੈ।
ਸੁਰੱਖਿਅਤ ਟੀਮਾਂ ਤਿੰਨ-ਪੱਧਰੀ ਪੈਟਰਨ ਦੀ ਵਰਤੋਂ ਕਰਦੀਆਂ ਹਨ:
- ਪਛਾਣ (Identity): ਹਰ ਟੂਲ ਕਾਲ ਲਈ ਉਪਭੋਗਤਾ ਤੋਂ ਵੱਖਰੀ ਪਛਾਣ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
- ਮੂਲ (Provenance): ਹਰ ਮੈਮੋਰੀ ਰਾਈਟ ਲਈ ਉਸਦੇ ਮੂਲ ਨੂੰ ਦਿਖਾਉਣ ਲਈ ਮੈਟਾਡਾਟਾ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
- ਤਸਦੀਕ (Verification): ਹਰ ਯੋਜਨਾ ਦੇ ਕਦਮ ਲਈ ਡਾਊਨਸਟ੍ਰੀਮ ਐਗਜ਼ੀਕਿਊਸ਼ਨ ਲਈ ਇੱਕ ਸਾਈਨ ਕੀਤੇ ਆਬਜੈਕਟ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
ਏਜੰਟਾਂ ਨੂੰ ਕਦੇ ਵੀ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਪ੍ਰੋਡਕਸ਼ਨ APIs ਨੂੰ ਕਾਲ ਨਹੀਂ ਕਰਨਾ ਚਾਹੀਦਾ। ਇਸਦੀ ਬਜਾਏ ਇੱਕ ਮੈਡੀਏਟਡ ਟੂਲ ਲੇਅਰ (mediated tool layer) ਦੀ ਵਰਤੋਂ ਕਰੋ। ਇਹ ਲੇਅਰ ਆਰਗੂਮੈਂਟਸ ਦੀ ਪੁਸ਼ਟੀ ਕਰਦੀ ਹੈ, ਇਜਾਜ਼ਤਾਂ (permissions) ਨੂੰ ਸੀਮਤ ਕਰਦੀ ਹੈ, ਅਤੇ ਆਡਿਟ ਲੌਗ ਬਣਾਉਂਦੀ ਹੈ। ਇਸ ਲੇਅਰ ਨੂੰ ਆਪਣੇ ਨਵੇਂ ਫਾਇਰਵਾਲ ਵਜੋਂ ਸਮਝੋ।
ਮੈਮੋਰੀ ਇੱਕ ਹੋਰ ਵੱਡਾ ਜੋਖਮ ਹੈ। ਹਮਲਾਵਰ ਏਜੰਟ ਦੀ ਮੈਮੋਰੀ ਨੂੰ ਬਦਲਣ ਲਈ ਜ਼ਹਿਰੀਲੇ (poisoned) ਦਸਤਾਵੇਜ਼ਾਂ ਜਾਂ ਈਮੇਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ। ਇਹ ਸਮੇਂ ਦੇ ਨਾਲ ਏਜੰਟ ਦੇ ਵਿਵਹਾਰ ਨੂੰ ਬਦਲ ਦਿੰਦਾ ਹੈ। ਮੈਮੋਰੀ ਪੋਇਜ਼ਨਿੰਗ (Memory poisoning) ਹਮਲੇ ਹਰ ਸਾਲ 300% ਵਧ ਰਹੇ ਹਨ।
ਜ਼ਿਆਦਾਤਰ ਟੀਮਾਂ ਮੌਜੂਦਾ ਪਾਈਪਲਾਈਨਾਂ ਵਿੱਚ AI ਥ੍ਰੇਟ ਮਾਡਲਿੰਗ (threat modeling) ਜੋੜਦੀਆਂ ਹਨ। ਉਹ ਏਜੰਟ ਰਨਟਾਈਮ ਵਿੱਚ ਖੁਦ ਸੁਰੱਖਿਆ ਨਹੀਂ ਜੋੜਦੀਆਂ। ਸਿਰਫ਼ 19% ਸੰਸਥਾਵਾਂ ਕੋਲ ਟੂਲ-ਕਾਲ ਅਨੋਮਲੀਆਂ (anomalies) ਲਈ ਨਿਗਰਾਨੀ ਹੈ।
ਏਜੰਟਾਂ ਨਾਲ ਸੌਫਟਵੇਅਰ ਵਾਂਗ ਵਿਵਹਾਰ ਕਰਨਾ ਬੰਦ ਕਰੋ। ਉਹਨਾਂ ਨਾਲ ਸਿਸਟਮ ਐਕਸੈਸ ਵਾਲੇ ਜੂਨੀਅਰ ਕਰਮਚਾਰੀਆਂ ਵਾਂਗ ਵਿਵਹਾਰ ਕਰੋ। ਤੁਸੀਂ ਕਿਸੇ ਨਵੇਂ ਕਰਮਚਾਰੀ ਨੂੰ ਪਹਿਲੇ ਦਿਨ ਹੀ ਰੂਟ ਐਕਸੈਸ (root access) ਨਹੀਂ ਦਿਓਗੇ। ਆਪਣੇ ਏਜੰਟਾਂ ਨਾਲ ਅਜਿਹਾ ਨਾ ਕਰੋ।
ਜੇਤੂਆਂ ਕੋਲ ਸਭ ਤੋਂ ਚਮਕਦਾਰ ਡੈਮੋ ਨਹੀਂ ਹੋਣਗੇ। ਉਹਨਾਂ ਕੋਲ ਅਜਿਹੇ ਏਜੰਟ ਹੋਣਗੇ ਜੋ ਬੈਂਕਿੰਗ ਜਾਂ ਹੈਲਥਕੇਅਰ ਵਿੱਚ ਸੁਰੱਖਿਆ ਸਮੀਖਿਆਵਾਂ (security reviews) ਨੂੰ ਪਾਸ ਕਰਦੇ ਹਨ। ਇਹ ਤਿੰਨ ਲੇਅਰਾਂ ਹੁਣੇ ਬਣਾਓ। ਕਿਸੇ ਉਲੰਘਣਾ (breach) ਤੋਂ ਬਾਅਦ ਉਹਨਾਂ ਨੂੰ ਰੀਟਰੋਫਿਟ (retrofit) ਨਾ ਕਰੋ।
ਉਹ ਕਿਹੜਾ ਇੱਕ ਆਰਕੀਟੈਕਚਰਲ ਫੈਸਲਾ ਹੈ ਜੋ ਤੁਸੀਂ ਹਾਲ ਹੀ ਵਿੱਚ ਲਿਆ ਸੀ, ਜਿਸ ਨੂੰ ਤੁਸੀਂ ਬਦਲਣਾ ਚਾਹੋਗੇ ਜੇਕਰ ਤੁਸੀਂ ਪਹਿਲੇ ਦਿਨ ਤੋਂ ਹੀ ਏਜੰਟ ਸੁਰੱਖਿਆ 'ਤੇ ਧਿਆਨ ਦਿੱਤਾ ਹੁੰਦਾ?
ਵਿਕਲਪਿਕ ਸਿੱਖਣ ਭਾਈਚਾਰਾ: https://t.me/GyaanSetuAi