ਕਿਵੇਂ Amazon ਦੀ ਖੋਜ ਨੇ Anthropic 'ਤੇ ਵ੍ਹਾਈਟ ਹਾਊਸ ਦੀਆਂ ਪਾਬੰਦੀਆਂ ਨੂੰ ਜਨਮ ਦਿੱਤਾ
Amazon ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਹਾਲ ਹੀ ਵਿੱਚ ਕੀਤੀ ਗਈ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਦੀ ਇੱਕ ਵੱਡੀ ਪ੍ਰਾਪਤੀ ਨੇ AI ਉਦਯੋਗ ਵਿੱਚ ਹਲਚਲ ਮਚਾ ਦਿੱਤੀ ਹੈ, ਜਿਸ ਦੇ ਨਤੀਜੇ ਵਜੋਂ Anthropic ਵਿਰੁੱਧ ਮਹੱਤਵਪੂਰਨ ਨਿਰਯਾਤ ਨਿਯੰਤਰਣ ਨਿਰਦੇਸ਼ ਜਾਰੀ ਕੀਤੇ ਗਏ ਹਨ। Anthropic ਦੇ ਅਤਿ-ਆਧੁਨਿਕ ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਸੀਮਤ ਕਰਨ ਦੇ ਫੈਸਲੇ ਨੇ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ, ਮਾਡਲ ਦੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਅਤੇ ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਦੇ ਰਾਜਨੀਤਿਕ ਦ੍ਰਿਸ਼ ਬਾਰੇ ਇੱਕ ਤਿੱਖੀ ਬਹਿਸ ਛੇੜ ਦਿੱਤੀ ਹੈ।
ਉਹ Amazon ਦੀ ਖੋਜ ਜਿਸ ਨੇ ਪਾਬੰਦੀ ਲਗਾਉਣ ਲਈ ਉਕਸਾਇਆ
ਇਹ ਵਿਵਾਦ Amazon ਦੀ ਸੁਰੱਖਿਆ ਖੋਜ ਟੀਮ ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਗਏ ਇੱਕ ਤਕਨੀਕੀ ਪੇਪਰ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਕੇਂਦਰਿਤ ਹੈ। Wall Street Journal ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਅਨੁਸਾਰ, Amazon ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਦਿਖਾਇਆ ਕਿ ਪ੍ਰੋਂਪਟਾਂ (prompts) ਦੀ ਇੱਕ ਖਾਸ ਲੜੀ ਰਾਹੀਂ, Anthropic ਦੇ Fable 5 ਅਤੇ Mythos 5 ਮਾਡਲਾਂ ਨਾਲ ਛੇੜਛਾੜ ਕਰਕੇ ਅਜਿਹੀ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ ਜੋ ਸਾਈਬਰ ਹਮਲਿਆਂ ਦੀ ਸਹੂਲਤ ਦੇਣ ਦੇ ਯੋਗ ਹੋਵੇ।
ਰਿਪੋਰਟਾਂ ਅਨੁਸਾਰ, ਇਹ ਖੋਜ Amazon ਦੇ CEO Andy Jassy ਦੁਆਰਾ ਸਿੱਧੇ ਤੌਰ 'ਤੇ ਵ੍ਹਾਈਟ ਹਾਊਸ ਨਾਲ ਸਾਂਝੀ ਕੀਤੀ ਗਈ ਸੀ। ਇਹਨਾਂ ਵਿਚਾਰ-ਵਟਾਂਦਰੇ ਤੋਂ ਬਾਅਦ, ਸਰਕਾਰ ਨੇ ਇੱਕ ਨਿਰਯਾਤ ਨਿਯੰਤਰਣ ਨਿਰਦੇਸ਼ ਜਾਰੀ ਕੀਤਾ ਜੋ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਰੂਪ ਵਿੱਚ ਵਿਦੇਸ਼ੀ ਨਾਗਰਿਕਾਂ ਨੂੰ ਇਹਨਾਂ ਖਾਸ ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਕਰਨ ਤੋਂ ਰੋਕਦਾ ਹੈ। ਇਸ ਕਦਮ ਨੇ Anthropic ਲਈ ਇੱਕ ਤੁਰੰਤ ਅੰਦਰੂਨੀ ਸੰਕਟ ਪੈਦਾ ਕਰ ਦਿੱਤਾ ਹੈ, ਕਿਉਂਕਿ ਕੰਪਨੀ ਦੇ ਕਈ ਖੋਜਕਰਤਾ ਖੁਦ ਵਿਦੇਸ਼ੀ ਮੂਲ ਦੇ ਹਨ ਅਤੇ ਹੁਣ ਉਹਨਾਂ ਨੂੰ ਉਸੇ ਤਕਨਾਲੋਜੀ ਦੀ ਵਰਤੋਂ ਕਰਨ ਤੋਂ ਰੋਕ ਦਿੱਤਾ ਗਿਆ ਹੈ ਜਿਸ ਨੂੰ ਬਣਾਉਣ ਵਿੱਚ ਉਹਨਾਂ ਨੇ ਮਦਦ ਕੀਤੀ ਸੀ।
"Jailbreak" ਬਹਿਸ ਅਤੇ ਮਾਡਲ ਦੀਆਂ ਕਮਜ਼ੋਰੀਆਂ
Anthropic ਨੇ ਘਟਨਾ ਦੇ ਸਰਕਾਰੀ ਤਕਨੀਕੀ ਵਰਗੀਕਰਨ ਨੂੰ ਚੁਣੌਤੀ ਦੇਣ ਲਈ ਤੇਜ਼ੀ ਨਾਲ ਕਦਮ ਚੁੱਕੇ ਹਨ। ਜਦੋਂ ਕਿ ਪ੍ਰਸ਼ਾਸਨ ਇਸ ਦੀ ਵਰਤੋਂ ਨੂੰ "jailbreak" ਵਜੋਂ ਦਰਸਾਉਂਦਾ ਹੈ, Anthropic ਦਾ ਤਰਕ ਹੈ ਕਿ ਪਛਾਣੀਆਂ ਗਈਆਂ ਕਮਜ਼ੋਰੀਆਂ ਸਿਰਫ਼ ਉਹਨਾਂ ਦੇ ਆਰਕੀਟੈਕਚਰ ਤੱਕ ਸੀਮਤ ਨਹੀਂ ਹਨ। ਕੰਪਨੀ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹਨਾਂ ਵਿੱਚੋਂ ਕਈ ਸੁਰੱਖਿਆ ਕਮੀਆਂ ਹੋਰ ਪ੍ਰਮੁੱਖ, ਜਨਤਕ ਤੌਰ 'ਤੇ ਉਪਲਬਧ ਮਾਡਲਾਂ, ਜਿਵੇਂ ਕਿ GPT 5.5 ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਵੀ ਲੱਭੀਆਂ ਜਾ ਸਕਦੀਆਂ ਹਨ।
ਇਸ ਤਕਨੀਕੀ ਵਿਵਾਦ ਨੂੰ ਸੁਤੰਤਰ ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਦਾ ਸਮਰਥਨ ਪ੍ਰਾਪਤ ਹੈ। LutaSecurity ਦੀ ਸੰਸਥਾਪਕ ਅਤੇ CEO, Katie Moussouris ਨੇ ਜਨਤਕ ਤੌਰ 'ਤੇ ਕਿਹਾ ਹੈ ਕਿ Amazon ਦੇ ਪੇਪਰ ਵਿੱਚ ਮਿਲੇ ਨਤੀਜੇ ਰਵਾਇਤੀ "jailbreak" ਨਹੀਂ ਹਨ। ਇਹ ਅੰਤਰ ਉਦਯੋਗ ਲਈ ਬਹੁਤ ਮਹੱਤਵਪੂਰਨ ਹੈ, ਕਿਉਂਕਿ ਇਹ ਸਵਾਲ ਉਠਾਉਂਦਾ ਹੈ ਕਿ ਕੀ ਸਰਕਾਰ ਖਾਸ ਮਾਡਲ ਦੀਆਂ ਖਾਮੀਆਂ ਨੂੰ ਨਿਸ਼ਾਨਾ ਬਣਾ ਰਹੀ ਹੈ ਜਾਂ ਵਿਆਪਕ, ਸ਼ਾਇਦ ਪ੍ਰਤੀਕਿਰਿਆਤਮਕ, ਨਿਯਮਤ ਕਦਮ ਚੁੱਕ ਰਹੀ ਹੈ।
ਰਾਜਨੀਤਿਕ ਤਣਾਅ ਅਤੇ AI ਦਾ ਦ੍ਰਿਸ਼
ਇਹ ਪਾਬੰਦੀ ਕਿਸੇ ਖਾਲੀ ਹਾਲਾਤ ਵਿੱਚ ਨਹੀਂ ਲਗਾਈ ਗਈ ਹੈ; ਇਹ Anthropic ਅਤੇ ਮੌਜੂਦਾ ਪ੍ਰਸ਼ਾਸਨ ਵਿਚਕਾਰ ਡੂੰਘੀ ਹੋ ਰਹੀ ਦੂਰੀ ਦੇ ਵਿਚਕਾਰ ਆਈ ਹੈ। Anthropic ਨੇ ਇੱਕ ਮਜ਼ਬੂਤ ਨੈਤਿਕ ਰੁਖ ਬਣਾਈ ਰੱਖਿਆ ਹੈ, ਅਤੇ ਆਪਣੇ AI ਮਾਡਲਾਂ ਨੂੰ ਅਮਰੀਕੀ ਨਾਗਰਿਕਾਂ ਦੀ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਨਿਗਰਾਨੀ ਕਰਨ ਜਾਂ ਘਾਤਕ ਸਵੈ-ਚਾਲਿਤ ਹਥਿਆਰਾਂ ਦੇ ਵਿਕਾਸ ਲਈ ਵਰਤਣ ਦੀ ਇਜਾਜ਼ਤ ਦੇਣ ਤੋਂ ਇਨਕਾਰ ਕਰ ਦਿੱਤਾ ਹੈ।
ਰਿਪੋਰਟਾਂ ਅਨੁਸਾਰ, ਇਹਨਾਂ ਨੈਤਿਕ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧਾਂ ਕਾਰਨ Trump ਪ੍ਰਸ਼ਾਸਨ ਨਾਲ ਟਕਰਾਅ ਹੋਇਆ ਹੈ, ਜਿਸ ਨੇ ਪਹਿਲਾਂ ਸੰਘੀ ਏਜੰਸੀਆਂ ਨੂੰ Anthropic ਦੀਆਂ AI ਸੇਵਾਵਾਂ ਦੀ ਵਰਤੋਂ ਬੰਦ ਕਰਨ ਦੇ ਨਿਰਦੇਸ਼ ਦਿੱਤੇ ਸਨ। ਵਪਾਰ ਵਿਭਾਗ ਦੀ ਸਾਬਕਾ ਅਧਿਕਾਰੀ Kate Koren ਸਮੇਤ ਕੁਝ ਉਦਯੋਗਿਕ ਨਿਰੀਖਕਾਂ ਦਾ ਸੁਝਾਅ ਹੈ ਕਿ Anthropic ਪ੍ਰਤੀ ਵ੍ਹਾਈਟ ਹਾਊਸ ਦੇ ਮੌਜੂਦਾ ਰੁਖ ਨੇ ਹਾਲ ਹੀ ਦੀਆਂ ਨਿਰਯਾਤ ਪਾਬੰਦੀਆਂ ਦੀ ਰਫ਼ਤਾਰ ਅਤੇ ਗੰਭੀਰਤਾ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕੀਤਾ ਹੋ ਸਕਦਾ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ AI ਮਾਡਲ ਵਧੇਰੇ ਸਮਰੱਥ ਹੋ ਰਹੇ ਹਨ, ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਖੋਜ, ਕਾਰਪੋਰੇਟ ਨੈਤਿਕਤਾ ਅਤੇ ਭੂ-ਰਾਜਨੀਤਿਕ ਨਿਯੰਤਰਣ ਦਾ ਸੁਮੇਲ ਤਕਨੀਕੀ ਨਿਯਮਨ ਦੀ ਨਵੀਂ ਅਗਲੀ ਲਾਈਨ ਬਣ ਰਿਹਾ ਹੈ।
ਮੁੱਖ ਗੱਲਾਂ
- ਸੁਰੱਖਿਆ ਕਾਰਨ (Security Trigger): Amazon ਦੀ ਖੋਜ ਨੇ ਦਿਖਾਇਆ ਕਿ Fable 5 ਅਤੇ Mythos 5 ਨੂੰ ਸਾਈਬਰ ਹਮਲਿਆਂ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਉਤੇਜਿਤ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਜਿਸ ਕਾਰਨ ਸੰਘੀ ਨਿਰਯਾਤ ਪਾਬੰਦੀਆਂ ਲਗਾਈਆਂ ਗਈਆਂ ਹਨ।
- ਅਣਚਾਹੇ ਨੁਕਸਾਨ (Collateral Damage): ਵਿਦੇਸ਼ੀ ਨਾਗਰਿਕਾਂ ਦੁਆਰਾ Anthropic ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ 'ਤੇ ਪਾਬੰਦੀ ਲਗਾਉਣ ਨਾਲ ਅਣਜਾਣੇ ਵਿੱਚ ਕੰਪਨੀ ਦੇ ਕਈ ਵਿਦੇਸ਼ੀ ਮੂਲ ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਵੀ ਉਹਨਾਂ ਦੇ ਸਾਧਨਾਂ ਤੋਂ ਵਾਂਝਾ ਕਰ ਦਿੱਤਾ ਗਿਆ ਹੈ।
- ਤਕਨੀਕੀ ਅਸਹਿਮਤੀ: Anthropic ਅਤੇ ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਦਾ ਤਰਕ ਹੈ ਕਿ ਇਹ ਕਮਜ਼ੋਰੀ ਕੋਈ ਵਿਲੱਖਣ "jailbreak" ਨਹੀਂ ਹੈ, ਸਗੋਂ ਇੱਕ ਪ੍ਰਣਾਲੀਗਤ ਸਮੱਸਿਆ ਹੈ ਜੋ GPT 5.5 ਵਰਗੇ ਹੋਰ ਮਾਡਲਾਂ ਵਿੱਚ ਵੀ ਮੌਜੂਦ ਹੈ।