ਅਮਰੀਕੀ ਸੁਰੱਖਿਆ ਅਤੇ ਚੀਨ ਨਾਲ ਸਬੰਧਾਂ ਦੀਆਂ ਚਿੰਤਾਵਾਂ ਦੇ ਵਿਚਕਾਰ Anthropic ਮਾਡਲਾਂ ਨੂੰ ਬੰਦ ਕਰ ਦਿੱਤਾ ਗਿਆ

Anthropic ਨੂੰ ਆਪਣੇ Claude Mythos ਅਤੇ Fable 5 AI ਮਾਡਲਾਂ ਨੂੰ ਜ਼ਬਰਦਸਤੀ ਬੰਦ ਕੀਤੇ ਜਾਣ ਤੋਂ ਬਾਅਦ ਇੱਕ ਵੱਡੇ ਸੰਕਟ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ। SK Telecom ਨਾਲ ਜੁੜੇ ਭੂ-ਰਾਜਨੀਤਿਕ ਤਣਾਅ ਅਤੇ ਗੰਭੀਰ ਸੁਰੱਖਿਆ ਕਮੀਆਂ ਦੇ ਸੁਮੇਲ ਨੇ ਵ੍ਹਾਈਟ ਹਾਊਸ ਦੇ ਸਿੱਧੇ ਦਖਲ ਨੂੰ ਉਤੇਜਿਤ ਕੀਤਾ ਹੈ।

ਭੂ-ਰਾਜਨੀਤਿਕ ਰਗੜ ਅਤੇ SK Telecom ਨਾਲ ਸਬੰਧ

Claude Mythos ਮਾਡਲਾਂ ਦਾ ਪਤਨ ਦੱਖਣੀ ਕੋਰੀਆ ਦੀ ਟੈਲੀਕਮ ਦਿੱਗਜ SK Telecom ਨਾਲ ਜੁੜੀ ਇੱਕ ਉੱਚ-ਪੱਧਰੀ ਸੁਰੱਖਿਆ ਚਿੰਤਾ ਨਾਲ ਸ਼ੁਰੂ ਹੋਇਆ। Anthropic ਦੇ ਭਾਈਵਾਲ ਪ੍ਰੋਗਰਾਮ, ਜਿਸ ਨੂੰ Project Glasswing ਵਜੋਂ ਜਾਣਿਆ ਜਾਂਦਾ ਹੈ, ਰਾਹੀਂ SK Telecom ਨੇ Mythos ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰ ਲਈ ਸੀ। ਹਾਲਾਂਕਿ, ਅਮਰੀਕੀ ਅਧਿਕਾਰੀਆਂ ਨੇ ਚੀਨ ਨਾਲ SK Telecom ਦੇ ਕਥਿਤ ਸਬੰਧਾਂ ਬਾਰੇ ਚੇਤਾਵਨੀ ਜਾਰੀ ਕੀਤੀ, ਅਤੇ ਇਸ ਭਾਈਵਾਲੀ ਨੂੰ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਲਈ ਇੱਕ ਸੰਭਾਵੀ ਖਤਰਾ ਮੰਨਿਆ।

ਹਾਲਾਂਕਿ SK Telecom ਨੇ ਚੀਨ ਨਾਲ ਸਬੰਧ ਹੋਣ ਤੋਂ ਇਨਕਾਰ ਕੀਤਾ ਹੈ, ਪਰ ਵਿਸ਼ਾਲ SK Group ਦੇ ਅੰਦਰ ਕੰਪਨੀ ਦੇ ਇਤਿਹਾਸ ਨੇ ਜਾਂਚ ਨੂੰ ਜਨਮ ਦਿੱਤਾ ਹੈ। SK Group ਚੀਨ ਵਿੱਚ ਮਹੱਤਵਪੂਰਨ ਵਪਾਰਕ ਹਿੱਤ ਰੱਖਦਾ ਹੈ ਅਤੇ ਪਹਿਲਾਂ 2009 ਤੱਕ ਰਾਜ-ਮਲਕੀਅਤ ਵਾਲੀ ਚੀਨੀ ਕੈਰੀਅਰ ਕੰਪਨੀ, China Unicom ਵਿੱਚ ਹਿੱਸੇਦਾਰੀ ਰੱਖਦਾ ਸੀ। ਇਹਨਾਂ ਚਿੰਤਾਵਾਂ ਦੇ ਜਵਾਬ ਵਿੱਚ, ਅਖਬਾਰਾਂ ਅਨੁਸਾਰ ਵ੍ਹਾਈਟ ਹਾਊਸ ਨੇ Anthropic ਨੂੰ ਤੁਰੰਤ SK Telecom ਦੀ ਪਹੁੰਚ ਨੂੰ ਖਤਮ ਕਰਨ ਦਾ ਨਿਰਦੇਸ਼ ਦਿੱਤਾ, ਜਿਸ ਦਾ AI ਲੈਬ ਨੇ ਤੁਰੰਤ ਪਾਲਣ ਕੀਤਾ।

Fable 5 ਵਿੱਚ ਸੁਰੱਖਿਆ ਕਮੀਆਂ ਅਤੇ ਵਿਸ਼ਵਾਸ ਦੀ ਕਮੀ

ਸਥਿਤੀ ਇੱਕ ਭੂ-ਰਾਜਨੀਤਿਕ ਮੁੱਦੇ ਤੋਂ ਤਕਨੀਕੀ ਤਬਾਹੀ ਵਿੱਚ ਬਦਲ ਗਈ ਜਦੋਂ Fable 5 ਮਾਡਲ ਵਿੱਚ ਸੁਰੱਖਿਆ ਕਮੀਆਂ ਦੀ ਪਛਾਣ ਕੀਤੀ ਗਈ। Amazon ਸਮੇਤ ਉਦਯੋਗ ਦੇ ਪ੍ਰਮੁੱਖ ਖਿਡਾਰੀਆਂ ਨੇ ਅਜਿਹੀਆਂ ਗੰਭੀਰ ਖਾਮੀਆਂ ਵੱਲ ਇਸ਼ਾਰਾ ਕੀਤਾ ਜੋ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਨਿਰਧਾਰਤ ਸੁਰੱਖਿਆ ਪਾਬੰਦੀਆਂ ਨੂੰ ਤੋੜਨ ਦੀ ਇਜਾਜ਼ਤ ਦੇ ਸਕਦੀਆਂ ਹਨ। ਇਹਨਾਂ ਕਮੀਆਂ ਨੇ ਸੰਕੇਤ ਦਿੱਤਾ ਕਿ ਮਾਡਲ ਦੇ ਗਾਰਡਰੇਲ (guardrails) ਦੁਰਵਰਤੋਂ ਜਾਂ ਦੁਸ਼ਮਣੀ ਭਰੇ ਹੇਰਾਫੇਰੀ ਨੂੰ ਰੋਕਣ ਲਈ ਅਧੂਰੇ ਸਨ।

ਇਹਨਾਂ ਦੋਵਾਂ ਘਟਨਾਵਾਂ ਦੇ ਸੁਮੇਲ—SK Telecom ਰਾਹੀਂ ਵਿਦੇਸ਼ੀ ਖੁਫੀਆ ਜਾਣਕਾਰੀ ਦੇ ਖੇੜੇ ਦਾ ਸੰਭਾਵੀ ਖਤਰਾ ਅਤੇ Fable 5 ਦੇ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਦੀ ਤਕਨੀਕੀ ਅਸਫਲਤਾ—ਨੇ ਅਮਰੀਕੀ ਅਧਿਕਾਰੀਆਂ ਦਾ ਭਰੋਸਾ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖਤਮ ਕਰ ਦਿੱਤਾ। ਨਤੀਜੇ ਵਜੋਂ, ਵ੍ਹਾਈਟ ਹਾਊਸ ਨੇ Anthropic 'ਤੇ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਅਤੇ ਡਿਜੀਟਲ ਸੁਰੱਖਿਆ ਦੇ ਸੰਭਾਵੀ ਖਤਰਿਆਂ ਨੂੰ ਘਟਾਉਣ ਲਈ ਦੋਵਾਂ ਮਾਡਲਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਆਫਲਾਈਨ ਕਰਨ ਲਈ ਦਬਾਅ ਪਾਇਆ।

AI ਦੀ ਅਗਲੀ ਸੀਮਾ ਲਈ ਪ੍ਰਭਾਵ

ਇਹ ਘਟਨਾ ਤੇਜ਼ੀ ਨਾਲ ਵਿਕਸਤ ਹੋ ਰਹੇ AI ਉਦਯੋਗ ਲਈ ਇੱਕ ਸਖ਼ਤ ਚੇਤਾਵਨੀ ਵਜੋਂ ਕੰਮ ਕਰਦੀ ਹੈ, ਜੋ ਇਹ ਦਰਸਾਉਂਦੀ ਹੈ ਕਿ ਤਕਨੀਕੀ ਉੱਤਮਤਾ ਹੁਣ ਸਫਲਤਾ ਲਈ ਇਕਲੌਤਾ ਮਾਪਦੰਡ ਨਹੀਂ ਰਹੀ। AI ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਸੰਸਥਾਪਕਾਂ ਲਈ, Anthropic ਸੰਕਟ ਇਹ ਸਾਬਤ ਕਰਦਾ ਹੈ ਕਿ ਭੂ-ਰਾਜਨੀਤਿਕ ਵਿਚਾਰਾਂ ਅਤੇ "safety-by-design" ਨੂੰ ਹੁਣ ਰੈਗੂਲੇਟਰੀ ਲੈਂਡਸਕੇਪ ਵਿੱਚ ਕੇਂਦਰੀ ਮਹੱਤਵ ਦਿੱਤਾ ਜਾ ਰਿਹਾ ਹੈ।

ਜਿਵੇਂ-ਜਿਵੇਂ frontier models ਹੋਰ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹੁੰਦੇ ਜਾ ਰਹੇ ਹਨ, ਅੰਤਰਰਾਸ਼ਟਰੀ ਸਬੰਧਾਂ ਅਤੇ AI ਸ਼ਾਸਨ (governance) ਦਾ ਸੁਮੇਲ ਹੋਰ ਵੀ ਗੂੜ੍ਹਾ ਹੋਣ ਦੀ ਸੰਭਾਵਨਾ ਹੈ। ਕੰਪਨੀਆਂ ਨੂੰ ਹੁਣ ਸਰਕਾਰੀ ਨਿਗਰਾਨੀ ਦੇ ਇੱਕ ਗੁੰਝਲਦਾਰ ਜਾਲ ਵਿੱਚੋਂ ਲੰਘਣਾ ਪਵੇਗਾ, ਜਿੱਥੇ ਇੱਕ ਇਕਲੌਤੀ ਭਾਈਵਾਲੀ ਜਾਂ ਸੁਰੱਖਿਆ ਦੀ ਇੱਕ ਵੀ ਗਲਤੀ (bypassed safety guardrail) ਪ੍ਰਮੁੱਖ ਤਕਨਾਲੋਜੀ ਨੂੰ ਤੁਰੰਤ ਬੰਦ ਕਰਨ ਦਾ ਕਾਰਨ ਬਣ ਸਕਦੀ ਹੈ।

ਮੁੱਖ ਨੁਕਤੇ

• ਭੂ-ਰਾਜਨੀਤਿਕ ਜੋਖਮ (Geopolitical Risk): SK Telecom ਅਤੇ ਚੀਨੀ ਹਿੱਤਾਂ ਵਿਚਕਾਰ ਕਥਿਤ ਸਬੰਧਾਂ ਕਾਰਨ White House ਨੇ ਦਖਲ ਦਿੱਤਾ, ਜਿਸ ਨਾਲ Anthropic ਨੂੰ Project Glasswing ਰਾਹੀਂ ਪਹੁੰਚ ਖਤਮ ਕਰਨ ਲਈ ਮਜਬੂਰ ਹੋਣਾ ਪਿਆ।
• ਤਕਨੀਕੀ ਕਮਜ਼ੋਰੀਆਂ (Technical Vulnerabilities): Amazon ਦੁਆਰਾ ਦਰਸਾਈਆਂ ਗਈਆਂ Fable 5 ਮਾਡਲ ਵਿੱਚ ਗੰਭੀਰ ਸੁਰੱਖਿਆ ਖਾਮੀਆਂ ਨੇ ਜ਼ਰੂਰੀ ਸੁਰੱਖਿਆ ਪਾਬੰਦੀਆਂ ਨੂੰ ਤੋੜਨ ਦੇ ਰਾਹ ਖੋਲ੍ਹ ਦਿੱਤੇ।
• ਰੈਗੂਲੇਟਰੀ ਦਬਾਅ (Regulatory Pressure): ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਦੀਆਂ ਚਿੰਤਾਵਾਂ ਅਤੇ ਸੁਰੱਖਿਆ ਦੀਆਂ ਅਸਫਲਤਾਵਾਂ ਦੇ ਸੁਮੇਲ ਦੇ ਨਤੀਜੇ ਵਜੋਂ Claude Mythos ਅਤੇ Fable 5 ਦੋਵਾਂ ਮਾਡਲਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਬੰਦ ਕਰ ਦਿੱਤਾ ਗਿਆ।