Amazon ਅਤੇ ਟੈਕ ਦਿੱਗਜਾਂ ਨੇ Anthropic ਦੇ Fable 'ਤੇ ਸਰਕਾਰੀ ਕਾਰਵਾਈ ਸ਼ੁਰੂ ਕਰਵਾਈ

ਇੱਕ ਅਚਾਨਕ ਰੈਗੂਲੇਟਰੀ ਦਖਲਅੰਦਾਜ਼ੀ ਨੇ AI ਉਦਯੋਗ ਵਿੱਚ ਹਲਚਲ ਮਚਾ ਦਿੱਤੀ ਹੈ ਕਿਉਂਕਿ ਅਮਰੀਕੀ ਸਰਕਾਰ ਨੇ Anthropic ਨੂੰ ਆਪਣੇ ਉੱਨਤ Fable ਮਾਡਲ ਨੂੰ ਬੰਦ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕਰ ਦਿੱਤਾ ਹੈ। Amazon ਦੇ CEO Andy Jassy ਅਤੇ ਪੰਜ ਹੋਰ ਪ੍ਰਮੁੱਖ ਟੈਕ ਫਰਮਾਂ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਦੀ ਅਗਵਾਈ ਵਿੱਚ, ਇਹ ਤੇਜ਼ ਕਾਰਵਾਈ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ, ਕਾਰਪੋਰੇਟ ਹਿੱਤਾਂ ਅਤੇ ਸੰਘੀ ਨਿਗਰਾਨੀ ਦੇ ਇੱਕ ਅਸਥਿਰ ਸੁਮੇਲ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ।

Amazon ਦਾ ਵਿਰੋਧਾਭਾਸ: ਇੱਕ ਨਿਵੇਸ਼ਕ ਬਣਿਆ ਵਿਸਲਬਲੋਅਰ (Whistleblower)

ਉਦਯੋਗ ਦੇ ਨਿਰੀਖਣਕਾਰਾਂ ਨੂੰ ਹੈਰਾਨ ਕਰਦੇ ਹੋਏ ਇੱਕ ਕਦਮ ਵਿੱਚ, Amazon—ਜੋ Anthropic ਦੇ ਸਭ ਤੋਂ ਵੱਡੇ ਨਿਵੇਸ਼ਕਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ ਅਤੇ ਇਸਦੇ ਮਾਡਲਾਂ ਨੂੰ ਸਿਖਲਾਈ ਦੇਣ ਲਈ ਵਰਤੇ ਜਾਣ ਵਾਲੇ AI ਚਿੱਪਸ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦਾ ਮੁੱਖ ਪ੍ਰਦਾਤਾ ਹੈ—ਕਿਹਾ ਜਾ ਰਿਹਾ ਹੈ ਕਿ ਉਸਨੇ ਸਰਕਾਰੀ ਦਖਲਅੰਦਾਜ਼ੀ ਲਈ ਮੁਹਿੰਮ ਦੀ ਅਗਵਾਈ ਕੀਤੀ। Amazon ਨੇ ਸਰਕਾਰ ਨੂੰ ਇੱਕ ਰਸਮੀ ਰਿਪੋਰਟ ਦਿੱਤੀ ਜਿਸ ਵਿੱਚ ਦੋਸ਼ ਲਗਾਇਆ ਗਿਆ ਸੀ ਕਿ Fable ਮਾਡਲ ਦੇ ਕੁਝ ਹਿੱਸੇ jailbreaking ਤਕਨੀਕਾਂ ਰਾਹੀਂ ਖਤਰੇ ਵਿੱਚ ਪੈ ਸਕਦੇ ਹਨ।

ਇੱਕ ਪ੍ਰਮੁੱਖ ਹਿੱਸੇਦਾਰ ਦੁਆਰਾ ਸਿੱਧੇ ਤੌਰ 'ਤੇ Trump ਪ੍ਰਸ਼ਾਸਨ ਨੂੰ ਸੁਰੱਖਿਆ ਜੋਖਮਾਂ ਬਾਰੇ ਸੂਚਿਤ ਕਰਨ ਦਾ ਫੈਸਲਾ ਬਹੁਤ ਹੀ ਅਸਾਧਾਰਨ ਹੈ। ਹਾਲਾਂਕਿ Amazon ਨੇ ਆਪਣੇ ਕਦਮਾਂ ਦਾ ਬਚਾਅ ਕਰਦਿਆਂ ਕਿਹਾ ਕਿ ਇਹ ਜਨਤਕ ਖੇਤਰ ਦੇ ਗਾਹਕਾਂ ਦੀ ਸੇਵਾ ਕਰਨ ਵਾਲੇ ਇੱਕ ਪ੍ਰਮੁੱਖ ਕਲਾਉਡ ਪ੍ਰਦਾਤਾ ਦੀ ਜ਼ਿੰਮੇਵਾਰੀ ਹੈ, ਪਰ ਇਸ ਕਦਮ ਨੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਰੂਪ ਵਿੱਚ ਇੱਕ ਪ੍ਰਮੁੱਖ ਪੋਰਟਫੋਲੀਓ ਕੰਪਨੀ ਨੂੰ ਸੰਘੀ ਨਿਯਮਾਂ ਦੇ ਨਿਸ਼ਾਨੇ 'ਤੇ ਲਿਆ ਦਿੱਤਾ।

ਇੱਕ ਤੇਜ਼ ਰੈਗੂਲੇਟਰੀ ਪ੍ਰਤੀਕਿਰਿਆ

ਕਾਰਵਾਈ ਦਾ ਸਮਾਂ-ਸਾਰਣੀ ਨਿੱਜੀ ਖੇਤਰ ਅਤੇ ਵ੍ਹਾਈਟ ਹਾਊਸ ਵਿਚਕਾਰ ਅਣਪਛਾਤੇ ਪੱਧਰ ਦੇ ਤਾਲਮੇਲ ਦਾ ਸੰਕੇਤ ਦਿੰਦੀ ਹੈ। Amazon ਅਤੇ ਪੰਜ ਹੋਰ ਕੰਪਨੀਆਂ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਤੋਂ ਬਾਅਦ, National Cyber Director Sean Cairncross ਨੇ ਵ੍ਹਾਈਟ ਹਾਊਸ ਦੇ ਅਧਿਕਾਰੀਆਂ ਨਾਲ ਇੱਕ ਉੱਚ-ਪੱਧਰੀ ਮੀਟਿੰਗ ਬੁਲਾਈ।

ਕਾਰਵਾਈ ਬਹੁਤ ਤੇਜ਼ ਸੀ:

• ਗੱਲਬਾਤ: ਸਰਕਾਰ ਨੇ Anthropic ਨੂੰ ਆਪਣੀ ਮਰਜ਼ੀ ਨਾਲ ਮਾਡਲ ਵਾਪਸ ਲੈਣ ਲਈ ਮਨਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਵਿੱਚ ਕਈ ਘੰਟੇ ਬਿਤਾਏ।
• ਅੰਤਿਮ ਚੇਤਾਵਨੀ (Ultimatum): Anthropic ਦੇ ਇਨਕਾਰ ਕਰਨ ਤੋਂ ਬਾਅਦ, ਵ੍ਹਾਈਟ ਹਾਊਸ ਨੇ ਸ਼ਾਮ 5:20 ਵਜੇ ET 'ਤੇ ਇੱਕ ਅਧਿਕਾਰਤ ਐਕਸਪੋਰਟ ਕੰਟਰੋਲ ਆਰਡਰ ਜਾਰੀ ਕੀਤਾ।
• ਬੰਦ ਕਰਨਾ: ਪਾਲਣਾ ਕਰਨ ਲਈ ਸਿਰਫ਼ 90 ਮਿੰਟ ਦਾ ਸਮਾਂ ਦਿੱਤੇ ਜਾਣ 'ਤੇ, Anthropic ਨੇ ਅਧਿਕਾਰਤ ਤੌਰ 'ਤੇ ਰਾਤ 10:00 ਵਜੇ ਤੱਕ Fable ਮਾਡਲ ਨੂੰ ਆਫਲਾਈਨ ਕਰ ਦਿੱਤਾ।

ਸੁਰੱਖਿਆ ਜੋਖਮ ਬਨਾਮ ਰਾਜਨੀਤਿਕ ਪੋਸਚਰਿੰਗ (Political Posturing)

ਬੰਦ ਕਰਨ ਦਾ ਤਕਨੀਕੀ ਤਰਕ ਗੰਭੀਰ ਬਹਿਸ ਦਾ ਵਿਸ਼ਾ ਬਣਿਆ ਹੋਇਆ ਹੈ। ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮਾਹਰ Katie Moussouris ਨੇ Amazon ਦੇ ਨਤੀਜਿਆਂ ਦੀ ਸਮੀਖਿਆ ਕਰਦੇ ਹੋਏ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਜਿਸ ਕਮਜ਼ੋਰੀ ਵੱਲ ਇਸ਼ਾਰਾ ਕੀਤਾ ਗਿਆ ਸੀ, ਉਹ ਅਸਲ ਵਿੱਚ "Defense Oriented Prompting" (DOP) ਸੀ—ਜੋ ਕਿ ਇੱਕ ਰੱਖਿਆਤਮਕ ਤਕਨੀਕ ਹੈ ਨਾ ਕਿ ਕੋਈ ਜਾਇਰਬ੍ਰੇਕ (jailbreak)। ਉਨ੍ਹਾਂ ਨੇ ਸਰਕਾਰ ਦੀ ਅਸੰਤੁਲਿਤ ਪ੍ਰਤੀਕਿਰਿਆ ਨੂੰ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਲਈ ਇੱਕ "ਆਪਣਾ ਹੀ ਗੋਲ" (own goal) ਕਰਾਰ ਦਿੱਤਾ।

ਹਾਲਾਂਕਿ, ਅੰਦਰੂਨੀ ਸੂਤਰਾਂ ਦਾ ਸੁਝਾਅ ਹੈ ਕਿ ਇਹ ਕਾਰਵਾਈ ਤਕਨੀਕੀ ਖਾਮੀਆਂ ਨਾਲੋਂ ਵੱਧ Anthropic ਦੁਆਰਾ ਦਿਖਾਈ ਗਈ "ਗੰਭੀਰਤਾ ਦੀ ਘਾਟ" ਬਾਰੇ ਹੋ ਸਕਦੀ ਹੈ। ਰਿਪੋਰਟਾਂ ਅਨੁਸਾਰ, ਕੰਪਨੀ ਨੇ ਸਰਕਾਰ ਦੁਆਰਾ ਲਾਜ਼ਮੀ ਕੀਤੀ ਗਈ ਸੁਰੱਖਿਆ ਸਮੀਖਿਆ ਦੇ ਪੂਰੀ ਤਰ੍ਹਾਂ ਸਥਾਪਿਤ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ Fable ਮਾਡਲ ਜਾਰੀ ਕਰ ਦਿੱਤਾ ਸੀ, ਜਿਸ ਕਾਰਨ ਪ੍ਰਸ਼ਾਸਨ ਨੇ ਇੱਕ ਅਸਲ (de facto) ਲਾਇਸੈਂਸਿੰਗ ਪ੍ਰਣਾਲੀ ਰਾਹੀਂ ਕੰਟਰੋਲ ਕਰਨ ਲਈ ਮਜਬੂਰ ਹੋਣਾ ਪਿਆ।

ਇਹ AI ਲੈਂਡਸਕੇਪ ਲਈ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਇਹ ਘਟਨਾ ਨਿੱਜੀ AI ਖੇਤਰ ਵਿੱਚ ਰਾਜ ਦੇ ਦਖਲਅੰਦਾਜ਼ੀ ਵੱਲ ਇੱਕ ਵੱਡੇ ਬਦਲਾਅ ਦਾ ਸੰਕੇਤ ਦਿੰਦੀ ਹੈ। ਸ਼ਕਤੀਸ਼ਾਲੀ ਮਾਡਲਾਂ ਦੀ ਤਾਇਨਾਤੀ ਨੂੰ ਰੋਕਣ ਲਈ ਐਕਸਪੋਰਟ ਕੰਟਰੋਲ ਦੀ ਵਰਤੋਂ ਕਰਕੇ, ਅਮਰੀਕੀ ਸਰਕਾਰ ਫਰੰਟੀਅਰ AI ਤਕਨਾਲੋਜੀਆਂ ਨੂੰ ਨਜ਼ਦੀਕੀ ਸੰਘੀ ਨਿਗਰਾਨੀ ਦੇ ਅਧੀਨ ਲਿਆਉਣ ਲਈ ਇੱਕ ਮਿਸਾਲ ਪੈਦਾ ਕਰ ਰਹੀ ਹੈ।

ਚਾਹੇ ਇਹ ਇੱਕ ਜਾਇਜ਼ ਸੁਰੱਖਿਆ ਉਪਾਅ ਹੋਵੇ ਜਾਂ AI ਲੈਬਾਂ ਨੂੰ ਕਾਰਜਕਾਰੀ ਆਦੇਸ਼ਾਂ (executive orders) ਦੀ ਪਾਲਣਾ ਕਰਨ ਯੋਗ ਬਣਾਉਣ ਲਈ ਇੱਕ ਰਾਜਨੀਤਿਕ ਤੌਰ 'ਤੇ ਪ੍ਰੇਰਿਤ ਕਦਮ ਹੋਵੇ, ਉਦਯੋਗ ਲਈ ਸੰਦੇਸ਼ ਸਪੱਸ਼ਟ ਹੈ: ਬਿਨਾਂ ਨਿਯਮਾਂ ਵਾਲੇ ਫਰੰਟੀਅਰ ਮਾਡਲ ਤਾਇਨਾਤੀ ਦਾ ਯੁੱਗ ਖਤਮ ਹੋ ਰਿਹਾ ਹੈ।

ਮੁੱਖ ਗੱਲਾਂ

• ਅਣਪਛੂਤਾ ਦਖਲਅੰਦਾਜ਼ੀ: Amazon ਅਤੇ ਪੰਜ ਹੋਰ ਤਕਨੀਕੀ ਫਰਮਾਂ ਨੇ ਸਰਕਾਰੀ ਕਾਰਵਾਈ ਨੂੰ ਉਤੇਜਿਤ ਕੀਤਾ, ਜਿਸ ਨੇ Anthropic ਨੂੰ ਕੁਝ ਹੀ ਘੰਟਿਆਂ ਦੇ ਅੰਦਰ ਆਪਣੇ Fable ਮਾਡਲ ਨੂੰ ਬੰਦ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕਰ ਦਿੱਤਾ।
• ਤਕਨੀਕੀ ਵਿਵਾਦਪੂਰਨ ਦਾਅਵੇ: ਮਾਹਰਾਂ ਦਾ ਸੁਝਾਅ ਹੈ ਕਿ Amazon ਦੁਆਰਾ ਦੱਸੇ ਗਏ "jailbreak" ਜੋਖਮ ਅਸਲ ਵਿੱਚ ਰੱਖਿਆਤਮਕ ਪ੍ਰੋਂਪਟਿੰਗ ਤਕਨੀਕਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ, ਜੋ ਬੰਦ ਕਰਨ ਦੀ ਤਕਨੀਕੀ ਲੋੜ 'ਤੇ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰਦੀਆਂ ਹਨ।
• ਨਿਯਮਤ ਮਿਸਾਲ: ਇਹ ਘਟਨਾ ਇੱਕ "de facto ਲਾਇਸੈਂਸਿੰਗ ਪ੍ਰਣਾਲੀ" ਸਥਾਪਿਤ ਕਰਦੀ ਹੈ, ਜੋ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਮਾਡਲਾਂ ਦੀ ਰਿਲੀਜ਼ ਅਤੇ ਐਕਸਪੋਰਟ 'ਤੇ ਵਧੇ ਹੋਏ ਸਰਕਾਰੀ ਕੰਟਰੋਲ ਦਾ ਸੰਕੇਤ ਦਿੰਦੀ ਹੈ।