Anthropic ਦੇ Fable 5 'ਤੇ ਅਮਰੀਕੀ ਪਾਬੰਦੀ ਨੇ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਬਹਿਸ ਨੂੰ ਜਨਮ ਦਿੱਤਾ

ਅਮਰੀਕੀ ਸਰਕਾਰ ਨੇ AI ਦੀ ਦੌੜ ਵਿੱਚ ਦਖਲ ਦਿੱਤਾ ਹੈ, ਜਿਸ ਕਾਰਨ Anthropic ਨੂੰ ਆਪਣੇ ਬਹੁਤ ਹੀ ਉਤਸੁਕਤਾ ਨਾਲ ਉਡੀਕ ਕੀਤੇ ਜਾ ਰਹੇ Fable 5 ਅਤੇ Mythos 5 ਮਾਡਲਾਂ ਨੂੰ ਰਿਲੀਜ਼ ਕਰਨ ਤੋਂ ਰੋਕਣਾ ਪਿਆ ਹੈ। ਹਾਲਾਂਕਿ ਇਸ ਕਦਮ ਨੂੰ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਲਈ ਇੱਕ ਜ਼ਰੂਰੀ ਕਦਮ ਵਜੋਂ ਪੇਸ਼ ਕੀਤਾ ਗਿਆ ਹੈ, ਪਰ ਇਸ ਨੇ AI ਸ਼ਾਸਨ (governance) ਅਤੇ ਮਾਡਲ ਗਾਰਡਰੇਲਜ਼ (guardrails) ਦੀ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਬਾਰੇ ਇੱਕ ਤਿੱਖੀ ਬਹਿਸ ਛੇੜ ਦਿੱਤੀ ਹੈ।

ਕਾਰਨ: ਗਾਰਡਰੇਲ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨਾ ਅਤੇ ਸੁਰੱਖਿਆ ਚਿੰਤਾਵਾਂ

Anthropic ਦੇ ਤਾਜ਼ਾ ਮਾਡਲਾਂ 'ਤੇ ਲਗਾਈ ਗਈ ਇਹ ਅਚਾਨਕ ਪਾਬੰਦੀ Amazon ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਪਛਾਣੀ ਗਈ ਇੱਕ ਗੰਭੀਰ ਕਮਜ਼ੋਰੀ ਕਾਰਨ ਲੱਗੀ ਹੈ। ਖੋਜ ਦੇ ਨਤੀਜਿਆਂ ਨੇ ਸੰਕੇਤ ਦਿੱਤਾ ਕਿ Fable 5 ਦੇ ਸੁਰੱਖਿਆ ਪ੍ਰੋਟੋਕੋਲ ਅਤੇ ਗਾਰਡਰੇਲਜ਼ ਨੂੰ ਬਾਈਪਾਸ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਮਾਡਲ ਦੁਆਰਾ ਨੁਕਸਾਨਦੇਹ ਜਾਂ ਪਾਬੰਦੀਸ਼ੁਦਾ ਸਮੱਗਰੀ ਤਿਆਰ ਕਰਨ ਦੀ ਸੰਭਾਵਨਾ ਬਣ ਸਕਦੀ ਹੈ। ਇਹਨਾਂ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਜੋਖਮਾਂ ਦਾ ਹਵਾਲਾ ਦਿੰਦੇ ਹੋਏ, ਅਮਰੀਕੀ ਪ੍ਰਸ਼ਾਸਨ ਨੇ Fable 5 ਅਤੇ ਇਸ ਦੇ ਸਾਥੀ ਮਾਡਲ Mythos 5 ਦੋਵਾਂ ਦੀ ਰਿਲੀਜ਼ ਨੂੰ ਰੋਕਣ ਦਾ ਫੈਸਲਾ ਲਿਆ।

ਹਾਲਾਂਕਿ, ਇਸ ਫੈਸਲੇ ਨੂੰ ਸਰਵਵਿਆਪਕ ਸਹਿਮਤੀ ਨਹੀਂ ਮਿਲੀ ਹੈ। Anthropic ਨੇ ਖੁਦ ਇਹ ਨੁਕਤਾ ਉਠਾਇਆ ਹੈ ਕਿ ਖੋਜੇ ਗਏ ਵਿਸ਼ੇਸ਼ jailbreak ਤਰੀਕੇ ਸਿਰਫ਼ ਉਹਨਾਂ ਦੇ ਆਰਕੀਟੈਕਚਰ ਤੱਕ ਸੀਮਤ ਨਹੀਂ ਹਨ, ਸਗੋਂ ਇਹ ਅਜਿਹੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਹਨ ਜੋ ਉਦਯੋਗ ਵਿੱਚ ਵੱਖ-ਵੱਖ Large Language Models (LLMs) ਵਿੱਚ ਮੌਜੂਦ ਹਨ। ਇਹ ਮੰਨਣਾ ਸੰਕੇਤ ਦਿੰਦਾ ਹੈ ਕਿ "ਸੁਰੱਖਿਆ ਖਾਮੀ" Anthropic ਦੀ ਆਪਣੀ ਤਕਨੀਕ ਦੀ ਸਥਾਨਕ ਅਸਫਲਤਾ ਹੋਣ ਦੀ ਬਜਾਏ generative AI ਦੀ ਮੌਜੂਦਾ ਸਥਿਤੀ ਦੇ ਅੰਦਰ ਇੱਕ ਪ੍ਰਣਾਲੀਗਤ (systemic) ਸਮੱਸਿਆ ਹੋ ਸਕਦੀ ਹੈ।

ਉਦਯੋਗਿਕ ਵਿਰੋਧ ਅਤੇ ਸ਼ਾਸਨ ਦੀ ਦੁਬਿਧਾ

ਇਸ ਪਾਬੰਦੀ ਨੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਭਾਈਚਾਰੇ ਵੱਲੋਂ ਭਾਰੀ ਆਲੋਚਨਾ ਦਾ ਸਾਹਮਣਾ ਕੀਤਾ ਹੈ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਇੱਕ ਖੁੱਲ੍ਹੇ ਪੱਤਰ 'ਤੇ ਦਸਤਖਤ ਕੀਤੇ ਹਨ ਜਿਸ ਵਿੱਚ ਸਰਕਾਰੀ ਦਖਲਅੰਦਾਜ਼ੀ ਨੂੰ "ਖ਼ਤਰਨਾਕ" ਦੱਸਿਆ ਗਿਆ ਹੈ, ਅਤੇ ਦਲੀਲ ਦਿੱਤੀ ਗਈ ਹੈ ਕਿ ਅਜਿਹੇ ਕਦਮਾਂ ਨਾਲ ਅਤਿ-ਨਿਯਮਤਕਰਨ (overregulation) ਦੀ ਇੱਕ ਪ੍ਰਥਾ ਬਣ ਸਕਦੀ ਹੈ ਜੋ ਨਵੀਨਤਾ (innovation) ਨੂੰ ਰੋਕਦੀ ਹੈ। ਇਸ ਬਹਿਸ ਦਾ ਮੁੱਖ ਕੇਂਦਰ ਇਹ ਹੈ ਕਿ ਕੀ ਸਰਕਾਰ ਕਿਸੇ ਅਸਲ ਹੋਂਦ ਦੇ ਖ਼ਤਰੇ ਨੂੰ ਹੱਲ ਕਰ ਰਹੀ ਹੈ ਜਾਂ ਸਿਰਫ਼ ਉਭਰਦੇ AI ਵਿਵਹਾਰਾਂ ਦੀ ਅੰਦਰੂਨੀ ਅਨਿਸ਼ਚਿਤਤਾ ਪ੍ਰਤੀ ਪ੍ਰਤੀਕਿਰਿਆ ਦੇ ਰਹੀ ਹੈ।

ਡਿਵੈਲਪਰਾਂ ਲਈ, ਇਹ ਸਥਿਤੀ ਅਤਿ ਦੀ ਅਨਿਸ਼ਚਿਤਤਾ ਵਾਲਾ ਸਮਾਂ ਪੈਦਾ ਕਰਦੀ ਹੈ। Anthropic ਦੇ ਪਲੇਟਫਾਰਮ 'ਤੇ ਕੰਮ ਕਰਨ ਲਈ ਹੁਣ ਬਦਲਦੇ ਹੋਏ ਨਿਯਮਾਂ ਦੇ ਮਾਹੌਲ ਵਿੱਚ ਚੱਲਣਾ ਪਵੇਗਾ, ਜਿੱਥੇ ਸਭ ਤੋਂ ਉੱਨਤ ਮਾਡਲਾਂ ਨੂੰ ਵੀ ਰਾਤੋ-ਰਾਤ ਬਾਜ਼ਾਰ ਤੋਂ ਵਾਪਸ ਲਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਤੇਜ਼ੀ ਨਾਲ ਤੈਨਾਤੀ (deployment) ਅਤੇ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਜਾਂਚ ਦੇ ਵਿਚਕਾਰ ਇਹ ਤਣਾਅ ਉਹਨਾਂ AI ਕੰਪਨੀਆਂ ਲਈ ਸਭ ਤੋਂ ਵੱਡੀਆਂ ਰੁਕਾਵਟਾਂ ਵਿੱਚੋਂ ਇੱਕ ਹੈ ਜੋ IPO ਦੀ ਉਮੀਦ ਰੱਖਦੀਆਂ ਹਨ।

ਇਹ AI ਦੇ ਖੇਤਰ ਲਈ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਇਹ ਘਟਨਾ Big Tech ਅਤੇ ਸੰਘੀ ਨਿਯਮਕਾਂ ਵਿਚਕਾਰ ਸਬੰਧਾਂ ਲਈ ਇੱਕ ਮਹੱਤਵਪੂਰਨ ਮੋੜ ਹੈ। ਇਹ ਵਧਦੇ ਟਕਰਾਅ ਦੇ ਬਿੰਦੂ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ: ਜਿਵੇਂ-ਜਿਵੇਂ ਮਾਡਲ ਵਧੇਰੇ ਸਮਰੱਥ ਬਣਦੇ ਹਨ, ਉਹਨਾਂ ਦੀ ਫੈਸਲਾ ਲੈਣ ਦੀ ਪ੍ਰਕਿਰਿਆ ਦਾ "ਬਲੈਕ ਬਾਕਸ" ਸੁਭਾਅ ਪੂਰਨ ਸੁਰੱਖਿਆ ਦੀ ਗਾਰੰਟੀ ਦੇਣਾ ਵਧੇਰੇ ਮੁਸ਼ਕਲ ਬਣਾ ਦਿੰਦਾ ਹੈ।

ਜੇਕਰ ਸਰਕਾਰ ਖਾਸ ਮਾਡਲਾਂ ਦੀ ਰਿਲੀਜ਼ ਨੂੰ ਰੋਕਣ ਲਈ "ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ" ਨੂੰ ਇੱਕ ਵਿਧੀ ਵਜੋਂ ਵਰਤਣਾ ਜਾਰੀ ਰੱਖਦੀ ਹੈ, ਤਾਂ ਇਹ ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਦਾ ਲਾਭ ਉਹਨਾਂ ਕੰਪਨੀਆਂ ਵੱਲ ਮੋੜ ਸਕਦਾ ਹੈ ਜੋ ਨਿਯਮਕ ਜਾਂਚ ਲਈ ਵਧੇਰੇ ਸਹਿਣਸ਼ੀਲ ਹਨ ਜਾਂ ਜਿਨ੍ਹਾਂ ਕੋਲ ਰਾਜਨੀਤਿਕ ਪ੍ਰਭਾਵ ਦੇ ਵਧੇਰੇ ਸਿੱਧੇ ਸਾਧਨ ਹਨ। ਇਸ ਦੇ ਉਲਟ, ਇਹ ਪੂਰੀ ਉਦਯੋਗ ਨੂੰ ਕਿਸੇ ਵੀ ਫਰੰਟੀਅਰ ਮਾਡਲ ਦੇ ਜਨਤਕ ਖੇਤਰ ਵਿੱਚ ਆਉਣ ਤੋਂ ਪਹਿਲਾਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਖ਼ਤ, ਮਿਆਰੀ ਸੁਰੱਖਿਆ ਮਾਪਦੰਡ ਅਪਣਾਉਣ ਲਈ ਮਜਬੂਰ ਕਰ ਸਕਦਾ ਹੈ।

ਮੁੱਖ ਨੁਕਤੇ

• ਨਿਯਮਕ ਦਖਲਅੰਦਾਜ਼ੀ: Amazon ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਉਹਨਾਂ ਦੇ ਸੁਰੱਖਿਆ ਗਾਰਡਰੇਲਜ਼ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਦੀਆਂ ਰਿਪੋਰਟਾਂ ਤੋਂ ਬਾਅਦ, ਅਮਰੀਕੀ ਸਰਕਾਰ ਨੇ Anthropic ਦੇ Fable 5 ਅਤੇ Mythos 5 ਮਾਡਲਾਂ ਦੀ ਰਿਲੀਜ਼ ਨੂੰ ਰੋਕ ਦਿੱਤਾ।
• ਪ੍ਰਣਾਲੀਗਤ ਕਮਜ਼ੋਰੀ: Anthropic ਅਤੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਦਾ ਤਰਕ ਹੈ ਕਿ ਪਛਾਣੇ ਗਏ ਜੇਲਬ੍ਰੇਕਸ ਪੂਰੇ ਉਦਯੋਗ ਦੀ ਇੱਕ ਸਮੱਸਿਆ ਹਨ, ਨਾ ਕਿ ਸਿਰਫ਼ ਉਹਨਾਂ ਦੇ ਖਾਸ ਮਾਡਲਾਂ ਦੀ ਕੋਈ ਖਾਮੀ।
• AI ਸ਼ਾਸਨ ਲਈ ਨਜ਼ੀਰ: ਇਹ ਪਾਬੰਦੀ ਇਸ ਬਾਰੇ ਗੰਭੀਰ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰਦੀ ਹੈ ਕਿ ਸਰਕਾਰ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਅਤੇ AI ਨਵੀਨਤਾ ਅਤੇ ਵਿਕਾਸ ਦੀ ਤੇਜ਼ ਰਫ਼ਤਾਰ ਵਿਚਕਾਰ ਸੰਤੁਲਨ ਕਿਵੇਂ ਬਣਾਏਗੀ।