ਅਮਰੀਕੀ ਸਰਕਾਰ ਬਨਾਮ Anthropic: ਅਨਹੈਕਯਾਬ LLMs ਲਈ ਅਸੰਭਵ ਮੰਗ

Fable 5 ਮਾਡਲ ਦੀ ਰਿਲੀਜ਼ ਤੋਂ ਬਾਅਦ ਅਮਰੀਕੀ ਸਰਕਾਰ ਅਤੇ Anthropic ਵਿਚਕਾਰ ਇੱਕ ਵਧਦਾ ਹੋਇਆ ਵਿਰੋਧ ਸਾਹਮਣੇ ਆਇਆ ਹੈ, ਜਿਸ ਨਾਲ AI ਸੁਰੱਖਿਆ ਅਤੇ ਰੈਗੂਲੇਟਰੀ ਨਿਗਰਾਨੀ ਬਾਰੇ ਬਹਿਸ ਛਿੜ ਗਈ ਹੈ। ਜਦੋਂ ਅਧਿਕਾਰੀ AI ਲੈਬ 'ਤੇ ਕਾਰਜਕਾਰੀ ਹੁਕਮਾਂ (executive orders) ਦੀ ਉਲੰਘਣਾ ਕਰਨ ਦਾ ਦੋਸ਼ ਲਗਾ ਰਹੇ ਹਨ, ਤਾਂ ਇੱਕ ਡੂੰਘਾ ਤਕਨੀਕੀ ਤਣਾਅ ਵੀ ਉਭਰ ਰਿਹਾ ਹੈ: ਸਰਕਾਰ ਵੱਲੋਂ "ਅਨਹੈਕਯਾਬ" ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਦੀ ਮੰਗ।

Fable 5 ਅਤੇ ਸਾਈਬਰ ਡਾਇਰੈਕਟਿਵਜ਼ ਬਾਰੇ ਟਕਰਾਅ

ਇਹ ਤਣਾਅ Anthropic ਦੇ ਆਪਣੇ ਨਵੇਂ ਮਾਡਲ, Fable 5 ਨੂੰ ਉਸ ਸਮੇਂ ਰਿਲੀਜ਼ ਕਰਨ ਦੇ ਫੈਸਲੇ ਤੋਂ ਪੈਦਾ ਹੋਇਆ ਹੈ, ਜਦੋਂ ਇੱਕ ਨਿਰਧਾਰਤ ਸਰਕਾਰੀ ਕਲੀਅਰਿੰਗਹਾਊਸ—ਜਿਸ ਨੂੰ ਹਾਲ ਹੀ ਵਿੱਚ ਟਰੰਪ ਪ੍ਰਸ਼ਾਸਨ ਦੇ ਇੱਕ ਸਾਈਬਰ ਕਾਰਜਕਾਰੀ ਹੁਕਮ ਦੁਆਰਾ ਲਾਗੂ ਕੀਤਾ ਗਿਆ ਸੀ—ਪੂਰੀ ਤਰ੍ਹਾਂ ਕਾਰਜਸ਼ੀਲ ਨਹੀਂ ਸੀ। ਹਾਲਾਂਕਿ ਇਸ ਹੁਕਮ ਵਿੱਚ ਸਵੈ-ਇੱਛਤ ਨਿਗਰਾਨੀ ਦੀ ਮੰਗ ਕੀਤੀ ਗਈ ਸੀ, ਪਰ ਸਰਕਾਰੀ ਅਧਿਕਾਰੀਆਂ ਦਾ ਦਾਅਵਾ ਹੈ ਕਿ Anthropic ਨੇ ਇਸ ਡਾਇਰੈਕਟਿਵ ਦੀ ਭਾਵਨਾ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕੀਤਾ, ਜਿਸ ਨਾਲ ਕੰਪਨੀ 'ਤੇ "ਬੁਰੇ ਇਰਾਦੇ ਵਾਲੇ ਕਾਰਜਕਰਤਾ" (bad actor) ਹੋਣ ਦੇ ਦੋਸ਼ ਲੱਗੇ ਹਨ।

ਵਪਾਰ ਵਿਭਾਗ (Department of Commerce), CIA, ਅਤੇ ਵਿਗਿਆਨ ਸਲਾਹਕਾਰ ਮਾਈਕਲ ਕ੍ਰੈਟਸਿਓਸ ਨਾਲ ਜੁੜੀਆਂ ਮੌਜੂਦਾ ਚਰਚਾਵਾਂ ਇੱਕ ਵੱਡੇ ਸੰਚਾਰ ਪਾੜੇ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀਆਂ ਹਨ। ਅਧਿਕਾਰੀਆਂ ਨੇ ਚਿੰਤਾ ਪ੍ਰਗਟਾਈ ਹੈ ਕਿ Anthropic ਨੂੰ "ਜੇਲਬ੍ਰੇਕ" (jailbreak) ਦੇ ਜੋਖਮ ਬਾਰੇ ਪਤਾ ਹੋਣ ਦੇ ਬਾਵਜੂਦ ਵੀ ਕਾਰਵਾਈ ਕੀਤੀ ਗਈ—ਜੋ ਕਿ ਅਨੁਸਾਰ Amazon ਅਤੇ ਹੋਰ ਤਕਨੀਕੀ ਉਦਯੋਗ ਦੇ ਭਾਈਵਾਲਾਂ ਦੁਆਰਾ ਦਿੱਤੀ ਗਈ ਇੱਕ ਸੂਚਨਾ ਸੀ। ਹਾਲਾਂਕਿ, ਇਹ ਟਕਰਾਅ ਤਕਨੀਕੀ ਸੁਰੱਖਿਆ ਦੇ ਨਾਲ-ਨਾਲ ਰੈਗੂਲੇਟਰੀ ਸਮੇਂ (regulatory timing) ਬਾਰੇ ਵੀ ਜਾਪਦਾ ਹੈ।

ਤਕਨੀਕੀ ਹਕੀਕਤ: ਕੀ LLMs ਕਦੇ ਵੀ ਅਨਹੈਕਯਾਬ ਹੋ ਸਕਦੇ ਹਨ?

ਸਰਕਾਰ ਦੀ ਆਲੋਚਨਾ ਦਾ ਮੁੱਖ ਨੁਕਤਾ—ਕਿ Anthropic ਨੇ ਸੰਭਾਵੀ ਜੇਲਬ੍ਰੇਕ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਕੇ "ਗਲਤ ਰਸਤਾ ਚੁਣਿਆ"—Large Language Model (LLM) ਆਰਕੀਟੈਕਚਰ ਦੀ ਇੱਕ ਬੁਨਿਆਦੀ ਹਕੀਕਤ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦਾ ਹੈ। AI ਉਦਯੋਗ ਵਿੱਚ, ਸਹਿਮਤੀ ਇਹ ਹੈ ਕਿ ਮੌਜੂਦਾ ਸਮੇਂ ਵਿੱਚ ਪੂਰਨ ਸੁਰੱਖਿਆ ਇੱਕ ਅਸੰਭਵ ਚੀਜ਼ ਹੈ। ਇੱਥੋਂ ਤੱਕ ਕਿ OpenAI ਨੇ ਵੀ ਮੰਨਿਆ ਹੈ ਕਿ ਪ੍ਰੋਂਪਟ ਇੰਜੈਕਸ਼ਨ (prompt injection) ਵਰਗੀਆਂ ਕਮੀਆਂ ਨੂੰ ਸ਼ਾਇਦ ਕਦੇ ਵੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਹੱਲ ਨਾ ਕੀਤਾ ਜਾ ਸਕੇ।

Anthropic ਦੇ CEO ਡਾਰੀਓ ਅਮੋਡੀ ਨੇ ਪਹਿਲਾਂ ਹੀ ਨੋਟ ਕੀਤਾ ਹੈ ਕਿ ਹਾਲਾਂਕਿ ਬਾਇਓਲੋਜੀ ਜਾਂ ਤਕਨਾਲੋਜੀ ਵਰਗੇ ਸੰਵੇਦਨਸ਼ੀਲ ਖੇਤਰਾਂ ਵਿੱਚ ਜੇਲਬ੍ਰੇਕ "ਜੀਵਨ ਜਾਂ ਮੌਤ" ਦਾ ਕਾਰਨ ਬਣ ਸਕਦਾ ਹੈ, ਪਰ ਉਦਯੋਗ ਅਜੇ ਵੀ ਇਹ ਸਮਝਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਰਿਹਾ ਹੈ ਕਿ ਇਹਨਾਂ ਜੋਖਮਾਂ ਨੂੰ ਕਿਵੇਂ ਘਟਾਇਆ ਜਾਵੇ। ਅੰਤਰਰਾਸ਼ਟਰੀ ਸ਼ਿਪਿੰਗ ਤੋਂ ਪਹਿਲਾਂ ਮਾਡਲਾਂ ਨੂੰ ਲਗਭਗ ਅਨਹੈਕਯਾਬ ਹੋਣ ਦੀ ਮੰਗ ਕਰਕੇ, ਅਮਰੀਕੀ ਸਰਕਾਰ ਇੱਕ ਅਜਿਹੀ ਮਿਸਾਲ ਪੈਦਾ ਕਰ ਰਹੀ ਹੋ ਸਕਦੀ ਹੈ ਜੋ ਨਵੀਨਤਾ (innovation) ਨੂੰ ਰੋਕ ਦੇਵੇ, ਕਿਉਂਕਿ ਕਿਸੇ ਵੀ ਫਰੰਟੀਅਰ ਮਾਡਲ (GPT-5.5 ਜਾਂ Kimi 2.7 ਸਮੇਤ) ਕੋਲ ਸੰਪੂਰਨ ਸੁਰੱਖਿਆ ਢਾਲ ਨਹੀਂ ਹੈ।

ਉਦਯੋਗ ਦਾ ਵਿਰੋਧ ਅਤੇ ਐਕਸਪੋਰਟ ਕੰਟਰੋਲ ਬਹਿਸ

ਵਧਦੇ ਤਣਾਅ ਦੇ ਜਵਾਬ ਵਿੱਚ, 100 ਤੋਂ ਵੱਧ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਅਤੇ ਕਾਰਜਕਾਰੀ ਅਧਿਕਾਰੀਆਂ—ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਐਲੈਕਸ ਸਟਾਮੋਸ ਅਤੇ ਰੇਚਲ ਟੋਬੈਕ ਵਰਗੇ ਉਦਯੋਗ ਦੇ ਤਜ਼ਰਬੇਕਾਰ ਮਾਹਰ ਸ਼ਾਮਲ ਹਨ—ਨੇ ਵਪਾਰ ਸਕੱਤਰ ਲੁਟਨਿਕ ਅਤੇ ਰਾਸ਼ਟਰੀ ਸਾਈਬਰ ਡਾਇਰੈਕਟਰ ਕੈਰਨਕਰੌਸ ਨੂੰ ਇੱਕ ਖੁੱਲ੍ਹਾ ਪੱਤਰ ਜਾਰੀ ਕੀਤਾ ਹੈ। ਉਹ Anthropic ਦੇ Fable ਅਤੇ Mythos ਮਾਡਲਾਂ 'ਤੇ ਨਿਰਯਾਤ ਨਿਯੰਤਰਣਾਂ ਨੂੰ ਹਟਾਉਣ ਦੀ ਮੰਗ ਕਰ ਰਹੇ ਹਨ।

ਮਾਹਰਾਂ ਦਾ ਤਰਕ ਹੈ ਕਿ ਹਾਲਾਂਕਿ Fable ਸਾਫਟਵੇਅਰ ਦੀਆਂ ਖਾਮੀਆਂ ਦੀ ਪਛਾਣ ਕਰਨ ਵਿੱਚ ਬਹੁਤ ਸਮਰੱਥ ਹੈ, ਪਰ ਇਹ Opus ਜਾਂ Sonnet ਵਰਗੇ ਹੋਰ ਮਾਡਲਾਂ ਦੇ ਮੁਕਾਬਲੇ ਵਿਲੱਖਣ ਤੌਰ 'ਤੇ ਖ਼ਤਰਨਾਕ ਨਹੀਂ ਹੈ। ਮਹੱਤਵਪੂਰਨ ਗੱਲ ਇਹ ਹੈ ਕਿ ਉਹ ਚੇਤਾਵਨੀ ਦਿੰਦੇ ਹਨ ਕਿ ਸਖ਼ਤ ਨਿਰਯਾਤ ਨਿਯੰਤਰਣ ਅਸਲ ਵਿੱਚ ਪੱਛਮੀ ਰੱਖਿਆਕਰਤਾਵਾਂ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰ ਰਹੇ ਹਨ। ਉੱਚ-ਪੱਧਰੀ ਅਮਰੀਕੀ ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਨੂੰ ਸੀਮਤ ਕਰਕੇ, ਸਰਕਾਰ ਅਣਜਾਣੇ ਵਿੱਚ ਚੀਨੀ open-weight ਮਾਡਲਾਂ ਨੂੰ ਫਾਇਦਾ ਪਹੁੰਚਾ ਸਕਦੀ ਹੈ, ਜੋ ਕਿ ਅစီਖਲਾਈ ਅਨੁਸਾਰ ਅਗਲੇਰੀ ਅਮਰੀਕੀ ਫਰੰਟੀਅਰ ਮਾਡਲਾਂ ਤੋਂ ਸਿਰਫ਼ ਕੁਝ ਮਹੀਨੇ ਹੀ ਪਿੱਛੇ ਹਨ।

ਮੁੱਖ ਨੁਕਤੇ