Arcee CTO ਨੇ ਚੀਨੀ Open-Weight AI ਮਾਡਲਾਂ ਬਾਰੇ ਡਰਾਂ ਨੂੰ ਚੁਣੌਤੀ ਦਿੱਤੀ

ਜਿਵੇਂ-ਜਿਵੇਂ Alibaba ਦੇ Qwen ਅਤੇ Moonshot AI ਦੇ Kimi K3 ਵਰਗੇ ਚੀਨੀ open-weight ਮਾਡਲ ਬਹੁਤ ਮਕਬੂਲ ਹੋ ਰਹੇ ਹਨ, ਉਹਨਾਂ ਦੇ ਸੁਰੱਖਿਆ ਪ੍ਰਭਾਵਾਂ ਨੂੰ ਲੈ ਕੇ ਇੱਕ ਗਰਮਾ-ਗਰਮ ਬਹਿਸ ਸ਼ੁਰੂ ਹੋ ਗਈ ਹੈ। ਜਦੋਂ ਕਿ ਕੁਝ ਲੋਕਾਂ ਨੂੰ ਡਰ ਹੈ ਕਿ ਇਹ ਮਾਡਲ ਸਾਈਬਰ ਹਮਲਿਆਂ ਲਈ ਇੱਕ ਸਾਧਨ ਵਜੋਂ ਕੰਮ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਅਮਰੀਕੀ ਸਰਕਾਰ ਦੁਆਰਾ ਪਾਬੰਦੀ ਲਗਾਈ ਜਾ ਸਕਦੀ ਹੈ, ਮਾਹਰ ਇਸ ਵਿਚਾਰ ਦਾ ਵਿਰੋਧ ਕਰ ਰਹੇ ਹਨ ਕਿ ਉਹ ਮੂਲ ਰੂਪ ਵਿੱਚ ਖ਼ਤਰਨਾਕ ਹਨ।

"ਦੁਰਭਾਵਨਾ" (Malicious Intent) ਦੇ ਬਿਰਤਾਂਤ ਦਾ ਖੰਡਨ

ਆਲੋਚਕਾਂ ਦੁਆਰਾ ਦੱਸਿਆ ਗਿਆ ਮੁੱਖ ਚਿੰਤਾ ਦਾ ਵਿਸ਼ਾ ਇਹ ਹੈ ਕਿ ਚੀਨ ਵਿੱਚ ਵਿਕਸਤ ਕੀਤੇ ਗਏ ਮਾਡਲਾਂ ਵਿੱਚ "ਛੁਪੇ ਹੋਏ ਇਰਾਦੇ" ਜਾਂ ਬੁਰੇ ਸਾਧਨਾਂ ਦੁਆਰਾ ਕੋਡ ਕੀਤੇ ਗਏ ਬੈਕਡੋਰ (backdoors) ਹੋ ਸਕਦੇ ਹਨ। ਹਾਲਾਂਕਿ, ਅਮਰੀਕਾ ਸਥਿਤ AI ਲੈਬ Arcee ਦੇ CTO, Lucas Atkins ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਗਲਤਫਹਿਮੀ ਮੂਲ ਰੂਪ ਵਿੱਚ ਇਸ ਗੱਲ ਨੂੰ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਪੇਸ਼ ਕਰਦੀ ਹੈ ਕਿ Large Language Models (LLMs) ਕਿਵੇਂ ਕੰਮ ਕਰਦੇ ਹਨ।

ਰਵਾਇਤੀ ਸਾਫਟਵੇਅਰ ਦੇ ਉਲਟ, ਜਿੱਥੇ ਇੱਕ ਡਿਵੈਲਪਰ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਇੱਕ ਖਾਸ ਦੁਰਭਾਵਨਾ ਵਾਲੀ ਕਮਾਂਡ ਕੋਡ ਕਰ ਸਕਦਾ ਹੈ, LLMs ਟ੍ਰੇਨਿੰਗ ਪ੍ਰਕਿਰਿਆਵਾਂ ਦੇ ਉਤਪਾਦ ਹਨ। Atkins ਦੱਸਦੇ ਹਨ ਕਿ ਇੱਕ ਵਾਰ ਜਦੋਂ ਕੋਈ open-weight ਮਾਡਲ ਡਾਊਨਲੋਡ ਕਰ ਲਿਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਇੱਕ ਨਿੱਜੀ, ਸਥਾਨਕ ਵਾਤਾਵਰਣ ਵਿੱਚ ਚਲਾਇਆ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਅਸਲ ਡਿਵੈਲਪਰ ਕੋਲ ਉਸ ਇੰਸਟੈਂਸ (instance) ਤੱਕ ਪਹੁੰਚ ਕਰਨ ਜਾਂ ਉਸ ਨੂੰ ਕੰਟਰੋਲ ਕਰਨ ਦਾ ਕੋਈ ਤਰੀਕਾ ਨਹੀਂ ਹੁੰਦਾ। ਮਾਡਲ ਵੇਟਸ (weights) ਅਤੇ ਉਪਭੋਗਤਾ ਦੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿਚਕਾਰ ਇਹ ਵੱਖਰੇਵੇਂ ਸੁਰੱਖਿਆ ਦੀ ਇੱਕ ਅਹਿਮ ਪਰਤ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ ਜੋ ਰਵਾਇਤੀ ਸਾਫਟਵੇਅਰ ਵਿੱਚ ਨਹੀਂ ਹੁੰਦੀ।

ਮਾਡਲ ਸੁਰੱਖਿਆ ਦੀ ਤਕਨੀਕੀ ਅਸਲੀਅਤ

ਜਦੋਂ ਕਿ ਬਹਿਸ ਜਾਰੀ ਹੈ, ਤਕਨੀਕੀ ਭਾਈਚਾਰਾ ਇਸ ਗੱਲ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦਾ ਹੈ ਕਿ "ਚੋਰੀ-ਛਿਪੇ" AI ਵਿਵਹਾਰ ਦੇ ਜੋਖਮ ਬਹੁਤ ਘੱਟ ਹਨ। ਇੱਕ ਸਿਧਾਂਤਕ ਚਿੰਤਾ ਇਹ ਹੈ ਕਿ ਕੀ ਕੋਡਿੰਗ ਮਾਡਲ ਨੂੰ ਖਾਸ ਕੋਡਬੇਸਾਂ ਵਿੱਚ ਮਾਲਵੇਅਰ (malware) ਇੰਜੈਕਟ ਕਰਨ ਲਈ ਟ੍ਰੇਨ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਹਾਲਾਂਕਿ Atkins ਮੰਨਦੇ ਹਨ ਕਿ ਇਹ ਸਿਧਾਂਤਕ ਤੌਰ 'ਤੇ ਸੰਭਵ ਹੈ, ਪਰ ਉਹ ਨੋਟ ਕਰਦੇ ਹਨ ਕਿ ਇਸ ਲਈ ਇੰਜੀਨੀਅਰਿੰਗ ਦੇ ਅਜਿਹੇ "ਔਖੇ ਕਾਰਨਾਮਿਆਂ" ਦੀ ਲੋੜ ਹੋਵੇਗੀ ਜੋ ਵਰਤਮਾਨ ਵਿੱਚ ਅਵਿਵਹਾਰਕ ਹਨ।

ਇਸ ਤੋਂ ਇਲਾਵਾ, LLMs ਦਾ ਸੁਭਾਅ ਸੰਭਾਵਨਾਤਮਕ (probabilistic) ਅਤੇ ਰਚਨਾਤਮਕ ਹੈ, ਜਿਸ ਕਾਰਨ ਇੱਕ ਖਾਸ ਦੁਰਭਾਵਨਾ ਵਾਲਾ ਜਵਾਬ ਦੇਣ ਲਈ ਲੋੜੀਂਦੀ "ਪਰਫੈਕਟ ਸਟੋਰਮ" (perfect storm) ਦੀ ਸਥਿਤੀ ਬਹੁਤ ਘੱਟ ਸੰਭਵ ਹੈ। ਉਦਯੋਗਾਂ (enterprises) ਲਈ, ਸੁਰੱਖਿਆ ਕਈ ਮਿਆਰੀ ਪਰਤਾਂ ਰਾਹੀਂ ਪ੍ਰਬੰਧਿਤ ਕੀਤੀ ਜਾਂਦੀ ਹੈ:

• ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ: ਵੱਡੀਆਂ ਸੰਸਥਾਵਾਂ ਮਾਡਲ ਕੋਰ ਨੂੰ ਸਖ਼ਤ ਨਿਰੀਖਣ ਪ੍ਰਕਿਰਿਆਵਾਂ ਵਿੱਚੋਂ ਲੰਘਾਉਂਦੀਆਂ ਹਨ।
• ਪੋਸਟ-ਟ੍ਰੇਨਿੰਗ: ਕੰਪਨੀਆਂ ਖਾਸ ਕੰਮਾਂ ਲਈ ਮਾਡਲਾਂ ਨੂੰ ਫਾਈਨ-ਟਿਊਨ ਕਰਦੀਆਂ ਹਨ, ਜਿਸ ਨਾਲ ਉਹਨਾਂ ਨੂੰ ਪੱਖਪਾਤ (bias), ਜ਼ਹਿਰੀਲੇਪਣ (toxicity) ਅਤੇ ਭਰਮ (hallucinations) ਦੀ ਜਾਂਚ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਮਿਲਦੀ ਹੈ।
• ਮਾਡਲ ਐਗਨੌਸਟਿਜ਼ਿਜ਼ਮ (Model Agnosticism): ਆਧੁਨਿਕ AI ਆਰਕੀਟੈਕਚਰ ਵੱਧ ਤੋਂ ਵੱਧ ਮਾਡਲ-ਐਗਨੌਸਟਿਕ ਹੋ ਰਿਹਾ ਹੈ, ਜਿਸਦਾ ਮਤਲਬ ਹੈ ਕਿ ਉਦਯੋਗ ਆਪਣੇ ਪੂਰੇ ਸਟੈਕ ਨੂੰ ਮੁੜ-ਇੰਜੀਨੀਅਰ ਕੀਤੇ ਬਿਨਾਂ ਚੀਨੀ ਮਾਡਲਾਂ ਨੂੰ ਅਮਰੀਕੀ ਵਿਕਲਪਾਂ ਨਾਲ ਬਦਲ ਸਕਦੇ ਹਨ।

ਨਿਯਮਾਂ ਰਾਹੀਂ ਨਹੀਂ, ਸਗੋਂ ਨਵੀਨਤਾ ਰਾਹੀਂ ਮੁਕਾਬਲਾ

Arcee, ਜੋ ਅਮਰੀਕੀ ਕੰਪਨੀਆਂ ਨੂੰ ਘਰੇਲੂ ਵਿਕਲਪ ਪ੍ਰਦਾਨ ਕਰਨ ਲਈ open ਮਾਡਲ ਬਣਾਉਂਦੀ ਹੈ, ਆਪਣੇ ਆਪ ਨੂੰ ਇੱਕ ਵਿਲੱਖਣ ਸਥਿਤੀ ਵਿੱਚ ਪਾਉਂਦੀ ਹੈ। ਹਾਲਾਂਕਿ ਚੀਨੀ ਮਾਡਲਾਂ 'ਤੇ ਪਾਬੰਦੀ ਸਿਧਾਂਤਕ ਤੌਰ 'ਤੇ ਉਹਨਾਂ ਦੇ ਕਾਰੋਬਾਰ ਨੂੰ ਲਾਭ ਪਹੁੰਚਾਏਗੀ, ਪਰ Atkins ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਧਿਆਨ ਪਾਬੰਦੀ ਤੋਂ ਹਟ ਕੇ ਇੱਕ ਮਜ਼ਬੂਤ ਘਰੇਲੂ ਈਕੋਸਿਸਟਮ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨ ਵੱਲ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ।

ਦਿਲਚਸਪ ਗੱਲ ਇਹ ਹੈ ਕਿ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਵਾਲੇ ਚੀਨੀ ਮਾਡਲਾਂ ਦਾ ਉਭਾਰ ਅਸਲ ਵਿੱਚ ਪੱਛਮ ਵਿੱਚ ਨਵੀਨਤਾ ਨੂੰ ਤੇਜ਼ ਕਰਦਾ ਹੈ। Arcee ਇਹਨਾਂ open-weight ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਉਹਨਾਂ ਦੇ ਆਰਕੀਟੈਕਚਰ ਅਤੇ ਸਮਰੱਥਾਵਾਂ ਤੋਂ ਸਿੱਖਣ ਲਈ ਕਰਦੀ ਹੈ, ਜੋ ਲਗਾਤਾਰ ਸੁਧਾਰ ਦੇ ਚੱਕਰ ਨੂੰ ਚਲਾਉਂਦੀ ਹੈ। Atkins ਦੇ ਅਨੁਸਾਰ, ਅਮਰੀਕੀ ਲੈਬਾਂ ਲਈ ਮੁਕਾਬਲਾ ਕਰਨ ਦਾ ਅੰਤਿਮ ਤਰੀਕਾ ਨੀਤੀ ਰਾਹੀਂ ਨਹੀਂ, ਸਗੋਂ ਪ੍ਰਦਰਸ਼ਨ ਰਾਹੀਂ ਹੈ: "ਚੀਨੀ ਮਾਡਲਾਂ ਨਾਲ ਮੁਕਾਬਲਾ ਕਰਨ ਦਾ ਤਰੀਕਾ ਇੱਕ ਅਜਿਹਾ ਮਾਡਲ ਰਿਲੀਜ਼ ਕਰਨਾ ਹੈ ਜੋ ਬਿਹਤਰ ਹੋਵੇ।"

ਮੁੱਖ ਗੱਲਾਂ

• ਅਲਗਥੋਂ ਸੁਰੱਖਿਆ (Security through Isolation): ਇੱਕ ਵਾਰ ਜਦੋਂ open-weight ਮਾਡਲ ਇੱਕ ਨਿੱਜੀ ਡਾਟਾ ਸੈਂਟਰ ਵਿੱਚ ਤੈਨਾਤ ਕੀਤੇ ਜਾਂਦੇ ਹਨ, ਤਾਂ ਅਸਲ ਡਿਵੈਲਪਰਾਂ ਕੋਲ ਸਥਾਨਕ ਵਾਤਾਵਰਣ ਤੱਕ ਪਹੁੰਚ ਕਰਨ ਜਾਂ ਉਸ ਵਿੱਚ ਹੇਰਾਫੇਰੀ ਕਰਨ ਦਾ ਕੋਈ ਤਰੀਕਾ ਨਹੀਂ ਹੁੰਦਾ।
• ਸਿਧਾਂਤਕ ਬਨਾਮ ਵਿਵਹਾਰਕ ਜੋਖਮ: ਹਾਲਾਂਕਿ ਦੁਰਭਾਵਨਾ ਵਾਲੇ ਕੋਡ ਇੰਜੈਕਸ਼ਨ ਲਈ "ਛੁਪੀ ਹੋਈ ਟ੍ਰੇਨਿੰਗ" ਸਿਧਾਂਤਕ ਤੌਰ 'ਤੇ ਸੰਭਵ ਹੈ, ਪਰ ਇਹ ਮੌਜੂਦਾ LLM ਆਰਕੀਟੈਕਚਰ ਵਿੱਚ ਇੱਕ ਬਹੁਤ ਹੀ ਗੁੰਝਲਦਾਰ ਅਤੇ ਅਸੰਭਵ ਕਾਰਨਾਮਾ ਬਣਿਆ ਹੋਇਆ ਹੈ।
• ਮੁਕਾਬਲੇ ਰਾਹੀਂ ਨਵੀਨਤਾ: ਪਾਬੰਦੀਆਂ ਲਗਾਉਣ ਦੀ ਬਜਾਏ, ਅਮਰੀਕੀ AI ਖੇਤਰ ਚੀਨ ਦੇ ਉੱਚ-ਪ੍ਰਦਰਸ਼ਨ ਵਾਲੇ open-weight ਮਾਡਲਾਂ ਦੁਆਰਾ ਪ੍ਰਦਾਨ ਕੀਤੇ ਗਏ ਮੁਕਾਬਲੇ ਦੇ ਦਬਾਅ ਅਤੇ ਸਾਂਝੇ ਗਿਆਨ ਤੋਂ ਲਾਭ ਉਠਾ ਸਕਦਾ ਹੈ।