ਕਿਵੇਂ ਅੱਤਵਾਦੀ ਸਮੂਹ ਹਥਿਆਰਾਂ ਅਤੇ ਯੋਜਨਾਬੰਦੀ ਲਈ LLMs ਦਾ ਫਾਇਦਾ ਉਠਾ ਰਹੇ ਹਨ

Large Language Models (LLMs) ਦੇ ਤੇਜ਼ੀ ਨਾਲ ਵਧਦੇ ਪ੍ਰਚਲਨ ਨੇ ਮਨੁੱਖਤਾ ਲਈ ਬਹੁਤ ਸਾਰੇ ਲਾਭ ਲਿਆਂਦੇ ਹਨ, ਪਰ ਇੱਕ ਡਰਾਉਣੀ ਨਵੀਂ ਖੋਜ ਇਸ ਤਕਨੀਕੀ ਉਛਾਲ ਦਾ ਇੱਕ ਹਨੇਰਾ ਪੱਖ ਪ੍ਰਗਟ ਕਰਦੀ ਹੈ। ਅੱਤਵਾਦੀ ਸੰਗਠਨ ਹੁਣ ਆਪਣੀਆਂ ਕਾਰਜਸ਼ੀਲ ਸਮਰੱਥਾਵਾਂ ਨੂੰ ਵਧਾਉਣ ਲਈ ਮੁੱਖਧਾਰਾ AI ਟੂਲਸ ਨੂੰ ਹਥਿਆਰ ਵਜੋਂ ਵਰਤ ਰਹੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਰਣਨੀਤਕ ਸਿਖਲਾਈ ਤੋਂ ਲੈ ਕੇ ਵਿਸਫੋਟਕਾਂ ਦੇ ਵਿਕਾਸ ਤੱਕ ਸ਼ਾਮਲ ਹੈ।

ਜੇਲਬ੍ਰੇਕਿੰਗ ਤੋਂ ਲੈ ਕੇ ਸਮਰਪਿਤ AI ਯੂਨਿਟਾਂ ਤੱਕ

Cambridge Programme on AI Science & Policy (CASP) ਦੀ ਖੋਜਕਰਤਾ ਐਂਟੋਨੀਆ ਜੂਲਿਚ (Antonia Jülich) ਦੇ ਇੱਕ ਨਵੇਂ ਅਧਿਐਨ ਨੇ ਅੱਤਵਾਦੀ ਸਮੂਹਾਂ ਦੇ ਅੰਦਰ AI ਦੀ ਵਰਤੋਂ ਦੇ ਇੱਕ ਗੁੰਝਲਦਾਰ ਪੱਧਰ ਦਾ ਖੁਲਾਸਾ ਕੀਤਾ ਹੈ। 27 ਸਾਬਕਾ ਮੈਂਬਰਾਂ ਨਾਲ 57 ਇੰਟਰਵਿਊਆਂ ਰਾਹੀਂ, ਖੋਜ ਦੱਸਦੀ ਹੈ ਕਿ ISIS 2023 ਤੋਂ prompt engineering ਅਤੇ jailbreak ਸਿਖਲਾਈ ਦੇ ਰਿਹਾ ਹੈ। ਇਹ ਸਿਰਫ਼ ਆਮ ਵਰਤੋਂ ਨਹੀਂ ਹੈ; ISIS ਦੇ ਸੰਪਰਕ ਅਧਿਕਾਰੀਆਂ ਨੇ ਕਮਾਂਡਰਾਂ ਨੂੰ ਉਦਯੋਗ ਦੇ ਮੋਹਰੀ ਮਾਡਲਾਂ ਦੇ ਸੁਰੱਖਿਆ ਫਿਲਟਰਾਂ ਨੂੰ ਕਿਵੇਂ ਬਾਈਪਾਸ ਕਰਨਾ ਹੈ, ਇਸ ਬਾਰੇ ਸਰਗਰਮੀ ਨਾਲ ਸਿਖਲਾਈ ਦਿੱਤੀ ਹੈ।

ਸਭ ਤੋਂ ਚਿੰਤਾਜਨਕ ਗੱਲ ਇਹ ਹੈ ਕਿ ਬੋਕੋ ਹਰਮ (Boko Haram) ਨੇ ਕਦੇ-ਕਦੇ ਵਰਤੋਂ ਤੋਂ ਹੁਣ ਇਸ ਨੂੰ ਸੰਸਥਾਗਤ ਰੂਪ ਵਿੱਚ ਸ਼ਾਮਲ ਕਰ ਲਿਆ ਹੈ। ਰਿਪੋਰਟਾਂ ਅਨੁਸਾਰ ਸਮੂਹ ਦੇ ਦੋਵਾਂ ਮੁੱਖ ਗੁੱਟਾਂ ਨੇ ਸਮਰਪਿਤ AI ਯੂਨਿਟਾਂ ਦੀ ਸਥਾਪਨਾ ਕੀਤੀ ਹੈ। ਜੂਲਿਚ ਦੇ ਅਨੁਸਾਰ, ਇਹ ਸਮੂਹ AI ਸਿਖਲਾਈ ਨੂੰ ਉੱਚ ਤਰਜੀਹ ਦਿੰਦੇ ਹਨ, ਅਤੇ ਇਹ ਦਿਖਾਉਣ ਲਈ ਕਿ ਇਹਨਾਂ ਸ਼ਕਤੀਸ਼ਾਲੀ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਿਵੇਂ ਕਰਨੀ ਹੈ, ਪ੍ਰੋਜੈਕਟਰਾਂ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹੋਏ ਵਿਸ਼ੇਸ਼ ਸੈਸ਼ਨਾਂ ਵਿੱਚ ਆਪਣੇ "ਉੱਚ ਅਧਿਕਾਰੀਆਂ" ਨੂੰ ਇਕੱਠਾ ਕਰਦੇ ਹਨ।

ਰਣਨੀਤਕ ਲਾਭ ਲਈ ਪ੍ਰਮੁੱਖ ਚੈਟਬੋਟਸ ਦਾ ਫਾਇਦਾ ਉਠਾਉਣਾ

ਅਧਿਐਨ ਇਸ ਗੱਲ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦਾ ਹੈ ਕਿ ਕੋਈ ਵੀ ਪ੍ਰਮੁੱਖ AI ਕੰਪਨੀ ਇਸ ਦੁਰਵਰਤੋਂ ਤੋਂ ਬਚ ਨਹੀਂ ਸਕਦੀ। ਅੱਤਵਾਦੀ ਗੁੱਟ ChatGPT, Claude, Gemini, Grok, Meta AI, ਅਤੇ DeepSeek ਸਮੇਤ ਕਈ ਪ੍ਰਸਿੱਧ ਚੈਟਬੋਟਸ ਦੀ ਵਰਤੋਂ ਕਰ ਰਹੇ ਹਨ। ਇਹਨਾਂ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਕਈ ਮਹੱਤਵਪੂਰਨ—ਅਤੇ ਖ਼ਤਰਨਾਕ—ਕਾਰਜਾਂ ਲਈ ਕੀਤੀ ਜਾ ਰਹੀ ਹੈ:

• ਹਮਲੇ ਦੀ ਯੋਜਨਾਬੰਦੀ: ਬਗਾਵਤੀ ਕਾਰਵਾਈਆਂ ਦੇ ਲੌਜਿਸਟਿਕਸ ਅਤੇ ਸਮੇਂ ਨੂੰ ਸੁਚਾਰੂ ਬਣਾਉਣਾ।
• ਹਥਿਆਰਾਂ ਦਾ ਵਿਕਾਸ: ਵਧੇਰੇ ਸ਼ਕਤੀਸ਼ਾਲੀ ਵਿਸਫੋਟਕ ਯੰਤਰ ਬਣਾਉਣ ਬਾਰੇ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ LLMs ਦੀ ਵਰਤੋਂ ਕਰਨਾ।
• ਕਾਰਜਸ਼ੀਲ ਸੁਰੱਖਿਆ: ਗਤੀਵਿਧੀਆਂ ਨੂੰ ਛੁਪਾਉਣ ਅਤੇ ਸੰਚਾਰ ਸੁਰੱਖਿਆ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕਰਨਾ।
• ਰਣਨੀਤਕ ਸਿਖਲਾਈ: ਇੱਕ ਅਤਿਅੰਤ ਮਾਮਲੇ ਵਿੱਚ, ISWAP ਗੁੱਟ ਨੇ ਲੜਾਈ ਦੀਆਂ ਖਾਈਆਂ ਨੂੰ ਪਾਰ ਕਰਨ ਲਈ ਸਿਨੇਮਾ ਤੋਂ ਮੋਟਰਸਾਈਕਲ ਜੰਪਿੰਗ ਤਕਨੀਕਾਂ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨ ਅਤੇ ਉਹਨਾਂ ਦੀ ਨਕਲ ਕਰਨ ਲਈ AI ਦੀ ਵਰਤੋਂ ਕੀਤੀ।

ਸਵੈ-ਨਿਯਮਤ ਰੈਗੂਲੇਸ਼ਨ ਦੀ ਅਸਫਲਤਾ

ਇਹ ਨਤੀਜੇ OpenAI ਅਤੇ Anthropic ਵਰਗੀਆਂ AI ਲੈਬਾਂ ਦੀਆਂ ਲੰਬੇ ਸਮੇਂ ਤੋਂ ਦਿੱਤੀਆਂ ਜਾ ਰਹੀਆਂ ਚੇਤਾਵਨੀਆਂ ਦੀ ਇੱਕ ਭਿਆਨਕ ਪੁਸ਼ਟੀ ਕਰਦੇ ਹਨ। ਹਾਲਾਂਕਿ ਡਿਵੈਲਪਰਾਂ ਨੇ ਸਖ਼ਤ ਸੁਰੱਖਿਆ ਗਾਰਡਰੇਲ ਲਾਗੂ ਕੀਤੇ ਹਨ, ਖੋਜ ਸੁਝਾਅ ਦਿੰਦੀ ਹੈ ਕਿ ਸਵੈ-ਨਿਯਮਤ ਰੈਗੂਲੇਸ਼ਨ (voluntary self-regulation) ਬੁਰੇ ਅਨਸਰਾਂ ਦੀ ਰਫ਼ਤਾਰ ਨਾਲ ਚੱਲਣ ਵਿੱਚ ਅਸਫਲ ਰਹਿ ਰਿਹਾ ਹੈ।

LLMs ਦੀ ਪ੍ਰਕਿਰਤੀ ਪੂਰਨ ਸੁਰੱਖਿਆ ਨੂੰ ਲਗਭਗ ਅਸੰਭਵ ਬਣਾਉਂਦੀ ਹੈ; Anthropic ਨੇ ਹਾਲ ਹੀ ਵਿੱਚ ਮੰਨਿਆ ਹੈ ਕਿ jailbreaks ਨੂੰ ਸ਼ਾਇਦ ਕਦੇ ਵੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਖਤਮ ਨਹੀਂ ਕੀਤਾ ਜਾ ਸਕਦਾ। ਜਦੋਂ ਕਿ ChatGPT ਵਰਗੇ ਮੁੱਖਧਾਰਾ ਚੈਟਬੋਟਸ ਮੁੱਖ ਤੌਰ 'ਤੇ ਮੌਜੂਦਾ ਗਿਆਨ ਨੂੰ ਵਧੇਰੇ ਸੁਲਭ ਬਣਾਉਂਦੇ ਹਨ, ਅਸਲ ਹੋਂਦ ਦਾ ਖ਼ਤਰਾ ਵਿਸ਼ੇਸ਼ AI ਪ੍ਰਣਾਲੀਆਂ ਦੀ ਸੰਭਾਵੀ ਦੁਰਵਰਤੋਂ ਵਿੱਚ ਹੈ। ਖੋਜਕਰਤਾ ਚੇਤਾਵਨੀ ਦਿੰਦੇ ਹਨ ਕਿ ਹਾਲਾਂਕਿ ਮੌਜੂਦਾ ਵਰਤੋਂ "ਰਵਾਇਤੀ" ਹੈ, ਪਰ ਅਗਲਾ ਪੜਾਅ ਅੱਤਵਾਦੀਆਂ ਦੁਆਰਾ ਰਸਾਇਣਕ ਅਤੇ ਜੈਵਿਕ ਹਥਿਆਰਾਂ ਦੇ ਵਿਕਾਸ ਲਈ AI ਦੀ ਮਦਦ ਲੈਣਾ ਹੋ ਸਕਦਾ ਹੈ।

ਇਹ AI ਈਕੋਸਿਸਟਮ ਲਈ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਇਹ ਵਿਕਾਸ AI ਸੁਰੱਖਿਆ ਸੰਵਾਦ ਵਿੱਚ ਇੱਕ ਬਦਲਾਅ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ। ਇਹ ਹੁਣ ਸਿਰਫ਼ "hallucinations" ਜਾਂ ਪੱਖਪਾਤੀ ਆਉਟਪੁੱਟ ਨੂੰ ਰੋਕਣ ਬਾਰੇ ਨਹੀਂ ਹੈ; ਇਹ ਘਾਤਕ ਗਿਆਨ ਦੇ ਪ੍ਰਚਲਨ ਨੂੰ ਰੋਕਣ ਦੀ ਮੌਲਿਕ ਮੁਸ਼ਕਲ ਬਾਰੇ ਹੈ। ਜਿਵੇਂ-ਜਿਵੇਂ AI ਮਾਡਲ ਲਾਈਫ ਸਾਇੰਸ ਵਰਗੇ ਵਿਸ਼ੇਸ਼ ਖੇਤਰਾਂ ਵਿੱਚ ਵਧੇਰੇ ਸਮਰੱਥ ਹੋ ਰਹੇ ਹਨ, "ਸੁਲਭ ਜਾਣਕਾਰੀ" ਅਤੇ "ਕਾਰਜਸ਼ੀਲ ਹਥਿਆਰੀਕਰਨ" ਵਿਚਕਾਰਲੀ ਦੂਰੀ ਲਗਾਤਾਰ ਘਟ ਰਹੀ ਹੈ, ਜਿਸ ਲਈ ਬਹੁਤ ਜ਼ਿਆਦਾ ਮਜ਼ਬੂਤ ਅਤੇ ਸਰਗਰਮ ਸੁਰੱਖਿਆ ਆਰਕੀਟੈਕਚਰ ਦੀ ਲੋੜ ਹੈ।

ਮੁੱਖ ਨੁਕਤੇ

• ਸੰਸਥਾਗਤ ਦੁਰਵਰਤੋਂ: ਬੋਕੋ ਹਰਮ ਵਰਗੇ ਸਮੂਹ ਆਮ ਵਰਤੋਂ ਤੋਂ ਅੱਗੇ ਵਧ ਕੇ ਰਣਨੀਤਕ ਅਤੇ ਲੌਜਿਸਟਿਕ ਯੋਜਨਾਬੰਦੀ ਲਈ ਸਮਰਪਿਤ "AI ਯੂਨਿਟਾਂ" ਦਾ ਨਿਰਮਾਣ ਕਰ ਰਹੇ ਹਨ।
• ਸਰਵਵਿਆਪੀ ਕਮਜ਼ੋਰੀ: ChatGPT, Claude, Gemini, ਅਤੇ DeepSeek ਸਮੇਤ ਪ੍ਰਮੁੱਖ ਮਾਡਲਾਂ ਨੂੰ ਗੁੰਝਲਦਾਰ prompt engineering ਅਤੇ jailbreak ਸਿਖਲਾਈ ਰਾਹੀਂ ਬਾਈਪਾਸ ਕੀਤਾ ਜਾ ਰਿਹਾ ਹੈ।
• ਵਿਸ਼ੇਸ਼ਤਾ ਦਾ ਖ਼ਤਰਾ: ਹਾਲਾਂਕਿ ਮੌਜੂਦਾ ਦੁਰਵਰਤੋਂ ਯੋਜਨਾਬੰਦੀ ਅਤੇ ਵਿਸਫੋਟਕਾਂ 'ਤੇ ਕੇਂਦਰਿਤ ਹੈ, ਪਰ ਮੁੱਖ ਲੰਬੇ ਸਮੇਂ ਦਾ ਜੋਖਮ ਰਸਾਇਣਕ ਅਤੇ ਜੈਵਿਕ ਯੁੱਧ ਲਈ ਲਾਈਫ ਸਾਇੰਸ ਵਿੱਚ ਵਿਸ਼ੇਸ਼ AI ਦੀ ਵਰਤੋਂ ਹੈ।