ਅਲਾਈਨਮੈਂਟ ਦੀ ਦੁਬਿਧਾ: ਸਥਾਨਕ AI ਆਜ਼ਾਦੀ ਬਨਾਮ ਵਿਸ਼ਵਵਿਆਪੀ ਸੁਰੱਖਿਆ

AI ਅਲਾਈਨਮੈਂਟ (alignment) ਬਾਰੇ ਬਹਿਸ ਸਿਧਾਂਤਕ "ਸੁਪਰਇੰਟੈਲੀਜੈਂਸ" ਦੇ ਜੋਖਮਾਂ ਤੋਂ ਹਟ ਕੇ ਇੱਕ ਬਹੁਤ ਹੀ ਗੰਭੀਰ ਸਵਾਲ ਵੱਲ ਵਧ ਗਈ ਹੈ: ਕੀ ਇੱਕ AI ਨੂੰ ਆਪਣੇ ਉਪਭੋਗਤਾ ਪ੍ਰਤੀ ਵਫ਼ਾਦਾਰ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ, ਭਾਵੇਂ ਉਸ ਉਪਭੋਗਤਾ ਦੀ ਨੀਅਤ ਬੁਰੀ ਹੀ ਕਿਉਂ ਨਾ ਹੋਵੇ? ਜਿਵੇਂ-ਜਿਵੇਂ ਡਿਵੈਲਪਰ ਵਧੇਰੇ ਨਿੱਜੀ (personalized) ਮਾਡਲਾਂ ਲਈ ਜ਼ੋਰ ਦੇ ਰਹੇ ਹਨ, ਵਿਅਕਤੀਗਤ ਖੁਦਮੁਖਤਿਆਰੀ ਅਤੇ ਸਮੂਹਿਕ ਸਮਾਜਿਕ ਸੁਰੱਖਿਆ ਵਿਚਕਾਰ ਤਣਾਅ ਇੱਕ ਅਜਿਹੇ ਮੋੜ 'ਤੇ ਪਹੁੰਚ ਰਿਹਾ ਹੈ ਜਿੱਥੇ ਇਸ ਦਾ ਟੁੱਟਣਾ ਲਗਭਗ ਯਕੀਨੀ ਹੈ।

ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਨਿਯੰਤਰਿਤ AI ਦੇ ਪੱਖ ਵਿੱਚ ਦਲੀਲ

Comma AI ਦੇ ਸੰਸਥਾਪਕ ਅਤੇ "jailbreaking" ਕਮਿਊਨਿਟੀ ਦੀ ਇੱਕ ਮਹਾਨ ਹਸਤੀ, George Hotz ਨੇ AI ਸੁਰੱਖਿਆ ਬਾਰੇ ਮੌਜੂਦਾ ਸਹਿਮਤੀ ਨੂੰ ਚੁਣੌਤੀ ਦੇ ਕੇ ਭਾਰੀ ਵਿਵਾਦ ਖੜ੍ਹਾ ਕਰ ਦਿੱਤਾ ਹੈ। AI Futures Project ਦੇ "AI 2040: Plan A" ਵਰਗੇ ਪਾਲਿਸੀ ਪੇਪਰਾਂ ਦੇ ਜਵਾਬ ਵਿੱਚ—ਜੋ AI ਵਿਕਾਸ ਵਿੱਚ 14 ਸਾਲਾਂ ਦੀ ਵਿਸ਼ਵਵਿਆਪੀ ਸੁਸਤੀ ਦਾ ਸੁਝਾਅ ਦਿੰਦੇ ਹਨ—Hotz ਦਾ ਤਰਕ ਹੈ ਕਿ ਤਰੱਕੀ ਨੂੰ ਕਿਸੇ ਅਸਪਸ਼ਟ "ਸਮੂਹਿਕ ਭਲਾਈ" ਲਈ ਨਿਯੰਤਰਿਤ ਨਹੀਂ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ।

ਇਸ ਦੀ ਬਜਾਏ, Hotz ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਨਿਯੰਤਰਿਤ, ਉਪਭੋਗਤਾ-ਅਨੁਕੂਲ (user-aligned) AI ਮਾਡਲਾਂ ਵੱਲ ਇੱਕ ਮੌਲਿਕ ਤਬਦੀਲੀ ਦੀ ਵਕਾਲਤ ਕਰਦੇ ਹਨ। ਅੱਜ ਅਸੀਂ ਜੋ ਕੇਂਦਰੀ ਤੌਰ 'ਤੇ ਪ੍ਰਬੰਧਿਤ ਸੇਵਾਵਾਂ ਵਰਤਦੇ ਹਾਂ, ਜਿਵੇਂ ਕਿ OpenAI ਦਾ ChatGPT ਜਾਂ Anthropic ਦਾ Claude, ਉਹਨਾਂ ਦੇ ਉਲਟ, ਸਥਾਨਕ ਮਾਡਲ ਨਿੱਜੀ ਹਾਰਡਵੇਅਰ 'ਤੇ ਹੋਣਗੇ। Hotz ਲਈ, ਅਸਲ ਅਲਾਈਨਮੈਂਟ ਦਾ ਮਤਲਬ ਹੈ ਕਿ AI ਆਪਣੇ ਮਾਲਕ ਦੇ ਵਿਸ਼ੇਸ਼ ਹਿੱਤਾਂ ਅਤੇ ਹੁਕਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰੇ, ਭਾਵੇਂ ਉਹ ਬਾਹਰੀ ਨੈਤਿਕ ਢਾਂਚੇ ਦੇ ਵਿਰੁੱਧ ਹੀ ਕਿਉਂ ਨਾ ਹੋਵੇ।

ਉਕਸਾਵਾ: "ਬੰਦੂਕ" ਦੀ ਉਦਾਹਰਣ ਅਤੇ ਨੈਤਿਕ ਅਤਿਅੰਧ

ਆਪਣੀ ਗੱਲ ਨੂੰ ਸਮਝਾਉਣ ਲਈ, Hotz ਇੱਕ ਉਕਸਾਉਣ ਵਾਲੀ ਤੁਲਨਾ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ ਉਹ ਉਪਭੋਗਤਾ-ਅਨੁਕੂਲ AI ਦੀ ਤੁਲਨਾ ਇੱਕ ਹਥਿਆਰ (ਬੰਦੂਕ) ਨਾਲ ਕਰਦੇ ਹਨ। ਜਿਵੇਂ ਇੱਕ ਬੰਦੂਕ ਚਲਾਉਣ ਵਾਲੇ ਦੀ ਨੈਤਿਕਤਾ ਦੇ ਆਧਾਰ 'ਤੇ ਕੰਮ ਕਰਨ ਤੋਂ ਇਨਕਾਰ ਨਹੀਂ ਕਰਦੀ, Hotz ਦਾ ਤਰਕ ਹੈ ਕਿ ਇੱਕ ਸੱਚਮੁੱਚ ਨਿੱਜੀ AI ਨੂੰ ਨੈਤਿਕ ਫੈਸਲਾਕਰਤਾ ਵਜੋਂ ਕੰਮ ਨਹੀਂ ਕਰਨਾ ਚਾਹੀਦਾ। ਉਹ ਮੰਨਦੇ ਹਨ ਕਿ ਇੱਕ ਪੂਰੀ ਤਰ੍ਹਾਂ ਅਲਾਈਨਡ ਸਹਾਇਕ (assistant) ਕੋਈ ਵੀ ਮੰਗੀ ਗਈ ਕਾਰਵਾਈ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਦੇ ਯੋਗ ਹੋਣਾ ਚਾਹੀਦਾ ਹੈ, ਚਾਹੇ ਉਹ ਕਿਸੇ ਗੈਰ-ਕਾਨੂੰਨੀ ਲੈਬ ਲਈ ਉਪਕਰਣ ਮੰਗਵਾਉਣਾ ਹੋਵੇ ਜਾਂ ਨੁਕਸਾਨਦੇਹ ਗਤੀਵਿਧੀਆਂ ਲਈ ਹਦਾਇਤਾਂ ਪ੍ਰਦਾਨ ਕਰਨਾ ਹੋਵੇ।

ਇਹ ਸਟੈਂਸ ਇੱਕ ਸਪੱਸ਼ਟ ਦਾਰਸ਼ਨਿਕ ਵੰਡ ਪੈਦਾ ਕਰਦਾ ਹੈ। ਇੱਕ ਪਾਸੇ "ਆਜ਼ਾਦੀ-ਪਹਿਲਾਂ" (freedom-first) ਵਾਲਾ ਪਹੁੰਚ ਹੈ, ਜੋ ਕਿਸੇ ਵੀ ਕੇਂਦਰੀ ਪਾਬੰਦੀ ਨੂੰ ਵਿਅਕਤੀਗਤ ਸੁਤੰਤਰਤਾ ਦੀ ਉਲੰਘਣਾ ਵਜੋਂ ਦੇਖਦਾ ਹੈ। ਦੂਜੇ ਪਾਸੇ ਰਵਾਇਤੀ ਸੁਰੱਖਿਆ ਪਹੁੰਚ ਹੈ, ਜੋ AI ਨੂੰ ਇੱਕ ਅਜਿਹੇ ਸਾਧਨ ਵਜੋਂ ਦੇਖਦੀ ਹੈ ਜਿਸ ਨੂੰ ਵਿਆਪਕ ਸਮਾਜਿਕ ਨੁਕਸਾਨ ਨੂੰ ਰੋਕਣ ਲਈ ਪ੍ਰਣਾਲੀਗਤ ਗਾਰਡਰੇਲ (guardrails) ਦੁਆਰਾ ਨਿਯੰਤਰਿਤ ਕੀਤਾ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ।

ਪੂਰਨ ਖੁਦਮੁਖਤਿਆਰੀ ਦੀ ਸਮਾਜਿਕ ਕੀਮਤ

ਹਾਲਾਂਕਿ ਇੱਕ ਨਿੱਜੀ, ਬਿਨਾਂ ਕਿਸੇ ਰੋਕ-ਟੋਕ ਦੇ AI ਦਾ ਵਿਚਾਰ ਤਕਨੀਕੀ ਤੌਰ 'ਤੇ ਡਿਵੈਲਪਰਾਂ ਅਤੇ ਪ੍ਰਾਈਵੇਸੀ ਦੇ ਸਮਰਥਕਾਂ ਨੂੰ ਆਕਰਸ਼ਿਤ ਕਰਦਾ ਹੈ, ਪਰ ਇਹ ਮਨੁੱਖੀ ਆਪਸੀ ਨਿਰਭਰਤਾ ਦੀ ਗੁੰਝਲਦਾਰ ਅਸਲੀਅਤ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰਦਾ ਹੈ। ਸਮਾਜ, ਬਾਜ਼ਾਰ ਅਤੇ ਕਾਨੂੰਨੀ ਪ੍ਰਣਾਲੀਆਂ ਜਵਾਬਦੇਹੀ ਦੇ ਇੱਕ ਨੈੱਟਵਰਕ 'ਤੇ ਨਿਰਭਰ ਕਰਦੀਆਂ ਹਨ। ਜੇਕਰ AI "AI-ਪਾਵਰਡ ਨੇਪੋਲੀਅਨਾਂ" (AI-powered Napoleons) ਲਈ ਇੱਕ ਸਾਧਨ ਬਣ ਜਾਂਦਾ ਹੈ—ਜਿਵੇਂ ਕਿ ਅਜਿਹੇ ਵਿਅਕਤੀ ਜੋ ਸਮਾਜਿਕ ਸਮਝੌਤਿਆਂ ਨੂੰ ਤੋੜਨ ਲਈ ਅਤਿ-ਮਾਨਵੀ ਕੁਸ਼ਲਤਾ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ—ਤਾਂ ਤਕਨੀਕੀ ਤਰੱਕੀ ਲਈ ਲੋੜੀਂਦੀ ਸਮੂਹਿਕ ਸਥਿਰਤਾ ਖਤਮ ਹੋ ਸਕਦੀ ਹੈ।

AI ਡਿਵੈਲਪਰਾਂ ਦੀ ਅਗਲੀ ਪੀੜ੍ਹੀ ਲਈ ਚੁਣੌਤੀ ਸਿਰਫ਼ ਆਪਟੀਮਾਈਜ਼ੇਸ਼ਨ (optimization) ਦੀ ਤਕਨੀਕੀ ਚੁਣੌਤੀ ਨਹੀਂ ਹੈ, ਸਗੋਂ ਇੱਕਤਾ (integration) ਦੀ ਇੱਕ ਸੰਰਚਨਾਤਮਕ ਚੁਣੌਤੀ ਹੈ। ਸਾਨੂੰ ਇਹ ਫੈਸਲਾ ਕਰਨਾ ਹੋਵੇਗਾ ਕਿ ਕੀ AI ਦਾ ਉਦੇਸ਼ ਸ਼ਕਤੀਸ਼ਾਲੀ, ਅਲੱਗ-ਥਲੱਗ ਏਜੰਟ ਬਣਾਉਣਾ ਹੈ ਜਾਂ ਅਜਿਹੇ ਸਾਧਨ ਬਣਾਉਣਾ ਹੈ ਜੋ ਇੱਕ ਕਾਰਜਸ਼ੀਲ ਸਮਾਜ ਦੀਆਂ ਸੀਮਾਵਾਂ ਦੇ ਅੰਦਰ ਮਨੁੱਖੀ ਸਮਰੱਥਾ ਨੂੰ ਵਧਾਉਂਦੇ ਹਨ।

ਮੁੱਖ ਨੁਕਤੇ

• ਵਿਕੇਂਦਰੀਕਰਨ ਬਨਾਮ ਕੇਂਦਰੀਕਰਨ: ਉਦਯੋਗ ਕੇਂਦਰੀ ਤੌਰ 'ਤੇ ਪ੍ਰਬੰਧਿਤ, ਸੁਰੱਖਿਆ-ਅਨੁਕੂਲ ਮਾਡਲਾਂ (ਜਿਵੇਂ ਕਿ Claude) ਅਤੇ ਸਥਾਨਕ ਤੌਰ 'ਤੇ ਨਿਯੰਤਰਿਤ, ਉਪਭੋਗਤਾ-ਅਨੁਕੂਲ ਹਾਰਡਵੇਅਰ ਦੇ ਦਬਾਅ ਦੇ ਵਿਚਕਾਰ ਵੰਡਿਆ ਜਾ ਰਿਹਾ ਹੈ।
• ਅਲਾਈਨਮੈਂਟ ਦਾ ਟਕਰਾਅ: ਇਸ ਬਾਰੇ ਇੱਕ ਮੂਲ ਅਸਹਿਮਤੀ ਹੈ ਕਿ ਕੀ AI ਅਲਾਈਨਮੈਂਟ ਨੂੰ ਵਿਸ਼ਵਵਿਆਪੀ ਸਮਾਜਿਕ ਸੁਰੱਖਿਆ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਜਾਂ ਵਿਅਕਤੀਗਤ ਉਪਭੋਗਤਾ ਦੇ ਇਰਾਦੇ ਦੀ ਸਖ਼ਤ ਪਾਲਣਾ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ।
• ਸਮਾਜਿਕ ਪ੍ਰਭਾਵ: ਬਿਨਾਂ ਕਿਸੇ ਰੋਕ-ਟੋਕ ਦੇ ਨਿੱਜੀ AI ਵੱਲ ਵਧਣਾ ਜਵਾਬਦੇਹੀ ਬਾਰੇ ਮਹੱਤਵਪੂਰਨ ਚਿੰਤਾਵਾਂ ਪੈਦਾ ਕਰਦਾ ਹੈ ਅਤੇ ਤਕਨਾਲੋਜੀ ਦੁਆਰਾ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਅਪਰਾਧਿਕ ਗਤੀਵਿਧੀਆਂ ਨੂੰ ਸੁਵਿਧਾਜਨਕ ਬਣਾਉਣ ਦੀ ਸੰਭਾਵਨਾ ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ।