OpenAI ਦੇ ਨੈਤਿਕਤਾ (ethics) ਮੁਖੀ ਨੇ ਮਹਿਜ਼ ਇੱਕ ਸਾਲ ਤੋਂ ਵੀ ਘੱਟ ਸਮੇਂ ਬਾਅਦ ਅਸਤੀਫਾ ਦੇ ਦਿੱਤਾ ਹੈ, ਜਿਸ ਦੀ ਰਿਪੋਰਟ Financial Times ਨੇ ਦਿੱਤੀ ਹੈ। ਇਸ ਨਾਲ ਲੈਬ ਦੀਆਂ ਅੰਦਰੂਨੀ ਸੁਰੱਖਿਆ ਜਾਂਚਾਂ ਬਾਰੇ ਸ਼ੰਕਾਵਾਂ ਮੁੜ ਜਗ ਪਈਆਂ ਹਨ। ਇਹ ਜਾਣ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿਉਂਕਿ ਇਹ ਭੂਮਿਕਾ ਜੋਖਮ ਭਰੇ ਡਿਪਲੋਇਮੈਂਟਸ (deployments) 'ਤੇ ਕੰਪਨੀ ਦੇ ਅੰਦਰੂਨੀ ਬ੍ਰੇਕ ਵਜੋਂ ਕੰਮ ਕਰਨ ਲਈ ਬਣਾਈ ਗਈ ਸੀ, ਅਤੇ ਇਸ ਅਚਾਨਕ ਖਾਲੀ ਹੋਣ ਨਾਲ ਇਹ ਸੰਕੇਤ ਮਿਲਦਾ ਹੈ ਕਿ ਸ਼ਾਇਦ ਉਹ ਬ੍ਰੇਕ ਹੁਣ ਮੌਜੂਦ ਨਹੀਂ ਹੈ।
ਜਾਣ ਦਾ ਇੱਕ ਪੈਟਰਨ
ਇਹ ਅਸਤੀਫਾ ਕੋਈ ਇਕੱਲੀ ਘਟਨਾ ਨਹੀਂ ਹੈ। ਪਿਛਲੇ ਦੋ ਸਾਲਾਂ ਦੌਰਾਨ, OpenAI ਨੇ ਸੁਰੱਖਿਆ 'ਤੇ ਧਿਆਨ ਦੇਣ ਵਾਲੇ ਕਰਮਚਾਰੀਆਂ ਦੇ ਜਾਣ ਦਾ ਇੱਕ ਲੜੀਵਾਰ ਸਿਲਸਿਲਾ ਦੇਖਿਆ ਹੈ। 2024 ਵਿੱਚ, Superalignment ਟੀਮ ਦੇ ਕਈ ਮੈਂਬਰ ਚਲੇ ਗਏ। ਇਸ ਤੋਂ ਪਹਿਲਾਂ, 2023 ਵਿੱਚ ਸ਼ਾਸਨ (governance) ਸੰਬੰਧੀ ਉਲਝਣ ਦੌਰਾਨ ਬੋਰਡ ਦੇ ਮੈਂਬਰਾਂ ਨੂੰ ਹਟਾ ਦਿੱਤਾ ਗਿਆ ਸੀ। ਵਾਰ-ਵਾਰ ਸਾਹਮਣੇ ਆਉਣ ਵਾਲਾ ਵਿਸ਼ਾ ਇੱਕੋ ਜਿਹਾ ਹੈ: ਖੋਜਕਰਤਾ ਤਕਨਾਲੋਜੀ ਦੀ ਸੁਰੱਖਿਆ ਲਈ ਜੁੜਦੇ ਹਨ, ਰੁਕਾਵਟਾਂ ਦਾ ਸਾਹਮਣਾ ਕਰਦੇ ਹਨ, ਅਤੇ ਚਲੇ ਜਾਂਦੇ ਹਨ।
ਇਸ ਭੂਮਿਕਾ ਦਾ ਮਕਸਦ ਕੀ ਸੀ
ਨੈਤਿਕਤਾ ਮੁਖੀ ਡਿਪਲੋਇਮੈਂਟ ਦੇ ਫੈਸਲਿਆਂ, ਡਾਟਾ-ਹੈਂਡਲਿੰਗ ਅਭਿਆਸਾਂ, ਅਤੇ ਸੰਭਾਵੀ ਨੁਕਸਾਨਦੇਹ ਸਮਰੱਥਾਵਾਂ ਦੀ ਅੰਦਰੂਨੀ ਜਾਂਚ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦਾ ਹੈ। ਜਦੋਂ ਉਸ ਅਹੁਦੇ 'ਤੇ ਬੈਠਾ ਵਿਅਕਤੀ ਇੰਨੀ ਜਲਦੀ ਚਲਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਇਹ ਸਵਾਲ ਉੱਠਦਾ ਹੈ ਕਿ ਕੀ ਉਹ ਅਧਿਕਾਰ ਅਸਲ ਵਿੱਚ ਸੀ ਵੀ ਜਾਂ ਨਹੀਂ।
ਕਰਮਚਾਰੀਆਂ ਦੇ ਜਾਣ ਦੇ ਸੰਭਾਵੀ ਕਾਰਨ
- ਰਿਲੀਜ਼ ਰੋਕਣ ਦੀ ਸੀਮਤ ਸ਼ਕਤੀ – ਜੇਕਰ ਇਹ ਭੂਮਿਕਾ ਕਿਸੇ ਪ੍ਰੋਡਕਟ ਟੀਮ ਨੂੰ ਲਾਂਚ ਰੋਕਣ ਲਈ ਮਜਬੂਰ ਨਹੀਂ ਕਰ ਸਕਦੀ, ਤਾਂ ਇਹ ਅਹੁਦਾ ਕਾਰਜਸ਼ੀਲ ਹੋਣ ਦੀ ਬਜਾਏ ਸਿਰਫ਼ ਪ੍ਰਤੀਕਾਤਮਕ ਬਣ ਕੇ ਰਹਿ ਜਾਂਦਾ ਹੈ।
- ਸੁਰੱਖਿਆ ਨਾਲੋਂ ਤੇਜ਼ੀ ਨੂੰ ਤਰਜੀਹ ਦੇਣ ਦਾ ਦਬਾਅ – ਹੋਰ AI ਦਿੱਗਜਾਂ ਨਾਲ ਮੁਕਾਬਲਾ ਇੱਕ ਅਜਿਹਾ ਮਾਹੌਲ ਬਣਾਉਂਦਾ ਹੈ ਜਿੱਥੇ ਤੇਜ਼ੀ ਨਾਲ ਫੀਚਰ ਡਿਲੀਵਰੀ ਨੂੰ ਮਹੱਤਵ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ, ਜੋ ਅਕਸਰ ਡੂੰਘੀ ਜੋਖਮ ਅਸੈਸਮੈਂਟ ਦੀ ਕੀਮਤ 'ਤੇ ਹੁੰਦਾ ਹੈ।
- ਵਪਾਰਕ ਤਰਜੀਹਾਂ ਦਾ ਸੁਰੱਖਿਆ ਕੰਮ 'ਤੇ ਹਾਵੀ ਹੋਣਾ – ਲੀਡਰਸ਼ਿਪ ਸ਼ਾਇਦ ਮਾਲੀਆ ਪੈਦਾ ਕਰਨ ਵਾਲੇ ਪ੍ਰੋਜੈਕਟਾਂ ਨੂੰ ਤਰਜੀਹ ਦੇਵੇ, ਜਿਸ ਨਾਲ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਕੋਲ ਸਟਾਫ ਦੀ ਕਮੀ ਹੋ ਜਾਂਦੀ ਹੈ ਅਤੇ ਉਹਨਾਂ 'ਤੇ ਕੰਮ ਦਾ ਬੋਝ ਵਧ ਜਾਂਦਾ ਹੈ।
- ਲਗਾਤਾਰ ਟਕਰਾਅ ਕਾਰਨ ਹੋਣ ਵਾਲੀ ਥਕਾਵਟ – ਸੁਰੱਖਿਆ ਸਮਰਥਕਾਂ ਅਤੇ ਪ੍ਰੋਡਕਟ ਇੰਜੀਨੀਅਰਾਂ ਵਿਚਕਾਰ ਵਾਰ-ਵਾਰ ਹੋਣ ਵਾਲੇ ਟਕਰਾਅ ਸਭ ਤੋਂ ਵਫ਼ਾਦਾਰ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਵੀ ਨਿਰਾਸ਼ ਕਰ ਸਕਦੇ ਹਨ।
ਇਹ ਕਾਰਕ ਉਦਯੋਗ ਦੇ ਇੱਕ ਵਿਆਪਕ ਤਣਾਅ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ: ਲੈਬਾਂ ਉਨ੍ਹਾਂ ਨੂੰ ਇਨਾਮ ਦਿੰਦੀਆਂ ਹਨ ਜੋ ਨਵੀਆਂ ਸਮਰੱਥਾਵਾਂ ਲਾਂਚ ਕਰਦੇ ਹਨ, ਜਦੋਂ ਕਿ ਖ਼ਤਰਿਆਂ ਬਾਰੇ ਚੇਤਾਵਨੀ ਦੇਣ ਵਾਲਿਆਂ ਨੂੰ ਕਈ ਵਾਰ ਰੁਕਾਵਟਾਂ ਵਜੋਂ ਦੇਖਿਆ ਜਾਂਦਾ ਹੈ।
ਵਿਰੋਧੀ ਪੱਖ: ਅੰਦਰੂਨੀ ਸੁਰੱਖਿਆ ਪ੍ਰਬੰਧ ਅਜੇ ਵੀ ਮੌਜੂਦ ਹੋ ਸਕਦੇ ਹਨ
OpenAI ਨੇ ਜਨਤਕ ਤੌਰ 'ਤੇ ਆਪਣੇ ਨੈਤਿਕਤਾ ਮੁਖੀ ਦੇ ਅਧਿਕਾਰਾਂ ਦਾ ਵੇਰਵਾ ਨਹੀਂ ਦਿੱਤਾ ਹੈ, ਅਤੇ ਕੰਪਨੀ ਨੇ ਅਸਤੀਫੇ ਬਾਰੇ ਕੋਈ ਬਿਆਨ ਜਾਰੀ ਨਹੀਂ ਕੀਤਾ ਹੈ। ਇਹ ਸੰਭਵ ਹੈ ਕਿ ਹੋਰ ਅੰਦਰੂਨੀ ਪ੍ਰਣਾਲੀਆਂ—ਜਿਵੇਂ ਕਿ ਕ੍ਰਾਸ-ਫੰਕਸ਼ਨਲ ਸੁਰੱਖਿਆ ਸਮੀਖਿਆਵਾਂ ਜਾਂ ਬਾਹਰੀ ਸਲਾਹਕਾਰ ਬੋਰਡ—ਕੰਮ ਕਰਦੀਆਂ ਰਹੀਆਂ ਹਨ। ਹਾਲਾਂਕਿ, ਉਹਨਾਂ ਦੀ ਪ੍ਰਭਾਵਸ਼ੀਲਤਾ ਦੇ ਕੋਈ ਪੱਕੇ ਸਬੂਤ ਤੋਂ ਬਿਨਾਂ, ਇਹ ਖਾਲੀਪਣ ਫਿਰ ਵੀ ਇੱਕ ਸਪੱਸ਼ਟ ਘਾਟ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ।
OpenAI ਤੋਂ ਇਲਾਵਾ ਇਹ ਜਾਣ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ
ਜੇਕਰ ਇੱਕ ਮੁਨਾਫਾ ਕਮਾਉਣ ਵਾਲੀ AI ਲੈਬ ਇੱਕ ਸਾਲ ਤੋਂ ਵੱਧ ਸਮੇਂ ਲਈ ਨੈਤਿਕਤਾ ਮੁਖੀ ਨੂੰ ਰੱਖ ਨਹੀਂ ਸਕਦੀ, ਤਾਂ ਵਪਾਰਕ ਉੱਦਮਾਂ ਦੇ ਅੰਦਰ ਸੁਰੱਖਿਆ ਮਾਹਰਾਂ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਦਾ ਮਾਡਲ ਕਮਜ਼ੋਰ ਜਾਪਦਾ ਹੈ। Anthropic, ਜੋ ਕਿ ਸੁਰੱਖਿਅਤ AI ਦੇ ਵਾਅਦੇ 'ਤੇ ਬਣੀ ਹੈ, ਵੀ ਅਜਿਹੇ ਹੀ ਦਬਾਵਾਂ ਦੀ ਰਿਪੋਰਟ ਕਰਦੀ ਹੈ, ਅਤੇ ਵੱਡੀਆਂ ਫਰਮਾਂ, ਜਿਨ੍ਹਾਂ ਕੋਲ ਵਿਸ਼ਾਲ ਸਰੋਤ ਹਨ, ਨੇ ਵੀ ਨੈਤਿਕਤਾ ਯੂਨਿਟਾਂ ਅਤੇ ਪ੍ਰੋਡਕਟ ਗਰੁੱਪਾਂ ਵਿਚਕਾਰ ਟਕਰਾਅ ਨੂੰ ਦਸਤਾਵੇਜ਼ੀ ਰੂਪ ਵਿੱਚ ਦਰਜ ਕੀਤਾ ਹੈ।