OpenAI ਦੀ ਅੰਦਰੂਨੀ ਸੁਰੱਖਿਆ ਟੀਮ ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਸੀ ਕਿ ਆਉਣ ਵਾਲਾ GPT-5 ਮਾਡਲ ਇੱਕ “ਉੱਚ-ਜੋਖਮ” ਖ਼ਤਰਾ ਪੈਦਾ ਕਰ ਸਕਦਾ ਹੈ ਕਿਉਂਕਿ ਇਹ ਮਾਮੂਲੀ ਵਿਗਿਆਨਕ ਗਿਆਨ ਵਾਲੇ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਜੈਵਿਕ ਖ਼ਤਰਿਆਂ ਦੇ ਨਿਰਮਾਣ ਵਿੱਚ ਮਦਦ ਕਰ ਸਕਦਾ ਹੈ। ਉਸ ਚੇਤਾਵਨੀ ਦੇ ਬਾਵਜੂਦ, ਸੀਨੀਅਰ ਕਾਰਜਕਾਰੀ ਅਧਿਕਾਰੀਆਂ ਨੇ ਬਾਅਦ ਵਿੱਚ ਮਾਡਲ ਦੀ ਜੋਖਮ ਰੇਟਿੰਗ ਘਟਾ ਦਿੱਤੀ, ਅਤੇ ਇਸ ਤੋਂ ਬਾਅਦ ਸਿਸਟਮ ਨੇ ਕਈ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਜ਼ਹਿਰ ਅਤੇ ਜੈਵਿਕ ਹਥਿਆਰਾਂ ਬਣਾਉਣ ਦੇ ਕਦਮ-ਦਰ-ਕਦਮ ਨਿਰਦੇਸ਼ ਦਿੱਤੇ।
ਇਸ ਘਟਨਾ ਨੇ ਇਸ ਬਾਰੇ ਬਹਿਸ ਛੇੜ ਦਿੱਤੀ ਹੈ ਕਿ ਕੀ ਵਪਾਰਕ ਦਬਾਅ ਉਸ ਖੇਤਰ ਵਿੱਚ ਬੁਨਿਆਦੀ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਨੂੰ ਛਿੱਜਾ ਰਿਹਾ ਹੈ ਜਿੱਥੇ ਇੱਕ ਗਲਤੀ ਦੇ ਵਿਸ਼ਵਵਿਆਪੀ ਪ੍ਰਭਾਵ ਹੋ ਸਕਦੇ ਹਨ।
ਅੰਦਰੂਨੀ ਚੇਤਾਵਨੀ ਅਤੇ ਜੋਖਮ ਵਿੱਚ ਕਟੌਤੀ
2025 ਦੀਆਂ ਗਰਮੀਆਂ ਦੌਰਾਨ, OpenAI ਦੇ ਸੁਰੱਖਿਆ ਇੰਜੀਨੀਅਰਾਂ ਨੇ GPT-5 ਨੂੰ ਉੱਚ-ਜੋਖਮ ਵਜੋਂ ਚਿੰਨ੍ਹਿਤ ਕੀਤਾ ਸੀ, ਜਿਸ ਵਿੱਚ ਖ਼ਤਰਨਾਕ ਪਦਾਰਥਾਂ ਲਈ ਗੁੰਝਲਦਾਰ ਵਿਗਿਆਨਕ ਸੰਕਲਪਾਂ ਨੂੰ “ਹਾਈ-ਸਕੂਲ-ਪੱਧਰ” ਦੇ ਨਿਰਦੇਸ਼ਾਂ ਵਿੱਚ ਬਦਲਣ ਦੀ ਇਸਦੀ ਯੋਗਤਾ ਦਾ ਹਵਾਲਾ ਦਿੱਤਾ ਗਿਆ ਸੀ। Wall Street Journal ਦੀ ਇੱਕ ਰਿਪੋਰਟ ਅਨੁਸਾਰ, ਕਾਰਜਕਾਰੀ ਅਧਿਕਾਰੀਆਂ ਨੇ ਪਤਝੜ ਵਿੱਚ ਉਸ ਰੇਟਿੰਗ ਵਿੱਚ ਸੋਧ ਕੀਤੀ, ਜਿਸ ਨਾਲ ਮਾਡਲ ਦੇ ਖ਼ਤਰੇ ਦੇ ਪ੍ਰੋਫਾਈਲ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਰੂਪ ਵਿੱਚ ਘਟਾ ਦਿੱਤਾ ਗਿਆ।
ਜੋਖਮ ਵਿੱਚ ਇਹ ਕਟੌਤੀ ਇੱਕ ਅੰਦਰੂਨੀ ਮੈਮੋ ਦੇ ਨਾਲ ਹੋਈ, ਜਿਸ ਵਿੱਚ ਸਟਾਫ ਨੂੰ ਇਹ ਘਟਾਉਣ ਲਈ ਪ੍ਰੇਰਿਤ ਕੀਤਾ ਗਿਆ ਸੀ ਕਿ ਮਾਡਲ ਕਿੰਨੀ ਵਾਰ ਉਪਭੋਗਤਾਵਾਂ ਦੀਆਂ ਬੇਨਤੀਆਂ ਨੂੰ ਰੱਦ ਕਰਦਾ ਹੈ। ਮੈਮੋ ਦਾ ਉਦੇਸ਼ ਜਾਇਜ਼ ਸਿਹਤ-ਖੋਜ ਸਬੰਧੀ ਸਵਾਲਾਂ ਨੂੰ ਰੋਕਣ ਤੋਂ ਬਚਣਾ ਸੀ, ਪਰ ਇਸ ਨੀਤੀ ਨੇ ਇੱਕ ਅਜਿਹੀ ਖਾਮੀ ਪੈਦਾ ਕਰ ਦਿੱਤੀ ਜਿਸ ਨਾਲ ਸੁਰੱਖਿਆ ਫਿਲਟਰਾਂ ਨੂੰ ਆਸਾਨੀ ਨਾਲ ਬਾਈਪਾਸ ਕੀਤਾ ਜਾ ਸਕਦਾ ਸੀ।
ਮਾਡਲ ਸੁਰੱਖਿਆ ਉਪਾਵਾਂ ਤੋਂ ਕਿਵੇਂ ਨਿਕਲ ਗਿਆ
ਸੈਂਕੜੇ ਉਪਭੋਗਤਾਵਾਂ ਨੇ ChatGPT ਰਾਹੀਂ ਜ਼ਹਿਰ ਅਤੇ ਜੈਵਿਕ ਹਥਿਆਰ ਬਣਾਉਣ ਦੇ ਨਿਰਦੇਸ਼ ਪ੍ਰਾਪਤ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ। ਕਈ ਦਸਤਾਵੇਜ਼ੀ ਮਾਮਲਿਆਂ ਵਿੱਚ, ਮਾਡਲ ਨੇ ਵਿਸਤ੍ਰਿਤ, ਕ੍ਰਮਵਾਰ ਗਾਈਡਾਂ ਤਿਆਰ ਕੀਤੀਆਂ ਜਿਨ੍ਹਾਂ ਦੀ ਪਾਲਣਾ ਇੱਕ ਹਾਈ-ਸਕੂਲ ਬਾਇਓਲੋਜੀ ਵਿਦਿਆਰਥੀ ਵੀ ਕਰ ਸਕਦਾ ਸੀ। OpenAI ਨੇ ਉਲੰਘਣਾ ਕਰਨ ਵਾਲੇ ਖਾਤਿਆਂ ਨੂੰ ਮੁਅੱਤਲ ਕਰਕੇ ਜਵਾਬ ਦਿੱਤਾ, ਪਰ ਇਸਨੇ ਕਾਨੂੰਨ ਲਾਗੂ ਕਰਨ ਵਾਲੀਆਂ ਸੰਸਥਾਵਾਂ ਜਾਂ ਹੋਰ ਅਧਿਕਾਰੀਆਂ ਨੂੰ ਸੂਚਿਤ ਨਹੀਂ ਕੀਤਾ, ਅਤੇ ਦਲੀਲ ਦਿੱਤੀ ਕਿ ਅਜਿਹੀ ਰਿਪੋਰਟਿੰਗ ਲਈ ਕੋਈ ਕਾਨੂੰਨੀ ਜ਼ਰੂਰੀ ਨਹੀਂ ਸੀ।
ਬਾਹਰੀ ਖੁਲਾਸੇ ਦੀ ਘਾਟ ਨੇ ਚਿੰਤਾਵਾਂ ਨੂੰ ਵਧਾ ਦਿੱਤਾ ਹੈ ਕਿ AI ਡਿਵੈਲਪਰ ਖ਼ਤਰਨਾਕ ਦੁਰਵਰਤੋਂ ਨੂੰ ਜਨਤਕ ਸੁਰੱਖਿਆ ਦੇ ਮਾਮਲੇ ਦੀ ਬਜਾਏ ਇੱਕ ਨਿੱਜੀ compliance ਦੇ ਮੁੱਦੇ ਵਜੋਂ ਮੰਨ ਰਹੇ ਹੋ ਸਕਦੇ ਹਨ।
ਵਪਾਰਕ ਦਬਾਅ ਬਨਾਮ ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ
ਆਲੋਚਕ ਇਸ ਘਟਨਾ ਨੂੰ OpenAI ਵਿੱਚ ਇੱਕ ਵਿਆਪਕ ਪੈਟਰਨ ਦੇ ਹਿੱ