GPT-Red ਸੁਰੱਖਿਆ ਵਰਕਫਲੋ (safety workflow) ਨੂੰ ਕਿਵੇਂ ਬਦਲਦਾ ਹੈ

ਰਵਾਇਤੀ ਰੈੱਡ-ਟੀਮ (red-team) ਦਾ ਕੰਮ ਕੁਝ ਮਾਹਰਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦਾ ਹੈ ਜੋ ਸਿਸਟਮ ਨੂੰ ਮਾਲੀਸ਼ੀਅਸ ਇਨਪੁਟ (malicious inputs) ਦਿੰਦੇ ਹਨ, ਅਜੀਬ ਵਿਵਹਾਰ 'ਤੇ ਨਜ਼ਰ ਰੱਖਦੇ ਹਨ, ਅਤੇ ਨਤੀਜਿਆਂ ਦੀ ਰਿਪੋਰਟ ਕਰਦੇ ਹਨ। ਇਹ ਪ੍ਰਕਿਰਿਆ ਬਹੁਤ ਮਿਹਨਤ ਵਾਲੀ ਹੈ ਅਤੇ ਅਕਸਰ ਨਵੇਂ ਮਾਡਲਾਂ ਦੀ ਰਿਲੀਜ਼ ਦੀ ਰਫ਼ਤਾਰ ਨਾਲੋਂ ਪਛੜ ਜਾਂਦੀ ਹੈ। GPT-Red ਇੱਕ ਆਟੋਮੇਟਡ ਵਿਰੋਧੀ (automated adversary) ਵਜੋਂ ਸਾਹਮਣੇ ਆਉਂਦਾ ਹੈ, ਜੋ ਦਰਜਨਾਂ ਅਟੈਕ ਵੈਕਟਰਾਂ (attack vectors) ਦੀ ਨਕਲ ਕਰਦਾ ਹੈ ਅਤੇ ਅਸਲ ਦੁਨੀਆ ਦੇ ਕਿਸੇ ਵਿਅਕਤੀ ਦੁਆਰਾ ਲੱਭੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ।

ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਇੱਕ ਬਿਹਤਰ ਫੀਡਬੈਕ ਲੂਪ ਮਿਲਦਾ ਹੈ। ਡਿਪਲਾਈਮੈਂਟ ਤੋਂ ਬਾਅਦ ਮੈਨੂਅਲ ਆਡਿਟ ਦੀ ਉਡੀਕ ਕਰਨ ਦੀ ਬਜਾਏ, ਉਹ ਆਪਣੇ CI/CD ਪਾਈਪਲਾਈਨ ਵਿੱਚ GPT-Red ਚਲਾਉਂਦੇ ਹਨ, ਸਮੱਸਿਆਵਾਂ ਨੂੰ ਜਲਦੀ ਫੜਦੇ ਹਨ ਅਤੇ ਯੂਜ਼ਰਸ ਦੁਆਰਾ ਮਾਡਲ ਦੇਖਣ ਤੋਂ ਪਹਿਲਾਂ ਪੈਚ (patches) ਜਾਰੀ ਕਰ ਦਿੰਦੇ ਹਨ।

ਆਟੋਮੇਸ਼ਨ ਹੁਣ ਕਿਉਂ ਮਹੱਤਵਪੂਰਨ ਹੈ

ਲਾਰਜ ਲੈਂਗੂਏਜ ਮਾਡਲ (Large language models) ਕੁਝ ਹੀ ਸਾਲਾਂ ਵਿੱਚ ਕੁਝ ਸੌ ਮਿਲੀਅਨ ਪੈਰਾਮੀਟਰਾਂ ਤੋਂ ਵਧ ਕੇ ਟ੍ਰਿਲੀਅਨਾਂ ਪੈਰਾਮੀਟਰਾਂ ਵਾਲੇ ਵਿਸ਼ਾਲ ਰੂਪ ਵਿੱਚ ਬਦਲ ਗਏ ਹਨ। ਹਰ ਵਧਾਇਆ ਗਿਆ ਪੈਰਾਮੀਟਰ ਮਾਡਲ ਦੇ "ਅਟੈਕ ਸਰਫੇਸ" (attack surface) ਨੂੰ ਵਧਾਉਂਦਾ ਹੈ—ਯਾਨੀ ਉਹ ਤਰੀਕੇ ਜਿਨ੍ਹਾਂ ਰਾਹੀਂ ਇੱਕ ਪ੍ਰੋਂਪਟ (prompt) ਨੂੰ ਨੁਕਸਾਨਦੇਹ ਆਉਟਪੁੱਟ ਪੈਦਾ ਕਰਨ ਲਈ ਮੋੜਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਮੈਨੂਅਲ ਟੈਸਟਿੰਗ ਇਸ ਤੇਜ਼ੀ ਨਾਲ ਵਧ ਰਹੀ ਗਰੋਥ ਦਾ ਸਾਥ ਨਹੀਂ ਦੇ ਸਕਦੀ। ਇੱਕ ਰਹਿ ਗਈ ਕਮਜ਼ੋਰੀ ਦੀ ਵਰਤੋਂ ਡਿਸਇਨਫੋਰਮੇਸ਼ਨ (disinformation), ਫਿਸ਼ਿੰਗ (phishing) ਜਾਂ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਕੰਟੈਂਟ ਜਨਰੇਸ਼ਨ ਲਈ ਹਥਿਆਰ ਵਜੋਂ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।

AI ਦੇ ਵਿਸਤਾਰ ਦੀ ਲੁਕੀ ਹੋਈ ਕੀਮਤ

ਜਦੋਂ ਕਿ GPT-Red ਸੁਰੱਖਿਆ ਨਾਲ ਨਜਿੱਠਦਾ ਹੈ, ਹਾਰਡਵੇਅਰ ਪੱਖ ਇੱਕ ਵੱਖਰੀ ਰੁਕਾਵਟ ਦਾ ਸਾਹਮਣਾ ਕਰਦਾ ਹੈ: ਊਰਜਾ। ਇਲੋਨ ਮਸਕ ਦੁਆਰਾ ਹਾਲ ਹੀ ਵਿੱਚ APR Energy ਦੀ ਖਰੀਦ, ਜੋ ਕਿ ਲਗਭਗ $1 ਬਿਲੀਅਨ ਦੀ ਕੀਮਤ ਵਾਲੀ ਗੈਸ-ਟਰਬਾਈਨ ਫਰਮ ਹੈ, ਇਹ ਦਿਖਾਉਂਦੀ ਹੈ ਕਿ AI ਡਿਵੈਲਪਰ ਰਵਾਇਤੀ ਡਾਟਾ-ਸੈਂਟਰ ਪਾਵਰ ਤੋਂ ਪਰੇ ਜਾ ਕੇ ਸਰੋਤਾਂ ਦੀ ਭਾਲ ਕਰ ਰਹੇ ਹਨ।

ਇਹ ਮੰਗ ਸਿਰਫ਼ ਇੱਕ ਲੌਜਿਸਟਿਕਲ ਮੁਸ਼ਕਲ ਨਹੀਂ ਹੈ; ਇਹ AI ਦੇ ਕਾਰਬਨ ਫੁੱਟਪ੍ਰਿੰਟ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਨੂੰ ਵੀ ਵਧਾਉਂਦੀ ਹੈ। ਉਹ ਕੰਪਨੀਆਂ ਜੋ ਸਸਤੀ ਅਤੇ ਭਰੋਸੇਮੰਦ ਸ਼ਕਤੀ ਪ੍ਰਾਪਤ ਕਰ ਲੈਂਦੀਆਂ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਵਿੱਚ ਫਾਇਦਾ ਮਿਲਦਾ ਹੈ, ਜਦੋਂ ਕਿ ਦੂਜਿਆਂ ਨੂੰ ਆਪਣਾ ਕੰਮ ਘਟਾਉਣ ਜਾਂ ਵਧੇਰੇ ਵਾਤਾਵਰਣ-ਅਨੁਕੂਲ ਵਿਕਲਪਾਂ ਦੀ ਭਾਲ ਕਰਨ ਲਈ ਮਜਬੂਰ ਹੋਣਾ ਪੈ ਸਕਦਾ ਹੈ।

ਡਾਟਾ ਪ੍ਰੋਵੇਨੈਂਸ (Data provenance) ਅਤੇ ਕੰਟੈਂਟ ਲਈ ਹੋੜ

ਇਸ ਦੇ ਨਾਲ ਹੀ, ਉਹਨਾਂ ਡਾਟਾ ਨੂੰ ਲੈ ਕੇ ਵਿਵਾਦ ਵਧ ਰਿਹਾ ਹੈ ਜੋ ਇਹਨਾਂ ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਂਦੇ ਹਨ। ਜਾਂਚਾਂ ਤੋਂ ਪਤਾ ਲੱਗਦਾ ਹੈ ਕਿ Suno AI ਵਰਗੀਆਂ ਮਿਊਜ਼ਿਕ-ਜਨਰੇਸ਼ਨ ਸੇਵਾਵਾਂ ਨੇ ਰਾਈਟਸ ਹੋਲਡਰਾਂ (rights holders) ਦੀ ਸਪੱਸ਼ਟ ਇਜਾਜ਼ਤ ਤੋਂ ਬਿਨਾਂ YouTube ਅਤੇ Deezer ਤੋਂ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਸਕ੍ਰੈਪ ਕੀਤੇ ਗਏ ਡਾਟਾ (scraped corpora) 'ਤੇ ਆਪਣੇ ਸਿਸਟਮ ਬਣਾਏ ਹਨ। ਇਹ ਪ੍ਰਕਿਰਿਆ ਕਾਨੂੰਨੀ ਅਤੇ ਨੈਤਿਕ ਸਵਾਲ ਖੜ੍ਹੇ ਕਰਦੀ ਹੈ ਕਿ ਕਾਪੀਰਾਈਟ ਵਾਲੀ ਸਮੱਗਰੀ 'ਤੇ ਟ੍ਰੇਨ ਕੀਤੇ ਗਏ ਆਉਟਪੁੱਟ ਦਾ ਮਾਲਕ ਕੌਣ ਹੈ।

ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਜੋਖਮ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਰਿਹਾ ਹੈ: ਇੱਕ ਅਜਿਹਾ ਮਾਡਲ ਜੋ ਅਣਜਾਣੇ ਵਿੱਚ ਸੁਰੱਖਿਅਤ ਕੰਟੈਂਟ ਨੂੰ ਦੁਬਾਰਾ ਪੇਸ਼ ਕਰਦਾ ਹੈ, ਉਸਨੂੰ ਵਾਪਸ ਲਿਆਇਆ ਜਾ ਸਕਦਾ ਹੈ, ਮੁਕੱਦਮੇ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈ ਸਕਦਾ ਹੈ, ਜਾਂ ਸਾਫ਼ ਡਾਟਾ 'ਤੇ ਦੁਬਾਰਾ ਟ੍ਰੇਨ ਕਰਨ ਲਈ ਮਜਬੂਰ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ—ਜੋ ਕਿ ਇੱਕ ਮਹਿੰਗੀ ਅਤੇ ਸਮਾਂ ਲੈਣ ਵਾਲੀ ਪ੍ਰਕਿਰਿਆ ਹੈ। ਡਾਟਾ ਸਰੋਤਾਂ ਦਾ ਦਸਤਾਵੇਜ਼ ਬਣਾਉਣ ਅਤੇ ਲਾਇਸੈਂਸ ਪ੍ਰਾਪਤ ਕਰਨ ਦਾ ਦਬਾਅ ਵਧ ਰਿਹਾ ਹੈ।

ਓਪਨ-ਵੇਟ ਮਾਡਲ (Open-weight models) ਬੰਦ ਈਕੋਸਿਸਟਮਾਂ ਦਾ ਵਿਰੋਧ ਕਰਦੇ ਹਨ

ਸੁਰੱਖਿਆ, ਊਰਜਾ ਅਤੇ ਡਾਟਾ ਬਹਿਸਾਂ ਦੇ ਵਿਚਕਾਰ, ਇੱਕ ਨਵਾਂ ਮੁਕਾਬਲੇਬਾਜ਼ ਰੁਝਾਨ ਸਾਹਮਣੇ ਆ ਰਿਹਾ ਹੈ। former OpenAI CTO Mira Murati ਦੁਆਰਾ ਸਥਾਪਿਤ Thinking Machines ਨੇ Inkling ਲਾਂਚ ਕੀਤਾ ਹੈ, ਜੋ ਕਿ ਇੱਕ ਓਪਨ-ਵੇਟ AI ਮਾਡਲ ਹੈ ਜੋ ਆਪਣੇ ਪੈਰਾਮੀਟਰਾਂ ਨੂੰ ਜਨਤਕ ਕਰਦਾ ਹੈ। ਚੀਨੀ ਯੋਗਦਾਨੀਆਂ ਦੁਆਰਾ ਪ੍ਰਭਾਵਿਤ ਕਈ ਓਪਨ-ਸੋਰਸ ਪ੍ਰੋਜੈਕਟਾਂ ਦੇ ਉਲਟ, Inkling ਇੱਕ ਅਮਰੀਕਾ-ਅਧਾਰਤ ਵਿਕਲਪ ਪੇਸ਼ ਕਰਦਾ ਹੈ ਜਿਸਦੀ ਡਿਵੈਲਪਰਾਂ ਦੁਆਰਾ ਜਾਂਚ, ਸੋਧ ਅਤੇ ਇੱਕਤਾਗ੍ਰਸਤਾ (integrate) ਬਿਨਾਂ ਕਿਸੇ ਪ੍ਰੋਪਰਾਈਟਰੀ ਲੌਕ ਦੇ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।

ਓਪਨ-ਵੇਟ ਮਾਡਲ ਸੰਸਥਾਵਾਂ ਨੂੰ ਕਿਸੇ ਸਿਸਟਮ