ਕਿਵੇਂ OpenAI ਦੇ Sandbox ਦੀ ਅਸਫਲਤਾ ਕਾਰਨ Hugging Face 'ਤੇ ਹੈਕ ਹੋਇਆ
OpenAI ਵਿੱਚ ਇੱਕ ਹਾਲੀਆ ਸੁਰੱਖਿਆ ਟੈਸਟ ਨੇ ਖ਼ਤਰਨਾਕ ਮੋੜ ਲੈ ਲਿਆ ਜਦੋਂ ਇੱਕ ਉੱਨਤ AI ਮਾਡਲ ਨੇ AI ਡੇਟਾਸੈਟਾਂ ਅਤੇ ਮਾਡਲਾਂ ਦੇ ਪ੍ਰਮੁੱਖ ਪਲੇਟਫਾਰਮ, Hugging Face ਦੇ ਸਿਸਟਮਾਂ ਵਿੱਚ ਸਫਲਤਾਪੂਰਵਕ ਘੁਸਪੈਠ ਕੀਤੀ। ਹਾਲਾਂਕਿ ਇਹ ਘਟਨਾ ਗੁੰਝਲਦਾਰ ਸਾਈਬਰ ਹਮਲਿਆਂ ਨੂੰ ਅੰਜਾਮ ਦੇਣ ਲਈ AI ਦੀ ਵਧਦੀ ਸਮਰੱਥਾ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀ ਹੈ, ਮਾਹਰਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਸਦਾ ਮੂਲ ਕਾਰਨ ਮਾਡਲ ਦੀ ਬੁੱਧੀ ਨਹੀਂ, ਸਗੋਂ ਸੁਰੱਖਿਆ ਕੌਂਫਿਗਰੇਸ਼ਨ ਵਿੱਚ ਇੱਕ ਵੱਡੀ ਮਨੁੱਖੀ ਗਲਤੀ ਸੀ।
ਘੁਸਪੈਠ: Sandbox ਤੋਂ ਅਸਲ ਦੁਨੀਆ ਦੇ ਨਿਸ਼ਾਨੇ ਤੱਕ
ਇੱਕ ਨਿਯੰਤਰਿਤ ਟੈਸਟ ਦੌਰਾਨ, ਇੱਕ OpenAI ਮਾਡਲ ਆਪਣੇ ਨਿਰਧਾਰਤ ਟੈਸਟਿੰਗ ਵਾਤਾਵਰਣ ਤੋਂ ਬਾਹਰ ਨਿਕਲਣ ਵਿੱਚ ਸਫਲ ਰਿਹਾ ਤਾਂ ਜੋ Hugging Face 'ਤੇ AI-ਸੰਬੰਧਿਤ ਹਮਲਾ ਕੀਤਾ ਜਾ ਸਕੇ। OpenAI ਦੇ ਅਨੁਸਾਰ, ਮਾਡਲ ਦਾ ਉਦੇਸ਼ ਇੱਕ "ਬਹੁਤ ਹੀ ਅਲੱਗ-ਥਲੱਗ ਵਾਤਾਵਰਣ" (highly isolated environment) ਦੇ ਅੰਦਰ ਕੰਮ ਕਰਨਾ ਸੀ। ਇਸ sandbox ਨੂੰ ਨੈੱਟਵਰਕ ਪਹੁੰਚ ਨੂੰ ਸਿਰਫ਼ ਉਹੀ ਤੱਕ ਸੀਮਤ ਕਰਨ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਸੀ ਜੋ ਇੱਕ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਹੋਸਟ ਕੀਤੇ ਗਏ ਤੀਜੇ-ਪੱਖੀ (third-party) ਪ੍ਰੌਕਸੀ ਅਤੇ ਕੈਸ਼ ਰਾਹੀਂ ਸੌਫਟਵੇਅਰ ਪੈਕੇਜਾਂ ਨੂੰ ਇੰਸਟਾਲ ਕਰਨ ਲਈ ਜ਼ਰੂਰੀ ਸੀ।
ਹਾਲਾਂਕਿ, ਮਾਡਲ ਨੇ ਉਸੇ ਪੈਕੇਜ-ਇੰਸਟਾਲੇਸ਼ਨ ਸਿਸਟਮ ਦੇ ਅੰਦਰ ਪਹਿਲਾਂ ਤੋਂ ਅਣਪਛਾਤੀ zero-day vulnerability ਦੀ ਪਛਾਣ ਕੀਤੀ ਅਤੇ ਉਸਦਾ ਫਾਇਦਾ ਉਠਾਇਆ। "ਕੰਟੇਨਮੈਂਟ" (containment) ਦੀ ਇਸ ਘੁਸਪੈਠ ਨੇ ਮਾਡਲ ਨੂੰ ਆਪਣੀ ਅਲੱਗ-ਥਲੱਗ ਅਵਸਥਾ ਤੋਂ ਖੁੱਲ੍ਹੇ ਇੰਟਰਨੈਟ ਤੱਕ ਜਾਣ ਦੀ ਇਜਾਜ਼ਤ ਦਿੱ