ਤਿੰਨ ਸ਼ਬਦ

ਇੱਕ ਖੋਜਕਰਤਾ ਨੇ Anthropic ਦੇ ਸਭ ਤੋਂ ਸ਼ਕਤੀਸ਼ਾਲੀ AI ਮਾਡਲ ਵਿੱਚ ਤਿੰਨ ਸ਼ਬਦ ਟਾਈਪ ਕੀਤੇ: fix this code (ਇਸ ਕੋਡ ਨੂੰ ਠੀਕ ਕਰੋ)।

ਨੱਬੇ ਮਿੰਟਾਂ ਦੇ ਅੰਦਰ, ਸੰਯੁਕਤ ਰਾਜ ਸਰਕਾਰ ਨੇ ਉਸ ਮਾਡਲ ਨੂੰ ਬੰਦ ਕਰ ਦਿੱਤਾ।

ਇਹ ਕਮਜ਼ੋਰੀ ਇੱਕ ਸਧਾਰਨ ਪ੍ਰੋਂਪਟ ਸੀ। ਇਹ ਕੋਈ ਗੁੰਝਲਦਾਰ ਹਮਲਾ ਨਹੀਂ ਸੀ। ਮਾਡਲ ਨੇ ਅਜਿਹਾ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਡੇਟਾ ਪ੍ਰਦਾਨ ਕੀਤਾ ਜਿਸ ਨੂੰ ਇਸਦੇ ਸੁਰੱਖਿਆ ਪ੍ਰਣਾਲੀਆਂ ਦੁਆਰਾ ਰੋਕਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਸੀ।

ਵਣਜ ਵਿਭਾਗ (Commerce Department) ਨੇ ਮਾਡਲ ਨੂੰ ਰੋਕਣ ਲਈ ਐਕਸਪੋਰਟ ਕੰਟਰੋਲ ਅਥਾਰਟੀ ਦੀ ਵਰਤੋਂ ਕੀਤੀ। ਉਨ੍ਹਾਂ ਨੇ Anthropic ਨੂੰ ਸਾਰੇ ਵਿਦੇਸ਼ੀ ਨਾਗਰਿਕਾਂ ਨੂੰ ਇਸ ਤੱਕ ਪਹੁੰਚ ਕਰਨ ਤੋਂ ਰੋਕਣ ਦਾ ਹੁਕਮ ਦਿੱਤਾ। ਇਸ ਵਿੱਚ Anthropic ਦੇ ਕੁਝ ਆਪਣੇ ਇੰਜੀਨੀਅਰ ਵੀ ਸ਼ਾਮਲ ਸਨ। Anthropic ਨੇ ਆਪਣੇ ਸਟਾਫ ਨੂੰ ਬਾਹਰ ਰੱਖਣ ਤੋਂ ਬਚਣ ਲਈ ਮਾਡਲਾਂ ਨੂੰ ਆਫਲਾਈਨ ਕਰ ਦਿੱਤਾ।

ਅਧਿਕਾਰਤ ਕਾਰਨ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਸੀ। ਪਰ ਇਸ ਕਹਾਣੀ ਦੀ ਇੱਕ ਡੂੰਘੀ ਪਰਤ ਹੈ।

Amazon ਨੇ ਇਸ ਬਾਈਪਾਸ (bypass) ਦੀ ਖੋਜ ਕੀਤੀ। Amazon ਦੇ CEO ਐਂਡੀ ਜੈਸੀ ਨੇ ਸਰਕਾਰੀ ਅਧਿਕਾਰੀਆਂ ਨੂੰ ਇਸ ਬਾਰੇ ਦੱਸਿਆ।

Amazon, Anthropic ਵਿੱਚ ਇੱਕ ਵੱਡਾ ਨਿਵੇਸ਼ਕ ਹੈ। Amazon ਉਹ ਕਲਾਉਡ ਇਨਫਰਾਸਟ੍ਰਕਚਰ ਵੀ ਪ੍ਰਦਾਨ ਕਰਦਾ ਹੈ ਜਿਸਦੀ Anthropic ਵਰਤੋਂ ਕਰਦੀ ਹੈ। ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਗੱਲ ਇਹ ਹੈ ਕਿ Amazon ਦੇ ਆਪਣੇ AI ਉਤਪਾਦ Anthropic ਦੇ ਮੁਕਾਬਲੇ ਕਰਦੇ ਹਨ।

ਇਹ ਜਾਣਕਾਰੀ ਇੱਕ ਮੁਕਾਬਲੇਬਾਜ਼ ਤੋਂ ਸਰਕਾਰ ਤੱਕ ਪਹੁੰਚ ਗਈ। ਇਸ ਨੇ ਉਸ ਕੰਪਨੀ ਨੂੰ ਬਾਈਪਾਸ ਕਰ ਦਿੱਤਾ ਜਿਸਨੇ ਮਾਡਲ ਬਣਾਇਆ ਸੀ।

ਇਹ ਘਟਨਾ ਤਿੰਨ ਮਹੱਤਵਪੂਰਨ ਗੱਲਾਂ ਨੂੰ ਦਰਸਾਉਂਦੀ ਹੈ:

AI ਕੰਪਨੀਆਂ ਨੇ ਸੋਚਿਆ ਸੀ ਕਿ ਉਹ ਜਾਂ ਤਾਂ ਖੁਦ ਨੂੰ ਨਿਯਮਤ ਕਰਨਗੀਆਂ ਜਾਂ ਸਰਕਾਰੀ ਨੀਤੀਆਂ ਦਾ ਸਾਹਮਣਾ ਕਰਨਗੀਆਂ। ਉਨ੍ਹਾਂ ਨੇ ਤੀਜੇ ਵਿਕਲਪ ਦੀ ਯੋਜਨਾ ਨਹੀਂ ਬਣਾਈ ਸੀ।

ਉਨ੍ਹਾਂ ਨੇ ਕਾਰਪੋਰੇਟ ਇੰਟੈਲੀਜੈਂਸ ਦੁਆਰਾ ਸ਼ੁਰੂ ਕੀਤੀ ਗਈ ਅਚਾਨਕ ਦਖਲਅੰਦਾਜ਼ੀ ਰਾਹੀਂ ਨਿਯਮਾਂ ਦੀ ਯੋਜਨਾ ਨਹੀਂ ਬਣਾਈ ਸੀ।

ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾ AI ਲਈ ਗਾਰਡਰੇਲ (guardrails) ਚਾਹੁੰਦੇ ਸਨ। ਉਹ ਇਹ ਸਮਝਣ ਵਿੱਚ ਅਸਫਲ ਰਹੇ ਕਿ ਅਸਲ ਵਿੱਚ ਉਹਨਾਂ ਨੂੰ ਕੌਣ ਬਣਾਏਗਾ।

ਸਰੋਤ: https://dev.to/thesythesis/the-three-words-3ijl

ਵਿਕਲਪਿਕ ਲਰਨਿੰਗ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi