𝗧𝗵𝗲 𝗔𝘀𝘆𝗺𝗺𝗲𝘁𝗿𝗶𝗰 𝗙𝗮𝗹𝗹𝗮𝗰𝘆: ਏਆਈ (AI) ਬੈਨ ਕਲਾਊਡ ਡਿਫੈਂਡਰਾਂ ਨੂੰ ਕਿਉਂ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦੇ ਹਨ
ਰੈਗੂਲੇਟਰਾਂ ਨੇ ਹਾਲ ਹੀ ਵਿੱਚ zero-day ਖੋਜ ਦੀਆਂ ਚਿੰਤਾਵਾਂ ਕਾਰਨ Anthropic ਦੇ Claude Fable ਮਾਡਲਾਂ 'ਤੇ ਪਾਬੰਦੀ ਲਗਾ ਦਿੱਤੀ ਹੈ। ਉਹ ਖੁਦਮੁਖਤਿਆਰ AI ਨੂੰ ਕਮਜ਼ੋਰੀਆਂ (vulnerabilities) ਲੱਭਣ ਤੋਂ ਰੋਕਣਾ ਚਾਹੁੰਦੇ ਹਨ।
ਇਹ ਕਦਮ ਅਸਫਲ ਹੈ। ਇਹ ਹਮਲਾਵਰਾਂ ਨੂੰ ਨਹੀਂ ਰੋਕਦਾ। ਇਹ ਸਿਰਫ਼ ਡਿਫੈਂਡਰਾਂ ਦੀ ਰਫ਼ਤਾਰ ਨੂੰ ਹੌਲੀ ਕਰਦਾ ਹੈ।
ਦੂਜੇ ਦੇਸ਼ਾਂ ਦੇ ਹਮਲਾਵਰ ਰੈਗੂਲੇਟਡ APIs ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰਦੇ। ਉਹ ਨਿੱਜੀ ਹਾਰਡਵੇਅਰ 'ਤੇ open-source ਮਾਡਲਾਂ ਨੂੰ ਚਲਾਉਂਦੇ ਹਨ। ਜਦੋਂ ਤੁਸੀਂ ਉੱਨਤ ਰੀਜ਼ਨਿੰਗ ਟੂਲਜ਼ ਤੱਕ ਪਹੁੰਚ ਗੁਆ ਲੈਂਦੇ ਹੋ, ਤਾਂ ਹਮਲਾਵਰਾਂ ਕੋਲ ਉਹਨਾਂ ਦੀ ਪਹੁੰਚ ਬਣੀ ਰਹਿੰਦੀ ਹੈ।
ਨਤੀਜਾ ਸਪੱਸ਼ਟ ਹੈ:
- ਹਮਲਾਵਰ ਆਪਣਾ AI ਲਾਭ ਬਰਕਰਾਰ ਰੱਖਦੇ ਹਨ।
- ਡਿਫੈਂਡਰ ਦੁਬਾਰਾ ਮੈਨੂਅਲ ਕੋਡ ਅਤੇ regex ਲਿਖਣ ਵੱਲ ਵਾਪਸ ਮੁੜ ਜਾਂਦੇ ਹਨ।
ਜੇਕਰ ਤੁਹਾਡਾ ਸੁਰੱਖਿਆ ਪਾਈਪਲਾਈਨ ਕਿਸੇ ਇੱਕ AI ਪ੍ਰਦਾਤਾ 'ਤੇ ਨਿਰਭਰ ਹੈ, ਤਾਂ ਤੁਹਾਡੇ ਕੋਲ ਇੱਕ ਵੱਡਾ ਜੋਖਮ ਹੈ। ਜੇਕਰ ਰਾਤ ਦੇ 3:00 ਵਜੇ ਤੁਹਾਡੇ ਪ੍ਰਦਾਤਾ 'ਤੇ ਕੋਈ ਐਕਸਪੋਰਟ ਕੰਟਰੋਲ ਲੱਗ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਤੁਹਾਡਾ ਆ