Anthropic ਅਤੇ OpenAI ਦੋਵਾਂ ਨੇ ਇੱਕ ਨਵਾਂ ਖੋਜ ਟ੍ਰੈਕ (research track) ਸ਼ੁਰੂ ਕੀਤਾ ਹੈ ਜੋ ਪ੍ਰਮਾਣਿਤ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਨੂੰ ਅਜਿਹੇ AI ਮਾਡਲਾਂ ਨਾਲ ਕੰਮ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ ਜਿਨ੍ਹਾਂ ਵਿੱਚੋਂ ਜ਼ਿਆਦਾਤਰ ਸੁਰੱਖਿਆ ਫਿਲਟਰ ਹਟਾ ਦਿੱਤੇ ਗਏ ਹਨ। Anthropic ਦਾ “Cyber Verification Program” ਅਤੇ OpenAI ਦਾ “Trusted Access for Cyber” ਮਨਜ਼ੂਰਸ਼ੁਦਾ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਸ਼ਕਤੀਸ਼ਾਲੀ ਭਾਸ਼ਾ ਮਾਡਲਾਂ ਤੱਕ ਸਿੱਧੀ ਪਹੁੰਚ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ ਜੋ ਬਿਨਾਂ ਕਿਸੇ ਰੋਕ-ਟੋਕ ਦੇ ਕੋਡ, ਪ੍ਰੋਂਪਟ ਅਤੇ ਨਿਰਦੇਸ਼ ਤਿਆਰ ਕਰ ਸਕਦੇ ਹਨ। ਇਹ ਕਦਮ ਮਹੱਤਵਪੂਰਨ ਹੈ ਕਿਉਂਕਿ ਇਹ AI ਸਪਲਾਈ ਚੇਨ ਵਿੱਚ ਇੱਕ ਸਪੱਸ਼ਟ ਵੰਡ ਪੈਦਾ ਕਰਦਾ ਹੈ: ਕੁਝ ਅੰਦਰੂਨੀ ਲੋਕ ਸਭ ਤੋਂ ਕਮਜ਼ੋਰ ਵਰਜ਼ਨਾਂ ਦੀ ਜਾਂਚ ਕਰ ਸਕਦੇ ਹਨ ਜਦੋਂ ਕਿ ਬਾਕੀ ਦੁਨੀਆ ਮਜ਼ਬੂਤ ਗਾਰਡਰੇਲ (guardrails) ਦੇ ਪਿੱਛੇ ਰਹਿੰਦੀ ਹੈ।

ਇਹ ਪ੍ਰੋਗਰਾਮ ਕਿਉਂ ਸ਼ੁਰੂ ਕੀਤੇ ਗਏ

ਦੋਵੇਂ ਕੰਪਨੀਆਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਇਹ ਪਹਿਲਕਦਮੀਆਂ ਉਨ੍ਹਾਂ ਕਮਜ਼ੋਰੀਆਂ ਦੀ ਖੋਜ ਨੂੰ ਤੇਜ਼ ਕਰਨ ਲਈ ਹਨ ਜਿਨ੍ਹਾਂ ਨੂੰ ਉਨ੍ਹਾਂ ਦੀਆਂ ਸੇਵਾਵਾਂ ਵਿਰੁੱਧ ਹਥਿਆਰ ਵਜੋਂ ਵਰਤਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਮਾਹਰਾਂ ਦੇ ਇੱਕ ਨਿਯੰਤਰਿਤ ਸਮੂਹ ਨੂੰ ਘੱਟ ਰੋਕ-ਟੋਕ ਵਾਲਾ ਸੈਂਡਬੌਕਸ (sandbox) ਦੇ ਕੇ, ਉਹ ਉਮੀਦ ਕਰਦੇ ਹਨ ਕਿ ਦੁਸ਼ਮਣਾਂ ਦੁਆਰਾ ਲੱਭੇ ਜਾਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਹਮਲੇ ਦੇ ਤਰੀਕਿਆਂ (attack vectors) ਦਾ ਪਤਾ ਲੱਗ ਜਾਵੇਗਾ। ਇਹ ਪਹੁੰਚ ਰਵਾਇਤੀ ਸੌਫਟਵੇਅਰ ਸੁਰੱਖਿਆ ਵਾਂਗ ਹੈ, ਜਿੱਥੇ ਡਿਵੈਲਪਰ ਚੁਣੇ ਹੋਏ ਲੋਕਾਂ ਲਈ “bug-bounty” ਬਿਲਡ ਰਿਲੀਜ਼ ਕਰਦੇ ਹਨ।

ਰੱਖਿਆਕਾਰਾਂ ਲਈ ਨਵਾਂ ਜੋਖਮ ਗਣਨਾ (risk calculus)

ਇਸ ਦਾ ਦੂਜਾ ਪਹਿਲੂ ਇੱਕ ਦੋ-ਪੱਧਰੀ ਪਹੁੰਚ ਮਾਡਲ ਹੈ ਜੋ ਹਰ ਸੰਸਥਾ ਨੂੰ “ਖੋਜਕਰਤਾ” ਅਤੇ “ਹੈਕਰ” ਵਿਚਕਾਰ ਇੱਕ ਰੇਖਾ ਖਿੱਚਣ ਲਈ ਮਜਬੂਰ ਕਰਦਾ ਹੈ। ਉਹ ਰੇਖਾ ਹੁਣ ਹਮਲੇ ਦੀ ਇੱਕ ਸੰਭਾਵੀ ਸਤ੍ਹਾ (attack surface) ਬਣ ਜਾਂਦੀ ਹੈ। ਜੇਕਰ ਕੋਈ ਹਮਲਾਵਰ ਕ੍ਰੈਡੈਂਸ਼ੀਅਲ ਚੋਰੀ ਕਰ ਲੈਂਦਾ ਹੈ, ਕਿਸੇ ਅੰਦਰੂਨੀ ਵਿਅਕਤੀ ਦੀ ਪਹੁੰਚ ਦਾ ਫਾਇਦਾ ਉਠਾਉਂਦਾ ਹੈ, ਜਾਂ ਪ੍ਰਮਾਣਿਕਤਾ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਧੋਖਾ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਉਹ ਉਨ੍ਹਾਂ ਗਾਰਡਰੇਲ ਨੂੰ ਪਾਰ ਕਰ ਸਕਦਾ ਹੈ ਜੋ ਜ਼ਿਆਦਾਤਰ ਉਪਭੋਗਤਾਵਾਂ ਦੀ ਰੱਖਿਆ ਕਰਦੇ ਹਨ। ਇੱਕ ਵਾਰ ਅੰਦਰ ਜਾਣ ਤੋਂ ਬਾਅਦ, ਬਿਨਾਂ ਕਿਸੇ ਰੋਕ-ਟੋਕ ਵਾਲੇ ਮਾਡਲ ਤੋਂ ਇਹ ਕੰਮ ਕਰਵਾਏ ਜਾ ਸਕਦੇ ਹਨ:

  • ਡਿਟੈਕਸ਼ਨ ਤੋਂ ਬਚਣ ਵਾਲੀਆਂ ਫਿਸ਼ਿੰਗ ਸਕ੍ਰਿਪਟਾਂ ਤਿਆਰ ਕਰਨਾ
  • ਵਿਸਤ੍ਰਿਤ ਕੋਡ ਸਨਿਪੇਟਸ ਦੇ ਨਾਲ zero-day ਐਕਸਪਲੋਇਟ ਤਿਆਰ ਕਰਨਾ
  • ਖਾਸ ਨਿਸ਼ਾਨਿਆਂ ਲਈ ਤਿਆਰ ਕੀਤੇ ਗਏ ਪ੍ਰਭਾਵਸ਼ਾਲੀ social-engineering ਪ੍ਰੋਂਪਟ ਤਿਆਰ ਕਰਨਾ

ਉਹ ਸੁਰੱਖਿਆ ਟੀਮਾਂ ਜਿਨ੍ਹਾਂ ਨੇ ਇਸ ਅਧਾਰ 'ਤੇ ਰੱਖਿਆ ਬਣਾਈ ਸੀ ਕਿ AI ਆਉਟਪੁੱਟ ਹਮੇਸ਼ਾ ਫਿਲਟਰ ਕੀਤੇ ਹੁੰਦੇ ਹਨ, ਉਹਨਾਂ ਨੂੰ ਉਸ ਅਧਾਰ 'ਤੇ ਮੁੜ ਵਿਚਾਰ ਕਰਨ ਦੀ ਲੋੜ ਹੈ।

ਰੱਖਿਆਕਾਰ ਕਿਵੇਂ ਜਵਾਬ ਦੇ ਸਕਦੇ ਹਨ

  • ਪ੍ਰੋਗਰਾਮਾਂ ਨੂੰ ਇੱਕ ਖਤਰੇ ਦੇ ਤਰੀਕੇ (threat vector) ਵਜੋਂ ਮੰਨੋ। ਮੰਨ ਕੇ ਚੱਲੋ ਕਿ ਵਿਰੋਧੀ ਪਹੁੰਚ ਦੇ ਰਸਤੇ ਵਿੱਚ ਘੁਸਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰਨਗੇ ਅਤੇ AI ਪਲੇਟਫਾਰਮਾਂ 'ਤੇ ਅਸਧਾਰਨ ਲੌਗਇਨ ਪੈਟਰਨਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰੋ।
  • ਕਲਾਉਡ ਤੋਂ ਪਰੇ ਡਿਟੈਕਸ਼ਨ ਦਾ ਵਿਸਤਾਰ ਕਰੋ। ਆਊਟਬਾਊਂਡ ਟ੍ਰੈਫਿਕ ਵਿੱਚ AI-ਜਨਰੇਟਡ ਕੋਡ ਜਾਂ ਟੈਕਸਟ ਦੀ ਭਾਲ ਕਰੋ, ਖਾਸ ਕਰਕੇ ਵਿਸ਼ੇਸ਼ ਅਕਾਊਂਟਾਂ ਤੋਂ।
  • ਪਾਲਿਸੀ ਕੰਟਰੋਲ ਨੂੰ ਸਖ਼ਤ ਕਰੋ। ਬਾਹਰੀ AI ਸੇਵਾਵਾਂ ਦੀ ਕਿਸੇ ਵੀ ਅੰਦਰੂਨੀ ਵਰਤੋਂ ਲਈ ਸਖ਼ਤ “least-privilege” ਨਿਯਮ ਲਾਗੂ ਕਰੋ, ਅਤੇ ਅਜਿਹੇ ਵਾਤਾਵਰਣਾਂ ਨੂੰ ਵੱਖ ਕਰੋ ਜਿਨ੍ਹਾਂ ਤੱਕ ਕਿਸੇ ਖਤਰੇ ਵਾਲੇ ਕ੍ਰੈਡੈਂਸ਼ੀਅਲ ਰਾਹੀਂ ਪਹੁੰਚ ਕੀਤੀ ਜਾ ਸਕਦੀ ਹੈ।
  • ਵੈਂਡਰਾਂ ਨਾਲ ਸਹਿਯੋਗ ਕਰੋ। ਪਹੁੰਚ ਦੇ ਮਾਪਦੰਡਾਂ ਵਿੱਚ ਤਬਦੀਲੀਆਂ ਜਾਂ ਖੋਜੇ ਗਏ ਦੁਰਵਰਤਵ ਬਾਰੇ ਅਲਰਟ ਪ੍ਰਾਪਤ ਕਰਨ ਲਈ Anthropic ਅਤੇ OpenAI ਦੇ ਸੁਰੱਖਿਆ ਲਾਇਜ਼ਨ (liaison) ਚੈਨਲਾਂ ਨਾਲ ਜੁੜੇ ਰਹੋ।

ਵਿਰੋਧੀ ਪੱਖ

ਸਮਰਥਕਾਂ ਦਾ ਤਰਕ ਹੈ ਕਿ ਡੂੰਘੀ ਜਾਂਚ ਲਈ ਸੁਰੱਖਿਅਤ ਚੈਨਲ ਤੋਂ ਬਿਨਾਂ, ਕਮਜ਼ੋਰੀਆਂ ਉਦੋਂ ਤੱਕ ਲੁਕੀਆਂ ਰਹਿਣਗੀਆਂ ਜਦੋਂ ਤੱਕ ਉਹ ਅਸਲ ਦੁਨੀਆ ਵਿੱਚ ਵਰਤੀਆਂ ਨਹੀਂ ਜਾਂਦੀਆਂ। ਇਸ ਲਈ, ਇਹ ਪ੍ਰੋਗਰਾਮ ਖਾਮੀਆਂ ਨੂੰ ਜਲਦੀ ਸਾਹਮਣੇ ਲਿਆ ਕੇ ਸਮੁੱਚੀ ਹਮਲੇ ਦੀ ਸਤ੍ਹਾ ਨੂੰ ਘਟਾ ਸਕਦੇ ਹਨ। ਵਟ-ਬਾਟ (trade-off) ਇਹ ਹੈ ਕਿ ਇੱਕ "ਘੱਟ-ਰੱਖਿਆ" ਪੱਧਰ ਮੌਕਾਵਾਦੀ ਦੁਰਵਰਤਵ ਨੂੰ ਸੱਦਾ ਦਿੰਦਾ ਹੈ।

ਕਿਸ ਚੀਜ਼ 'ਤੇ ਨਜ਼ਰ ਰੱਖੀਏ

  • ਕਿਸੇ ਵੀ ਕੰਪਨੀ ਵੱਲੋਂ ਪ੍ਰਮਾਣਿਕਤਾ ਪ੍ਰਕਿਰਿਆ ਵਿੱਚ ਅਪਡੇਟਸ
  • ਪ੍ਰੋਗਰਾਮਾਂ ਤੋਂ ਪੈਦਾ ਹੋਣ ਵਾਲੇ ਦੁਰਵਰਤਵ ਦੀਆਂ ਰਿਪੋਰਟਾਂ
  • AI ਨਾਲ ਸਬੰਧਤ ਹਮਲੇ ਦੀਆਂ ਸਤ੍ਹਾਵਾਂ ਨੂੰ ਕੈਟਾਲਾਗਾਈਜ਼ ਕਰਨ ਦੇ ਤਰੀਕੇ ਵਿੱਚ ਉਦਯੋਗ-ਵਿਆਪੀ ਤਬਦੀਲੀਆਂ

ਨਿਚੋੜ: ਨਵੇਂ ਖੋਜ ਟ੍ਰੈਕ ਸੁਰੱਖਿਆ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਸ਼ਕਤੀਸ਼ਾਲੀ ਸਾਧਨ ਦਿੰਦੇ ਹਨ, ਪਰ ਉਹ ਇਹਨਾਂ ਸਾਧਨਾਂ ਨੂੰ ਉਨ੍ਹਾਂ ਕਿਸੇ ਵੀ ਵਿਅਕਤੀ ਨੂੰ ਵੀ ਦੇ ਦਿੰਦੇ ਹਨ ਜੋ ਰਸਤੇ ਵਿੱਚੋਂ ਲੁਕ ਕੇ ਨਿਕਲ ਸਕਦਾ ਹੈ। ਰੱਖਿਆਕਾਰ ਟੀਮਾਂ ਨੂੰ ਇਹਨਾਂ ਪ੍ਰੋਗਰਾਮਾਂ ਨੂੰ ਗਿਆਨ ਦੇ ਸਰੋਤ ਅਤੇ ਹਮਲੇ ਦੇ ਇੱਕ ਨਵੇਂ ਰਸਤੇ, ਦੋਵਾਂ ਵਜੋਂ ਦੇਖਣਾ ਚਾਹੀਦਾ ਹੈ।