ਸਰਕਾਰਾਂ ਨੂੰ AI ਮਾਡਲਾਂ ਨੂੰ ਕਦੋਂ ਕੰਟਰੋਲ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ?

Anthropic ਨੂੰ ਹਾਲ ਹੀ ਵਿੱਚ ਇੱਕ ਵੱਡੀ ਸਮੱਸਿਆ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਿਆ। ਅਮਰੀਕੀ ਸਰਕਾਰ ਨੇ ਵਿਦੇਸ਼ੀ ਨਾਗਰਿਕਾਂ ਨੂੰ ਉਹਨਾਂ ਦੇ Fable 5 ਅਤੇ Mythos 5 ਮਾਡਲਾਂ ਦੀ ਵਰਤੋਂ ਕਰਨ ਤੋਂ ਰੋਕਣ ਲਈ ਇੱਕ ਨਿਰਦੇਸ਼ ਜਾਰੀ ਕੀਤਾ। ਕਾਨੂੰਨ ਦੀ ਪਾਲਣਾ ਕਰਨ ਲਈ, Anthropic ਨੇ ਸਾਰੇ ਗਾਹਕਾਂ ਲਈ ਪਹੁੰਚ (access) ਬੰਦ ਕਰ ਦਿੱਤੀ।

ਇਹ ਇੱਕ ਬਹੁਤ ਵੱਡਾ ਬਦਲਾਅ ਹੈ।

Frontier AI ਹੁਣ ਸਿਰਫ਼ ਸੌਫਟਵੇਅਰ ਨਹੀਂ ਰਿਹਾ। ਇਹ ਰਣਨੀਤਕ ਬੁਨਿਆਦੀ ਢਾਂਚਾ (strategic infrastructure) ਬਣ ਰਿਹਾ ਹੈ। ਜਦੋਂ ਸੌਫਟਵੇਅਰ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਬਣ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਸਰਕਾਰਾਂ ਦਖਲ ਦਿੰਦੀਆਂ ਹਨ।

ਅਸੀਂ ਅਕਸਰ AI ਨੂੰ ਚੈਟਬੋਟਸ ਜਾਂ ਇਮੇਜ ਜਨਰੇਟਰਾਂ ਵਰਗੀ ਇੱਕ ਪ੍ਰੋਡਕਟ ਸ਼੍ਰੇਣੀ ਵਜੋਂ ਦੇਖਦੇ ਹਾਂ। ਪਰ ਅਸਲ ਬਦਲਾਅ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਹੋ ਰਿਹਾ ਹੈ। ਆਧੁਨਿਕ AI ਸਿਸਟਮ ਕੋਡ ਲਿਖ ਸਕਦੇ ਹਨ, ਸੁਰੱਖਿਆ ਕਮੀਆਂ (security holes) ਲੱਭ ਸਕਦੇ ਹਨ ਅਤੇ ਵਰਕਫਲੋ ਚਲਾ ਸਕਦੇ ਹਨ। ਉਹ ਅੱਧ-ਸਵੈ-ਨਿਰਧਾਰਤ (semi-autonomously) ਤਰੀਕੇ ਨਾਲ ਕੰਮ ਕਰਦੇ ਹਨ।

ਇਹ ਜੋਖਮ ਨੂੰ ਬਦਲ ਦਿੰਦਾ ਹੈ। ਇੱਕ ਸਧਾਰਨ ਐਪ ਨੂੰ ਨਿਯਮਤ ਕਰਨਾ ਆਸਾਨ ਹੈ। ਇੱਕ ਅਜਿਹਾ ਸਿਸਟਮ ਜੋ ਸਾਈਬਰ ਹਮਲਿਆਂ ਨੂੰ ਆਟੋਮੇਟ ਕਰਦਾ ਹੈ, ਉਹ ਰਾਸ਼ਟਰੀ ਸੁਰੱਖਿਆ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਰਗਾ ਲੱਗਦਾ ਹੈ।

ਨਿਯਮਨ ਦੇ ਪੱਖ ਵਿੱਚ ਦਲੀਲ

ਜੇਕਰ ਕੋਈ ਮਾਡਲ ਬਾਇਓਸਿਕਿਉਰਿਟੀ ਜੋਖਮਾਂ, ਧੋਖਾਧੜੀ, ਜਾਂ ਵੱਡੇ ਪੱਧਰ 'ਤੇ ਨਿਗਰਾਨੀ (mass surveillance) ਨੂੰ ਤੇਜ਼ ਕਰਦਾ ਹੈ, ਤਾਂ ਬਿਨਾਂ ਕਿਸੇ ਰੋਕ-ਟੋਕ ਦੇ ਪਹੁੰਚ ਦੇਣਾ ਜੋਖਮ ਭਰਿਆ ਹੈ। ਇੰਜੀਨੀਅਰ ਪਹਿਲਾਂ ਹੀ ਰਸਾਇਣਾਂ, ਮਿਲਟਰੀ ਹਾਰਡਵੇਅਰ ਅਤੇ ਮਹੱਤਵਪੂਰਨ ਬੁਨਿਆਦੀ ਢਾਂਚੇ 'ਤੇ ਸੀਮਾਵਾਂ ਨੂੰ ਸਵੀਕਾਰ ਕਰਦੇ ਹਨ। ਜੇਕਰ AI ਖ਼ਤਰੇ ਦੇ ਦ੍ਰਿਸ਼ ਨੂੰ ਬਦਲ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਪਹੁੰਚ ਨਿਯੰਤਰਣ (access controls) ਸਹੀ ਹਨ।

ਵਧੇਰੇ ਦਖਲਅੰਦਾਜ਼ੀ ਦੇ ਵਿਰੁੱਧ ਦਲੀਲ

ਸਰਕਾਰੀ ਕੰਟਰੋਲ ਸਖ਼ਤ ਅਤੇ ਰਾਜਨੀਤਿਕ ਹੋ ਸਕਦਾ ਹੈ। ਅਚਾਨਕ ਲਗਾਈਆਂ ਗਈਆਂ ਪਾਬੰਦੀਆਂ ਖੋਜਕਰਤਾਵਾਂ, ਸਟਾਰਟਅੱਪਸ ਅਤੇ ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਂਦੀਆਂ ਹਨ। ਇਹ ਮੁਕਾਬਲੇ ਦੀ ਸਮੱਸਿਆ ਵੀ ਪੈਦਾ ਕਰਦਾ ਹੈ। ਜੇਕਰ ਸਿਰਫ਼ ਵੱਡੀਆਂ ਕੰਪਨੀਆਂ ਹੀ ਗੁੰਝਲਦਾਰ ਨਿਯਮਾਂ ਦੀ ਪਾਲਣਾ ਕਰ ਸਕਦੀਆਂ ਹਨ, ਤਾਂ ਸਾਨੂੰ ਕੇਂਦਰੀਕਰਨ (centralization) ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪਵੇਗਾ। ਕੇਂਦਰੀਕਰਨ ਕਾਰਨ ਆਡਿਟ ਘੱਟ ਹੁੰਦੇ ਹਨ ਅਤੇ ਲਚਕਤਾ (resilience) ਵੀ ਘਟਦੀ ਹੈ।

ਹੱਲ: ਸਮਰੱਥਾ-ਅਧਾਰਤ ਨਿਯਮ

ਸਾਨੂੰ ਮਾਡਲਾਂ ਨੂੰ ਹਾਈਪ ਜਾਂ ਪ੍ਰਸਿੱਧੀ ਦੇ ਅਧਾਰ 'ਤੇ ਸੀਮਤ ਨਹੀਂ ਕਰਨਾ ਚਾਹੀਦਾ। ਸਾਨੂੰ ਉਹਨਾਂ ਨੂੰ ਇਸ ਅਧਾਰ 'ਤੇ ਸੀਮਤ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਉਹ ਅਸਲ ਵਿੱਚ ਕੀ ਕਰ ਸਕਦੇ ਹਨ।

ਇਹ ਸਵਾਲ ਪੁੱਛੋ:

  • ਕੀ ਇਹ ਸੁਰੱਖਿਆ ਕਮੀਆਂ ਲੱਭ ਸਕਦਾ ਹੈ ਅਤੇ ਉਹਨਾਂ ਦਾ ਫਾਇਦਾ ਉਠਾ ਸਕਦਾ ਹੈ?
  • ਕੀ ਇਹ ਗੈਰ-ਮਾਹਰਾਂ ਲਈ ਨੁਕਸਾਨਦੇਹ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ?
  • ਕੀ ਇਹ ਨਿਗਰਾਨੀ ਤੋਂ ਬਿਨਾਂ ਵੱਖ-ਵੱਖ ਸਿਸਟਮਾਂ ਵਿੱਚ ਟੂਲ ਚਲਾ ਸਕਦਾ ਹੈ?
  • ਕੀ ਇਹ ਦਬਾਅ ਹੇਠ ਸੁਰੱਖਿਆ ਗਾਰਡਾਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰ ਦਿੰਦਾ ਹੈ?

ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ ਇਸ ਚਰਚਾ ਦੀ ਅਗਵਾਈ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ। ਨੀਤੀ ਕੋਈ ਅਮੂਰਤ ਕਾਨੂੰਨ ਨਹੀਂ ਹੋ ਸਕਦੀ। ਇਸ ਲਈ ਮਾਡਲ ਦੀ ਸਮਰੱਥਾ, ਟੂਲ ਦੀ ਪਹੁੰਚ ਅਤੇ ਤੈਨਾਤੀ (deployment) ਦੇ ਸੰਦਰਭ ਦੀ ਤਕਨੀਕੀ ਜਾਣਕਾਰੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਅਸਲੀ ਜੰਗ ਦਾ ਮੈਦਾਨ: ਪਹੁੰਚ ਨਿਯੰਤਰਣ (Access Control)

AI ਸੁਰੱਖਿਆ ਸਿਰਫ਼ ਮਾਡਲ ਵੇਟਸ (model weights) ਬਾਰੇ ਨਹੀਂ ਹੈ। ਇਹ ਪਹੁੰਚ ਨਿਯੰਤਰਣ ਬਾਰੇ ਹੈ।

ਸਿਸਟਮ ਦੀ ਵਰਤੋਂ ਕੌਣ ਕਰ ਸਕਦਾ ਹੈ? ਇਹ ਇੱਕ ਕਲਾਸਿਕ ਇੰਜੀਨੀਅਰਿੰਗ ਸਮੱਸਿਆ ਹੈ। ਇੱਕ ਕੁਦਰਤੀ ਭਾਸ਼ਾ ਪ੍ਰੋਂਪਟ (natural language prompt) ਕਈ ਸਿਸਟਮਾਂ ਵਿੱਚ ਕਾਰਵਾਈਆਂ ਸ਼ੁਰੂ ਕਰ ਸਕਦਾ ਹੈ। ਇਜਾਜ਼ਤਾਂ (Permissions) ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਦਾ ਹਿੱਸਾ ਹੋਣੀਆਂ ਚਾਹੀਦੀਆਂ ਹਨ, ਨਾ ਕਿ ਬਾਅਦ ਵਿੱਚ ਸੋਚੀ ਗਈ ਕੋਈ ਚੀਜ਼। ਇੱਕ ਕਮਜ਼ੋਰ ਪ੍ਰੋਡਕਟ ਸ਼ੈੱਲ ਦੇ ਅੰਦਰ ਇੱਕ ਸ਼ਕਤੀਸ਼ਾਲੀ ਮਾਡਲ ਖ਼ਤਰਨਾਕ ਹੁੰਦਾ ਹੈ।

ਮੇਰਾ ਵਿਚਾਰ

AI 'ਤੇ ਪਾਬੰਦੀ ਲਗਾਉਣਾ ਟਿਕਾਊ ਨਹੀਂ ਹੈ। ਬਿਨਾਂ ਨਿਯਮਾਂ ਦੇ ਸਭ ਕੁਝ ਰਿਲੀਜ਼ ਕਰਨਾ ਜ਼ਿੰਮੇਵਾਰਾਨਾ ਨਹੀਂ ਹੈ।

ਦਖਲਅੰਦਾਜ਼ੀ ਉਦੋਂ ਜਾਇਜ਼ ਹੁੰਦੀ ਹੈ ਜਦੋਂ ਤਿੰਨ ਚੀਜ਼ਾਂ ਮਿਲਦੀਆਂ ਹਨ:

  • ਉੱਚ ਸਮਰੱਥਾ
  • ਦੁਰਵਰਤੋਂ ਦੀ ਉੱਚ ਸੰਭਾਵਨਾ
  • ਘੱਟ ਜਵਾਬਦੇਹੀ

ਉਦੇਸ਼ ਨਵੀਨਤਾ (innovation) ਨੂੰ ਰੋਕੇ ਬਿਨਾਂ ਤਬਾਹੀ ਨੂੰ ਰੋਕਣਾ ਹੈ।

AI ਸਾਡੇ ਕੋਲ ਇਸ ਲਈ ਨਿਯਮ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਬੁਨਿਆਦੀ ਢਾਂਚਾ ਬਣ ਰਿਹਾ ਹੈ। ਸਿਸਟਮ ਡਿਜ਼ਾਈਨ ਵਿੱਚ ਤੁਹਾਡੇ ਦੁਆਰਾ ਕੀਤੇ ਗਏ ਚੋਣਾਂ—ਇਜਾਜ਼ਤਾਂ, ਲੌਗਿੰਗ, ਅਤੇ ਮਨੁੱਖੀ ਮਨਜ਼ੂਰੀ—ਇਹ ਨਿਰਧਾਰਤ ਕਰਨਗੀਆਂ ਕਿ ਦੁਨੀਆ AI ਨੂੰ ਕਿਵੇਂ ਸ਼ਾਸਿਤ ਕਰਦੀ ਹੈ।

AI ਕੰਟਰੋਲ ਦਾ ਭਵਿੱਖ ਬੁਨਿਆਦੀ ਢਾਂਚੇ ਵਿੱਚ ਲਿਖਿਆ ਜਾਵੇਗਾ।

ਸਰੋਤ: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo

ਵਿਕਲਪਿਕ ਲਰਨਿੰਗ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi