272 ਮਾਹਿਰਾਂ ਨੇ ਜੋਖਮਾਂ ਦੀ ਪਛਾਣ ਕੀਤੀ। ਪਰ ਕਿਸੇ ਨੇ ਵੀ ਮਕੈਨਿਜ਼ਮ (mechanisms) ਦੀ ਪਛਾਣ ਨਹੀਂ ਕੀਤੀ।

MIT ਦੇ ਇੱਕ ਅਧਿਐਨ ਵਿੱਚ 272 ਵਿਸ਼ਵਵਿਆਪੀ ਮਾਹਿਰਾਂ ਦਾ ਸਰਵੇਖਣ ਕੀਤਾ ਗਿਆ। ਉਹਨਾਂ ਨੇ AI ਦੇ ਜੋਖਮਾਂ ਦਾ ਅਧਿਐਨ ਕੀਤਾ। ਨਤੀਜੇ ਸਪੱਸ਼ਟ ਹਨ।

24 AI ਜੋਖਮ ਖੇਤਰਾਂ ਵਿੱਚੋਂ 18 ਵਿੱਚ ਪੰਜ ਸਾਲਾਂ ਦੇ ਅੰਦਰ ਘਟਨਾਕ੍ਰਾਮਕ ਨਤੀਜੇ ਹੋਣ ਦੀ ਘੱਟੋ-ਘੱਟ 10% ਸੰਭਾਵਨਾ ਹੈ।

ਇਸ ਸੰਦਰਭ ਵਿੱਚ, ਤਬਾਹੀ (catastrophe) ਦਾ ਮਤਲਬ ਹੈ:

  • ਇੱਕ ਮਿਲੀਅਨ ਤੋਂ ਵੱਧ ਮੌਤਾਂ।
  • $100 ਬਿਲੀਅਨ ਤੋਂ ਵੱਧ ਦਾ ਨੁਕਸਾਨ।
  • ਲੋਕਤੰਤਰੀ ਮਾਨਕਾਂ ਦਾ ਪਤਨ।

ਸਭ ਤੋਂ ਵੱਡੇ ਜੋਖਮ ਖ਼ਤਰਨਾਕ ਸਮਰੱਥਾਵਾਂ, ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਦੀਆਂ ਗਤੀਵਿਧੀਆਂ, ਹਥਿਆਰ, ਸ਼ਕਤੀ ਦਾ ਕੇਂਦਰੀਕਰਨ, ਅਤੇ ਗਲਤ ਜਾਣਕਾਰੀ ਹਨ।

ਇਹ ਅਧਿਐਨ ਜ਼ਿੰਮੇਵਾਰੀ ਦੇ ਇੱਕ ਪਾੜੇ ਨੂੰ ਉਜਾਗਰ ਕਰਦਾ ਹੈ। AI ਜੋਖਮਾਂ ਤੋਂ ਪ੍ਰਭਾਵਿਤ ਹੋਣ ਵਾਲੇ ਲੋਕ ਜਨਤਾ ਹਨ। ਜੋਖਮਾਂ ਨੂੰ ਸੁਧਾਰਨ ਵਾਲੇ ਲੋਕ ਡਿਵੈਲਪਰ ਅਤੇ ਸ਼ਾਸਕ (governors) ਹਨ। ਹਵਾਬਾਜ਼ੀ ਜਾਂ ਪ੍ਰਮਾਣੂ ਸ਼ਕਤੀ ਵਰਗੇ ਹੋਰ ਉਦਯੋਗਾਂ ਵਿੱਚ, ਅਸੀਂ ਇਸ ਪਾੜੇ ਨੂੰ ਭਰਨ ਲਈ ਲਾਜ਼ਮੀ ਮਿਆਰਾਂ ਅਤੇ ਦੇਣਦਾਰੀ (liability) ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਾਂ। AI ਵਿੱਚ, ਅਜਿਹੇ ਮਕੈਨਿਜ਼ਮ ਅਜੇ ਮੌਜੂਦ ਨਹੀਂ ਹਨ।

ਇੱਕ ਡੂੰਘਾ ਪਾੜਾ ਵੀ ਹੈ। ਇਹ ਉਹਨਾਂ ਖੋਜਕਰਤਾਵਾਂ ਅਤੇ ਇੰਜੀਨੀਅਰਾਂ ਵਿਚਕਾਰ ਹੈ ਜੋ ਅਸਫਲਤਾਵਾਂ ਦੀ ਭਵਿੱਖਬਾਣੀ ਕਰਦੇ ਹਨ ਅਤੇ ਉਹ ਜੋ ਪ੍ਰਣਾਲੀਆਂ ਬਣਾਉਂਦੇ ਹਨ।

ਖੋਜਕਰਤਾ ਪੇਪਰ ਲਿਖਦੇ ਹਨ। ਇੰਜੀਨੀਅਰ ਬਲੌਗ ਪੋਸਟਾਂ ਅਤੇ ਬੈਂਚਮਾਰਕਸ ਪੜ੍ਹਦੇ ਹਨ। ਉਹ ਇੱਕੋ ਭਾਸ਼ਾ ਨਹੀਂ ਬੋਲਦੇ। ਇੱਕ ਇੰਜੀਨੀਅਰ ਪ੍ਰਦਰਸ਼ਨ ਵਿੱਚ ਵਾਧਾ (performance boost) ਦੇਖਦਾ ਹੈ। ਇੱਕ ਖੋਜਕਰਤਾ ਇੱਕ ਘਟਨਾਕ੍ਰਾਮਕ ਜੋਖਮ ਦੇਖਦਾ ਹੈ। ਉਹਨਾਂ ਵਿਚਕਾਰ ਕੋਈ ਸਾਂਝਾ ਪੁਲ ਨਹੀਂ ਹੈ।

ਅਧਿਐਨ ਜੋਖਮਾਂ ਦੇ ਨਾਮ ਤਾਂ ਦੱਸਦਾ ਹੈ, ਪਰ ਇਹ ਉਹਨਾਂ ਇੰਜੀਨੀਅਰਿੰਗ ਅਸਫਲਤਾਵਾਂ ਦਾ ਜ਼ਿਕਰ ਨਹੀਂ ਕਰਦਾ ਜੋ ਉਹਨਾਂ ਦਾ ਕਾਰਨ ਬਣਦੀਆਂ ਹਨ।

ਉਦਾਹਰਨ ਲਈ:

  • ਮਲਟੀ-ਏਜੰਟ ਜੋਖਮ (Multi-agent risks): ਸਾਂਝੇ ਪ੍ਰੋਟੋਕੋਲ ਦੀ ਘਾਟ ਕਾਰਨ ਸਿਸਟਮਾਂ ਵਿੱਚ ਟਕਰਾਅ ਹੁੰਦਾ ਹੈ।
  • ਮੁਕਾਬਲੇਬਾਜ਼ੀ ਦੀਆਂ ਗਤੀਵਿਧੀਆਂ (Competitive dynamics): ਜਲਦੀ ਵਿੱਚ ਕੰਮ ਪੂਰਾ ਕਰਨ ਦੀ ਦੌੜ ਕਾਰਨ ਟੀਮਾਂ ਸੁਤੰਤਰ ਤਸਦੀਕ (independent verification) ਨੂੰ ਛੱਡ ਦਿੰਦੀਆਂ ਹਨ। ਉਹਨਾਂ ਦੀ ਬਜਾਏ ਸਵੈ-ਤਸਦੀਕ (self-verification) ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਹਨ, ਜੋ ਕਿ ਤੇਜ਼ ਹੈ ਪਰ ਅਸੁਰੱਖਿਅਤ ਹੈ।
  • ਸੁਰੱਖਿਆ ਕਮਜ਼ੋਰੀਆਂ (Security vulnerabilities): ਟੀਮਾਂ ਕੋਡ ਨੂੰ ਸਕੈਨ ਕਰਨ ਲਈ LLMs ਦੀ ਵਰਤੋਂ ਕਰਦੀਆਂ ਹਨ, ਪਰ ਉਹ ਕੌਂਫਿਗਰੇਸ਼ਨ ਅਤੇ ਬੁਨਿਆਦੀ ਢਾਂਚੇ (infrastructure) ਦੇ ਜੋਖਮਾਂ ਨੂੰ ਨਜ਼ਰਅੰਦਾਜ਼ ਕਰ ਦਿੰਦੀਆਂ ਹਨ।

ਇੱਕ ਸਥਿਰ ਪ੍ਰਣਾਲੀ ਲਈ ਪੰਜ ਹਿੱਸਿਆਂ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ:

  • ਇੱਕ ਟੂਲ (ਮਾਡਲ)।
  • ਇੱਕ ਇੰਜਣ (ਘੋਸ਼ਿਤ ਇਰਾਦਾ)।
  • ਇੱਕ ਟ੍ਰਾਂਸਮਿਸ਼ਨ (ਕੰਟਰੈਕਟਸ ਅਤੇ CI/CD)।
  • ਇੱਕ ਕੰਟਰੋਲ ਯੂਨਿਟ (ਇੱਕ ਸੁਤੰਤਰ ਓਰੇਕਲ)।
  • ਇੱਕ ਕੇਸਿੰਗ (ਲਾਗੂ ਕੀਤੀਆਂ ਗਈਆਂ ਸੀਮਾਵਾਂ)।

ਜ਼ਿਆਦਾਤਰ AI ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਕੰਟਰੋਲ ਯੂਨਿਟ ਅਤੇ ਕੇਸਿੰਗ ਦੀ ਕਮੀ ਹੈ। ਉਹ ਸਵੈ-ਇੱਛਤ ਗਾਰਡਰੇਲਜ਼ (guardrails) 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਜਿਵੇਂ-ਜਿਵੇਂ ਮਾਡਲ ਬਿਹਤਰ ਹੁੰਦੇ ਹਨ, ਇਹ ਗਾਰਡਰੇਲਜ਼ ਅਕਸਰ ਖਤਮ ਹੋ ਜਾਂਦੇ ਹਨ।

ਉਦਯੋਗ ਤਬਾਹੀ ਦੀ 10% ਸੰਭਾਵਨਾ ਨੂੰ ਇੱਕ ਸਵੀਕਾਰਯੋਗ ਜੋਖਮ ਮੰਨਦਾ ਹੈ। ਇਹ ਨਹੀਂ ਹੈ। ਡਿਵੈਲਪਰਾਂ ਦੀ ਸਵੈ-ਇੱਛਤ ਕਾਰਵਾਈ ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ। ਮੁਕਾਬਲਾ ਸੁਰੱਖਿਆ ਕਦਮਾਂ ਨੂੰ ਛੱਡਣ ਲਈ ਉਤਸ਼ਾਹ ਪੈਦਾ ਕਰਦਾ ਹੈ।

ਸਾਨੂੰ ਸਿਰਫ਼ ਸਲਾਹ ਦੀ ਨਹੀਂ, ਸਗੋਂ ਮਕੈਨੀਕਲ ਲਾਗੂਕਰਨ (mechanical enforcement) ਦੀ ਲੋੜ ਹੈ। ਸਾਨੂੰ ਭਵਿੱਖਬਾਣੀ ਕੀਤੀਆਂ ਗਈਆਂ ਅਸਫਲਤਾਵਾਂ ਹੋਣ ਤੋਂ ਪਹਿਲਾਂ ਜੋਖਮ ਖੋਜ ਅਤੇ ਇੰਜੀਨੀਅਰਿੰਗ ਅਭਿਆਸ ਵਿਚਕਾਰਲੇ ਪਾੜੇ ਨੂੰ ਭਰਨ ਦੀ ਲੋੜ ਹੈ।

ਸਰੋਤ: https://dev.to/bala_paranj_059d338e44e7e/272-experts-named-the-risks-nobody-named-the-mechanisms-4jb

ਵਿਕਲਪਿਕ ਸਿੱਖਣ ਭਾਈਚਾਰਾ: https://t.me/GyaanSetuAi