ਜੇਨਸਨ ਹੁਆਂਗ (Jensen Huang) ਹੁਣ ਡਰਾਉਣੀਆਂ ਕਹਾਣੀਆਂ ਤੋਂ ਤੰਗ ਆ ਚੁੱਕੇ ਹਨ। Nvidia ਦੇ CEO ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ AI ਉਦਯੋਗ ਨੂੰ ਚਲਾਉਣ ਵਾਲੇ ਲੋਕ ਵਿਗਿਆਨਕ ਕਲਪਨਾ (sci-fi) ਵਾਲੀਆਂ ਤਬਾਹੀਆਂ ਬਾਰੇ ਜਨਤਾ ਨੂੰ ਚੇਤਾਵਨੀ ਦੇਣ ਵਿੱਚ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਮਾਂ ਬਿਤਾ ਰਹੇ ਹਨ ਅਤੇ ਇਸ ਗੱਲ ਦੀ ਵਿਆਖਿਆ ਕਰਨ ਵਿੱਚ ਬਹੁਤ ਘੱਟ ਸਮਾਂ ਲਗਾ ਰਹੇ ਹਨ ਕਿ ਇਹ ਤਕਨਾਲੋਜੀ ਅਸਲ ਵਿੱਚ ਫੈਕਟਰੀਆਂ ਦੇ ਫਰਸ਼ਾਂ 'ਤੇ, ਕੋਡਬੇਸ (codebases) ਵਿੱਚ, ਅਤੇ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਵਰਕਫਲੋਜ਼ (enterprise workflows) ਦੇ ਅੰਦਰ ਕੀ ਕਰਦੀ ਹੈ। ਉਨ੍ਹਾਂ ਦੇ ਵਿਚਾਰ ਅਨੁਸਾਰ, ਆਧੁਨਿਕ AI ਦੀ ਸ਼ਕਤੀ ਹੁਣ ਕੋਈ ਅਜਿਹਾ ਰਾਜ਼ ਨਹੀਂ ਹੈ ਜਿਸ ਨੂੰ ਡਰਾਮੇਟਿਕ ਤਰੀਕੇ ਨਾਲ ਖੋਲ੍ਹਣ ਦੀ ਲੋੜ ਹੈ। ਅਸੀਂ ਸਮਝਦੇ ਹਾਂ। ਇਹ ਪ੍ਰਣਾਲੀਆਂ ਸਮਰੱਥ ਹਨ। ਹੁਣ ਸਾਨੂੰ ਉਤਪਾਦਨ ਦੀ ਅਸਲੀਅਤ (production reality) ਬਾਰੇ ਇੱਕ ਸਖ਼ਤ ਗੱਲਬਾਤ ਦੀ ਲੋੜ ਹੈ—ਕਿ ਜਦੋਂ ਇਹ ਮਾਡਲ ਅਸਲ ਉਤਪਾਦਾਂ ਵਿੱਚ ਜੋੜੇ ਜਾਂਦੇ ਹਨ ਤਾਂ ਉਹ ਕਿਵੇਂ ਵਿਵਹਾਰ ਕਰਦੇ ਹਨ, ਜਦੋਂ ਉਹ ਅਸਫਲ ਹੁੰਦੇ ਹਨ ਤਾਂ ਕੌਣ ਜ਼ਿੰਮੇਵਾਰ ਹੁੰਦਾ ਹੈ, ਅਤੇ ਲੋਡ (load) ਦੇ ਅਧੀਨ ਗਾਰਡਰੇਲ (guardrails) ਅਸਲ ਵਿੱਚ ਕਿਹੋ ਜਿਹੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ।
ਹੁਆਂਗ ਦਾ ਪੱਖ ਸਪੱਸ਼ਟ ਹੈ: AI ਨੂੰ ਇੱਕ ਸੰਦ (tool) ਵਾਂਗ ਸਮਝੋ, ਕਿਸਮਤ ਵਾਂਗ ਨਹੀਂ। ਇਹ ਅੰਤਰ ਕੋਈ ਦਾਰਸ਼ਨਿਕ ਬਹਿਸ ਨਹੀਂ ਹੈ। ਇਹ ਕੰਪਨੀਆਂ ਦੇ ਬਣਾਉਣ ਦੇ ਤਰੀਕੇ, ਨਿਯਮਕਾਂ (regulators) ਦੀ ਪ੍ਰਤੀਕਿਰਿਆ, ਅਤੇ ਖਰੀਦਦਾਰਾਂ ਦੇ ਫੈਸਲੇ ਲੈਣ ਦੇ ਤਰੀਕੇ ਨੂੰ ਰੂਪ ਦਿੰਦਾ ਹੈ। ਜਦੋਂ ਕਥਨ (narrative) ਤਬਾਹੀ ਤੋਂ ਹੁੰਦਿਆਂ ਸੰਦਾਂ (instrumentation) ਵੱਲ ਵਧਦਾ ਹੈ, ਤਾਂ ਕਈ ਵਿਵਹਾਰਕ ਚੀਜ਼ਾਂ ਬਦਲ ਜਾਂਦੀਆਂ ਹਨ।
ਵਿਸ਼ਵਾਸਯੋਗਤਾ ਦਾ ਟੈਕਸ
AI ਲੀਡਰਾਂ ਵਿੱਚ ਦੋ ਵੱਖ-ਵੱਖ ਆਵਾਜ਼ਾਂ ਵਿੱਚ ਬੋਲਣ ਦੀ ਆਦਤ ਪੈ ਗਈ ਹੈ। ਕਾਨਫਰੰਸ ਦੇ ਮੰਚਾਂ ਅਤੇ ਸੀਨੇਟ ਦੀਆਂ ਸੁਣਵਾਈਆਂ ਵਿੱਚ, ਉਹ ਅਜਿਹੇ ਅਸਤਿਤਵਵਾਦੀ ਜੋਖਮਾਂ (existential risks) ਅਤੇ ਸਿਨੇਮੈਟਿਕ ਭਵਿੱਖ ਦਾ ਵਰਣਨ ਕਰਦੇ ਹਨ ਜਿੱਥੇ ਸਵੈ-ਚਾਲਿਤ ਪ੍ਰਣਾਲੀਆਂ ਮਨੁੱਖਤਾ ਨੂੰ ਮਾਤ ਦੇ ਦਿੰਦੀਆਂ ਹਨ। ਅਗਲੀ ਸਵੇਰ, ਉਹੀ ਲੀਡਰ ਉਤਪਾਦ ਰੋਡਮੈਪ (product roadmaps) ਪ੍ਰਕਾਸ਼ਿਤ ਕਰਦੇ ਹਨ ਜੋ ਐਂਟਰਪ੍ਰਾਈਜ਼ਾਂ ਨੂੰ ਉਸੇ ਤਕਨਾਲੋਜੀ ਨੂੰ ਆਪਣੇ ਮਹੱਤਵਪੂਰਨ ਵਰਕਫਲੋਜ਼ ਸੌਂਪਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕਰਦੇ ਹਨ ਜਿਸ ਨੂੰ ਉਨ੍ਹਾਂ ਨੇ ਹੁਣੇ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਸਭਿਅਤਾ ਨੂੰ ਖਤਮ ਕਰਨ ਵਾਲੀ ਦੱਸਿਆ ਸੀ। ਇਹ ਦੋਹਰਾਪਣ ਇੱਕ ਕੀਮਤ ਲਿਆਉਂਦਾ ਹੈ।
ਖਰੀਦਦਾਰ ਨੋਟ ਕਰਦੇ ਹਨ। ਨਿਯਮਕ ਨੋਟ ਕਰਦੇ ਹਨ। ਜਦੋਂ ਉਹੀ ਆਵਾਜ਼ਾਂ ਤਬਾਹੀ ਅਤੇ ਸੇਲਜ਼ ਪਿੱਚ (sales pitch) ਦੇ ਵਿਚਕਾਰ ਬਦਲਦੀਆਂ ਹਨ, ਤਾਂ ਉਦਯੋਗ ਨੂੰ ਵਿਸ਼ਵਾਸਯੋਗਤਾ ਦਾ ਟੈਕਸ ਭਰਨਾ ਪੈਂਦਾ ਹੈ। ਐਂਟਰਪ੍ਰਾਈਜ਼ ਗਾਹਕ ਚੇਤਾਵਨੀਆਂ ਅਤੇ ਵਾਅਦਿਆਂ ਦੋਵਾਂ ਨੂੰ ਘੱਟ ਅਹਿਮੀਅਤ ਦੇਣ ਲੱਗ ਜਾਂਦੇ ਹਨ। ਪ੍ਰੋਕਿਊਰਮੈਂਟ (Procurement) ਟੀਮਾਂ ਇਹ ਮੰਨ ਲੈਂਦੀਆਂ ਹਨ ਕਿ ਅਸਤਿਤਵਵਾਦੀ ਗੱਲਾਂ ਕੀਮਤਾਂ ਨੂੰ ਵਧਾਉਣ ਲਈ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਮਾਰਕੀਟਿੰਗ ਥੀਏਟਰ ਹੈ। ਸਰਕਾਰੀ ਸੰਸਥਾਵਾਂ ਸੂਖਮ ਮਾਪਦੰਡਾਂ ਦੀ ਬਜਾਏ ਵਿਆਪਕ ਅਤੇ ਪ੍ਰਤੀਕਿਰਿਆਸ਼ੀਲ ਪਾਬੰਦੀਆਂ ਲਾਗੂ ਕਰਕੇ ਜਵਾਬ ਦਿੰਦੀਆਂ ਹਨ। ਸ਼ੋਰ ਕਾਰਨ ਅਸਲ ਸੰਕੇਤ ਦਬ ਜਾਂਦੇ ਹਨ, ਅਤੇ ਮਾਡਲ ਦੇ ਵਿਵਹਾਰ ਬਾਰੇ ਜਾਇਜ਼ ਸਵਾਲਾਂ ਨੂੰ ਵੀ ਭੜਕਾਊ ਗੱਲਾਂ ਦੇ ਨਾਲ ਜੋੜ ਦਿੱਤਾ ਜਾਂਦਾ ਹੈ। ਹੁਆਂਗ ਦਾ ਨੁਕਤਾ ਇਹ ਹੈ ਕਿ ਇਕਸਾਰਤਾ ਮਾਇਨੇ ਰੱਖਦੀ ਹੈ। ਜੇਕਰ AI ਇੱਕ ਸੰਦ ਹੈ, ਤਾਂ ਇਸ ਬਾਰੇ ਉਨੀ ਹੀ ਵਿਵਹਾਰਕ ਗੰਭੀਰਤਾ ਨਾਲ ਚਰਚਾ ਕਰੋ ਜਿਵੇਂ ਤੁਸੀਂ ਕਿਸੇ ਨਵੇਂ ਡਾਟਾਬੇਸ ਆਰਕੀਟੈਕਚਰ ਜਾਂ ਸਪਲਾਈ-ਚੇਨ ਪਲੇਟਫਾਰਮ ਬਾਰੇ ਕਰੋਗੇ।
ਚਿੰਤਾ ਨਾਲੋਂ ਇੰਜੀਨੀਅਰਿੰਗ ਨੂੰ ਪਹਿਲ
ਡਰ ਦੁਆਰਾ ਚਲਾਏ ਗਏ ਰੋਡਮੈਪ, ਸਮਰੱਥਾ ਦੁਆਰਾ ਚਲਾਏ ਗਏ ਰੋਡਮੈਪ ਨਾਲੋਂ ਵੱਖਰੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ। ਡਰ 'ਤੇ ਕੰਮ ਕਰਨ ਵਾਲਾ ਸੰਗਠਨ ਭਾਰੀ ਅਤੇ ਕੇਂਦਰੀਕ੍ਰਿਤ ਕੰਟਰੋਲ ਬਣਾਉਂਦਾ ਹੈ। ਹਰ ਫੀਚਰ ਲਈ ਕਮੇਟੀ ਦੀ ਮਨਜ਼ੂਰੀ ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ। ਖੁਦਮੁਖਤਿਆਰੀ (Autonomy) ਦੀ ਗੱਲ ਤਾਂ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਪਰ ਕਦੇ ਲਾਗੂ ਨਹੀਂ ਕੀਤੀ ਜਾਂਦੀ ਕਿਉਂਕਿ ਜੋਖਮ ਸਹਿਣ ਦੀ ਸੰਗਠਨਾਤਮਕ ਸਮਰੱਥਾ ਜ਼ੀਰੋ ਹੋ ਜਾਂਦੀ ਹੈ। ਨਤੀਜਾ ਸੁਰੱਖਿਆ ਨਹੀਂ, ਸਗੋਂ ਅਧਰੰਗ (paralysis) ਹੁੰਦਾ ਹੈ।
ਇਸ ਦੇ ਉਲਟ, ਸਮਰੱਥਾ-ਅਧਾਰਤ ਰੋਡਮੈਪ ਖੁਦਮੁਖਤਿਆਰੀ ਨੂੰ ਸਾਵਧਾਨੀ ਨਾਲ ਲਾਗੂ ਕਰਦੇ ਹਨ। ਉਹ ਸੀਮਤ ਦਾਇਰੇ ਨਾਲ ਸ਼ੁਰੂ ਹੁੰਦੇ ਹਨ ਜਿੱਥੇ ਗਲਤੀ ਦਾ ਪ੍ਰਭਾਵ (blast radius) ਘੱਟ ਹੁੰਦਾ ਹੈ। ਉਹ ਮਹੱਤਵਪੂਰਨ ਕਾਰਵਾਈਆਂ ਲਈ 'human-in-the-loop' ਡਿਜ਼ਾਈਨ 'ਤੇ ਜ਼ੋਰ ਦਿੰਦੇ ਹਨ, ਇੱਕ ਅਸਥਾਈ ਸਹਾਰੇ ਵਜੋਂ ਨਹੀਂ ਬਲਕਿ ਇੱਕ ਟਿਕਾਊ ਆਰਕੀਟੈਕਚਰਲ ਪਰਤ ਵਜੋਂ। ਉਹ ਸੰਦਾਂ ਦੀਆਂ ਸੀਮਾਵਾਂ ਨੂੰ ਸਪੱਸ਼ਟ ਤੌਰ 'ਤੇ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦੇ ਹਨ: ਇਹ ਏਜੰਟ ਇੱਕ ਇਨਵੈਂਟਰੀ API ਨੂੰ ਕੁਐਰੀ ਕਰ ਸਕਦਾ ਹੈ, ਪਰ ਇਹ ਖਰੀਦ ਆਰਡਰ (purchase orders) ਨੂੰ ਲਾਗੂ ਨਹੀਂ ਕਰ ਸਕਦਾ। ਉਹ ਆਡਿਟ ਲੌਗ (audit logs) ਬਣਾਉਂਦੇ ਹਨ ਜੋ ਕੁਐਰੀ ਕਰਨ ਯੋਗ ਅਤੇ ਸੰਗਠਿਤ ਹੁੰਦੇ ਹਨ, ਨਾ ਕਿ ਸਿਰਫ ਬਾਅਦ ਵਿੱਚ ਜੋੜੇ ਗਏ ਟੈਕਸਟ ਫਾਈਲਾਂ। ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਗੱਲ ਇਹ ਹੈ ਕਿ ਉਹ ਅਸਲ ਉਤਪਾਦਨ ਲੋਡ ਦੇ ਅਧੀਨ 'kill switches' ਦਾ ਟੈਸਟ ਕਰਦੇ ਹਨ, ਕਿਉਂਕਿ ਇੱਕ ਸਟੌਪ ਬਟਨ ਜੋ ਲੈਬ ਵਿੱਚ ਕੰਮ ਕਰਦਾ ਹੈ ਪਰ ਟ੍ਰੈਫਿਕ ਵਧਣ 'ਤੇ ਫੇਲ੍ਹ ਹੋ ਜਾਂਦਾ ਹੈ, ਉਹ ਸਿਰਫ ਸਜਾਵਟੀ ਹੁੰਦਾ ਹੈ।
ਇਹ ਕੰਟਰੋਲ ਸ਼ਾਨਦਾਰ ਨਹੀਂ ਹੁੰਦੇ। ਇਹ ਵੀਰਲ ਹੋਣ ਵਾਲੀਆਂ ਕੀਨੋਟ (keynote) ਸਲਾਈਡਾਂ ਨਹੀਂ ਬਣਾਉਂਦੇ। ਪਰ ਇਹ ਇੱਕ ਡੈਮੋ ਅਤੇ ਇੱਕ ਅਸਲ ਉਤਪਾਦ ਦੇ ਵਿਚਕਾਰ ਦਾ ਅੰਤਰ ਹਨ। ਹੁਆਂਗ ਦਾ ਤਰਕ ਇਹ ਦੱਸਦਾ ਹੈ ਕਿ ਇੰਜੀਨੀਅਰਿੰਗ ਅਨੁਸ਼ਾਸਨ ਹੀ ਸੁਰੱਖਿਆ ਦਾ ਇੱਕੋ ਇੱਕ ਰੂਪ ਹੈ ਜੋ ਗਾਹਕਾਂ ਦੇ ਸੰਪਰਕ ਵਿੱਚ ਟਿਕਦਾ ਹੈ।
ਡਰ ਦੀ ਅਸਲ ਕੀਮਤ
ਅਤਿਅੰਤ ਬਿਆਨਬਾਜ਼ੀ ਸਿਰਫ ਪ੍ਰੈਸ ਤੱਕ ਸੀਮਤ ਨਹੀਂ ਰਹਿੰਦੀ। ਇਹ ਕਾਨੂੰਨੀ ਸਮੀਖਿਆ ਚੱਕਰਾਂ, ਪ੍ਰੋਕਿਊਰਮੈਂਟ ਚੈੱਕਲਿਸਟਾਂ, ਅਤੇ ਬੋਰਡਰੂਮ ਬਹਿਸਾਂ ਵਿੱਚ ਵੀ ਪ੍ਰਵੇਸ਼ ਕਰਦੀ ਹੈ। ਜਦੋਂ AI ਨੂੰ ਇੱਕ ਅਸਤਿਤਵਵਾਦੀ ਜਾਂ ਅਸਤਿਤਵਵਾਦ ਦੇ ਨੇੜੇ ਵਾਲੀ ਤਕਨਾਲੋਜੀ ਵਜੋਂ ਪੇਸ਼ ਕੀਤਾ ਜਾਂਦਾ ਹੈ, ਤਾਂ ਐਂਟਰਪ੍ਰਾਈਜ਼ ਵਾਧੂ ਕਾਨੂੰਨੀ ਸਲਾਹ, ਬਾਹਰੀ ਨੈਤਿਕ ਆਡਿਟ, ਅਤੇ ਲੰਬੇ ਪਾਇਲਟ ਪੜਾਵਾਂ ਨੂੰ ਜੋੜ ਕੇ ਜਵ
ਉਹ ਸ਼ਬਦਾਵਲੀ ਜੋ ਇਹਨਾਂ ਵਿੱਚੋਂ ਕਿਸੇ ਵੀ ਮੁੱਦੇ ਨੂੰ ਸੁਧਾਰੇ ਬਿਨਾਂ ਖ਼ਤਰਿਆਂ ਨੂੰ ਵਧਾ-ਚੜ੍ਹਾ ਕੇ ਪੇਸ਼ ਕਰਦੀ ਹੈ, ਉਹ ਮਾਰਕੀਟਿੰਗ ਕਰਜ਼ਾ (marketing debt) ਹੈ। ਇਹ ਭਵਿੱਖ ਤੋਂ ਧਿਆਨ ਉਧਾਰ ਲੈਂਦੀ ਹੈ ਅਤੇ ਨਾਲ ਹੀ ਵਰਤਮਾਨ ਨੂੰ ਭਾਰੀ ਪ੍ਰਕਿਰਿਆਵਾਂ ਅਤੇ ਹੌਲੀ ਸੁਧਾਰ ਪ੍ਰਕਿਰਿਆਵਾਂ ਦੇ ਬੋਝ ਹੇਠ ਦਬਾ ਦਿੰਦੀ ਹੈ।
ਅਸਲ ਵਿੱਚ ਸੁਰੱਖਿਆ ਕਿਹੋ ਜਿਹੀ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ
ਅਸਲ ਸੁਰੱਖਿਆ ਦੇਖਣਯੋਗ ਅਤੇ ਸਧਾਰਨ ਹੁੰਦੀ ਹੈ। ਇਹ ਬਿਹਤਰ ਮੁਲਾਂਕਣਾਂ ਵਿੱਚ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ ਜੋ ਸਿਰਫ਼ ਆਮ ਗਿਆਨ ਦੇ ਬੈਂਚਮਾਰਕ ਹੀ ਨਹੀਂ, ਸਗੋਂ ਖਾਸ ਖੇਤਰ ਨਾਲ ਸਬੰਧਤ edge cases ਦੀ ਪਰਖ ਕਰਦੇ ਹਨ। ਇਹ ਵਿਸਤ੍ਰਿਤ tool permissions ਵਿੱਚ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ, ਜਿੱਥੇ ਇੱਕ AI ਸਿਸਟਮ ਨੂੰ ਉਸਦੇ ਕੰਮ ਲਈ ਲੋੜੀਂਦੀ ਘੱਟੋ-ਘੱਟ ਪਹੁੰਚ ਮਿਲਦੀ ਹੈ ਅਤੇ ਉਸ ਤੋਂ ਵੱਧ ਨਹੀਂ। ਇਹ production boundaries ਵਿੱਚ ਦਿਖਾਈ ਦਿੰਦੀ ਹੈ: rate limits, input sanitization, output filtering, ਅਤੇ circuit breakers ਜੋ ਭਿਆਨਕ ਤਰੀਕੇ ਨਾਲ ਫੇਲ੍ਹ ਹੋਣ ਦੀ ਬਜਾਏ ਸ਼ਾਂਤਮਈ ਢੰਗ ਨਾਲ ਕੰਮ ਘਟਾ ਦਿੰਦੇ ਹਨ।
ਚੇਤਾਵਨੀਆਂ ਬਾਰੇ Huang ਦੀ ਚੇਤਾਵਨੀ ਅੰਤ ਵਿੱਚ ਕਾਰਜਸ਼ੀਲ ਇਮਾਨਦਾਰੀ ਲਈ ਇੱਕ ਅਪੀਲ ਹੈ। ਡਰ ਵੇਚਣਾ ਬੰਦ ਕਰੋ। ਕਾਰਜਸ਼ੀਲ controls ਬਣਾਉਣਾ ਸ਼ੁਰੂ ਕਰੋ। ਉਹ ਨਿਰਮਾਤਾ ਜੋ ਆਪਣੀ ਸੁਰੱਖਿਆ ਦੀ ਕਹਾਣੀ ਨੂੰ ਆਪਣੀ hype story ਤੋਂ ਵੱਖ ਰੱਖਦੇ ਹਨ, ਉਹ ਉਹ ਭਰੋਸਾ ਕਮਾਉਣਗੇ ਜੋ ਉਹਨਾਂ ਨੂੰ ship ਕਰਨ, iterate ਕਰਨ ਅਤੇ ਸੁਧਾਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦਾ ਹੈ। ਜੋ ਅਜਿਹਾ ਨਹੀਂ ਕਰਨਗੇ, ਉਹ ਦੇਖਣਗੇ ਕਿ ਉਹਨਾਂ ਦੇ ਆਪਣੇ ਅਲਾਰਮ ਸਿਰਫ਼ background noise ਬਣ ਕੇ ਰਹਿ ਗਏ ਹਨ—ਅਤੇ ਉਹਨਾਂ ਦੇ ਉਤਪਾਦ ਅਸਲ ਪੱਧਰ 'ਤੇ ਪਹੁੰਚਣ ਤੋਂ ਪਹਿਲਾਂ ਹੀ ਰੁਕ ਜਾਣਗੇ।
Optional learning community: https://t.me/GyaanSetuAi