ਐਂਟਰਪ੍ਰਾਈਜ਼ AI ਵਿੱਚ ਭਰੋਸੇ ਦੀ ਸਮੱਸਿਆ
ਜਦੋਂ ਕੰਪਨੀਆਂ AI ਭਰੋਸੇ ਬਾਰੇ ਗੱਲ ਕਰਦੀਆਂ ਹਨ, ਤਾਂ ਉਹ ਜ਼ਿਆਦਾਤਰ ਗਲਤ ਚੀਜ਼ 'ਤੇ ਧਿਆਨ ਕੇਂਦਰਿਤ ਕਰਦੀਆਂ ਹਨ। ਉਹ ਪੁੱਛਦੇ ਹਨ ਕਿ ਕੀ ਮਾਡਲ ਸਹੀ ਹੈ। ਉਹ ਪੁੱਛਦੇ ਹਨ ਕਿ ਕੀ ਇਹ ਗਲਤ ਜਾਣਕਾਰੀ ਬਣਾਉਂਦਾ ਹੈ (hallucinates)।
ਇਹ ਸਵਾਲ ਅਸਲ ਮਕਸਦ ਨੂੰ ਸਮਝਣ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੇ ਹਨ।
ਕੰਪਨੀਆਂ ਦੁਆਰਾ AI ਨੂੰ ਛੱਡ ਦੇਣ ਦਾ ਕਾਰਨ ਮਾਡਲ ਨਹੀਂ ਹੈ। ਇਹ ਮਾਡਲ ਦੇ ਆਲੇ-ਦੁਆਲੇ ਦੇ ਸਿਸਟਮ ਵਿੱਚ ਭਰੋਸੇ ਦੀ ਕਮੀ ਹੈ। ਪ੍ਰੋਡਕਸ਼ਨ (production) ਵਿੱਚ ਸਫਲ ਹੋਣ ਲਈ, ਤੁਹਾਨੂੰ ਕਾਰਜਸ਼ੀਲ ਨਿਯੰਤਰਣ (operational control) ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
ਤੁਹਾਨੂੰ ਚਾਰ ਸਵਾਲਾਂ ਦੇ ਜਵਾਬ ਦੇਣੇ ਚਾਹੀਦੇ ਹਨ:
- ਕੀ ਤੁਸੀਂ ਆਉਟਪੁੱਟ (outputs) ਦੀ ਵਿਆਖਿਆ ਕਰ ਸਕਦੇ ਹੋ? ਜੇਕਰ ਕੋਈ ਟੀਮ ਇਹ ਨਹੀਂ ਦੱਸ ਸਕਦੀ ਕਿ AI ਨੇ ਇੱਕ ਖਾਸ ਨਤੀਜਾ ਕਿਉਂ ਦਿੱਤਾ, ਤਾਂ ਉਹ ਸਿਰਫ਼ ਉਮੀਦ ਦੇ ਭਰੋਸੇ ਕੰਮ ਕਰ ਰਹੇ ਹਨ। ਪਹਿਲੀ ਘਟਨਾ ਵੇਲੇ ਉਮੀਦ ਟੁੱਟ ਜਾਂਦੀ ਹੈ।
- ਕੀ ਤੁਸੀਂ ਫੈਸਲਿਆਂ ਦੀ ਪੁਸ਼ਟੀ (validate) ਕਰ ਸਕਦੇ ਹੋ? ਤੁਹਾਨੂੰ ਅਸਲ ਵਪਾਰਕ ਲੋੜਾਂ ਦੇ ਮੁਕਾਬਲੇ AI ਆਉਟਪੁੱਟ ਦੀ ਜਾਂਚ ਕਰਨ ਦਾ ਇੱਕ ਤਰੀਕਾ ਚਾਹੀਦਾ ਹੈ।
- ਕੀ ਤੁਸੀਂ ਦਖਲ ਦੇ ਸਕਦੇ ਹੋ? ਤੁਹਾਨੂੰ ਇੱਕ 'ਕਿਲ ਸਵਿੱਚ' (kill switch) ਜਾਂ ਬਦਲਵੇਂ ਰਸਤੇ (fallback path) ਦੀ ਲੋੜ ਹੈ। ਜੇਕਰ ਤੁਹਾਡੇ ਕੋਲ AI ਨੂੰ ਰੋਕਣ ਦਾ ਕੋਈ ਤਰੀਕਾ ਨਹੀਂ ਹੈ, ਤਾਂ ਤੁਸੀਂ ਇਹ ਸਬਕ ਕਿਸੇ ਸੰਕਟ (crisis) ਦੌਰਾਨ ਸਿੱਖੋਗੇ।
- ਕੀ ਤੁਸੀਂ ਨਤੀਜਿਆਂ ਦਾ ਪਤਾ ਲਗਾ ਸਕਦੇ ਹੋ (trace)? ਜੇਕਰ ਕਿਸੇ ਫੈਸਲੇ ਕਾਰਨ ਕੋਈ ਮਾੜਾ ਨਤੀਜਾ ਨਿਕਲਦਾ ਹੈ, ਤਾਂ ਤੁਹਾਨੂੰ ਉਸ ਕੜੀ ਨੂੰ ਦੁਬਾਰਾ ਜੋੜਨਾ ਪਵੇਗਾ। ਤੁਹਾਨੂੰ ਇਨਪੁੱਟ (input), ਆਉਟਪੁੱਟ (output), ਅਤੇ ਸੰਦਰਭ (context) ਬਾਰੇ ਜਾਣਨਾ ਚਾਹੀਦਾ ਹੈ।
ਅਪਾਰਦਰਸ਼ਤਾ ਦੀ ਘਾਟ (Opacity) ਡੈਮੋ ਵਿੱਚ ਕੰਮ ਕਰ ਸਕਦੀ ਹੈ। ਇਹ ਪ੍ਰੋਡਕਸ਼ਨ ਵਿੱਚ ਅਸਫਲ ਰਹਿੰਦੀ ਹੈ।
ਅਸਲ ਪ੍ਰੋਡਕਸ਼ਨ ਵਾਤਾਵਰਣ ਵਿੱਚ ਆਡੀਟਰ, ਰੈਗੂਲੇਟਰ ਅਤੇ ਇੰਜੀਨੀਅਰ ਹੁੰਦੇ ਹਨ। ਇਹ ਲੋਕਾਂ ਨੂੰ ਇਹ ਜਾਣਨ ਦੀ ਲੋੜ ਹੈ ਕਿ ਚੀਜ਼ਾਂ ਕਿਉਂ ਹੋਈਆਂ। ਉਹ "AI ਨੇ ਇਹ ਕੀਤਾ" ਨੂੰ ਜਵਾਬ ਵਜੋਂ ਸਵੀਕਾਰ ਨਹੀਂ ਕਰ ਸਕਦੇ।
ਅਪਾਰਦਰਸ਼ ਸਿਸਟਮ ਅਨਿਸ਼ਚਿਤਤਾ (uncertainty) ਨੂੰ ਵਧਾਉਂਦੇ ਹਨ। ਅਨਿਸ਼ਚਿਤਤਾ ਅਪਣਾਉਣ ਦੀ ਪ੍ਰਕਿਰਿਆ (adoption) ਨੂੰ ਖਤਮ ਕਰ ਦਿੰਦੀ ਹੈ।
ਉਹ ਟੀਮਾਂ ਜੋ AI ਨੂੰ ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਬਰਕਰਾਰ ਰੱਖਦੀਆਂ ਹਨ, ਉਹ ਇਹ ਚਾਰ ਕੰਮ ਕਰਦੀਆਂ ਹਨ:
- ਉਹ ਆਉਟਪੁੱਟ ਨੂੰ ਵਿਆਖਿਆਯੋਗ (explainable) ਬਣਾਉਂਦੇ ਹਨ। ਟੀਮ ਦਾ ਕੋਈ ਵਿਅਕਤੀ ਹਮੇਸ਼ਾ ਦੱਸ ਸਕਦਾ ਹੈ ਕਿ ਸਿਸਟਮ ਨੇ ਅਜਿਹਾ ਕਿਉਂ ਕੀਤਾ।
- ਉਹ ਫੈਸਲਿਆਂ ਨੂੰ ਜਾਂਚਯੋਗ (checkable) ਬਣਾਉਂਦੇ ਹਨ। AI ਅਤੇ ਅੰਤਿਮ ਕਾਰਵਾਈ ਦੇ ਵਿਚਕਾਰ ਇੱਕ ਵੈਲੀਡੇਸ਼ਨ ਲੇਅਰ (validation layer) ਹੁੰਦੀ ਹੈ।
- ਉਹ ਦਖਲਅੰਦਾਜ਼ੀ ਨੂੰ ਸੰਭਵ ਬਣਾਉਂਦੇ ਹਨ। ਇੱਕ ਓਵਰਰਾਈਡ ਪਾਥ (override path) ਮੌਜੂਦ ਹੁੰਦਾ ਹੈ ਅਤੇ ਕੰਮ ਕਰਦਾ ਹੈ।
- ਉਹ ਟ੍ਰੇਸੇਬਿਲਟੀ (traceability) ਬਣਾਉਂਦੇ ਹਨ। ਲੌਗਸ (Logs) ਤੁਹਾਨੂੰ ਹਰ ਘਟਨਾ ਨੂੰ ਦੁਬਾਰਾ ਜੋੜਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੰਦੇ ਹਨ।
ਮਾਡਲਾਂ ਤੱਕ ਪਹੁੰਚ ਹੁਣ ਚੁਣੌਤੀ ਨਹੀਂ ਹੈ। ਚੁਣੌਤੀ ਇਹ ਹੈ ਕਿ ਜਿਵੇਂ ਹੀ AI ਤੁਹਾਡੇ ਵਰਕਫਲੋ (workflow) ਵਿੱਚ ਦਾਖਲ ਹੁੰਦਾ ਹੈ, ਕਾਰਜਸ਼ੀਲ ਸਪੱਸ਼ਟਤਾ (operational clarity) ਨੂੰ ਕਿਵੇਂ ਬਣਾਈ ਰੱਖਿਆ ਜਾਵੇ।
ਸੰਸਥਾਵਾਂ AI ਨੂੰ ਤੇਜ਼ੀ ਨਾਲ ਅਪਣਾਉਂਦੀਆਂ ਹਨ ਜਦੋਂ ਸਿਸਟਮ ਪਾਰਦਰਸ਼ੀ ਅਤੇ ਟ੍ਰੇਸੇਬਲ (traceable) ਹੁੰਦਾ ਹੈ। ਸਿਰਫ਼ ਮਾਡਲ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਕਾਫ਼ੀ ਨਹੀਂ ਹੈ। ਤੁਹਾਨੂੰ ਪੂਰੇ ਸਿਸਟਮ 'ਤੇ ਭਰੋਸਾ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
ਤੁਹਾਡੀ ਟੀਮ AI ਭਰੋਸੇ ਨੂੰ ਕਿਵੇਂ ਸੰਭਾਲਦੀ ਹੈ? ਕੀ ਇਹ ਤੁਹਾਡੇ ਡਿਜ਼ਾਈਨ ਵਿੱਚ ਸ਼ਾਮਲ ਹੈ ਜਾਂ ਤੁਸੀਂ ਕੁਝ ਟੁੱਟਣ ਦੀ ਉਡੀਕ ਕਰ ਰਹੇ ਹੋ?