𝗔𝗜 ਫੈਸਲੇ ਲੈਣ ਦੀ ਸਮਰੱਥਾ ਦਾ ਬਦਲ ਨਹੀਂ ਹੈ
ਵਿੱਤੀ ਖੋਜ ਅਤੇ ਜੋਖਮ ਦੀ ਨਿਗਰਾਨੀ ਵਿੱਚ AI ਦਾ ਵਿਸਥਾਰ ਹੋ ਰਿਹਾ ਹੈ।
ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਇੱਕ ਖਾਸ ਚੁਣੌਤੀ ਦਾ ਸਾਹਮਣਾ ਕਰਨਾ ਪੈਂਦਾ ਹੈ। ਮਸਲਾ ਇਹ ਨਹੀਂ ਹੈ ਕਿ ਕੀ AI ਡੇਟਾ ਨੂੰ ਪ੍ਰੋਸੈਸ ਕਰ ਸਕਦਾ ਹੈ। ਉਹ ਕਰ ਸਕਦਾ ਹੈ। ਅਸਲੀ ਮਸਲਾ ਇਹ ਹੈ ਕਿ ਕੀ ਉਪਭੋਗਤਾ ਇਹ ਸਮਝਦੇ ਹਨ ਕਿ ਮਾਡਲ ਕੀ ਨਹੀਂ ਜਾਣਦਾ।
ਬਾਜ਼ਾਰਾਂ ਵਿੱਚ, ਅਨਿਸ਼ਚਿਤਤਾ ਵਾਤਾਵਰਣ ਦਾ ਇੱਕ ਹਿੱਸਾ ਹੈ। ਇੱਕ ਮਾਡਲ ਪੁਰਾਣੇ ਡੇਟਾ ਵਿੱਚ ਪੈਟਰਨ ਲੱਭਦਾ ਹੈ। ਇਹ ਵਾਅਦਾ ਨਹੀਂ ਕਰ ਸਕਦਾ ਕਿ ਭਵਿੱਖ ਪੁਰਾਣੇ ਵਾਂਗ ਹੀ ਹੋਵੇਗਾ। AI ਨੂੰ ਮਨੁੱਖੀ ਫੈਸਲੇ ਲੈਣ ਦੀ ਸਮਰੱਥਾ ਦਾ ਸਮਰਥਨ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ, ਨਾ ਕਿ ਉਸਦੀ ਜਗ੍ਹਾ ਲੈਣੀ ਚਾਹੀਦੀ ਹੈ।
ਵਿੱਤੀ ਡੇਟਾ ਲਗਾਤਾਰ ਬਦਲਦਾ ਰਹਿੰਦਾ ਹੈ। ਵਿਆਜ ਦਰਾਂ ਬਦਲਦੀਆਂ ਹਨ। ਲਿਕਵਿਡਿਟੀ (Liquidity) ਬਦਲਦੀ ਹੈ। ਕੋਰੀਲੇਸ਼ਨ (Correlations) ਟੁੱਟ ਜਾਂਦੀਆਂ ਹਨ। ਇੱਕ ਮਾਰਕੀਟ ਵਾਤਾਵਰਣ ਵਿੱਚ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਮਾਡਲ ਅਕਸਰ ਅਗਲੇ ਵਾਤਾਵਰਣ ਵਿੱਚ ਅਸਫਲ ਹੋ ਜਾਂਦਾ ਹੈ।
ਡਿਵੈਲਪਰਾਂ ਨੂੰ ਯਾਦ ਰੱਖਣਾ ਚਾਹੀਦਾ ਹੈ: ਮਾਡਲ ਦੀ ਸ਼ੁੱਧਤਾ ਕਦੇ ਵੀ ਸਥਾਈ ਨਹੀਂ ਹੁੰਦੀ। ਤੁਸੀਂ ਇੱਕ ਵਾਰ ਮਾਡਲ ਨੂੰ ਡਿਪਲੋਏ (deploy) ਕਰਕੇ ਇਹ ਉਮੀਦ ਨਹੀਂ ਕਰ ਸਕਦੇ ਕਿ ਇਹ ਹਮੇਸ਼ਾ ਲਈ ਕੰਮ ਕਰੇਗਾ। ਤੁਹਾਨੂੰ ਨਿਰੰਤਰ ਨਿਗਰਾਨੀ ਅਤੇ ਵੈਲੀਡੇਸ਼ਨ (validation) ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।
ਭਵਿੱਖਬਾਣੀ ਕਰਨਾ ਜੋਖਮ ਪ੍ਰਬੰਧਨ (risk management) ਨਹੀਂ ਹੈ।
ਬਹੁਤ ਸਾਰੇ ਲੋਕ ਭਵਿੱਖਬਾਣੀ ਨੂੰ ਅੰਤਿਮ ਟੀਚੇ ਵਜੋਂ ਮੰਨਦੇ ਹਨ। ਇਹ ਇੱਕ ਗਲਤੀ ਹੈ। ਇੱਕ ਚੰਗੇ ਸਿਸਟਮ ਨੂੰ ਪੁੱਛਣਾ ਚਾਹੀਦਾ ਹੈ: ਜੇਕਰ ਇਹ ਭਵਿੱਖਬਾਣੀ ਗਲਤ ਹੋਵੇ ਤਾਂ ਕੀ ਹੋਵੇਗਾ?
ਮਜ਼ਬੂਤ ਇੰਜੀਨੀਅਰਿੰਗ ਦਾ ਮਤਲਬ ਅਸਫਲਤਾ ਲਈ ਡਿਜ਼ਾਈਨ ਕਰਨਾ ਹੈ। ਸਿਸਟਮਾਂ ਨੂੰ ਅਨਿਸ਼ਚਿਤਤਾ ਦਿਖਾਉਣੀ ਚਾਹੀਦੀ ਹੈ। ਉਹਨਾਂ ਨੂੰ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਗਣਿਤ ਨੂੰ ਸੱਚ ਮੰਨਣ ਦੀ ਗਲਤੀ ਕਰਨ ਤੋਂ ਰੋਕਣਾ ਚਾਹੀਦਾ ਹੈ।
ਸਟੀਕਤਾ (Precision) ਸੱਚ ਨਹੀਂ ਹੈ।
ਇੱਕ ਮਾਡਲ ਘੱਟ ਜੋਖਮ ਸਕੋਰ ਦਿਖਾ ਸਕਦਾ ਹੈ ਕਿਉਂਕਿ ਵੋਲੈਟਿਲਿਟੀ (volatility) ਘੱਟ ਹੈ। ਪਰ ਜੇਕਰ ਲਿਕਵਿਡਿਟੀ ਘੱਟ ਹੈ, ਤਾਂ ਉਹ ਸੰਕੇਤ ਅਧੂਰਾ ਹੈ। ਮਨੁੱਖ ਲੋੜੀਂਦਾ ਸੰਦਰਭ (context) ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। AI ਨੂੰ ਹਰ ਜਵਾਬ ਦੇ ਪਿੱਛੇ ਅਨੁਮਾਨਾਂ ਅਤੇ ਜੋਖਮਾਂ ਨੂੰ ਦਿਖਾਉਣਾ ਚਾਹੀਦਾ ਹੈ।
ਵਿੱਤੀ AI ਟੂਲ ਬਣਾਉਂਦੇ ਸਮੇਂ ਇਸ ਚੈੱਕਲਿਸਟ ਦੀ ਵਰਤੋਂ ਕਰੋ:
- ਡੇਟਾ ਦੀ ਗੁਣਵੱਤਾ: ਕੀ ਡੇਟਾ ਸਾਫ਼ ਅਤੇ ਸਮੇਂ ਸਿਰ ਹੈ?
- ਡੇਟਾ ਪੱਖਪਾਤ (Data bias): ਕੀ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਕਿਸੇ ਖਾਸ ਦੌਰ ਦਾ ਪੱਖ ਲੈਂਦਾ ਹੈ?
- ਮਾਡਲ ਡ੍ਰਿਫਟ (Model drift): ਕੀ ਤੁਸੀਂ ਲਾਂਚ ਤੋਂ ਬਾਅਦ ਪ੍ਰਦਰਸ਼ਨ ਦੀ ਨਿਗਰਾਨੀ ਕਰਦੇ ਹੋ?
- ਵਿਆਖਿਆਯੋਗਤਾ (Explainability): ਕੀ ਉਪਭੋਗਤਾ ਦੇਖ ਸਕਦੇ ਹਨ ਕਿ ਮਾਡਲ ਨੇ ਜਵਾਬ ਕਿਉਂ ਦਿੱਤਾ?
- ਸਟ੍ਰੈੱਸ ਟੈਸਟਿੰਗ (Stress testing): ਮਾਰਕੀਟ ਕਰੈਸ਼ ਦੌਰਾਨ ਸਿਸਟਮ ਕਿਵੇਂ ਕੰਮ ਕਰਦਾ ਹੈ?
- ਜੋਖਮ ਸੰਚਾਰ (Risk communication): ਕੀ UI ਅਨਿਸ਼ਚਿਤਤਾ ਨੂੰ ਸਪਸ਼ਟ ਰੂਪ ਵਿੱਚ ਦਿਖਾਉਂਦਾ ਹੈ?
- ਮਨੁੱਖੀ ਸਮੀਖਿਆ (Human review): ਕੀ ਫੈਸਲੇ ਲੈਣ ਤੋਂ ਪਹਿਲਾਂ ਮਾਹਰ ਆਉਟਪੁੱਟ ਦੀ ਜਾਂਚ ਕਰਦੇ ਹਨ?
ਚੰਗਾ AI ਅਤਿ-ਆਤਮਵਿਸ਼ਵਾਸ ਨੂੰ ਘਟਾਉਣਾ ਚਾਹੀਦਾ ਹੈ। ਇਸ ਨੂੰ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਇਹ ਦੇਖਣ ਵਿੱਚ ਮਦਦ ਕਰਨੀ ਚਾਹੀਦੀ ਹੈ ਕਿ ਅਨੁਮਾਨ ਕਿੱਥੇ ਕਮਜ਼ੋਰ ਹਨ। ਇਸ ਨੂੰ ਸਵਾਲਾਂ ਦੀ ਗੁਣਵੱਤਾ ਵਿੱਚ ਸੁਧਾਰ ਕਰਨਾ ਚਾਹੀਦਾ ਹੈ।
AI ਕੋਈ ਭਵਿੱਖਬਾਣੀ ਕਰਨ ਵਾਲਾ (oracle) ਨਹੀਂ ਹੈ। ਇਹ ਇੱਕ ਖੋਜ ਸਹਾਇਕ (research assistant) ਹੈ।
ਇਹ ਤੇਜ਼ੀ ਨਾਲ ਡੇਟਾ ਪ੍ਰੋਸੈਸ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਨਤੀਜਿਆਂ ਜਾਂ ਨੈਤਿਕਤਾ ਲਈ ਜ਼ਿੰਮੇਵਾਰੀ ਨਹੀਂ ਲੈ ਸਕਦਾ। ਉਹ ਜ਼ਿੰਮੇਵਾਰੀ ਤੁਹਾਡੇ ਕੋਲ ਰਹਿੰਦੀ ਹੈ।
ਅਜਿਹੇ ਸਿਸਟਮ ਬਣਾਓ ਜੋ ਲੋਕਾਂ ਨੂੰ ਅਨਿਸ਼ਚਿਤਤਾ ਨੂੰ ਸਮਝਣ ਵਿੱਚ ਮਦਦ ਕਰਨ। ਇਸ ਤਰ੍ਹਾਂ ਹੀ AI ਉਪਯੋਗੀ ਬਣਦਾ ਹੈ।
ਵਿਕਲਪਿਕ ਲਰਨਿੰਗ ਕਮਿਊਨਿਟੀ: https://t.me/GyaanSetuAi