MIT ਦੇ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਦਿਖਾਇਆ ਹੈ ਕਿ AI ਵਿਆਖਿਆ ਯੰਤਰ (explainability tools) ਆਮ ਲੋਕਾਂ ਲਈ ਡਾਇਗਨੋਸਟਿਕ ਸ਼ੁੱਧਤਾ ਨੂੰ ਵਧਾਉਂਦੇ ਹਨ ਪਰ ਤਜਰਬੇਕਾਰ ਕਲੀਨੀਸ਼ੀਅਨਾਂ ਲਈ ਰੁਕਾਵਟ ਬਣਦੇ ਹਨ, ਜੋ ਮਰੀਜ਼ਾਂ ਦੀ ਸੁਰੱਖਿਆ ਅਤੇ ਹੈਲਥ-AI ਦੀ ਭਰੋਸੇਯੋਗਤਾ ਲਈ ਖ਼ਤਰਾ ਪੈਦਾ ਕਰਦੇ ਹਨ। ਉਨ੍ਹਾਂ ਨੇ ਵੱਖ-ਵੱਖ ਡਾਕਟਰੀ ਪਿਛੋਕੜ ਵਾਲੇ ਭਾਗੀਦਾਰਾਂ 'ਤੇ ਚਮੜੀ ਦੀ ਬਿਮਾਰੀ ਦੇ ਕਲਾਸੀਫਾਇਰ ਦਾ ਟੈਸਟ ਕੀਤਾ ਅਤੇ ਇੱਕ ਵੱਡਾ ਫਰਕ ਦੇਖਿਆ: ਗੈਰ-ਮਾਹਰਾਂ ਨੇ ਆਪਣੇ ਫੈਸਲਿਆਂ ਵਿੱਚ ਸੁਧਾਰ ਕੀਤਾ, ਜਦੋਂ ਕਿ ਪ੍ਰਾਇਮਰੀ-ਕੇਅਰ ਡਾਕਟਰਾਂ ਨੇ ਅਕਸਰ "ਕੋਗਨੀਟਿਵ ਫਰਿਕਸ਼ਨ" (cognitive friction) ਮਹਿਸੂਸ ਕੀਤਾ ਜਦੋਂ AI ਦਾ ਤਰਕ ਉਨ੍ਹਾਂ ਦੇ ਆਪਣੇ ਤਰਕ ਨਾਲ ਟਕਰਾ ਰਿਹਾ ਸੀ।

ਉਹ ਅਧਿਐਨ ਜਿਸ ਨੇ “ਸਭ ਲਈ ਇੱਕੋ ਜਿਹਾ” (one-size-fits-all) ਮੰਨਣ ਦੇ ਅੰਦਾਜ਼ੇ ਨੂੰ ਉਲਟਾ ਦਿੱਤਾ

ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਹੁਣ ਕਈ ਹਸਪਤਾਲਾਂ ਦੇ ਇਨਫਰਮੇਸ਼ਨ ਸਿਸਟਮਾਂ ਵਿੱਚ ਸ਼ਾਮਲ ਹੈ, ਫਿਰ ਵੀ ਜ਼ਿਆਦਾਤਰ ਵਿਕਰੇਤਾ (vendors) ਹਰ ਉਪਭੋਗਤਾ ਨੂੰ ਇੱਕੋ ਜਿਹਾ ਵਿਆਖਿਆ ਇੰਟਰਫੇਸ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ। MIT ਦੀ ਟੀਮ ਨੇ ਭਾਗੀਦਾਰਾਂ ਨੂੰ ਚਮੜੀ ਦੇ ਜ਼ਖਮਾਂ (skin lesions) ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਕਿਹਾ, ਪਹਿਲਾਂ ਆਪਣੇ ਆਪ ਅਤੇ ਫਿਰ ਇੱਕ AI ਮਾਡਲ ਦੀ ਮਦਦ ਨਾਲ ਜੋ ਵਿਜ਼ੂਅਲ ਹੀਟਮੈਪ (heatmaps) ਅਤੇ ਲਿਖਤੀ ਤਰਕ ਪ੍ਰਦਾਨ ਕਰਦਾ ਸੀ। ਉਨ੍ਹਾਂ ਨੇ ਦੋ ਸਮੂਹਾਂ ਦੀ ਤੁਲਨਾ ਕੀਤੀ: ਉਹ ਲੋਕ ਜਿਨ੍ਹਾਂ ਕੋਲ ਬਹੁਤ ਘੱਟ ਜਾਂ ਕੋਈ ਡਾਕਟਰੀ ਸਿਖਲਾਈ ਨਹੀਂ ਸੀ ਅਤੇ ਪ੍ਰਾਇਮਰੀ-ਕੇਅਰ ਕਲੀਨੀਸ਼ੀਅਨ ਜੋ ਰੋਜ਼ਾਨਾ ਜਾਂਚ ਕਰਦੇ ਹਨ।

ਨਤੀਜੇ ਵੱਖ-ਵੱਖ ਰਹੇ। ਆਮ ਭਾਗੀਦਾਰਾਂ ਦੀ ਸ਼ੁੱਧਤਾ AI ਦੇ ਆਉਟਪੁੱਟ ਨੂੰ ਦੇਖਣ ਤੋਂ ਬਾਅਦ ਕਾਫੀ ਵਧ ਗਈ, ਪਰ ਇਸ ਵਾਧੇ ਦਾ ਜ਼ਿਆਦਾਤਰ ਹਿੱਸਾ ਸਿਰਫ ਮਸ਼ੀਨ ਦੇ ਸੁਝਾਅ ਨੂੰ ਮੰਨ ਲੈਣ ਕਾਰਨ ਸੀ—ਜੋ ਕਿ 'ਆਟੋਮੇਸ਼ਨ ਬਾਇਸ' (automation bias) ਦਾ ਇੱਕ ਕਲਾਸਿਕ ਮਾਮਲਾ ਹੈ। ਹਾਲਾਂਕਿ, ਕਲੀਨੀਸ਼ੀਅਨਾਂ ਨੂੰ ਇਸ ਵਿੱਚ ਕੋਈ ਲਗਾਤਾਰ ਸੁਧਾਰ ਨਹੀਂ ਦੇਖਣ ਨੂੰ ਮਿਲਿਆ। ਜਦੋਂ AI ਦੀਆਂ ਵਿਆਖਿਆਵਾਂ ਬਹੁਤ ਜ਼ਿਆਦਾ ਸਰਲ ਸਨ ਜਾਂ ਕਲੀਨਿਕਲ ਤਰਕ ਨਾਲ ਮੇਲ ਨਹੀਂ ਖਾਂਦੀਆਂ ਸਨ, ਤਾਂ ਡਾਕਟਰਾਂ ਨੇ ਉਲਝਣ, ਧਿਆਨ ਭਟਕਣ ਅਤੇ ਕੁਝ ਮਾਮਲਿਆਂ ਵਿੱਚ, ਜਾਂਚ ਦੇ ਆਤਮ-ਵਿਸ਼ਵਾਸ ਵਿੱਚ ਕਮੀ ਦੀ ਰਿਪੋਰਟ ਕੀਤੀ।

ਨਵੇਂ ਸਿੱਖਣ ਵਾਲਿਆਂ ਲਈ “ਆਟੋਮੇਸ਼ਨ ਬਾਇਸ” ਦਾ ਕੀ ਮਤਲਬ ਹੈ

ਗੈਰ-ਮਾਹਰਾਂ ਲਈ, AI ਦੇ ਕਾਨਫੀਡੈਂਸ ਸਕੋਰ ਅਤੇ ਹਾਈਲਾਈਟ ਕੀਤੇ ਗਏ ਖੇਤਰ ਸਹੀ ਉੱਤਰ ਤੱਕ ਪਹੁੰਚਣ ਲਈ ਇੱਕ ਸ਼ਾਰਟਕੱਟ ਵਜੋਂ ਕੰਮ ਕਰਦੇ ਹਨ। ਅਧਿਐਨ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਕਿ ਇਹ ਉਪਭੋਗਤਾ ਮਾਡਲ 'ਤੇ ਉਦੋਂ ਵੀ ਭਰੋਸਾ ਕਰਦੇ ਸਨ ਜਦੋਂ ਵਿਆਖਿਆ ਅਸਲ ਬਿਮਾਰੀ (pathology) ਬਾਰੇ ਬਹੁਤ ਘੱਟ ਜਾਣਕਾਰੀ ਦਿੰਦੀ ਸੀ। ਖ਼ਤਰਾ ਦੋਹਰਾ ਹੈ: ਮਰੀਜ਼ਾਂ ਨੂੰ ਇੱਕ ਵਿਕਸਤ ਹੋ ਰਹੇ ਕਲੀਨੀਸ਼ੀਅਨ ਦੇ ਹੁਨਰ ਦੀ ਬਜਾਏ ਮਸ਼ੀਨ ਦੇ ਫੈਸਲੇ ਦੇ ਅਧਾਰ 'ਤੇ ਇਲਾਜ ਮਿਲਦਾ ਹੈ, ਅਤੇ ਉਪਭੋਗਤਾ ਉਹਨਾਂ ਜਾਂਚ ਸੰਕੇਤਾਂ ਨੂੰ ਸਿੱਖਣ ਦਾ ਮੌਕਾ ਗਵਾ ਲੈਂਦੇ ਹਨ ਜਿਨ੍ਹਾਂ ਵੱਲ AI ਇਸ਼ਾਰਾ ਕਰਦਾ ਹੈ।

ਖੋਜਕਰਤਾਵਾਂ ਚੇਤਾਵਨੀ ਦਿੰਦੇ ਹਨ ਕਿ ਹਾਲਾਂਕਿ ਉੱਚੀ ਸ਼ੁੱਧਤਾ ਇੱਕ ਤਤਕਾਲੀ ਜਿੱਤ ਹੈ, ਪਰ ਲੰਬੇ ਸਮੇਂ ਦਾ ਨੁਕਸਾਨ ਅਜਿਹੇ ਕਲੀਨੀਸ਼ੀਅਨਾਂ ਦੀ ਪੀੜ੍ਹੀ ਹੋ ਸਕਦੀ ਹੈ ਜੋ ਇਹ ਸਮਝੇ ਬਿਨਾਂ ਕਿ ਕਿਉਂ, 'ਬਲੈਕ-ਬਾਕਸ' (black-box) ਸਿਫਾਰਸ਼ਾਂ 'ਤੇ ਨਿਰਭਰ ਕਰਦੇ ਹਨ। ਇਹ ਨਿਰਭਰਤਾ ਆਲੋਚਨਾਤਮਕ ਸੋਚ (critical thinking) ਨੂੰ ਖਤਮ ਕਰਦੀ ਹੈ, ਜਿਸ ਨਾਲ ਮਾਡਲ ਦੀਆਂ ਗਲਤੀਆਂ ਜਾਂ ਟ੍ਰੇਨਿੰਗ ਡੇਟਾ ਤੋਂ ਬਾਹਰਲੇ ਦੁਰਲੱਭ ਮਾਮਲਿਆਂ ਨੂੰ ਪਛਾਣਨਾ ਮੁਸ਼ਕਲ ਹੋ ਜਾਂਦਾ ਹੈ।

ਤਜਰਬੇਕਾਰ ਕਲੀਨੀਸ਼ੀਅਨ ਕਿਉਂ ਵਿਰੋਧ ਕਰਦੇ ਹਨ

ਡਾਕਟਰਾਂ ਕੋਲ ਬਿਮਾਰੀ ਦਾ ਇੱਕ ਮਾਨਸਿਕ ਮਾਡਲ ਹੁੰਦਾ ਹੈ ਜਿਸ ਵਿੱਚ ਮਰੀਜ਼ ਦਾ ਇਤਿਹਾਸ, ਐਪੀਡੀਮੀਓਲੋਜੀ (epidemiology), ਅਤੇ ਬਾਰੀਕ ਵਿਜ਼ੂਅਲ ਪੈਟਰਨ ਸ਼ਾਮਲ ਹੁੰਦੇ ਹਨ। ਜਦੋਂ ਇੱਕ AI ਇੰਟਰਫੇਸ ਸਿਰਫ ਉੱਚ-ਪੱਧਰੀ ਸਾਰਾਂਸ਼ ਜਾਂ ਆਮ ਕਾਨਫੀਡੈਂਸ ਨੰਬਰ ਦਿੰਦਾ ਹੈ, ਤਾਂ ਇਹ ਉਸ ਮਾਡਲ ਨਾਲ ਟਕਰਾਉਂਦਾ ਹੈ। MIT ਦੇ ਪ੍ਰਯੋਗ ਨੇ ਦਿਖਾਇਆ ਕਿ ਕਲੀਨੀਸ਼ੀਅਨਾਂ ਨੂੰ AI ਦੀ ਸਲਾਹ ਨੂੰ ਅਰਥਪੂਰਨ ਤਰੀਕੇ ਨਾਲ ਅਪਣਾਉਣ ਲਈ ਅਕਸਰ ਵਧੇਰੇ ਵਿਸਤ੍ਰਿਤ ਡੇਟਾ—ਜਿਵੇਂ ਕਿ ਫੀਚਰ ਐਟਰੀਬਿਊਸ਼ਨ ਮੈਪ (feature attribution maps), ਤੁਲਨਾਤਮਕ ਸਾਹਿਤ ਹਵਾਲੇ, ਜਾਂ ਵਿਸਤ੍ਰਿਤ ਸੰਭਾਵਨਾ ਵੰਡ (probability distributions)—ਦੀ ਲੋੜ ਹੁੰਦੀ ਹੈ।

ਜਦੋਂ ਵਿਆਖਿਆਵਾਂ ਅਧੂਰੀਆਂ ਰਹੀਆਂ, ਤਾਂ ਡਾਕਟਰਾਂ ਨੇ “ਕੋਗਨੀਟਿਵ ਫਰਿਕਸ਼ਨ” ਦੀ ਰਿਪੋਰਟ ਕੀਤੀ, ਜੋ ਕਿ ਇੱਕ ਮਾਨਸਿਕ ਰੁਕਾਵਟ ਹੈ ਜੋ ਫੈਸਲੇ ਲੈਣ ਦੀ ਪ੍ਰਕਿਰਿਆ ਨੂੰ ਹੌਲੀ ਕਰਦੀ ਹੈ ਅਤੇ ਗਲਤੀ ਦੀ ਸੰਭਾਵਨਾ ਵਧਾਉਂਦੀ ਹੈ। ਪ੍ਰਾਇਮਰੀ ਕੇਅਰ ਵਿੱਚ, ਉਹ ਰੁਕਾਵਟ ਲੰਬੇ ਸਲਾਹ-ਮਸ਼ਵਰੇ, ਘਟਦੀ ਕਾਰਜਕੁਸ਼ਲਤਾ, ਅਤੇ ਸੰਭਾਵੀ ਤੌਰ 'ਤੇ ਗਲਤ ਜਾਂਚ (missed diagnoses) ਵਿੱਚ ਬਦਲ ਜਾਂਦੀ ਹੈ।

ਅਜਿਹਾ AI ਡਿਜ਼ਾਈਨ ਕਰਨਾ ਜੋ ਆਪਣੇ ਸਰੋਤਿਆਂ ਨੂੰ ਜਾਣਦਾ ਹੋਵੇ

ਲੇਖਕ "ਪਰਸੋਨਾ-ਅਧਾਰਤ ਵਿਆਖਿਆ" (persona-based explainability) ਦੀ ਵਕਾਲਤ ਕਰਦੇ ਹਨ, ਜੋ ਸਥਿਰ ਡੈਸ਼ਬੋਰਡਾਂ ਤੋਂ ਅਡੈਪਟਿਵ ਇੰਟਰਫੇਸਾਂ ਵੱਲ ਵਧਣ ਦੀ ਗੱਲ ਕਰਦੇ ਹਨ ਜੋ ਉਪਭੋਗਤਾ ਦੀ ਮੁਹਾਰਤ ਦੇ ਅਧਾਰ 'ਤੇ ਡੂੰਘਾਈ ਅਤੇ ਫਾਰਮੈਟ ਨੂੰ

ਇਹ ਅਧਿਐਨ health-AI ਹਿੱਸੇਦਾਰਾਂ ਲਈ ਕਈ ਤਤਕਾਲ ਕਾਰਵਾਈਆਂ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰਦਾ ਹੈ:

  • **ਮੌਜੂਦਾ ਡਾਇਗਨੌਸਟ