MIT च्या संशोधकांनी दाखवून दिले आहे की, AI स्पष्टीकरण साधने (explainability tools) सामान्य वापरकर्त्यांसाठी निदानाची अचूकता वाढवतात, परंतु अनुभवी डॉक्टरांच्या कामात अडथळा आणतात, ज्यामुळे रुग्णांची सुरक्षा आणि आरोग्य-AI उपयोजनांची विश्वासार्हता धोक्यात येऊ शकते. त्यांनी विविध वैद्यकीय पार्श्वभूमी असलेल्या सहभागींवर त्वचारोगाच्या वर्गीकरणकर्त्याची (skin-disease classifier) चाचणी घेतली आणि एक स्पष्ट फरक दिसून आला: अ-तज्ज्ञांच्या निर्णयांमध्ये सुधारणा झाली, तर प्राथमिक आरोग्य सेवा डॉक्टरांना (primary-care physicians) जेव्हा AI चे तर्क त्यांच्या स्वतःच्या तर्काशी विसंगत होते, तेव्हा अनेकदा "संज्ञानात्मक घर्षण" (cognitive friction) जाणवले.

"एकच पद्धत सर्वांसाठी" (one-size-fits-all) या गृहितकाला छेद देणारा अभ्यास

कृत्रिम बुद्धिमत्ता (AI) आता अनेक हॉस्पिटल इन्फॉर्मेशन सिस्टममध्ये समाविष्ट आहे, तरीही बहुतेक विक्रेते प्रत्येक वापरकर्त्यासाठी एकच स्पष्टीकरण इंटरफेस (explanation interface) उपलब्ध करून देतात. MIT च्या टीमने सहभागींना त्वचेच्या जखमांचे (skin lesions) निदान करण्यास सांगितले, प्रथम स्वतःहून आणि नंतर व्हिज्युअल हीटमॅप्स (visual heatmaps) आणि लेखी स्पष्टीकरणे देणाऱ्या AI मॉडेलच्या मदतीने. त्यांनी दोन गटांची तुलना केली: ज्यांना वैद्यकीय प्रशिक्षण कमी किंवा अजिबात नाही असे लोक आणि दररोज निदान करणारे प्राथमिक आरोग्य सेवा डॉक्टर.

निकाल भिन्न होते. AI चे आउटपुट पाहिल्यानंतर सामान्य सहभागींच्या अचूकतेमध्ये मोठी वाढ झाली, परंतु ही वाढ प्रामुख्याने केवळ मशीनच्या सूचनेचे पालन केल्यामुळे झाली होती—हे 'ऑटोमेशन बायस' (automation bias) चे एक उत्कृष्ट उदाहरण आहे. तथापि, अनुभवी डॉक्टरांच्या अचूकतेमध्ये सातत्यपूर्ण वाढ दिसून आली नाही. जेव्हा AI ची स्पष्टीकरणे अतिशय साधी होती किंवा वैद्यकीय तर्काशी विसंगत होती, तेव्हा डॉक्टरांनी गोंधळ, विचलित होणे आणि काही प्रकरणांमध्ये निदानातील आत्मविश्वासात घट झाल्याचे सांगितले.

नवशिक्यांसाठी "ऑटोमेशन बायस" (automation bias) म्हणजे काय

अ-तज्ज्ञांसाठी, AI चे कॉन्फिडन्स स्कोअर (confidence scores) आणि हायलाइट केलेले भाग हे अचूक उत्तरासाठी एक शॉर्टकट म्हणून काम करतात. अभ्यासात असे दिसून आले की, जेव्हा स्पष्टीकरण मूळ विकाराबद्दल (pathology) फारशी माहिती देत नसे, तेव्हाही या वापरकर्त्यांनी मॉडेलवर विश्वास ठेवला. याचे धोके दुहेरी आहेत: रुग्ण विकसित होत असलेल्या डॉक्टरांच्या कौशल्याऐवजी मशीनच्या निर्णयावर आधारित उपचार घेतात, आणि वापरकर्ते AI ने दर्शवलेल्या निदानातील संकेतांकडून (diagnostic cues) शिकण्याची संधी गमावतात.

संशोधकांनी इशारा दिला आहे की, जरी अचूकता वाढणे हा तात्काळ फायदा वाटत असला, तरी दीर्घकालीन परिणाम असा होऊ शकतो की डॉक्टरांची एक अशी पिढी तयार होईल जी 'ब्लॅक-बॉक्स' (black-box) शिफारसींवर अवलंबून राहील, परंतु त्यामागचे कारण समजून घेणार नाही. या अवलंबित्वामुळे चिकित्सक विचार करण्याची क्षमता (critical thinking) कमी होते, ज्यामुळे मॉडेलमधील चुका किंवा प्रशिक्षण डेटाबाहेरील दुर्मिळ प्रकरणांना ओळखणे कठीण होते.

अनुभवी डॉक्टर विरोध का करतात

डॉक्टरांकडे रोगाचे एक मानसिक मॉडेल असते ज्यामध्ये रुग्णाचा इतिहास, एपिडेमियोलॉजी (epidemiology) आणि सूक्ष्म दृश्य नमुने (nuanced visual patterns) यांचा समावेश असतो. जेव्हा AI इंटरफेस केवळ उच्च-स्तरीय सारांश किंवा सामान्य कॉन्फिडन्स नंबर्स देतो, तेव्हा त्याचा या मॉडेलशी संघर्ष होतो. MIT च्या प्रयोगातून असे दिसून आले की, AI च्या सल्ल्याचा अर्थपूर्ण वापर करण्यासाठी डॉक्टरांना अनेकदा अधिक तपशीलवार डेटाची आवश्यकता असते—जसे की फीचर अट्रिब्युशन मॅप्स (feature attribution maps), तुलनात्मक साहित्याचे संदर्भ किंवा तपशीलवार संभाव्यता वितरण (probability distributions).

जेव्हा स्पष्टीकरणे अपुरी पडली, तेव्हा डॉक्टरांनी "संज्ञानात्मक घर्षण" (cognitive friction) अनुभवल्याचे सांगितले, हा एक मानसिक विरोध आहे जो निर्णय घेण्याची प्रक्रिया मंदावतो आणि चुकांची शक्यता वाढवतो. प्राथमिक आरोग्य सेवेमध्ये, या घर्षणामुळे तपासणीचा वेळ वाढतो, कामाचा वेग कमी होतो आणि संभाव्यतः निदानामध्ये चूक होऊ शकते.

आपल्या प्रेक्षकांना ओळखणारे AI डिझाइन करणे

लेखक "पर्सोना-आधारित स्पष्टीकरणासाठी" (persona-based explainability) आग्रह धरतात, ज्यामध्ये स्थिर डॅशबोर्डऐवजी वापरकर्त्याच्या कौशल्यानुसार खोली आणि स्वरूप बदलणाऱ्या 'अडॅप्टिव्ह इंटरफेस'चा (adaptive interfaces) वापर केला जातो. याचे व्यावहारिक अंमलबजावणी दोन वेगवेगळ्या स्तरांमध्ये असू शकते:

  • सामान्य व्यक्तीचा स्तर (Layperson layer): एक संक्षिप्त सारांश, कॉन्फिडन्स स्कोअर आणि एक साधा व्हिज्युअल संकेत (उदा. हीटमॅप) जो वापरकर्त्याला गोंधळात न टाकता खात्री देतो.
  • व्यावसायिक स्तर (Professional layer): तपशीलवार हीटमॅप्स, परिमाणात्मक वैशिष्ट्य योगदान (quantitative feature contributions), पीअर-रिव्ह्यू केलेल्या अभ्यासांच्या लिंक्स आणि मॉडेलमधील अनिश्चिततेचा सखोल अभ्यास करण्याची क्षमता.

डेव्हलपर्सना युजर-प्रोफाईल डिटेक्शन मेकॅनिझम—कदाचित रोल टॅगसह साधे लॉगिन—अंतर्भूत करावा लागेल किंवा डॉक्टरांना स्पष्टीकरण मोडमध्ये बदल करण्याची सुविधा द्यावी लागेल. उद्दिष्ट डॉक्टरांपासून गुंतागुंत लपवणे नसून, जेव्हा ती मूल्य वाढवते तेव्हा ती सादर करणे आणि ज्यांना केवळ मार्गदर्शनाची गरज आहे त्यांच्यासाठी ती किमान ठेवणे हे आहे.

प्रतिवाद आणि व्यावहारिक अडथळे

काही AI विक्रेते असा दावा करतात की एकसमान इंटरफेसमुळे प्रशिक्षणाचा खर्च आणि नियामक गुंतागुंत कमी होते. एकच स्पष्टीकरण स्वरूप प्रमाणित करणे आणि विविध आरोग्य प्रणालींमध्ये लागू करणे सोपे असते. शिवाय, डॉक्टरांना आधीच 'अलर्ट फॅटीग'चा (alert fatigue) सामना करावा लागतो; माहितीचा आणखी एक स्तर जोडल्यास तो केवळ गोंधळ (noise) म्हणून पाहिला जाऊ शकतो.

MIT च्या निष्कर्षांवरून असे सुचते की "एकच पद्धत सर्वांसाठी" (one-size-fits-all) या दृष्टिकोनाचा खर्च या अल्पकालीन कार्यक्षमतेपेक्षा जास्त असू शकतो. जर डॉक्टरांनी AI टूलचा वापर नाकारला किंवा त्याचा चुकीचा वापर केला कारण त्याची स्पष्टीकरणे अप्रासंगिक वाटली, तर त्याचा अवलंब थांबतो, ज्यामुळे विकास आणि एकत्रीकरणातील गुंतवणूक वाया जाते.

पुढे काय पाहावे

The study points to several immediate actions for health-AI stakeholders:

  • Pilot adaptive explanation modules in existing diagnostic tools and measure impact on workflow and error rates.
  • Gather continuous feedback from novice users (e.g., medical students, tele-triage staff) and experienced clinicians to refine the persona logic.
  • Develop standards for multi-tiered explainability that can be incorporated into regulatory submissions, ensuring safety assessments account for user-specific risks.
  • Educate users about automation bias, emphasizing that AI is a decision aid, not a replacement for clinical judgment.

Takeaway

AI can lift diagnostic performance, but only if its explanations speak the language of the person looking at them. Ignoring the expertise gap fuels overreliance among novices and creates friction for doctors, jeopardizing both patient outcomes and the credibility of health-AI. Adaptive, persona-aware interfaces are no longer a nice-to-have feature—they are a prerequisite for safe, effective AI integration in clinical practice.