MIT ஆராய்ச்சியாளர்கள், AI விளக்கமளிக்கும் கருவிகள் (AI explainability tools) சாதாரண பயனர்களுக்கு நோயறிதல் துல்லியத்தை அதிகரிக்கின்றன, ஆனால் அனுபவம் வாய்ந்த மருத்துவர்களுக்கு அது தடையாக அமைகின்றன என்று காட்டியுள்ளனர். இது நோயாளிகளின் பாதுகாப்பு மற்றும் சுகாதாரத் துறை சார்ந்த AI பயன்பாடுகளின் நம்பகத்தன்மைக்கு அச்சுறுத்தலாக அமைகிறது. பல்வேறு மருத்துவப் பின்னணி கொண்ட பங்கேற்பாளர்களைக் கொண்டு ஒரு தோல் நோய் வகைப்படுத்தியை (skin-disease classifier) அவர்கள் சோதித்தனர். அதில் ஒரு தெளிவான வேறுபாட்டைக் கண்டறிந்தனர்: மருத்துவப் பயிற்சி இல்லாதவர்கள் தங்கள் முடிவுகளை மேம்படுத்திக்கொண்டனர், ஆனால் முதன்மைப் பராமரிப்பு மருத்துவர்கள் (primary-care physicians), AI-ன் காரணங்கள் தங்களின் சொந்த முடிவுகளுடன் முரண்படும்போது, பெரும்பாலும் "அறிவாற்றல் உராய்வை" (cognitive friction) உணர்ந்தனர்.

"அனைவருக்கும் ஒரே மாதிரியான அணுகுமுறை" என்ற கருத்தை மாற்றியமைத்த ஆய்வு

செயற்கை நுண்ணறிவு இப்போது பல மருத்துவமனை தகவல் அமைப்புகளில் (hospital information systems) இடம்பெற்றுள்ளது, இருப்பினும் பெரும்பாலான விற்பனையாளர்கள் ஒவ்வொரு பயனருக்கும் ஒரே மாதிரியான விளக்க இடைமுகத்தையே (explanation interface) வழங்குகின்றனர். MIT குழுவினர் பங்கேற்பாளர்களை தோல் பாதிப்புகளைக் கண்டறியச் சொன்னார்கள்; முதலில் அவர்கள் தாங்களாகவே கண்டறியச் செய்தனர், பின்னர் காட்சி ரீதியான வெப்ப வரைபடங்கள் (visual heatmaps) மற்றும் உரை ரீதியான விளக்கங்களை வழங்கும் ஒரு AI மாதிரியின் உதவியுடன் கண்டறியச் செய்தனர். அவர்கள் இரண்டு குழுக்களை ஒப்பிட்டனர்: மருத்துவப் பயிற்சி மிகக் குறைவாக அல்லது இல்லையென்ற நிலையில் உள்ளவர்கள் மற்றும் தினசரி நோயறிதல் செய்யும் முதன்மைப் பராமரிப்பு மருத்துவர்கள்.

முடிவுகள் மாறுபட்டன. சாதாரணப் பங்கேற்பாளர்கள் AI-ன் வெளியீட்டைப் பார்த்த பிறகு துல்லியத்தில் முன்னேற்றம் பெற்றனர், ஆனால் இந்த முன்னேற்றத்தில் பெரும்பகுதி இயந்திரத்தின் பரிந்துரையை அப்படியே ஏற்றுக்கொண்டதாலேயே ஏற்பட்டது—இது "தானியங்கி சார்பு" (automation bias) எனப்படும் ஒரு பொதுவான நிலையாகும். இருப்பினும், மருத்துவர்களுக்குத் தொடர்ச்சியான முன்னேற்றம் கிடைக்கவில்லை. AI-ன் விளக்கங்கள் மிக எளிமையாக இருந்தாலோ அல்லது மருத்துவ ரீதியான பகுத்தறிவோடு ஒத்துப்போகவில்லை என்றாலோ, மருத்துவர்கள் குழப்பம், கவனச்சிதறல் மற்றும் சில சந்தர்ப்பங்களில் நோயறிதல் மீதான நம்பிக்கைக் குறைவு ஆகியவற்றைப் புகாரளித்தனர்.

புதியவர்களுக்கு "automation bias" என்பதன் பொருள் என்ன

மருத்துவப் பயிற்சி இல்லாதவர்களுக்கு, AI-ன் நம்பகத்தன்மை மதிப்பெண்கள் (confidence scores) மற்றும் முன்னிலைப்படுத்தப்பட்ட பகுதிகள் சரியான விடையை அடைவதற்கான ஒரு குறுக்குவழியாகச் செயல்படுகின்றன. விளக்கங்கள் அந்த நோயின் அடிப்படை நோயியல் (pathology) பற்றி மிகக் குறைந்த தகவலையே வழங்கியபோதும், இந்த பயனர்கள் அந்த மாதிரியை நம்பியிருப்பதை ஆய்வு கண்டறிந்தது. இதில் ஆபத்து இரட்டைப்படியானது: நோயாளிகள் ஒரு வளர்ந்து வரும் மருத்துவரின் திறனை விட, இயந்திரத்தின் தீர்ப்பின் அடிப்படையில் சிகிச்சை பெறுகிறார்கள், மேலும் பயனர்கள் AI சுட்டிக்காட்டும் நோயறிதல் குறிப்புகளைக் கற்றுக்கொள்ளும் வாய்ப்பைத் தவறவிடுகிறார்கள்.

அதிக துல்லியம் என்பது உடனடி வெற்றியாகத் தெரிந்தாலும், நீண்ட கால அடிப்படையில், ஏன் என்று புரிந்து கொள்ளாமல் "கருப்புப் பெட்டி" (black-box) போன்ற பரிந்துரைகளை மட்டுமே நம்பியிருக்கும் ஒரு மருத்துவர் தலைமுறையை இது உருவாக்கிவிடும் என்று ஆராய்ச்சியாளர்கள் எச்சரிக்கின்றனர். இந்தச் சார்பு, விமர்சன ரீதியான சிந்தனையை (critical thinking) சிதைக்கிறது, இதனால் மாதிரியின் பிழைகள் அல்லது பயிற்சித் தரவுகளில் இல்லாத அரிதான cases-களைக் கண்டறிவது கடினமாகிறது.

அனுபவம் வாய்ந்த மருத்துவர்கள் ஏன் எதிர்க்கிறார்கள்

மருத்துவர்கள் நோயாளியின் வரலாறு, தொற்றுநோயியல் (epidemiology) மற்றும் நுணுக்கமான காட்சி வடிவங்கள் உள்ளிட்ட ஒரு மன ரீதியான நோய் மாதிரியைக் (mental model) கொண்டுள்ளனர். ஒரு AI இடைமுகம் உயர்நிலைச் சுருக்கங்களையோ அல்லது பொதுவான நம்பகத்தன்மை எண்களையோ மட்டுமே வழங்கும்போது, அது அந்த மாதிரியுடன் முரண்படுகிறது. AI-ன் ஆலோசனையை அர்த்தமுள்ள வகையில் ஒருங்கிணைக்க, மருத்துவர்களுக்கு மிகவும் நுணுக்கமான தரவுகள்—அம்சப் பங்களிப்பு வரைபடங்கள் (feature attribution maps), ஒப்பீட்டு இலக்கியக் குறிப்புகள் அல்லது விரிவான நிகழ்தகவு பரவல்கள் (probability distributions)—தேவை என்பதை MIT பரிசோதனை காட்டியது.

விளக்கங்கள் போதுமானதாக இல்லாதபோது, மருத்துவர்கள் "அறிவாற்றல் உராய்வை" (cognitive friction) புகாரளித்தனர்; இது முடிவெடுக்கும் வேகத்தைக் குறைத்து பிழை ஏற்படும் வாய்ப்பை அதிகரிக்கும் ஒரு மன ரீதியான எதிர்ப்பாகும். முதன்மைப் பராமரிப்பில், இந்த உராய்வு என்பது நீண்ட ஆலோசனை நேரம், குறைவான நோயாளிகளைக் கவனிக்கும் திறன் மற்றும் சாத்தியமான தவறான நோயறிதல்களாக மாறுகிறது.

தனது பயனர்களைப் புரிந்துகொண்டு செயல்படும் AI-ஐ வடிவமைத்தல்

பயனரின் நிபுணத்துவத்தைப் பொறுத்து விளக்கத்தின் ஆழத்தையும் வடிவத்தையும் மாற்றியமைக்கும் நிலையற்ற டேஷ்போர்டுகளுக்குப் பதிலாக, "பயனர் ஆளுமை அடிப்படையிலான விளக்கமளிப்பு" (persona-based explainability) முறையைப் பின்பற்றுமாறு ஆய்வாளர்கள் வாதிடுகின்றனர். ஒரு நடைமுறைச் செயலாக்கம் இரண்டு வெவ்வேறு அடுக்குகளைக் கொண்டிருக்கலாம்:

  • சாதாரண பயனர் அடுக்கு (Layperson layer): ஒரு சுருக்கமான தொகுப்பு, ஒரு நம்பகத்தன்மை மதிப்பெண் மற்றும் பயனரைத் திணறடிக்காமல் அவர்களுக்குத் தெளிவு தரும் ஒரு எளிய காட்சித் தகவல் (எ.கா., ஒரு heatmap).
  • தொழில்முறை அடுக்கு (Professional layer): விரிவான heatmaps, அளவுசார் அம்சப் பங்களிப்புகள், ஆய்வறிக்கைகளுக்கான இணைப்புகள் மற்றும் மாதிரியின் நிச்சயமற்ற தன்மைகளை ஆழமாக ஆராயும் வசதி.

மென்பொருள் உருவாக்குநர்கள் ஒரு பயனர்-விவரக் கண்டறிதல் முறையை (user-profile detection mechanism)—ஒருவேளை பணிப் பொறுப்புடன் கூடிய எளிய லாகின் முறை—உள்ளீடு செய்ய வேண்டும் அல்லது மருத்துவர்கள் விளக்க முறைகளுக்கு இடையே மாற அனுமதி அளிக்க வேண்டும். மருத்துவர்களிடமிருந்து சிக்கல்களை மறைப்பதே இலக்கல்ல, மாறாக அது மதிப்பு சேர்க்கும் போது அதைத் தெளிவுபடுத்துவதும், வழிகாட்டுதல் மட்டுமே தேவைப்படுபவர்களுக்கு அதை மிகக் குறைவாக வைத்திருப்பதும் ஆகும்.

முரண்பட்ட வாதங்கள் மற்றும் நடைமுறைத் தடைகள்

ஒரே மாதிரியான இடைமுகம் பயிற்சிச் செலவுகளையும் ஒழுங்குமுறை சிக்கல்களையும் (regulatory complexity) குறைக்கும் என்று சில AI விற்பனையாளர்கள் கூறுகின்றனர். ஒரே மாதிரியான விளக்க வடிவம் என்பது சான்றிதழ் பெறுவதற்கும் பல்வேறு சுகாதார அமைப்புகளில் செயல்படுத்துவதற்கும் எளிதானது. மேலும், மருத்துவர்கள் ஏற்கனவே "எச்சரிக்கை சோர்வை" (alert fatigue) எதிர்கொள்கின்றனர்; கூடுதல் தகவல்களைச் சேர்ப்பது தேவையற்ற இரைச்சலாகக் கருதப்படலாம்.

"அனைவருக்கும் ஒரே மாதிரியான அணுகுமுறை" முறையின் விலை, இந்த குறுகிய காலத் திறன்களை விட அதிகமாக இருக்கலாம் என்று MIT கண்டுபிடிப்புகள் தெரிவிக்கின்றன. விளக்கங்கள் பொருத்தமற்றதாகத் தெரிவதால் மருத்துவர்கள் ஒரு AI கருவியை நிராகரித்தால் அல்லது தவறாகப் பயன்படுத்தினால், அதன் பயன்பாடு முடங்கிவிடும், இது மேம்பாடு மற்றும் ஒருங்கிணைப்பிற்கான முதலீட்டை வீணடிக்கும்.

அடுத்து கவனிக்க வேண்டியவை

இந்த ஆய்வு சுகாதார-AI பங்குதாரர்களுக்கான சில உடனடி நடவடிக்கைகளைச் சுட்டிக்காட்டுகிறது:

  • தற்போதுள்ள நோய் கண்டறியும் கருவிகளில் தகவமைப்பு விளக்கத் தொகுதிகளை (adaptive explanation modules) முன்னோடித் திட்டமாகச் செயல்படுத்தி பணிப்பாய்வு மற்றும் பிழை விகிதங்களின் மீதான தாக்கத்தை அளவிட வேண்டும்.
  • பெர்சோனா லாஜிக்கை (persona logic) செம்மைப்படுத்த, புதிய பயனர்களிடமிருந்தும் (எ.கா., மருத்துவ மாணவர்கள், டெலி-ட்ரையேஜ் ஊழியர்கள்) மற்றும் அனுபவம் வாய்ந்த மருத்துவர்களிடமிருந்தும் தொடர்ச்சியான கருத்துக்களைப் பெற வேண்டும்.
  • பாதுகாப்பு மதிப்பீடுகள் பயனர் சார்ந்த அபாயங்களைக் கருத்தில் கொள்வதை உறுதிசெய்யும் வகையில், ஒழுங்குமுறை சமர்ப்பிப்புகளில் (regulatory submissions) இணைக்கப்படக்கூடிய பல அடுக்கு விளக்கத்தன்மைக்கான (multi-tiered explainability) தரநிலைகளை உருவாக்க வேண்டும்.
  • AI என்பது ஒரு முடிவெடுக்கும் உதவி கருவியே தவிர, மருத்துவத் தீர்மானத்திற்கு மாற்றானது அல்ல என்பதை வலியுறுத்தி, ஆட்டோமேஷன் சார்பு (automation bias) குறித்து பயனர்களுக்குக் கற்பிக்க வேண்டும்.

முக்கியக் கருத்து

AI-ஆல் நோய் கண்டறியும் திறனை மேம்படுத்த முடியும், ஆனால் அதன் விளக்கங்கள் அதைப் பார்ப்பவரின் மொழியில் அமைந்தால் மட்டுமே அது சாத்தியமாகும். நிபுணத்துவ இடைவெளியைப் புறக்கணிப்பது, புதிய பயனர்களிடையே அதிகப்படியான சார்புநிலையைத் தூண்டுகிறது மற்றும் மருத்துவர்களுக்கு இடையூறுகளை உருவாக்குகிறது; இது நோயாளிகளின் முன்னேற்றம் மற்றும் சுகாதார-AI-ன் நம்பகத்தன்மை ஆகிய இரண்டையும் ஆபத்தில் ஆழ்த்துகிறது. தகவமைப்பு மற்றும் பெர்சோனா சார்ந்த இடைமுகங்கள் (Adaptive, persona-aware interfaces) என்பது இனி ஒரு கூடுதல் வசதி மட்டுமல்ல—மருத்துவ நடைமுறையில் பாதுகாப்பான மற்றும் பயனுள்ள AI ஒருங்கிணைப்பிற்கு அவை ஒரு முன்நிபந்தனையாகும்.