Epic-ன் செப்சிஸ் எச்சரிக்கை இயந்திரம் (Sepsis-alert engine) மிச்சிகன் மெடிசின் (Michigan Medicine)-ல் செய்யப்பட்ட 2021-ஆம் ஆண்டு மதிப்பீட்டில் தோல்வியடைந்தது. இது செப்சிஸ் பாதிப்பு ஏற்பட்ட நோயாளிகளில் மூன்றில் இரண்டு பங்கினரைக் கண்டறியத் தவறியது, அதே சமயம் அனுமதிக்கப்பட்ட அனைத்து நோயாளிகளில் 18% பேருக்குத் தேவையில்லாமல் எச்சரிக்கை விடுத்தது. இந்தத் தவறு ஒரு பாரம்பரியமான தரவு கசிவுப் பிழையிலிருந்து (data-leakage error) உருவானது: ஒரு மருத்துவர் ஆன்டிபயாடிக் மருந்துக்கான கட்டளையை (antibiotic order) இடுவதை, அதுவே தொற்று இருக்கலாம் என்பதற்கான அறிகுறி என்பதால், அந்த மாதிரியானது (model) ஒரு முன்னறிவிப்பானாகக் கருதியது. அதாவது, மருத்துவர் ஏற்கனவே எடுத்த முடிவையே இந்த மாதிரி மீண்டும் பிரதிபலித்தது.
ஏன் இந்த மாதிரி தோல்வியடைந்தது
மிச்சிகன் குழு 38,455 மருத்துவத் தங்குதல்களை ஆய்வு செய்தது, இது ஒரு வழக்கமான பல ஆண்டு காலத் தரக் கட்டுப்பாட்டுத் திட்டத்தின் அளவாகும். Epic-ன் உள்நிலை அளவுகோல்கள் (internal benchmarks) அதிக துல்லியத்தை உறுதி செய்தன, ஆனால் இந்தத் தனிப்பட்ட சோதனை அதற்கு நேர்மாறான முடிவைக் காட்டியது. மாதிரியின் "அதி-அபாய" (high-risk) எச்சரிக்கைகள் கிட்டத்தட்ட ஐந்தில் ஒரு பங்கு நோயாளிகளுக்கு விடுக்கப்பட்டன, ஆனால் உண்மையான செப்சிஸ் பாதிப்பு ஏற்பட்டவர்களில் மூன்றில் இரண்டு பங்கு கண்டறியப்படாமல் விடுபட்டனர். நடைமுறையில், இந்த அமைப்பு எதைக் கண்டறிய வேண்டுமோ அந்த நிகழ்வுகளைத் தவறவிட்டபடி, மிக அதிகமாகவே "எச்சரிக்கையாக இருங்கள்" என்று கத்தியது.
இதன் மூலக் காரணம் இயந்திரக் கற்றல் அல்காரிதத்தில் (machine-learning algorithm) இருந்த குறைபாடு அல்ல, மாறாக அதில் உள்ளீடு செய்யப்பட்ட தரவுகளில் இருந்தது. ஆன்டிபயாடிக் மருந்துக்கான கட்டளையின் இருப்பை ஒரு உள்ளீடாகப் பயன்படுத்தியதன் மூலம், மருத்துவர் ஏற்கனவே எடுத்த முடிவை முன்னறிவிப்பதாகவே இந்த மாதிரி கற்றுக்கொண்டது. அல்காரிதம் ஒரு நோயாளியைக் குறிப்பிட்டபோது, அது நோயாளியின் உடல்நிலை செப்சிஸை நோக்கிச் செல்வதைக் காட்டவில்லை, மாறாக மருத்துவர் ஏற்கனவே ஆன்டிபயாடிக் மருந்துகளைப் பரிந்துரைத்ததைக் காட்டவே பெரும்பாலும் அவ்வாறு செய்தது.
மருத்துவமனை AI-ல் உள்ள ஒரு பரந்த பிரச்சனை
Epic-ன் செப்சிஸ் மாதிரி நூற்றுக்கணக்கான மருத்துவமனைகளில் பல ஆண்டுகளாகப் பயன்படுத்தப்பட்டு வருகிறது, இருப்பினும் ஒரு குறிப்பிட்ட மதிப்பீட்டு முயற்சியின் மூலம் வெளிச்சத்திற்கு வரும் வரை இந்தத் தரவு கசிவுப் பிழை மறைந்தே இருந்தது. இந்தச் சம்பவம் ஒரு அமைப்பு ரீதியான பலவீனத்தை விளக்குகிறது: பெரும்பாலான சுகாதார அமைப்பு AI திட்டங்களில் இத்தகைய சிக்கல்களை ஆரம்பத்திலேயே கண்டறியத் தேவையான செயல்பாட்டுச் சோதனைகள் (operational checks) இல்லை.
- வெளிப்புறச் சோதனை இல்லை – மருத்துவமனைகளிடம் வெளிப்புறச் சோதனைகள் இல்லை.
- தொடர்ச்சியான கண்காணிப்பு இல்லை – அவற்றிடம் கண்காணிப்பு முறைகள் இல்லை.
- தெளிவான பொறுப்புணர்வு இல்லை – தரத்தின் தரம் மற்றும் மாதிரியின் செயல்திறனுக்குப் பொறுப்பான ஒரு குறிப்பிட்ட குழு இல்லாததால், சிக்கல்கள் கவனிக்கப்படாமல் விடுபடுகின்றன.
இந்த இடைவெளிகள் பல AI முயற்சிகளை "சோதனை நிலையத்திலேயே தேங்கிப் போகும்" (pilot purgatory) நிலைக்குத் தள்ளுகின்றன, அவை ஒரு முன்மாதிரி நிலையத்தைத் தாண்டி முன்னேறுவதில்லை.
சிதறிய தரவுகளின் மறைமுகச் செலவு
செப்சிஸ் வழக்கு, சிதறிய சுகாதார-தகவல் தொழில்நுட்ப (health-IT) சூழல் அமைப்புகள் எவ்வாறு AI-ஐச் சீர்குலைக்கின்றன என்பதையும் காட்டுகிறது. பொதுவான தடைகள் பின்வருமாறு:
- தரவுகளைத் தானாகப் பரிமாறிக் கொள்ளாத பழைய EHR தொகுதிகளில் (legacy EHR modules) முடங்கிக் கிடக்கும் நோயாளி பதிவுகள்.
- ஒன்றோடொன்று தொடர்பு கொள்ள முடியாத இமேஜிங் மற்றும் ஆய்வக அமைப்புகள், இது கோப்புகளைக் கைமுறையாக மாற்ற வேண்டிய கட்டாயத்தை ஏற்படுத்துகிறது.
- ஒரு நபரின் தரவை பல ஆவணங்களில் பிரித்து வைக்கும் நகல் நோயாளி அடையாளங்காட்டிகள் (Duplicate patient identifiers).
- மருத்துவக் குறிப்புகள் மற்றும் உயிர்நாடித் துடிப்பு அளவுகள் (vital signs) தனித்தனித் தொகுதிகளாக (silos) சேமிக்கப்படுகின்றன, அவை மாதிரிப் பயிற்சியிற்காக (model training) ஒருபோதும் இணைக்கப்படுவதில்லை.
ஒரு மாதிரி சுத்தமான, தொகுக்கப்பட்ட தரவுத்தொகுப்பில் (curated dataset) பயிற்சியளிக்கப்பட்டு, பின்னர் நேரடி மற்றும் குழப்பமான தரவுகளுக்கு உள்ளாக்கப்படும்போது, அதன் செயல்திறன் அமைதியிலேயே குறைகிறது. இதனால் மருத்துவர்கள் விரைவாக நம்பிக்கையை இழக்கிறார்கள்; பல திரைகளில் எச்சரிக்கைகளைத் தேடிப் பிடிக்க வேண்டியிருக்கும் ஒரு செவிலியர், அந்த அல்காரிதம் தொழில்நுட்ப ரீதியாகச் சரியாக இருந்தாலும், அவற்றை அலட்சியப்படுத்துவார்.
நம்பகமான AI-க்கான நான்கு "சலிப்பூட்டும்" அடிப்படைகள்
ஒரு செயல்பாட்டு ரீதியான AI பயன்பாடு, செய்திகளில் அரிதாகவே இடம்பெறும் நான்கு நடைமுறைத் திறன்களை அடிப்படையாகக் கொண்டது:
- ஒன்றிணைந்து செயல்படும் திறன் (Interoperability) – தரவுகள் EHR-கள், ஆய்வகங்கள், இமேஜிங் தளங்கள் மற்றும் முடிவெடுக்கும் கருவிகளுக்கு இடையே கைமுறையாகத் தரவிறக்கம் மற்றும் பதிவேற்றம் செய்யாமல் தானாகவே பாய வேண்டும்.
- நிர்வாகக் கட்டுப்பாடு (Governance) – தரத்தின் தரம் மற்றும் மாதிரியின் வெளியீடுகளைக் காலப்போக்கில் கண்காணிக்கப் பொறுப்பான ஒரு நபர் அல்லது குழு இருக்க வேண்டும்.
- பணிப்பாய்வு ஒருங்கிணைப்பு (Workflow integration) – எச்சரிக்கைகள் மருத்துவரின் தற்போதைய பணிப்பாய்விலேயே தோன்ற வேண்டும்; கூடுதல் கிளிக்குகள் அல்லது திரைகள் அதன் பயன்பாட்டைக் குறைத்துவிடும்.
- விரிவாக்கக்கூடிய செயல்பாடுகள் (Scalable operations) – மாதிரி பயன்பாட்டிற்கு வரும் முன்பே தானியங்கி கண்காணிப்பு, எச்சரிக்கை சோர்வு பகுப்பாய்வு (alert-fatigue analysis) மற்றும் அவ்வப்போது மறுபயிற்சி அளிக்கும் வழிமுறைகள் (retraining pipelines) ஆகியவை அவசியமானவை.
இந்த நிலைகளில் எதனையாவது தவிர்த்தால், Epic செப்சிஸ் மாதிரியில் காணப்பட்டதைப் போன்ற அமைதியான தோல்விகளுக்கு அந்தத் திட்டம் வழிவகுக்கும்.
ஒரு AI தீர்வை வாங்குவதற்கு முன் கேட்க வேண்டிய கேள்விகள்
மருத்துவமனைகள் உறுதியான பதில்களைக் கோருவதன் மூலம் செலவு மிகுந்த தவறுகளைத் தவிர்க்கலாம்:
- மாதிரி பயன்படுத்தும் ஒவ்வொரு அமைப்பிலும் ஒரு தனி நோயாளியின் தரவை உங்களால் பின்தொடர முடியுமா?
- தரத்தின் தரத்தைப் பராமரிப்பதற்கும் மாதிரியின் செயல்திறலைக் கண்காணிப்பதற்கும் பெயரைக் குறிப்பிட்டு யார் பொறுப்பு?
- எச்சரிக்கைகள் வெறும் சோதனைச் சூழலில் (sandbox environment) மட்டுமல்லாமல், நிஜமான பணி நேரத்தின் போது மருத்துவர்களுடன் சோதிக்கப்பட்டதா?
- செயல்திறன் மாறுபாடுகளை (performance drift) எவ்வாறு கண்டறிந்து சரிசெய்வது என்பதைக் குறிப்பிடும் ஆவணப்படுத்தப்பட்ட கண்காணிப்புத் திட்டம் உள்ளதா?
விற்பனையாளரால் ஒரு நபர், ஒரு செயல்முறை அல்லது ஒரு கண்காணிப்புத் திரையைக் (monitoring dashboard) காட்ட முடியாவிட்டால், அந்த நிறுவனம் தனது முடிவை நிறுத்திவிட்டு மறுபரிசீலனை செய்ய வேண்டும்.
முக்கியக் கருத்து
Epic செப்சிஸ் மாதிரி (sepsis model) மருத்துவமனைகளுக்கு இயந்திரக் கற்றல் (machine learning) பொருத்தமற்றது என்பதற்காகத் தோல்வியடையவில்லை; மாறாக, அதைச் சுற்றியுள்ள தரவுப் பாதை (data pipeline) மற்றும் நிர்வாகக் கட்டமைப்புகள் (governance structures) இல்லாததே அதற்குக் காரணம். ஒரு மருத்துவரின் சொந்த முடிவையே முன்னறிவிக்கும் ஒரு மாதிரி, அல்காரிதம் (algorithm) அல்ல, தரவுப் பொறியியல் அடுக்குதான் (data-engineering layer) மேம்படுத்தப்பட வேண்டும் என்று எச்சரிக்கிறது. சுகாதாரத் துறையில் நம்பகமான AI-ஐ உருவாக்குவதற்கு, எந்தவொரு முக்கியமான IT அமைப்பையும் இயங்க வைக்கும் அதே "சலிப்பூட்டும்" உள்கட்டமைப்பு தேவைப்படுகிறது: சுத்தமான, இணைக்கப்பட்ட தரவு, தெளிவான பொறுப்புக்கூறல், பணிப்பாய்வில் ஒருங்கிணைக்கப்பட்ட எச்சரிக்கைகள் மற்றும் முன்கூட்டியே கண்காணித்தல். இவை இல்லையென்றால், மிகவும் அதிநவீனமான மாதிரியே கூட, தவறான நபர்களுக்குத் தவறான எச்சரிக்கைகளைத் தெரிவித்து முடிந்துவிடும்.