Michigan Medicine-ൽ നടന്ന 2021-ലെ ഒരു പരിശോധനയിൽ Epic-ന്റെ സെപ്സിസ്-അലേർട്ട് എഞ്ചിൻ (Sepsis-alert engine) പരാജയപ്പെട്ടു. സെപ്സിസ് ബാധിച്ച മൂന്നിൽ രണ്ട് ഭാഗം രോഗികളെ തിരിച്ചറിയുന്നതിൽ ഈ സംവിധാനം പരാജയപ്പെട്ടപ്പോൾ, എല്ലാ പ്രവേശനങ്ങളിൽ നിന്നും 18% പേർക്ക് അനാവശ്യമായ മുന്നറിയിപ്പുകൾ നൽകുകയും ചെയ്തു. ഈ പിശക് ഒരു ക്ലാസിക് 'ഡാറ്റാ-ലീക്കേജ്' (data-leakage) പിശകാണ്: ഒരു രോഗിക്ക് അണുബാധയുണ്ടെന്ന് സംശയിക്കുന്നതിന്റെ സൂചനയായ ഡോക്ടറുടെ ആന്റിബയോട്ടിക് ഓർഡറിനെ ഒരു പ്രെഡിക്റ്ററായി (predictor) മോഡൽ കണക്കാക്കി. ചുരുക്കത്തിൽ, ക്ലിനീഷ്യൻ നേരത്തെ എടുത്ത ഒരു തീരുമാനത്തെ തന്നെ ഈ മോഡൽ ആവർത്തിക്കുകയായിരുന്നു ചെയ്തത്.

എന്തുകൊണ്ടാണ് ഈ മോഡൽ പരാജയപ്പെട്ടത്

Michigan-ലെ ടീം 38,455 ആശുപത്രി പ്രവേശനങ്ങളെക്കുറിച്ച് പഠനം നടത്തി. Epic-ന്റെ ആഭ്യന്തര ബെഞ്ച്മാർക്കുകൾ ഉയർന്ന കൃത്യത വാഗ്ദാനം ചെയ്തിരുന്നെങ്കിലും, സ്വതന്ത്രമായ പരിശോധനയിൽ നേരെ തിരിച്ചാണ് കണ്ടത്. മോഡൽ നൽകുന്ന 'ഉയർന്ന റിസ്ക്' (high-risk) മുന്നറിയിപ്പുകൾ രോഗികളിൽ ഏകദേശം അഞ്ചിലൊന്ന് ഭാഗത്തോളം ഉണ്ടായിരുന്നു, എന്നാൽ യഥാർത്ഥ സെപ്സിസ് കേസുകളിൽ മൂന്നിൽ രണ്ട് ഭാഗവും ശ്രദ്ധിക്കപ്പെടാതെ പോയി. പ്രായോഗികമായി പറഞ്ഞാൽ, പിടികൂടേണ്ട കാര്യങ്ങൾ വിട്ടുപോകുമ്പോൾ തന്നെ ഈ സിസ്റ്റം അനാവശ്യമായി "ശ്രദ്ധിക്കുക" എന്ന് വിളിച്ചുപറയുകയായിരുന്നു.

ഇതിന്റെ മൂലകാരണം മെഷീൻ ലേണിംഗ് അൽഗോരിതത്തിലെ പിശകല്ല, മറിച്ച് അതിലേക്ക് നൽകിയ ഡാറ്റയായിരുന്നു. ആന്റിബയോട്ടിക് ഓർഡറിന്റെ സാന്നിധ്യം ഒരു ഇൻപുട്ട് ആയി ഉപയോഗിച്ചതിലൂടെ, ക്ലിനീഷ്യൻ നേരത്തെ എടുത്ത തീരുമാനത്തെ പ്രവചിക്കാൻ മോഡൽ പഠിച്ചു. അൽഗോരിതം ഒരു രോഗിയെ ഫ്ലാഗ് ചെയ്യുമ്പോൾ, അത് രോഗിയുടെ ശാരീരികാവസ്ഥ (physiology) സെപ്സിസിലേക്ക് നീങ്ങുന്നു എന്ന് കാണിക്കുന്നത് കൊണ്ടല്ല, മറിച്ച് ഡോക്ടർ നേരത്തെ തന്നെ ആന്റിബയോട്ടിക്കുകൾ നിർദ്ദേശിച്ചിരുന്നു എന്നതുകൊണ്ടാണ്.

ആശുപത്രികളിലെ AI-യിൽ നിലനിൽക്കുന്ന വിപുലമായ ഒരു പ്രശ്നം

Epic-ന്റെ സെപ്സിസ് മോഡൽ വർഷങ്ങളായി നൂറുകണക്കിന് ആശുപത്രികളിൽ ഉപയോഗിച്ചുവരുന്നുണ്ടെങ്കിലും, കൃത്യമായ ഒരു പരിശോധന നടത്തുന്നതുവരെ ഈ ഡാറ്റാ-ലീക്കേജ് പിശക് പുറത്തുവന്നിരുന്നില്ല. ഈ സംഭവം ഒരു വ്യവസ്ഥാപിത ബലഹീനതയെയാണ് ചൂണ്ടിക്കാണിക്കുന്നത്: മിക്ക ആരോഗ്യ സംവിധാനങ്ങളിലെയും AI പ്രോജക്റ്റുകൾക്ക് ഇത്തരം പ്രശ്നങ്ങൾ നേരത്തെ കണ്ടെത്താൻ ആവശ്യമായ പ്രവർത്തനപരമായ പരിശോധനകൾ (operational checks) ഇല്ല.

  • പുറത്തുനിന്നുള്ള പരിശോധനകളില്ല – ആശുപത്രികൾക്ക് പുറത്തുനിന്നുള്ള പരിശോധനകൾ ഉണ്ടായിരുന്നില്ല.
  • തുടർച്ചയായ നിരീക്ഷണമില്ല – അവർക്ക് കൃത്യമായ നിരീക്ഷണം ഉണ്ടായിരുന്നില്ല.
  • വ്യക്തമായ ഉത്തരവാദിത്തമില്ല – ഡാറ്റാ ഗുണനിലവാരത്തിനും മോഡൽ പെർഫോമൻസിനും ഉത്തരവാദിത്തപ്പെട്ട ഒരു പ്രത്യേക ടീം ഇല്ലാത്തതിനാൽ, പ്രശ്നങ്ങൾ ശ്രദ്ധിക്കപ്പെടാതെ പോകുന്നു.

ഈ കുറവുകൾ കാരണം പല AI സംരംഭങ്ങളും ഒരു 'പ്രൂഫ്-ഓഫ്-കൺസെപ്റ്റ്' (proof-of-concept) ഘട്ടത്തിൽ നിന്ന് മുന്നോട്ട് പോകാതെ പൈലറ്റ് ഘട്ടത്തിൽ തന്നെ കുടുങ്ങിക്കിടക്കുന്നു.

വിഭജിക്കപ്പെട്ട ഡാറ്റയുടെ മറഞ്ഞിരിക്കുന്ന ചിലവ്

വിഭജിക്കപ്പെട്ട ഹെൽത്ത്-ഐടി (health-IT) സംവിധാനങ്ങൾ എങ്ങനെയാണ് AI-യെ തടസ്സപ്പെടുത്തുന്നത് എന്ന് സെപ്സിസ് കേസ് കാണിച്ചുതരുന്നു. സാധാരണയായി നേരിടുന്ന തടസ്സങ്ങൾ ഇവയാണ്:

  • ഡാറ്റ സ്വയമേവ കൈമാറാൻ കഴിയാത്ത പഴയ EHR മോഡ്യൂളുകളിൽ തടഞ്ഞുവെച്ചിരിക്കുന്ന രോഗി റെക്കോർഡുകൾ.
  • പരസ്പരം ബന്ധപ്പെടാൻ കഴിയാത്ത ഇമേജിംഗ്, ലബോറട്ടറി സംവിധാനങ്ങൾ, ഇത് ഫയലുകൾ മാനുവലായി കൈമാറാൻ നിർബന്ധമാക്കുന്നു.
  • ഒരേ വ്യക്തിയുടെ ഡാറ്റ പല ചാർട്ടുകളിലായി വിഭജിക്കപ്പെടുന്ന ഡ്യൂപ്ലിക്കേറ്റ് പേഷ്യന്റ് ഐഡന്റിഫയറുകൾ.
  • മോഡൽ പരിശീലനത്തിനായി (model training) സംയോജിപ്പിക്കാത്ത, പ്രത്യേക വിഭാഗങ്ങളായി സൂക്ഷിച്ചിരിക്കുന്ന ക്ലിനിക്കൽ കുറിപ്പുകളും വൈറ്റൽ സൈൻസുകളും.

വൃത്തിയുള്ളതും കൃത്യവുമായ ഒരു ഡാറ്റാസെറ്റ് ഉപയോഗിച്ച് പരിശീലിപ്പിച്ച മോഡലിന് പിന്നീട് അപാകതകളുള്ള ഡാറ്റ നൽകിയാൽ, അതിന്റെ പ്രവർത്തനം നിശബ്ദമായി തകരാറിലാകും. ഇത് ക്ലിനീഷ്യൻമാർക്ക് സിസ്റ്റത്തിലുള്ള വിശ്വാസം വേഗത്തിൽ നഷ്ടപ്പെടുത്തുന്നു; പല സ്ക്രീനുകളിലൂടെ മുന്നറിയിപ്പുകൾ തിരയേണ്ടി വരുന്ന ഒരു നഴ്സ്, ആ

മെഷീൻ ലേണിംഗ് ആശുപത്രികൾക്ക് അനുയോജ്യമല്ലാത്തതുകൊണ്ടല്ല Epic sepsis മോഡൽ പരാജയപ്പെട്ടത്; മറിച്ച് അതിന് ചുറ്റുമുള്ള ഡാറ്റാ പൈപ്പ്‌ലൈനും ഗവേണൻസ് ഘടനകളും ഇല്ലാതിരുന്നതുകൊണ്ടാണ്. ഒരു ഡോക്ടറുടെ തന്നെ തീരുമാനങ്ങളെ മുൻകൂട്ടി പ്രവചിക്കുന്ന ഒരു മോഡൽ, അൽഗോരിതമല്ല മറിച്ച് ഡാറ്റാ-എഞ്ചിനീയറിംഗ് പാളിയാണ് മെച്ചപ്പെടുത്തേണ്ടത് എന്ന് മുന്നറിയിപ്പ് നൽകുന്നു. ആരോഗ്യപരിചരണ മേഖലയിൽ വിശ്വസനീയമായ AI കെട്ടിപ്പടുക്കുന്നതിന്, ഏതൊരു നിർണ്ണായക ഐടി സിസ്റ്റത്തെയും സുഗമമായി പ്രവർത്തിപ്പിക്കാൻ ആവശ്യമായ അതേ "ബോറിംഗ്" അടിസ്ഥാന സൗകര്യങ്ങൾ ആവശ്യമാണ്: ശുദ്ധവും പരസ്പരബന്ധിതവുമായ ഡാറ്റ, വ്യക്തമായ ഉത്തരവാദിത്തം, വർക്ക്ഫ്ലോയിൽ ഉൾപ്പെടുത്തിയ മുന്നറിയിപ്പുകൾ, മുൻകൂട്ടിയുള്ള നിരീക്ഷണം എന്നിവയാണവ. ഇവയില്ലെങ്കിൽ, ഏറ്റവും അത്യാധുനികമായ മോഡലുകൾ പോലും തെറ്റായ ആളുകൾക്ക് തെറ്റായ മുന്നറിയിപ്പുകൾ നൽകുന്ന അവസ്ഥയിലാകും എത്തിച്ചേരുക.