Injini ya tahadhari ya sepsis ya Epic ilifeli uhakiki wa mwaka 2021 katika Michigan Medicine, ikikosa sehemu mbili ya tatu ya wagonjwa ambao baadaye walipatwa na sepsis huku ikitoa tahadhari kwa 18% ya wagonjwa wote walioingia hospitalini. Kosa hili linatokana na hitilafu ya kawaida ya uvujaji wa data (data-leakage): modeli ilichukulia agizo la dawa za viuavijasumu (antibiotics) la daktari—ambalo tayari ni ishara kwamba maambukizi yanashukiwa—kama kigezo cha utabiri, jambo ambalo kwa asili lilikuwa likirudia uamuzi ambao mtaalamu wa kliniki alishaufanya.

Kwa nini modeli ilifeli

Timu ya Michigan ilichunguza malazi ya hospitali 38,455, ambayo ni ukubwa wa mradi wa kawaida wa kuboresha ubora wa miaka kadhaa. Viwango vya ndani vya Epic viliahidi usahihi wa juu, lakini jaribio huru lilionyesha kinyume chake. Tahadhari za "hatari ya juu" za modeli zilitoa ishara kwa karibu fifth (moja ya tano) ya wagonjwa, lakini sehemu mbili ya tatu ya visa halisi vya sepsis vilipita bila kugundulika. Katika utendaji, mfumo ulipiga kelele "kuwa mwangalifu" mara nyingi mno huku likikosa matukio yenyewe ambayo ulikuwa umekusudiwa kuyakamata.

Chanzo kikuu hakikuwa hitilafu katika algoriti ya machine-learning yenyewe bali data iliyolishwa ndani yake. Kwa kutumia uwepo wa agizo la dawa za viuavijasumu kama ingizo (input), modeli ilijifunza kutabiri uamuzi ambao mtaalamu wa kliniki alishaufanya. Wakati algoriti ilipomtambua mgonjwa, mara nyingi ilikuwa ikifanya hivyo kwa sababu daktari alikuwa ameshapanga dawa za viuavijasumu, na si kwa sababu fiziolojia ya mgonjwa ilionyesha sepsis inayokaribia.

Tatizo pana katika AI ya hospitali

Modeli ya sepsis ya Epic imewekwa katika mamia ya hospitali kwa miaka mingi, lakini kosa la uvujaji wa data lilikaa likijificha hadi juhudi za uhakiki zilizolifichua. Tukio hili linaonyesha udhaifu wa kimfumo: miradi mingi ya AI katika mifumo ya afya hukosa ukaguzi wa kiutendaji unaohitajika ili kukamata matatizo kama haya mapema.

  • Hakuna majaribio ya nje – Hospitali hazikuwa na majaribio ya nje.
  • Hakuna ufuatiliaji endelevu – Hazikuwa na ufuatiliaji.
  • Hakuna umiliki wa wazi – Bila timu maalum inayohusika na ubora wa data na utendaji wa modeli, matatizo hupotea bila kushughulikiwa.

Mapungufu haya huifanya miradi mingi ya AI kukwama katika "hali ya kutokujengeka baada ya majaribio" (pilot purgatory), bila kamwe kuendelea zaidi ya hatua ya kuthibitisha dhana (proof-of-concept).

Gharama iliyofichika ya data iliyogawanyika

Kisa cha sepsis pia kinaonyesha jinsi mifumo ya teknolojia ya afya iliyogawanyika inavyoharibu AI. Vikwazo vya kawaida ni pamoja na:

  • Kumbukumbu za wagonjwa zilizofungwa katika moduli za zamani za EHR ambazo hazibadilishani data kiotomatiki.
  • Mifumo ya picha (imaging) na maabara ambayo haiwezi kuwasiliana, hali inayolazimisha uhamishaji wa faili kwa mkono.
  • Utambulisho wa wagonjwa unaojirudia unaogawanya data ya mtu mmoja katika chati nyingi.
  • Kumbukumbu za kliniki na ishara za uhai (vital signs) zilizohifadhiwa katika sehemu tofauti (silos), ambazo hazijaunganishwa kwa ajili ya mafunzo ya modeli.

Wakati modeli inapofundishwa kwa kutumia seti ya data safi na iliyopangwa lakini kisha ikalishwa data halisi na iliyochafuka, utendaji hushuka kimyakimya. Wataalamu wa kliniki hupoteza imani haraka; muuguzi anayelazimika kufuatilia tahadhari kupitia skrini nyingi atazipuuza, hata kama algoriti ya msingi ni sahihi kiufundi.

Misingi minne "isiyo ya kuvutia" kwa ajili ya AI inayotegemeka

Utekelezaji wa AI unaofanya kazi unategemea uwezo nne ya vitendo ambayo mara chache hupata vichwa vya habari:

  1. Uwezo wa mifumo kushirikiana (Interoperability) – Data lazima itiririke kati ya EHR, maabara, mifumo ya picha, na zana za kusaidia maamuzi bila hatua za kuhamisha data kwa mkono.
  2. Utawala (Governance) – Mtu au timu inayowajibika lazima imiliki ubora wa data na kufuatilia matokeo ya modeli kwa muda.
  3. Ujumuishaji wa mtiririko wa kazi (Workflow integration) – Tahadhari zinahitaji kuonekana ndani ya mfuatano wa kazi uliopo wa mtaalamu wa kliniki; kubofya mara nyingi au kutumia skrini za ziada kunazuia utumiaji.
  4. Operesheni zinazoweza kupanuliwa (Scalable operations) – Ufuatiliaji wa kiotomatiki, uchambuzi wa uchovu wa tahadhari (alert-fatigue analysis), na mifumo ya mafunzo ya mara kwa mara ni muhimu kabla ya modeli kufikia hatua ya utendaji kamili.

Kuruka hatua yoyote kati ya hizi huacha mradi ukiwa hatarini kupata aina ya kufeli kimyakimya kama ilivyoonekana katika modeli ya sepsis ya Epic.

Maswali ya kuuliza kabla ya kununua suluhisho la AI

Hospitali zinaweza kuepuka makosa yenye gharama kubwa kwa kudai majibu ya wazi:

  • Je, unaweza kufuatilia data ya mgonjwa mmoja katika kila mfumo ambao modeli itautumia?
  • Nani, kwa jina, anawajibika kudumisha ubora wa data na kusimamia utendaji wa modeli?
  • Je, tahadhari zimejaribiwa na wataalamu wa kliniki wakati wa zamu halisi, na si katika mazingira ya majaribio (sandbox environment) pekee?
  • Je, kuna mpango wa ufuatiliaji uliowekwa ambao unaainisha jinsi mabadiliko ya utendaji (performance drift) yatakavyotambuliwa na kushughulikiwa?

Ikiwa muuzaji hawezi kuelekeza mtu, mchakato, au dashibodi ya ufuatiliaji, shirika linapaswa kusimama na kutathmini upya.

Hitimisho

Mtindo wa sepsis wa Epic haukufeli kwa sababu kujifunza kwa mashine (machine learning) haufai kwa hospitali; ulikufeli kwa sababu mfumo wa mtiririko wa data (data pipeline) na miundo ya utawala ilikosekana. Mtindo unaotabiri uamuzi wa daktari mwenyewe unaonya kwamba tabaka la uhandisi wa data (data-engineering layer), na si algoriti, ndilo linahitaji marekebisho. Kujenga AI inayoweza kuaminika katika huduma za afya kunahitaji miundombinu ile ile ya "isiyo ya kusisimua" inayofanya mfumo wowote muhimu wa IT kufanya kazi: data safi na zilizounganishwa, uwajibikaji wa wazi, tahadhari zilizojumuishwa katika mtiririko wa kazi, na ufuatiliaji wa makini. Bila hizo, hata mtindo tata zaidi utaishia kutoa tahadhari zisizo sahihi kwa watu wasio sahihi.