Epic ನ ಸೆಪ್ಸಿಸ್-ಅಲರ್ಟ್ ಇಂಜಿನ್ (Sepsis-alert engine) ಮಿಚಿಗನ್ ಮೆಡಿಸಿನ್ನಲ್ಲಿ ನಡೆದ 2021ರ ಮೌಲ್ಯೀಕರಣದಲ್ಲಿ ವಿಫಲವಾಯಿತು; ಇದು ಸೆಪ್ಸಿಸ್ಗೆ ತುತ್ತಾದ ಮೂರನೇ ಎರಡರಷ್ಟು ರೋಗಿಗಳನ್ನು ಗುರುತಿಸಲು ವಿಫಲವಾಯಿತು ಮತ್ತು ಒಟ್ಟು ದಾಖಲಾತಿಗಳಲ್ಲಿ ಶೇ. 18 ರಷ್ಟು ಜನರಿಗೆ ಅನಗತ್ಯ ಎಚ್ಚರಿಕೆಗಳನ್ನು ನೀಡಿತು. ಈ ತಪ್ಪಿನ ಮೂಲವು ಒಂದು ಸಾಂಪ್ರದಾಯಿಕ ಡೇಟಾ-ಲೀಕೇಜ್ (data-leakage) ದೋಷವಾಗಿದೆ: ಮಾದರಿಯು ವೈದ್ಯರ ಆಂಟಿಬಯೋಟಿಕ್ ಆರ್ಡರ್ ಅನ್ನು (ಇದು ಸೋಂಕಿನ ಶಂಕೆಯ ಸೂಚಕವಾಗಿದೆ) ಒಂದು ಮುನ್ಸೂಚಕವಾಗಿ ಪರಿಗಣಿಸಿತು, ಅಂದರೆ ವೈದ್ಯರು ಈಗಾಗಲೇ ತೆಗೆದುಕೊಂಡ ನಿರ್ಧಾರವನ್ನೇ ಇದು ಪುನರಾವರ್ತಿಸಿತು.
ಮಾದರಿಯು ಏಕೆ ವಿಫಲವಾಯಿತು
ಮಿಚಿಗನ್ ತಂಡವು 38,455 ಆಸ್ಪತ್ರೆಯ ಉಳಿವಿನ ಅವಧಿಗಳನ್ನು ಪರಿಶೀಲಿಸಿತು, ಇದು ಸಾಮಾನ್ಯವಾಗಿ ಒಂದು ಬಹು-ವರ್ಷದ ಗುಣಮಟ್ಟ-ಸುಧಾರಣಾ ಯೋಜನೆಯ ಗಾತ್ರವಾಗಿದೆ. Epic ನ ಆಂತರಿಕ ಮಾನದಂಡಗಳು ಹೆಚ್ಚಿನ ನಿಖರತೆಯನ್ನು ಭರವಸೆ ನೀಡಿದ್ದವು, ಆದರೆ ಸ್ವತಂತ್ರ ಪರೀಕ್ಷೆಯು ವಿರುದ್ಧತೆಯನ್ನು ತೋರಿಸಿತು. ಮಾದರಿಯ "ಅತಿ ಹೆಚ್ಚು ಅಪಾಯದ" (high-risk) ಎಚ್ಚರಿಕೆಗಳು ಸುಮಾರು ಐದನೇ ಒಂದು ರಷ್ಟು ರೋಗಿಗಳಲ್ಲಿ ಸಂಭವಿಸಿದವು, ಆದರೂ ನಿಜವಾದ ಸೆಪ್ಸಿಸ್ ಪ್ರಕರಣಗಳಲ್ಲಿ ಮೂರನೇ ಎರಡರಷ್ಟು ರೋಗಿಗಳು ಗಮನಕ್ಕೆ ಬಾರದೆ ತಪ್ಪಿಹೋದರು. ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಈ ವ್ಯವಸ್ಥೆಯು ತಾನು ಹಿಡಿಯಬೇಕಾದ ಘಟನೆಗಳನ್ನೇ ತಪ್ಪಿಸುತ್ತಾ, ಅತಿಯಾಗಿ "ಎಚ್ಚರಿಕೆ" ಎಂದು ಕೂಗುತ್ತಿತ್ತು.
ಮೂಲ ಕಾರಣವು ಮಷೀನ್-ಲರ್ನಿಂಗ್ ಅಲ್ಗಾರಿದಮ್ನಲ್ಲಿನ ದೋಷವಾಗಿರದೆ, ಅದಕ್ಕೆ ನೀಡಲಾದ ಡೇಟಾದಲ್ಲಿತ್ತು. ಆಂಟಿಬಯೋಟಿಕ್ ಆರ್ಡರ್ನ ಉಪಸ್ಥಿತಿಯನ್ನು ಇನ್ಪುಟ್ ಆಗಿ ಬಳಸುವ ಮೂಲಕ, ಮಾದರಿಯು ವೈದ್ಯರು ಈಗಾಗಲೇ ತೆಗೆದುಕೊಂಡ ನಿರ್ಧಾರವನ್ನು ಊಹಿಸುವುದನ್ನು ಕಲಿಯಿತು. ಅಲ್ಗಾರಿದಮ್ ರೋಗಿಯನ್ನು ಗುರುತಿಸಿದಾಗ, ಅದು ರೋಗಿಯ ದೈಹಿಕ ಸ್ಥಿತಿಯು ಸೆಪ್ಸಿಸ್ ಸೂಚಿಸುತ್ತಿದ್ದ ಕಾರಣಕ್ಕಲ್ಲದೆ, ವೈದ್ಯರು ಈಗಾಗಲೇ ಆಂಟಿಬಯೋಟಿಕ್ ಆರ್ಡರ್ ಮಾಡಿದ್ದರಿಂದ ಅಂತಹ ಎಚ್ಚರಿಕೆಯನ್ನು ನೀಡುತ್ತಿತ್ತು.
ಆಸ್ಪತ್ರೆಯ AI ನಲ್ಲಿರುವ ಬೃಹತ್ ಸಮಸ್ಯೆ
Epic ನ ಸೆಪ್ಸಿಸ್ ಮಾದರಿಯನ್ನು ನೂರಾರು ಆಸ್ಪತ್ರೆಗಳಲ್ಲಿ ವರ್ಷಗಳಿಂದ ಬಳಸಲಾಗುತ್ತಿದೆ, ಆದರೂ ಈ ಲೀಕೇಜ್ ದೋಷವು ಒಂದು ಕೇಂದ್ರೀಕೃತ ಮೌಲ್ಯೀಕರಣ ಪ್ರಯತ್ನದ ಮೂಲಕ ಹೊರಬರುವವರೆಗೆ ಅಡಗಿದ್ದೇ ಇತ್ತು. ಈ ಘಟನೆಯು ಒಂದು ವ್ಯವಸ್ಥಿತ ದೌರ್ಬಲ್ಯವನ್ನು ಎತ್ತಿ ತೋರಿಸುತ್ತದೆ: ಹೆಚ್ಚಿನ ಆರೋಗ್ಯ-ವ್ಯವಸ್ಥೆಯ AI ಯೋಜನೆಗಳು ಇಂತಹ ಸಮಸ್ಯೆಗಳನ್ನು ಮೊದಲೇ ಪತ್ತೆಹಚ್ಚಲು ಅಗತ್ಯವಿರುವ ಕಾರ್ಯಾಚರಣೆಯ ತಪಾಸಣೆಗಳನ್ನು ಹೊಂದಿಲ್ಲ.
- ಬಾಹ್ಯ ಪರೀಕ್ಷೆಗಳಿಲ್ಲ (No external testing) – ಆಸ್ಪತ್ರೆಗಳಿಗೆ ಯಾವುದೇ ಬಾಹ್ಯ ಪರೀಕ್ಷೆಗಳಿರಲಿಲ್ಲ.
- ನಿರಂತರ ಮೇಲ್ವಿಚಾರಣೆ ಇಲ್ಲ (No ongoing monitoring) – ಅವುಗಳಿಗೆ ಯಾವುದೇ ಮೇಲ್ವಿಚಾರಣೆ ಇರಲಿಲ್ಲ.
- ಸ್ಪಷ್ಟ ಮಾಲೀಕತ್ವವಿಲ್ಲ (No clear ownership) – ಡೇಟಾ ಗುಣಮಟ್ಟ ಮತ್ತು ಮಾದರಿಯ ಕಾರ್ಯಕ್ಷಮತೆಗೆ ಜವಾಬ್ದಾರರಾಗಿರುವ ನಿಗದಿತ ತಂಡವಿಲ್ಲದಿದ್ದರೆ, ಸಮಸ್ಯೆಗಳು ಗಮನಕ್ಕೆ ಬಾರದೆ ಹೋಗುತ್ತವೆ.
ಈ ಕೊರತೆಗಳು ಅನೇಕ AI ಉಪಕ್ರಮಗಳನ್ನು ಕೇವಲ "ಪೈಲಟ್ ಹಂತದಲ್ಲಿಯೇ" (pilot purgatory) ಸಿಲುಕುವಂತೆ ಮಾಡುತ್ತವೆ, ಅವು ಎಂದಿಗೂ ಕೇವಲ ಪರಿಕಲ್ಪನೆಯ ಹಂತದಿಂದ ಮುಂದೆ ಸಾಗುವುದಿಲ್ಲ.
ಚದುರಿದ ಡೇಟಾದ ಅಡಗಿರುವ ವೆಚ್ಚ
ಸೆಪ್ಸಿಸ್ ಪ್ರಕರಣವು ಚದುರಿದ ಆರೋಗ್ಯ-IT ಪರಿಸರ ವ್ಯವಸ್ಥೆಗಳು AI ಅನ್ನು ಹೇಗೆ ಹಾಳುಮಾಡುತ್ತವೆ ಎಂಬುದನ್ನು ಸಹ ತೋರಿಸುತ್ತದೆ. ಸಾಮಾನ್ಯ ಅಡೆತಡೆಗಳು ಇಂತಿವೆ:
- ಡೇಟಾವನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ವಿನಿಮಯ ಮಾಡಿಕೊಳ್ಳದ ಹಳೆಯ EHR ಮಾಡ್ಯೂಲ್ಗಳಲ್ಲಿ ಸಿಲುಕಿರುವ ರೋಗಿಗಳ ದಾಖಲೆಗಳು.
- ಪರಸ್ಪರ ಸಂವಹನ ನಡೆಸಲಾಗದ ಇಮೇಜಿಂಗ್ ಮತ್ತು ಲ್ಯಾಬೊರೇಟರಿ ವ್ಯವಸ್ಥೆಗಳು, ಇದು ಮ್ಯಾನುಯಲ್ ಫೈಲ್ ವರ್ಗಾವಣೆಗೆ ಒತ್ತಾಯಿಸುತ್ತದೆ.
- ಒಬ್ಬ ವ್ಯಕ್ತಿಯ ಡೇಟಾವನ್ನು ವಿವಿಧ ಚಾರ್ಟ್ಗಳಲ್ಲಿ ವಿಭಜಿಸುವ ಡ್ಯುಪ್ಲಿಕೇಟ್ ರೋಗಿ ಗುರುತ标识ಗಳು (identifiers).
- ಮಾದರಿ ತರಬೇತಿಗಾಗಿ ಎಂದಿಗೂ ವಿಲೀನಗೊಳಿಸದ, ಪ್ರತ್ಯೇಕ ವಿಭಾಗಗಳಲ್ಲಿ (silos) ಸಂಗ್ರಹಿಸಲಾದ ಕ್ಲಿನಿಕಲ್ ನೋಟ್ಸ್ ಮತ್ತು ವೈಟಲ್ ಸೈನ್ಸ್ಗಳು.
ಒಂದು ಮಾದರಿಯನ್ನು ಸ್ವಚ್ಛವಾದ, ಪರಿಷ್ಕೃತ ಡೇಟಾಸೆಟ್ ಮೇಲೆ ತರಬೇತಿಗೊಳಿಸಿ, ನಂತರ ಅದಕ್ಕೆ ನೇರವಾದ, ಅಸ್ತವ್ಯಸ್ತವಾದ ಡೇಟಾವನ್ನು ನೀಡಿದಾಗ, ಅದರ ಕಾರ್ಯಕ್ಷಮತೆಯು ಮೌನವಾಗಿ ಕುಸಿಯುತ್ತದೆ. ಕ್ಲಿನಿಕಲ್ ತಜ್ಞರು ಬೇಗನೆ ನಂಬಿಕೆಯನ್ನು ಕಳೆದುಕೊಳ್ಳುತ್ತಾರೆ; ಅನೇಕ ಸ್ಕ್ರೀನ್ಗಳ ಮೂಲಕ ಎಚ್ಚರಿಕೆಗಳನ್ನು ಹುಡುಕಬೇಕಾದ ನರ್ಸ್, ಅಲ್ಗಾರಿದಮ್ ತಾಂತ್ರಿಕವಾಗಿ ಸರಿಯಾಗಿದ್ದರೂ ಸಹ ಅವುಗಳನ್ನು ನಿರ್ಲಕ್ಷಿಸುತ್ತಾರೆ.
ವಿಶ್ವಾಸಾರ್ಹ AI ಗಾಗಿ ನಾಲ್ಕು "ಬೋರಿಂಗ್" ಅಡಿಪಾಯಗಳು
ಕಾರ್ಯಗತ AI ನಿಯೋಜನೆಯು ಅಪರೂಪವಾಗಿ ಸುದ್ದಿಯಾಗುವ ನಾಲ್ಕು ಪ್ರಾಯೋಗಿಕ ಸಾಮರ್ಥ್ಯಗಳ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿದೆ:
- ಅಂತರ್-ಕಾರ್ಯಸಾಧ್ಯತೆ (Interoperability) – ಡೇಟಾವು EHRಗಳು, ಲ್ಯಾಬ್ಗಳು, ಇಮೇಜಿಂಗ್ ಪ್ಲಾಟ್ಫಾರ್ಮ್ಗಳು ಮತ್ತು ನಿರ್ಧಾರ-ಬೆಂಬಲ ಸಾಧನಗಳ ನಡುವೆ ಮ್ಯಾನುಯಲ್ ಎಕ್ಸ್ಪೋರ್ಟ್-ಇಂಪೋರ್ಟ್ ಹಂತಗಳಿಲ್ಲದೆ ಹರಿಯಬೇಕು.
- ಆಡಳಿತ (Governance) – ಜವಾಬ್ದಾರಿಯುತ ವ್ಯಕ್ತಿ ಅಥವಾ ತಂಡವು ಡೇಟಾ ಗುಣಮಟ್ಟವನ್ನು ಹೊಂದಿರಬೇಕು ಮತ್ತು ಕಾಲಕಾಲಕ್ಕೆ ಮಾದರಿಯ ಫಲಿತಾಂಶಗಳನ್ನು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಬೇಕು.
- ಕಾರ್ಯಪ್ರವಾಹ ಏಕೀಕರಣ (Workflow integration) – ಎಚ್ಚರಿಕೆಗಳು ಕ್ಲಿನಿಕಲ್ ತಜ್ಞರ ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಕೆಲಸದ ಸಾಲಿನಲ್ಲಿಯೇ (work queue) ಕಾಣಿಸಿಕೊಳ್ಳಬೇಕು; ಹೆಚ್ಚಿನ ಕ್ಲಿಕ್ಗಳು ಅಥವಾ ಸ್ಕ್ರೀನ್ಗಳು ಅದರ ಬಳಕೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತವೆ.
- ವಿಸ್ತರಿಸಬಹುದಾದ ಕಾರ್ಯಾಚರಣೆಗಳು (Scalable operations) – ಮಾದರಿಯು ಉತ್ಪಾದನಾ ಹಂತಕ್ಕೆ ತಲುಪುವ ಮೊದಲು ಸ್ವಯಂಚಾಲಿತ ಮೇಲ್ವಿಚಾರಣೆ, ಎಚ್ಚರಿಕೆ-ಆಯಾಸದ ವಿಶ್ಲೇಷಣೆ (alert-fatigue analysis) ಮತ್ತು ನಿಯತಕಾಲಿಕ ಮರು-ತರಬೇತಿ ಪೈಪ್ಲೈನ್ಗಳು ಅತ್ಯಗತ್ಯವಾಗಿವೆ.
ಈ ಹಂತಗಳಲ್ಲಿ ಯಾವುದನ್ನಾದರೂ ಬಿಟ್ಟುಬಿಡುವುದು, Epic ಸೆಪ್ಸಿಸ್ ಮಾದರಿಯಲ್ಲಿ ಕಂಡಂತಹ ಮೌನ ವೈಫಲ್ಯಕ್ಕೆ ಯೋಜನೆಯನ್ನು ಒಡ್ಡಿಕೊಳ್ಳುವಂತೆ ಮಾಡುತ್ತದೆ.
AI ಪರಿಹಾರವನ್ನು ಖರೀದಿಸುವ ಮೊದಲು ಕೇಳಬೇಕಾದ ಪ್ರಶ್ನೆಗಳು
ಆಸ್ಪತ್ರೆಗಳು ಈ ಕೆಳಗಿನ ಸ್ಪಷ್ಟ ಉತ್ತರಗಳನ್ನು ಕೇಳುವ ಮೂಲಕ ದುಬಾರಿ ತಪ್ಪುಗಳನ್ನು ತಪ್ಪಿಸಬಹುದು:
- ಮಾದರಿಯು ಬಳಸುವ ಪ್ರತಿಯೊಂದು ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ಒಬ್ಬ ರೋಗಿಯ ಡೇಟಾವನ್ನು
The Epic sepsis model didn’t fail because machine learning is unsuitable for hospitals; it failed because the surrounding data pipeline and governance structures were missing. A model that predicts a doctor’s own decision warns that the data-engineering layer, not the algorithm, needs work. Building trustworthy AI in health care demands the same “boring” infrastructure that keeps any critical IT system running: clean, connected data, clear accountability, workflow-embedded alerts, and proactive monitoring. Without those, even the most sophisticated model will end up shouting the wrong warnings to the wrong people.