أظهر باحثون من معهد ماساتشوستس للتكنولوجيا (MIT) أن أدوات شرح الذكاء الاصطناعي (AI explainability tools) تعزز دقة التشخيص للمستخدمين غير المتخصصين، لكنها تعيق الأطباء المتمرسين، مما يهدد سلامة المرضى ومصداقية تطبيقات الذكاء الاصطناعي في مجال الصحة. لقد اختبروا مصنفاً لأمراض الجلد على مشاركين بخلفيات طبية مختلفة، ووجدوا انقساماً صارخاً: تحسن غير الخبراء في قراراتهم، بينما شعر أطباء الرعاية الأولية غالباً بـ "احتكاك معرفي" (cognitive friction) عندما تعارض منطق الذكاء الاصطناعي مع منطقهم الخاص.

الدراسة التي قلبت فرضية "النموذج الموحد للجميع" رأساً على عقب

أصبح الذكاء الاصطناعي الآن جزءاً من العديد من أنظمة المعلومات في المستشفيات، ومع ذلك، يقوم معظم الموردين بتوفير واجهة شرح واحدة لكل مستخدم. طلب فريق MIT من المشاركين تشخيص آفات جلدية، أولاً بمفردهم ثم باستخدام نموذج ذكاء اصطناعي يوفر خرائط حرارية مرئية ومبررات نصية. وقارنوا بين مجموعتين: أشخاص لديهم تدريب طبي ضئيل أو معدوم، وأطباء رعاية أولية يقومون بالتشخيص يومياً.

تباينت النتائج؛ فقد قفزت دقة المشاركين غير المتخصصين بعد رؤية مخرجات الذكاء الاصطناعي، لكن معظم هذا التحسن جاء ببساطة من خلال الانصياع لاقتراح الآلة — وهي حالة كلاسيكية من "انحياز الأتمتة" (automation bias). أما الأطباء، فلم يشهدوا تحسناً مستمراً. فعندما كانت تفسيرات الذكاء الاصطناعي مفرطة في التبسيط أو غير متوافقة مع المنطق السريري، أبلغ الأطباء عن شعورهم بالارتباك والتشتت، وفي بعض الحالات، تراجع في الثقة التشخيصية.

ماذا يعني "انحياز الأتمتة" للمبتدئين

بالنسبة لغير الخبراء، تعمل درجات الثقة التي يعطيها الذكاء الاصطناعي والمناطق المظللة كاختصار للوصول إلى الإجابة الصحيحة. ووجدت الدراسة أن هؤلاء المستخدمين وثقوا في النموذج حتى عندما لم يقدم التفسير سوى القليل من الرؤى حول الحالة المرضية الكامنة. ويكمن الخطر في جانبين: يتلقى المرضى رعاية بناءً على حكم الآلة بدلاً من مهارة الطبيب المتطور، كما يفوت المستخدمون فرصة لتعلم الإشارات التشخيصية التي يحددها الذكاء الاصطناعي.

يحذر الباحثون من أنه بينما يعد ارتفاع الدقة مكسباً فورياً، فإن التكلفة طويلة المدى قد تتمثل في ظهور جيل من الأطباء الذين يعتمدون على توصيات "الصندوق الأسود" (black-box) دون فهم السبب. هذا الاعتماد يؤدي إلى تآكل التفكير النقدي، مما يجعل من الصعب اكتشاف أخطاء النماذج أو الحالات النادرة التي تقع خارج بيانات التدريب.

لماذا يعارض الأطباء المتمرسون هذه الأدوات

يمتلك الأطباء نموذجاً ذهنياً للمرض يتضمن تاريخ المريض، وعلم الأوبئة، والأنماط البصرية الدقيقة. وعندما تقدم واجهة الذكاء الاصطناعي ملخصات رفيعة المستوى فقط أو أرقام ثقة عامة، فإن ذلك يصطدم بهذا النموذج. أظهرت تجربة MIT أن الأطباء غالباً ما يحتاجون إلى بيانات أكثر تفصيلاً — مثل خرائط إسناد الميزات (feature attribution maps)، أو مراجع أدبية مقارنة، أو توزيعات احتمالية مفصلة — لدمج نصيحة الذكاء الاصطناعي بشكل هادف.

عندما كانت التفسيرات غير كافية، أبلغ الأطباء عن "احتكاك معرفي"، وهو مقاومة ذهنية تبطئ عملية اتخاذ القرار وتزيد من احتمالية الخطأ. وفي الرعاية الأولية، يترجم هذا الاحتكاك إلى استشارات أطول، وانخفاض في معدل إنتاجية المرضى، واحتمالية تفويت التشخيصات.

تصميم ذكاء اصطناعي يعرف جمهوره

يطالب المؤلفون بـ "قابلية شرح قائمة على الشخصية" (persona-based explainability)، والتحول من لوحات التحكم الثابتة إلى واجهات تكيفية تعدل العمق والتنسيق بناءً على خبرة المستخدم. ويمكن أن يتضمن التنفيذ العملي طبقتين متميزتين:

  • طبقة غير المتخصصين: ملخص موجز، ودرجة ثقة، وإشارة مرئية بسيطة (مثل خريطة حرارية) تطمئن المستخدم دون إثقاله بالمعلومات.
  • الطبقة المهنية: خرائط حرارية مفصلة، ومساهمات كمية للميزات، وروابط لدراسات محكمة، والقدرة على التعمق في حالات عدم اليقين في النموذج.

سيحتاج المطورون إلى دمج آلية للكشف عن ملف تعريف المستخدم — ربما عبر تسجيل دخول بسيط مع وسوم الأدوار — أو السماح للأطباء بالتبديل بين أنماط الشرح. الهدف ليس إخفاء التعقيد عن الأطباء، بل تقديمه عندما يضيف قيمة، مع إبقائه في حده الأدنى لأولئك الذين يحتاجون فقط إلى التوجيه.

الحجج المضادة والعقبات العملية

يزعم بعض موردي الذكاء الاصطناعي أن الواجهة الموحدة تقلل من تكاليف التدريب والتعقيدات التنظيمية؛ فتنسيق الشرح الواحد يسهل اعتماده ونشره عبر الأنظمة الصحية المتباينة. علاوة على ذلك، يواجه الأطباء بالفعل "إجهاد التنبيهات" (alert fatigue)؛ لذا قد يُنظر إلى إضافة طبقة أخرى من المعلومات على أنها مجرد ضجيج إضافي.

تشير نتائج MIT إلى أن تكلفة نهج "النموذج الموحد للجميع" قد تفوق هذه الكفاءات قصيرة المدى. فإذا رفض الأطباء أداة الذكاء الاصطناعي أو أساؤوا استخدامها لأن تفسيراتها تبدو غير ذات صلة، فسوف يتوقف تبنيها، مما يهدر الاستثمارات في التطوير والتكامل.

ما الذي يجب مراقبته لاحقاً

تشير الدراسة إلى عدة إجراءات فورية لأصحاب المصلحة في مجال الذكاء الاصطناعي الصحي:

  • اختبار وحدات التفسير التكيفية في أدوات التشخيص الحالية وقياس تأثيرها على سير العمل ومعدلات الخطأ.
  • جمع ملاحظات مستمرة من المستخدمين المبتدئين (مثل طلاب الطب، وموظفي الفرز عن بُعد) والأطباء ذوي الخبرة لتحسين منطق الشخصية (persona logic).
  • تطوير معايير للقابلية للتفسير متعددة المستويات يمكن دمجها في الطلبات التنظيمية، مما يضمن أن تأخذ تقييمات السلامة في الاعتبار المخاطر الخاصة بكل مستخدم.
  • تثقيف المستخدمين حول الانحياز للأتمتة (automation bias)، مع التأكيد على أن الذكاء الاصطناعي هو أداة مساعدة لاتخاذ القرار، وليس بديلاً عن التقييم السريري.

الخلاصة

يمكن للذكاء الاصطناعي رفع مستوى الأداء التشخيصي، ولكن فقط إذا كانت تفسيراته تتحدث لغة الشخص الذي يطلع عليها. إن تجاهل فجوة الخبرة يغذي الاعتماد المفرط بين المبتدئين ويخلق احتكاكاً للأطباء، مما يعرض نتائج المرضى ومصداقية الذكاء الاصطناعي الصحي للخطر. لم تعد الواجهات التكيفية المدركة للشخصية مجرد ميزة إضافية، بل أصبحت شرطاً أساسياً لدمج الذكاء الاصطناعي بشكل آمن وفعال في الممارسة السريرية.