MIT کے محققین نے دکھایا ہے کہ AI کی وضاحت کرنے والے ٹولز (explainability tools) عام صارفین کے لیے تشخیصی درستگی کو بڑھاتے ہیں لیکن تجربہ کار طبی ماہرین کے لیے رکاوٹ بنتے ہیں، جو مریضوں کی حفاظت اور ہیلتھ-AI کے استعمال کی ساکھ کے لیے خطرہ ہے۔ انہوں نے مختلف طبی پس منظر رکھنے والے شرکاء پر جلد کی بیماریوں کی درجہ بندی کرنے والے ایک ماڈل کا تجربہ کیا اور ایک واضح فرق پایا: غیر ماہرین نے اپنے فیصلوں میں بہتری دکھائی، جبکہ پرائمری کیئر کے ڈاکٹروں نے اکثر "ذہنی رگڑ" (cognitive friction) محسوس کی جب AI کی منطق ان کی اپنی منطق سے متصادم ہوئی۔

وہ مطالعہ جس نے "ایک ہی پیمانہ سب کے لیے" (one-size-fits-all) کے مفروضے کو بدل کر رکھ دیا

مصنوعی ذہانت (AI) اب بہت سے ہسپتالوں کے انفارمیشن سسٹم کا حصہ ہے، پھر بھی زیادہ تر فراہم کنندگان ہر صارف کو ایک ہی طرح کا وضاحت والا انٹرفیس فراہم کرتے ہیں۔ MIT کی ٹیم نے شرکاء سے جلد کے زخموں (skin lesions) کی تشخیص کرنے کو کہا، پہلے خود سے اور پھر ایک ایسے AI ماڈل کی مدد سے جو بصری ہیٹ میپس (visual heatmaps) اور تحریری وجوہات فراہم کرتا تھا۔ انہوں نے دو گروہوں کا موازنہ کیا: وہ لوگ جن کی طبی تربیت کم یا بالکل نہیں تھی، اور وہ پرائمری کیئر کلینیشنز جو روزانہ تشخیص کرتے ہیں۔

نتائج مختلف رہے۔ عام شرکاء نے AI کے نتائج دیکھنے کے بعد درستگی میں اضافہ دکھایا، لیکن اس بہتری کا زیادہ تر حصہ محض مشین کی تجویز کو تسلیم کرنے سے آیا—جو کہ "آٹومیشن بائیس" (automation bias) کی ایک کلاسک مثال ہے۔ تاہم، طبی ماہرین کو اس سے مستقل بہتری حاصل نہیں ہوئی۔ جب AI کی وضاحتیں حد سے زیادہ سادہ تھیں یا طبی منطق کے مطابق نہیں تھیں، تو ڈاکٹروں نے الجھن، توجہ کی کمی، اور بعض صورتوں میں، تشخیصی اعتماد میں کمی کی اطلاع دی۔

نوآموز افراد کے لیے "آٹومیشن بائیس" کا کیا مطلب ہے

غیر ماہرین کے لیے، AI کے کنفیڈنس اسکورز اور نمایاں کردہ حصے درست جواب تک پہنچنے کے لیے ایک شارٹ کٹ کے طور پر کام کرتے ہیں۔ مطالعے سے معلوم ہوا کہ یہ صارفین ماڈل پر اس وقت بھی بھروسہ کرتے تھے جب وضاحت سے بنیادی بیماری (pathology) کے بارے میں بہت کم معلومات مل رہی تھیں۔ اس کا خطرہ دوہرا ہے: مریضوں کو ایک ماہر طبیب کی مہارت کے بجائے مشین کے فیصلے کی بنیاد پر علاج ملتا ہے، اور صارفین ان تشخیصی اشاروں کو سیکھنے کا موقع گنوا دیتے ہیں جن کی AI نشاندہی کرتی ہے۔

محققین خبردار کرتے ہیں کہ اگرچہ زیادہ درستگی ایک فوری کامیابی ہے، لیکن طویل مدتی قیمت ایسی طبی ماہرین کی نسل ہو سکتی ہے جو یہ سمجھے بغیر کہ کیوں، "بلیک باکس" سفارشات پر انحصار کرتے ہیں۔ یہ انحصار تنقیدی سوچ کو ختم کر دیتا ہے، جس سے ماڈل کی غلطیوں یا ٹریننگ ڈیٹا سے باہر کے نایاب کیسز کو پہچاننا مشکل ہو جاتا ہے۔

تجربہ کار طبی ماہرین کیوں مزاحمت کرتے ہیں

ڈاکٹروں کے پاس بیماری کا ایک ذہنی ماڈل ہوتا ہے جس میں مریض کی تاریخ، وبائیات (epidemiology)، اور بصری نمونوں کی باریکیاں شامل ہوتی ہیں۔ جب AI انٹرفیس صرف اعلیٰ سطح کے خلاصے یا عام کنفیڈنس نمبر فراہم کرتا ہے، تو یہ اس ماڈل سے ٹکرا جاتا ہے۔ MIT کے تجربے نے دکھایا کہ طبی ماہرین کو اکثر AI کے مشورے کو بامعنی طور پر شامل کرنے کے لیے زیادہ تفصیلی ڈیٹا—جیسے فیچر ایٹریبیوشن میپس، تقابلی ادبی حوالہ جات، یا تفصیلی پروبیبلٹی ڈسٹری بیوشن—کی ضرورت ہوتی ہے۔

جب وضاحتیں ناکافی رہیں، تو طبیبوں نے "ذہنی رگڑ" (cognitive friction) کی اطلاع دی، جو کہ ایک ایسی ذہنی مزاحمت ہے جو فیصلہ سازی کو سست کرتی ہے اور غلطی کے امکان کو بڑھاتی ہے۔ پرائمری کیئر میں، یہ رگڑ طویل مشوروں، کم پیداواری صلاحیت، اور ممکنہ طور پر غلط تشخیص کا باعث بنتی ہے۔

ایسی AI کا ڈیزائن جو اپنے سامعین کو جانتی ہو

مصنفین "پرسونا پر مبنی وضاحت" (persona-based explainability) کی وکالت کرتے ہیں، جس میں جامد ڈیش بورڈز کے بجائے ایسے موافق (adaptive) انٹرفیسز کی طرف منتقل ہوا جائے جو صارف کی مہارت کی بنیاد پر گہرائی اور فارمیٹ کو ایڈجسٹ کریں۔ ایک عملی نفاذ میں دو الگ الگ تہیں شامل ہو سکتی ہیں:

  • عام آدمی کی تہہ (Layperson layer): ایک مختصر خلاصہ، ایک کنفیڈنس اسکور، اور ایک سادہ بصری اشارہ (مثلاً ہیٹ میپ) جو صارف کو الجھائے بغیر تسلی دے سکے۔
  • پیشہ ورانہ تہہ (Professional layer): تفصیلی ہیٹ میپس، مقداری فیچر کنٹریبیوشن، پیئر ریویوڈ اسٹڈیز کے لنکس، اور ماڈل کی غیر یقینی صورتحال کی گہرائی میں جانے کی صلاحیت۔

ڈویلپرز کو صارف پروفائل کی شناخت کا ایک طریقہ کار شامل کرنے کی ضرورت ہوگی—شاید رول ٹیگز کے ساتھ ایک سادہ لاگ ان—یا طبی ماہرین کو وضاحت کے مختلف طریقوں کے درمیان سوئچ کرنے کی اجازت دینی ہوگی۔ مقصد ڈاکٹروں سے پیچیدگی چھپانا نہیں ہے بلکہ اسے اس وقت پیش کرنا ہے جب یہ اہمیت کا حامل ہو، جبکہ ان لوگوں کے لیے اسے کم سے کم رکھنا ہے جنہیں صرف رہنمائی کی ضرورت ہے۔

جوابی دلائل اور عملی رکاوٹیں

کچھ AI فراہم کنندگان کا دعویٰ ہے کہ ایک یکساں انٹرفیس تربیت کے اخراجات اور ریگولیٹری پیچیدگیوں کو کم کرتا ہے۔ وضاحت کا ایک ہی فارمیٹ سرٹیفائی کرنا اور مختلف ہیلتھ سسٹمز میں نافذ کرنا آسان ہوتا ہے۔ مزید برآں، طبی ماہرین پہلے ہی الرٹ کی تھکن (alert fatigue) کا شکار ہیں؛ معلومات کی ایک اور تہہ شامل کرنے کو مزید شور کے طور پر دیکھا جا سکتا ہے۔

MIT کے نتائج بتاتے ہیں کہ "ایک ہی پیمانہ سب کے لیے" کے طریقہ کار کی قیمت ان قلیل مدتی کارکردگیوں سے زیادہ ہو سکتی ہے۔ اگر طبی ماہرین کسی AI ٹول کو مسترد کر دیتے ہیں یا اس کا غلط استعمال کرتے ہیں کیونکہ اس کی وضاحتیں غیر متعلقہ محسوس ہوتی ہیں، تو اس کا اپنا (adoption) رک جاتا ہے، جس سے ترقی اور انضمام میں کی گئی سرمایہ کاری ضائع ہو جاتی ہے۔

آگے کس چیز پر نظر رکھنی چاہیے

یہ مطالعہ health-AI کے اسٹیک ہولڈرز کے لیے کئی فوری اقدامات کی نشاندہی کرتا ہے:

  • موجودہ تشخیصی ٹولز میں ایڈاپٹیو ایکسپلینیشن ماڈیولز کا تجرباتی استعمال (pilot) کریں اور ورک فلو اور غلطی کی شرح پر ان کے اثرات کا جائزہ لیں۔
  • پرسنہ لاجک (persona logic) کو بہتر بنانے کے لیے نئے صارفین (مثلاً میڈیکل کے طلباء، ٹیلی ٹریاج اسٹاف) اور تجربہ کار کلینیشنز سے مسلسل فیڈ بیک حاصل کریں۔
  • ملٹی ٹائرڈ ایکسپلین ایبلٹی (multi-tiered explainability) کے لیے معیارات تیار کریں جنہیں ریگولیٹری سبمیشنز میں شامل کیا جا سکے، تاکہ اس بات کو یقینی بنایا جا سکے کہ حفاظتی جائزوں میں صارف سے متعلقہ خطرات کو مدنظر رکھا جائے۔
  • صارفین کو آٹومیشن بائیس (automation bias) کے بارے میں تعلیم دیں، اور اس بات پر زور دیں کہ AI ایک فیصلہ سازی میں مددگار ہے، نہ کہ کلینیکل فیصلے کا متبادل۔

خلاصہ

AI تشخیصی کارکردگی کو بہتر بنا سکتا ہے، لیکن صرف اس صورت میں جب اس کی وضاحتیں اسے دیکھنے والے شخص کی زبان میں ہوں۔ مہارت کے فرق کو نظر انداز کرنا نئے صارفین میں ضرورت سے زیادہ انحصار کو فروغ دیتا ہے اور ڈاکٹروں کے لیے رکاوٹیں پیدا کرتا ہے، جس سے مریضوں کے نتائج اور health-AI کی ساکھ دونوں خطرے میں پڑ جاتے ہیں۔ ایڈاپٹیو اور پرسنہ سے آگاہ انٹرفیس اب محض ایک اضافی فیچر نہیں رہے—وہ کلینیکل پریکٹس میں محفوظ اور مؤثر AI کے انضمام کے لیے ایک لازمی ضرورت ہیں۔