لا يحتاج الذكاء الاصطناعي لأن يكون محقاً، بل يحتاج فقط لأن يبدو إجرائياً
لا يحتاج الذكاء الاصطناعي إلى سلطة رسمية لتغيير شركة ما؛ بل يكتسب سلطته من خلال القواعد اللغوية.
يقرأ مدير تقريراً أعده الذكاء الاصطناعي، ويقول التقرير: "لقد تبيّن أن الهيكل الحالي لم يعد مستداماً."
لا يظهر أي شخص في تلك الجملة. لا يُذكر اسم محلل، ولا تُعرض أي منهجية، ولا يوجد أحد للمساءلة.
ومع ذلك، تبدو تلك الجملة أكثر رسمية من قولنا: "يتوقع النموذج أن الهيكل قد يسبب مشكلات بناءً على بيانات محدودة."
تبدو الجملة الأولى وكأنها استنتاج، بينما تبدو الثانية وكأنها تفسير. وهذا الاختلاف يغير طريقة تصرف الناس.
كيف يخلق الذكاء الاصطناعي "سلطة جديدة":
• يزيل العنصر البشري من عملية اتخاذ القرار. • بدلاً من "خفّضوا الميزانية"، يقول "هناك حاجة لخفض الميزانية". • بدلاً من "لقد رفضنا المرشح"، يقول "لم يُعتبر المرشح مناسباً".
تحوّل القواعد اللغوية القرارات إلى حقائق طبيعية. فعندما تبدو الجملة غير شخصية، يتعامل الناس معها كعملية منتهية، ويتوقفون عن التشكيك في المنطق لأن اللغة تُخفي عدم اليقين.
لا يكمن الخطر في ارتكاب الذكاء الاصطناعي للأخطاء فحسب، بل في جعل عدم اليقين يبدو وكأنه ضرورة حتمية.
يمكن للجملة المصقولة أن تخفي بيانات ضعيفة، ويمكن للنبرة المهنية أن تخفي نقص الأدلة. وغالباً ما يخطئ المستخدمون في اعتبار النبرة الواثقة دليلاً على دقة العملية.
لإصلاح ذلك، يجب عليك استعادة "الفاعل" المفقود. لا تقبل عبارة "لقد تقرر"، بل اسأل:
- من أو ما الذي اتخذ القرار؟
- ما هي البيانات التي تدعم ذلك؟
- ما هي المنهجية المستخدمة؟
- تحت أي ظروف يكون هذا صحيحاً؟
لا تسمح للذكاء الاصطناعي بتحويل تخمين إحصائي إلى قاعدة تنظيمية. فالموضوعية ليست أسلوباً، بل هي رابط يمكن تتبعه بين الادعاء وأدلته.
المصدر: https://dev.to/agustin_v_startari/ai-doesnt-need-to-be-right-it-only-needs-to-sound-procedural-1ob0
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi