يُظهر مؤشر ستانفورد للذكاء الاصطناعي لعام 2026 ارتفاع حوادث السلامة إلى 362 حادثة العام الماضي، مما يؤكد اتساع الفجوة بين التحسينات السريعة للنماذج والضمانات المتأخرة المصممة للحفاظ على موثوقيتها. كل فشل غير مراقب يؤدي إلى تآكل الثقة في الأنظمة المدمجة بالفعل في مجالات التمويل والصحة والخدمات العامة.
البيانات الكامنة وراء هذه الفجوة
يضع المؤشر، الذي أعده معهد الذكاء الاصطناعي المتمحور حول الإنسان، الأداء الرئيسي في مواجهة الموثوقية في العالم الحقيقي. لا تزال النماذج رفيعة المستوى تتفوق في اختبارات القياس، ومع ذلك فإن معدلات "الهلوسة" لديها — وهي الحالات التي تولد فيها بيانات كاذبة أو مختلقة — تتراوح بين نسبة مذهلة تتراوح من 22% إلى 94% عبر هذا المجال. عندما يزود المستخدمون النماذج بفرضيات كاذبة عمدًا، تنخفض دقة GPT-4o من 98.2% إلى 64.4%؛ وينخفض DeepSeek R1 من ما يزيد قليلاً عن 90% إلى 14.4% تحت الاختبار نفسه. أما حواجز الحماية الخاصة بالسلامة التي ينبغي أن تمنع المطالبات الضارة، فإنها تتعطل بشكل روتيني عندما يقوم المهاجمون باختبارها.
لماذا تتسابق الشركات
يتجاوز اعتماد السياسات وتيرة التنفيذ. انخفضت حصة الشركات التي تفتقر إلى أي حوكمة للذكاء الاصطناعي من 24% إلى 11% بين المسح السابق وهذا العام، ويستشهد الكثيرون الآن بمعايير مثل ISO/IEC 42001 أو إطار عمل NIST لإدارة مخاطر الذكاء الاصطناعي. إن صياغة سياسة لا تعني بالضرورة الالتزام بها. تؤثر فجوات المعرفة الداخلية على 59% من المستجيبين، وتعيق قيود الميزانية 48%، ويثير عدم اليقين التنظيمي قلق 41%. يصف التقرير هذا بأنه "مشكلة تقنية": إذ يمكن أن يؤدي تشديد ضوابط الخصوصية عن غير قصد إلى إضعاف مقاييس العدالة، والعكس صحيح، مما يترك المهندسين في حالة من التخبط بين أهداف متضاربة دون أدوات أو تمويل كافٍ.
وهم فحوصات السلامة الحالية
تراجعت درجات الشفافية — وهي مجموع كيفية إفصاح المطورين علنًا عن قيود النماذج وطرق اختبارها — من 58 إلى 40، مما يشير إلى أن التقارير الطوعية تفقد مصداقيتها. تعتمد الشركات على عمليات التدقيق الداخلي التي غالبًا ما تغفل حالات الفشل النادرة المسجلة في المؤشر. والنتيجة هي شعور زائف بالأمان؛ حيث تعتقد المؤسسات أنها محمية بينما لا تزال الثغرات الخفية قائمة.
وجهة نظر مغايرة: المعايير تكتسب زخمًا
يرى المؤيدون أن الاستناد إلى أطر عمل ISO و NIST يعد خطوة للأمام. تمنح المعايير الرسمية للمدققين والمنظمين لغة مشتركة وتوقعات أساسية، مما يسهل المقارنات بين الشركات. وأفاد المتبنون الأوائل بوجود توافق داخلي أكثر سلاسة ومسارات تصعيد أوضح عند وجود سياسة. ويشير الارتفاع في اعتماد السياسات إلى أن الصناعة تدرك المخاطر وهي مستعدة للاستثمار في الحوكمة.
ما لا يزال مفقودًا
حتى مع وجود سياسات على الورق، فإن التنفيذ يتعثر. يسلط المؤشر الضوء على ثلاث عقبات عملية:
- فجوات المعرفة: تفتقر الفرق إلى الخبرة العميقة في مخاطر الذكاء الاصطناعي، مما يؤدي إلى فحوصات امتثال سطحية.
- نقص التمويل: تتطلب أدوات السلامة، وعمليات التدقيق من طرف ثالث، والمراقبة المستمرة ميزانيات لا تستطيع العديد من الشركات تبريرها.
- الغموض التنظيمي: تجعل القوانين الغامضة أو المتطورة من الصعب تصميم خارطة طريق للامتثال على المدى الطويل.
من المرجح أن يتطلب معالجة هذه المشكلات تحققًا خارجيًا. يوصي التقرير بالانتقال من التقييم الذاتي نحو التقييمات المستقلة التي تحاكي الاستخدام في العالم الحقيقي والهجمات العدائية. كما يدعو إلى حلول هندسية تدمج فحوصات السلامة مباشرة في مسارات عمل النماذج (model pipelines) بدلاً من التعامل معها كأفكار ثانوية.