أصدر مشروع أمن تطبيقات الويب المفتوحة (OWASP) قائمة "أهم 10 مخاطر للنماذج اللغوية الكبيرة في الذكاء الاصطناعي التوليدي" لعام 2026، حيث قفز خطر "الوكالة المفرطة" (Excessive Agency) من المركز السادس إلى المركز الثالث. وتكمن أهمية هذه القفزة في أنها تظهر أن الإخفاقات الأكثر خطورة لم تعد تقتصر على المخرجات السيئة فحسب، بل تمتد لتشمل الوكلاء (agents) القادرين على اتخاذ إجراءات فعلية على بنيتك التحتية.
لماذا يهم هذا التحول
للمرة الأولى، تعتمد قائمة "أهم 10 مخاطر" على بيانات مستمدة من حوادث حقيقية بنسبة الربع — أكثر من 6,000 حالة اختراق واستغلال وسلوك خاطئ تم الإبلاغ عنها. بينما اعتمدت الإصدارات السابقة بشكل شبه كامل على آراء الخبراء. وتُظهر الإشارات من العالم الحقيقي أنه عندما يتمكن النموذج اللغوي من استدعاء واجهات برمجة التطبيقات (APIs)، أو تنفيذ التعليمات البرمجية، أو تحويل الأموال، فإن العواقب تتحول من تسريبات نصية محرجة إلى أضرار تشغيلية ملموسة. لا يزال "حقن الأوامر" (Prompt injection) يتصدر القائمة، يليه "كشف المعلومات الحساسة"، ولكن صعود "الوكالة المفرطة" (Excessive Agency) إلى المراكز الثلاثة الأولى يخبر الفرق الأمنية بأن الموجة القادمة من الهجمات ستكون مدعومة بالأدوات بدلاً من كونها لغوية بحتة.
كيف تبدو "الوكالة المفرطة"
تصف "الوكالة المفرطة" أي حالة يتم فيها منح النموذج اللغوي الكبير (LLM) قدرة لا ينبغي أن يمتلكها، أو قدرة تفوق ما يمكن للضوابط المحيطة به احتواؤه. وتشمل الأمثلة النموذجية ما يلي:
- مساعد يستدعي نقاط نهاية (endpoints) للخدمات المصغرة الداخلية دون التحقق من الأذونات.
- بوت لتوليد الكود يقوم بكتابة وتشغيل برامج نصية (scripts) على خوادم الإنتاج.
- وكيل أتمتة مالية يبدأ عمليات تحويل بعد تلقي أمر (prompt) مصاغ بدقة.
إذا نجح أمر خبيث في خداع النموذج بينما يمتلك مثل هذه الصلاحيات، فإن الاختراق يكون فورياً وغالباً ما يكون مكلفاً. وتزداد المخاطر طردياً مع الفجوة بين قدرة النموذج على اتباع الأمر ومدى صرامة الضوابط المحيطة به.
كيف تم بناء قائمة "أهم 10 مخاطر" الجديدة
يمزج إصدار عام 2026 بين تقدير الخبراء والبيانات الصلبة. حيث يشتق حوالي 25% من التصنيف من مجموعة الحوادث المذكورة سابقاً، مما يعطي وزناً للأنماط التي ظهرت بالفعل في الواقع. ويفسر هذا التغيير في المنهجية سبب الارتفاع الحاد لـ "الوكالة المفرطة": إذ تُظهر البيانات زيادة واضحة في الحوادث التي قام فيها النموذج بإجراء فعل بدلاً من مجرد إخراج نص.
تحركات أخرى ملحوظة
- كشف السياق المخفي (Hidden Context Exposure) (الذي تم تغيير اسمه من "تسريب أمر النظام" System Prompt Leakage) يرتفع ليشمل مجموعة أوسع من البيانات الحساسة، مما يعكس قيام المهاجمين باستخراج الأسرار من سياق النموذج بشكل متزايد.
- المعالجة غير السليمة للمخرجات (Improper Output Handling) تنخفض إلى المركز العاشر، مما يشير إلى أن المؤسسات أصبحت أفضل في تنقية استجابات النماذج الخام. وينتقل تركيز الصناعة من "النموذج قال شيئاً سيئاً" إلى "النموذج فعل شيئاً سيئاً".
تعزز هذه التحركات الرواية القائلة بأن سطح التهديد يتوسع من المخرجات الثابتة إلى السلوكيات الديناميكية.
التخفيف من المخاطر
يمكن لفرق الأمن البدء في تقليل "الوكالة المفرطة" من خلال ثلاث خطوات عملية:
- تحديد نطاق أدواتك – خصص لكل وكيل الإجراءات التي يحتاجها فقط لوظيفته المحددة. تجنب منح نموذج لغوي واحد "صندوق أدوات كاملاً" من أجل الراحة؛ فالأذونات الدقيقة تحد من نطاق الضرر (blast radius) الناتج عن أمر مخترق.
- بناء الضوابط في الكود، وليس في الأوامر – اعتمد على فحوصات الأذونات الصريحة، وبوابات التأكيد، وسجلات التدقيق في الطبقة التي تنفذ الأداة فعلياً. تعامل مع كل مخرج للنموذج كطلب غير موثوق يجب أن يمر بنفس المراجعة الأمنية التي يخضع لها أي استدعاء خارجي لواجهة برمجة التطبيقات (API).
- جرد جميع مجموعات الأدوات – وثّق أي الوكلاء يمكنهم الوصول إلى أي واجهات برمجة تطبيقات (APIs) أو برامج نصية (scripts) أو نقاط نهاية مالية. والأهم من القائمة نفسها هو فهم كيفية تفاعل تلك القدرات؛ فقد يصبح زوج من الأدوات يبدو غير ضار خطيراً عند ربطهما معاً.
كما تقوم قائمة "أهم 10 مخاطر" المحدثة بربط كل خطر بمعايير أمن المؤسسات الكبرى، مما يمنح المدافعين لغة مشتركة لمناقشة التخفيف من المخاطر مع فرق الامتثال والتدقيق.
وجهة نظر معارضة: هل تم تضخيم المخاطر؟
يجادل بعض الممارسين بأن "الوكالة المفرطة" تعكس مجرد خيارات تصميم سيئة بدلاً من كونها خللاً متأصلاً في الذكاء الاصطناعي التوليدي. ويشيرون إلى أن أي نظام قابل للبرمجة يمكن إساءة استخدامه إذا مُنح وصولاً غير مقيد، وأن ممارسات DevOps القوية تعالج بالفعل العديد من السيناريوهات المذكورة. وبينما يعد الانضباط في الأذونات أمراً ضرورياً، فإن الارتفاع القائم على البيانات في مستوى الخطر يشير إلى أن العديد من المؤسسات لا تزال متأخرة في تطبيق تلك الممارسات على سير العمل المعزز بالذكاء الاصطناعي.
ما يجب مراقبته لاحقاً
- مراجعات إضافية لقائمة "أهم 10 مخاطر" – مع تسجيل المزيد من الحوادث، ستستمر قائمة OWASP في التطور. إن مراقبة الإصدار السنوي ستساعد الفرق على توقع الاتجاه الذي يسلكه منحنى التهديد.
الرسالة واضحة: إن منح النموذج اللغوي القدرة على التنفيذ أمر زهيد، أما الحماية من تلك القدرة فهي مكلفة. فالمؤسسات التي تتعامل مع مخرجات النموذج بوصفها طلباً لا حكماً نهائياً، ستظل متقدمة على الموجة الناشئة من الهجمات المدعومة بالأدوات.