بنك إنجلترا يراجع الأطر التنظيمية للذكاء الاصطناعي الوكيل (Agentic AI)
يقوم بنك إنجلترا رسمياً بتقييم ما إذا كانت اللوائح المالية الحالية كافية لإدارة صعود الذكاء الاصطناعي الوكيل (Agentic AI). ومع انتقال الأنظمة المستقلة من مجرد مساعدين بسيطين إلى صناع قرار فاعلين، يحذر المصرفيون المركزيون من أن الرقابة الحالية قد لا تكون مجهزة للتعامل مع آلات تعمل دون تدخل بشري مباشر.
التحول من المساعدة إلى الاستقلالية
طوال معظم العقد الماضي، عمل الذكاء الاصطناعي في القطاع المالي بشكل أساسي كأداة لدعم القرار — من خلال توفير رؤى حول البيانات أو تحديد التجاوزات للمراجعة البشرية. ومع ذلك، يمثل ظهور "الذكاء الاصطناعي الوكيل" تحولاً جذرياً في النموذج المعرفي. فخلافاً لنماذج تعلم الآلة التقليدية، صُممت الأنظمة الوكيلة لمتابعة أهداف رفيعة المستوى من خلال التخطيط الذاتي، واستخدام الأدوات، وتنفيذ الإجراءات.
وفي كلمتها خلال منتدى البنك المركزي الأوروبي حول العمل المصرفي المركزي، سلطت نائبة المحافظ سارة بريدن الضوء على فجوة تنظيمية حرجة. وأشارت إلى أن الأطر الحالية بُنيت على افتراض وجود إشراف بشري مستمر (human-in-the-loop). فعندما يتمكن وكيل الذكاء الاصطناعي من تنفيذ صفقة بشكل مستقل أو إدارة تدفق المدفوعات دون أن ينقر إنسان على زر "تأكيد"، تصبح سلاسل المسؤولية التقليدية ونماذج تقييم المخاطر متجاوزة وغير مجدية.
قطاعات حيوية تحت المجهر التنظيمي
لا تقتصر مراجعة بنك إنجلترا على قسم واحد؛ بل تشمل البنية التحتية الكاملة للتمويل الحديث. ويفحص البنك المركزي على وجه التحديد كيفية تأثير سير العمل الوكيل (agentic workflows) على أربعة مجالات عالية المخاطر:
- المدفوعات والتسويات: ضمان عدم قدرة الوكلاء المستقلين على التسبب في أزمات سيولة نظامية من خلال دورات معاملات خاطئة أو سريعة للغاية.
- التداول الآلي: إدارة مخاطر الانهيارات الخاطفة (flash crashes) أو التلاعب بالسوق الناتج عن تفاعل الوكلاء المستقلين بسرعات تقاس بالأجزاء من الثانية.
- الأمن السيبراني: معالجة السلاح ذي الحدين المتمثل في الوكلاء الذين يمكنهم الدفاع عن الشبكات وفي الوقت نفسه استخدامهم كأدوات من قبل الجهات السيئة لشن هجمات مؤتمتة ومتطورة.
- المرونة التشغيلية: تقييم كيفية تأثير دمج البرمجيات الوكيلة في العمليات المصرفية الأساسية على استقرار الخدمات المالية والقدرة على التنبؤ بها.
لماذا يعيد الذكاء الاصطناعي الوكيل تعريف المخاطر المالية
يعد هذا التحول التنظيمي مهماً لأنه يمثل الانتقال من "مخاطر النموذج" إلى "مخاطر الوكالة". في الماضي، ركز المنظمون على ما إذا كانت مخرجات النموذج منحازة أو غير دقيقة. أما مع الذكاء الاصطناعي الوكيل، فينتقل التركيز إلى عواقب الأفعال.
إذا اتخذ وكيل مستقل سلسلة من القرارات المنطقية ولكن غير المقصودة التي تؤدي إلى خلل في السوق، فإن تحديد المسؤولية يصبح تحدياً قانونياً وتقنياً معقداً. وبالنسبة للمطورين ومؤسسي شركات التكنولوجيا المالية (fintech)، فإن هذا يعني أن "القابلية للتفسير" لم تعد تتعلق فقط بفهم سبب إعطاء النموذج لإجابة ما، بل بالقدرة على تدقيق مسار اتخاذ القرار بالكامل للوكيل المستقل.
ومع استمرار بنك إنجلترا في مراجعته، يجب على الصناعة المالية الاستعداد لمستقبل لا يتطلب فيه الامتثال مجرد شفافية البيانات، بل يتطلب أيضاً "هندسة حواجز حماية" (guardrail engineering) صارمة لضمان بقاء الوكلاء المستقلين ضمن الحدود الاقتصادية والقانونية المحددة مسبقاً.
النقاط الرئيسية
- تحديد فجوة تنظيمية: يحذر بنك إنجلترا من أن القواعد المالية الحالية غير كافية لوكلاء الذكاء الاصطناعي القادرين على التصرف دون تعليمات بشرية مباشرة.
- مجالات تأثير واسعة: تركز المراجعة على أربع ركائز أساسية: المدفوعات، والتداول الآلي، والأمن السيبراني، والعمليات المصرفية العامة.
- تحول في المسؤولية: يستلزم صعود الاستقلالية الانتقال من مراقبة مخرجات النماذج إلى حوكمة مسارات اتخاذ القرار المستقلة ومخاطر الوكالة النظامية.