لماذا تُعد بنية وكيل الذكاء الاصطناعي الخاص بك عبئاً أمنياً
بحلول عام 2027، ستواجه 40% من عمليات نشر الذكاء الاصطناعي في المؤسسات حوادث حقن الأوامر (prompt injection) أو اختطاف الوكيل (agent hijack). ويمثل هذا قفزة هائلة مقارنة بأقل من 5% في أوائل عام 2025.
إن طبقة التنسيق (orchestration layer) تجعل الوكلاء مفيدين، لكنها تجعلهم أيضاً هدفاً للهجمات.
خسرت شركة لوجستية في سنغافورة 2.3 مليون دولار مؤخراً؛ حيث أرسل مهاجم دعوة تقويم خبيثة، مما أدى إلى تحفيز وكيل جدولة لإرسال بيانات نظام إدارة علاقات العملاء (CRM) إلى بريد وارد خارجي. لم يكن النموذج يحتوي على أي كود برمجى سيء، بل اتبع التعليمات بدقة تامة. كانت المشكلة في البنية التحتية (architecture).
الوكلاء ليسوا مجرد روبوتات دردشة، بل هم أدوات تقرأ الملفات، وتستدعي واجهات برمجة التطبيقات (APIs)، وتنفذ المعاملات. تفترض النماذج الأمنية التقليدية أن هناك طلباً يصل واستجابة تخرج، لكن الوكلاء يكسرون هذا النموذج.
الوكيل الذي يمكنه تلخيص ملف PDF وتقديم طلب استرداد أموال هو بمثابة ثلاثة تطبيقات في بيئة تشغيل واحدة (runtime). كل استدعاء لأداة يمثل مخاطرة، وكل عملية كتابة في الذاكرة تمثل مخاطرة، وكل بريد إلكتروني أو مستند أصبح الآن بمثابة كود قابل للتنفيذ.
للبناء بشكل آمن، تحتاج إلى ثلاث طبقات:
• الهوية (Identity): يجب أن يكون لكل استدعاء أداة هوية منفصلة عن المستخدم. • المصدر (Provenance): تحتاج كل عملية كتابة في الذاكرة إلى بيانات وصفية (metadata) توضح مصدرها. • القصد (Intent): تحتاج كل خطوة في الخطة إلى كائن موقع (signed object) يمكن للأنظمة اللاحقة التحقق منه.
لا تسمح للوكلاء باستدعاء واجهات برمجة التطبيقات (APIs) الخاصة بالإنتاج مباشرة. استخدم طبقة أدوات وسيطة (mediated tool layer)؛ حيث تعمل هذه الطبقة كجدار حماية جديد لك، فهي تتحقق من المعطيات وتحدد الصلاحيات لكل جلسة.
راقب ذاكرة الوكيل الخاص بك. يستخدم المهاجمون المستندات أو رسائل البريد الإلكتروني المسمومة لإعادة كتابة سلوك الوكيل بمرور الوقت. وتنمو هجمات تسميم الذاكرة (memory-poisoning attacks) بنسبة 300% كل عام.
تضيف العديد من الفرق نمذجة تهديدات الذكاء الاصطناعي (AI threat modeling) إلى مسارات عملها الحالية، لكن هذا ليس كافياً. يجب عليك إضافة الأمن إلى بيئة تشغيل الوكيل (agent runtime) نفسها. 19% فقط من المؤسسات لديها مراقبة لشذوذ استدعاء الأدوات، بينما يعتمد معظمها على سجلات قديمة تغفل سلوك الوكيل.
تعامل مع وكيلك كموظف مبتدئ لديه صلاحية الوصول إلى النظام. لن تمنح موظفاً جديداً صلاحيات "جذر" (root access) كاملة في يومه الأول، فلا تفعل ذلك مع وكلائك.
لن يكون الفائزون هم أصحاب أفضل العروض التوضيحية (demos)، بل سيكونون أولئك الذين يمكنهم النشر في القطاعات الخاضعة للتنظيم مثل الخدمات المصرفية أو الرعاية الصحية دون تأخير أمني لمدة ستة أشهر.
ابنِ طبقاتك الأمنية الآن، ولا تحاول إصلاحها بعد حدوث اختراق.
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi