وكلاء البرمجة بالذكاء الاصطناعي هم سطح الهجوم الجديد

تمنح وكيل ذكاء اصطناعي الإذن بالعمل. يقوم باستنساخ مستودع. يقوم بتكوين الإعدادات. يقوم بتنفيذ الكود. لقد أنشأت للتو ثغرة أمنية هائلة.

وجد الباحثون طريقة لتجاوز الأمن. يمكن أن يبدو مستودع GitHub نظيفًا بالنسبة للفاحصين والبشر. كما يمكنه اجتياز فحص وكيل الذكاء الاصطناعي. ومع ذلك، فإنه يحمل حمولة ضارة. تعمل هذه الحمولة أثناء عملية الإعداد العادية.

الهجوم لا يخدع البشر، بل يعتمد على قيام الوكيل بعمله. يقوم الوكيل باستنساخ الكود وتشغيله تلقائيًا. كفاءة الوكيل هي نقطة الضعف.

هجمات سلاسل التوريد ليست جديدة. نحن نعرف عن هجمات انتحال الأسماء (typosquatting) والبرمجيات الخبيثة. لكن وكلاء الذكاء الاصطناعي يغيرون النطاق. يعمل الوكيل بشكل مستقل بصلاحيات عالية.

الهجمات القديمة كانت تتطلب ارتكاب إنسان لخطأ ما. الهجمات الجديدة تحتاج فقط إلى اجتياز فحص الوكيل. يركز الوكلاء على جعل المشروع يعمل، ولا يركزون على التحقق مما إذا كان الكود آمنًا.

لا يتعلق الأمر بهلوسة الذكاء الاصطناعي أو حقن الأوامر (prompt injections). الذكاء الاصطناعي ليس معطلاً، بل يعمل تمامًا كما هو مخطط له.

المشكلة الحقيقية هي الثقة. نحن نسمح للوكلاء المستقلين بتشغيل الكود في خطوط الأنابيب (pipelines) وبيئات المطورين. غالبًا ما نتجاهل عزل البيئة (sandboxing) أو حدود الصلاحيات. نحن نثق في أفعال الوكيل دون التحقق منها.

إذا كنت تستخدم وكلاء البرمجة بالذكاء الاصطناعي، فافحص سلوكهم:

  • هل يقومون بتشغيل سكربتات التثبيت دون سؤال؟
  • هل ينفذون خطافات الإعداد (setup hooks) تلقائيًا؟
  • ما هي الصلاحيات التي يمتلكونها على جهازك؟

إذا كنت تعمل في مجال الأمن، فاحذر من الأدوات الوكيلية (agentic tools). غالبًا ما يستخدمها المطورون دون موافقة رسمية. الوكيل الذي يستنسخ الكود ويشغله هو أداة لتصعيد الامتيازات (privilege escalation).

نحن ننشر الأدوات المستقلة بشكل أسرع مما نبني أطر السلامة. القدرة تسبق الأمن في سباق محموم. ولأن هذه الأدوات مستقلة، فإن عواقب هذه الفجوة ستكون وخيمة.

تعامل مع أي خط أنابيب (pipeline) يستنسخ ويشغل كودًا خارجيًا على أنه عالي المخاطر. ضغط وكيل الذكاء الاصطناعي على زر التشغيل لا يغير من مستوى الخطر، بل يزيل فقط التوقف البشري الذي قد يكتشف الأخطاء.

من المسؤول عن أمن ما ينفذه الوكيل؟ هل هو المطور، أم صانع الوكيل، أم المنصة المستضيفة؟ لا أحد يجيب على هذا السؤال بعد.

المصدر: https://dev.to/coridev/ai-coding-agents-are-the-new-attack-surface-nobodys-ready-for-1jf1

مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi