سياق المستودع الخاص بك أصبح الآن سطحاً للهجوم
أمن البرمجة بالذكاء الاصطناعي يتجاوز مجرد منع النموذج من كتابة كود سيئ.
يكمن الخطر الحقيقي فيما يقرؤه الوكيل (agent) قبل أن يكتب. لم يعد المستودع (repository) مجرد مكان للكود، بل أصبح الآن تدفقاً للمدخلات لوكلاء الذكاء الاصطناعي.
يمكن لكل شيء في مستودعك أن يصبح مادة توجيهية للوكيل:
- ملفات README القديمة
- ملاحظات الهجرة (migration) القديمة
- التوثيق غير المحدث
- اتفاقيات المشروع المخفية
- ملفات التعليمات المحلية
- سكربتات التبعيات وخطافات الشل (shell hooks)
غالباً ما يتعامل المطورون مع هذه الملفات كفوضى غير ضارة. لكن وكيل الذكاء الاصطناعي لا يدرك السياق الاجتماعي؛ بل يرى نصوصاً وأدوات وأنماطاً. إذا كان توثيقك قديماً أو فوضوياً، سيعتبر الوكيل هذه الفوضى هي المعيار.
يأتي السياق السيئ في شكلين:
- أخطاء مملة:
- تعليمات إعداد قديمة
- أمثلة تستخدم APIs مهجورة
- ملاحظات معمارية قديمة
- هجمات عدائية:
- حقن الأوامر (Prompt injection) داخل الملفات
- سكربتات تبعيات خبيثة
- أمثلة مسمومة تدفع الكود نحو أنماط غير آمنة
عندما تمنح الوكيل القدرة على تشغيل الاختبارات، أو البحث في الملفات، أو فتح طلبات السحب (pull requests)، فإنك تزيد من نطاق الضرر المحتمل (blast radius). لم يعد نظام الخطافات (hook system) مجرد أداة لزيادة الإنتاجية، بل أصبح أتمتة، ويجب عليك التعامل معه كأتمتة.
اطرح هذه الأسئلة حول سير عملك:
- من يمكنه تعديل الخطاف (hook)؟
- ما هي متغيرات البيئة (environment variables) التي يمكن للوكيل رؤيتها؟
- هل يرث الوكيل بيانات اعتماد المطور (developer credentials)؟
- هل تكتب الأداة خارج المستودع؟
لا تتعامل مع الوكلاء كصناديق نصوص سحرية، بل تعامل معهم كبنية تحتية للمطورين.
كيف تؤمن سير عمل الوكلاء الخاص بك:
- ضيّق النطاق: لا توجه الوكيل إلى مشروعك بالكامل إذا كان يحتاج إلى ثلاثة ملفات فقط.
- نظف السياق: احذف أو أصلح الوثائق القديمة والتعليمات غير المحدثة.
- حصّن التنفيذ: قم بتشغيل المهام الخطرة في بيئة معزولة (sandbox)، وحافظ على نطاق محدود لبيانات الاعتماد.
- طالب بالشفافية: اعرف بالضبط ما الذي قرأه الوكيل، وما هي الأدوات التي استدعاها، وما هي الأوامر التي نفذها.
وكيل الذكاء الاصطناعي يشبه مطوراً مبتدئاً (junior developer) لديه صلاحية الوصول إلى الشل (shell access) وسرعة عالية في الكتابة. لن تمنح مطوراً مبتدئاً جديداً صلاحيات الإنتاج الكاملة في يومه الأول، بل ستعطيه مهاماً صغيرة، وسياقاً نظيفاً، وصلاحيات محدودة.
تعامل مع وكلائك بنفس الطريقة.
Source: https://dev.to/hefty_69a4c2d631c9dd70724/your-repo-context-is-an-attack-surface-now-5dhj
Optional learning community: https://t.me/GyaanSetuAi