تم تحويل مستودع LLM Guard إلى وضع الأرشفة في 9 يوليو 2026، مما ينهي جميع تحديثات الكود والنماذج.
لماذا يهم هذا التغيير
كان LLM Guard أحد الأدوات المجانية القليلة التي يديرها المجتمع، والتي تتيح للمطورين إضافة "ضوابط" (rails) – وهي عمليات فحص توضع أمام أو خلف النموذج اللغوي الكبير (LLM) – دون الحاجة للدفع مقابل خدمة مدارة. ومع تجميد المشروع، ستختفي هذه الضمانات. وفي الوقت نفسه، يشهد سوق أمن الذكاء الاصطناعي الأوسع عملية اندماج: حيث استحوذت Palo Alto Networks على Protect AI، وCheck Point على Lakera، كما استحوذت OpenAI على promptfoo. يتحول السوق من مجموعة من المشاريع المستقلة المتفرقة إلى عدد قليل من العروض على مستوى المنصات، ويجب على المطورين الآن تحديد مكان وضع خط دفاعهم التالي.
المشكلات الثلاث المتعلقة بضوابط الحماية التي يجب حلها
- ضوابط المدخلات (Input rails) – فلاتر تفحص مطالبة المستخدم (prompt) قبل وصولها إلى النموذج، مما يمنع محاولات الحقن (injection) وتقنيات كسر الحماية (jailbreak).
- ضوابط المخرجات (Output rails) – ماسحات ضوئية تقيم استجابة النموذج، وتمنع اللغة السامة، أو المواد المحمية بحقوق الطبع والنشر، أو الكشف غير المقصود عن البيانات الخاصة.
- اختبار الفريق الأحمر (Red-team testing) – مجموعة اختبارات هجومية تُجرى أثناء التطوير (عادةً في أنابيب CI/CD) للتحقق من صمود النموذج وضوابطه أمام أنماط الهجوم المعروفة. تهدف هذه الخطوة إلى كشف نقاط الضعف قبل وصولها إلى مرحلة الإنتاج؛ وهي ليست فلترًا يعمل في وقت التشغيل (runtime).
إن التعامل مع اختبار الفريق الأحمر كأداة حظر فورية قد يعطي شعورًا زائفًا بالأمان.
البدائل مفتوحة المصدر التي لا تزال متاحة
| الأداة | الترخيص | الاستخدام الأمثل |
|---|---|---|
| NeMo Guardrails | Apache 2.0 | الحوارات المعقدة متعددة الأدوار وتوليد النصوص المعزز بالاسترجاع (RAG)؛ يستخدم لغة Colang المخصصة للمجال لتحديد منطق ضوابط الحماية. |
| Guardrails AI | Apache 2.0 | التحقق التدريجي – إضافة قاعدة واحدة في كل مرة لمواجهة مخاطر محددة مثل الألفاظ النابية أو المواضيع غير المسموح بها. |
| Presidio | MIT | الكشف عن المعلومات الشخصية المحددة للهوية (PII) وإخفاؤها دون اتصال بالإنترنت؛ المشروع الآن مملوك للمجتمع، ولكن يجب عليك تحديد قائمة الكيانات بنفسك لتجنب النتائج الإيجابية الكاذبة المزعجة. |
| Llama Prompt Guard 2 | مصنف مستضاف ذاتيًا يركز على رصد محاولات حقن المطالبات (prompt injections) وتقنيات كسر الحماية. | |
| promptfoo | MIT | إطار عمل للفريق الأحمر يتكامل مع أنابيب CI؛ يمكنه تشغيل مئات نواقل الهجوم ضد نموذجك والإبلاغ عن تلك التي تنجح. |
لا تزال هذه المشاريع تتلقى مساهمات من المجتمع، وشفرتها المصدرية متاحة مجانًا للاستضافة الذاتية أو الدمج في أنابيب مخصصة.
ضوابط مدارة تستحق النظر
إذا كنت تفضل حلاً جاهزًا، فإن اثنين من كبار مزودي الخدمات السحابية يدمجان الآن ضوابط الحماية ضمن عروض LLM الخاصة بهما:
- Amazon Bedrock Guardrails – سياسات قابلة للتهيئة يمكن تفعيلها أو تعطيلها لكل طلب.
- Azure Prompt Shields – فلاتر مماثلة تعمل في وقت التشغيل ومدمجة مع Azure OpenAI Service.
يفرض كلاهما رسومًا لكل طلب؛ حيث يمكن أن تصل تكلفة مليون مكالمة بسرعة إلى عدة مئات من الدولارات. يجب على الفرق المهتمة بالميزانية نمذجة حركة المرور المتوقعة قبل تفعيل هذه الميزات على نطاق واسع.
كيف تعيد بناء حزمة الأمان الخاصة بك
- حدد "الثالوث القاتل". حدد الأماكن التي يتصل فيها تطبيقك بـ (أ) مخازن البيانات الخاصة، (ب) مدخلات المستخدم غير الموثوقة، (ج) استدعاءات الشبكة الخارجية. إن إزالة أي عنصر من هذه العناصر يقلل من سطح الهجوم أكثر مما يمكن لأي ضابط حماية واحد فعله.
- انشر Presidio مبكرًا. قم بتشغيله على أي بيانات تخطط لتغذية النموذج بها. قم بتخصيص قائمة الكيانات – فالمجموعة الافتراضية تضع علامات على العديد من السلاسل النصية الحميدة كمعلومات شخصية (PII)، مما قد يؤدي إلى تعطل المعالجة اللاحقة.
- **أضف ضابط مدخلات
توفر لك الحواجز الوقائية المدارة الأعباء التشغيلية المتمثلة في الاستضافة الذاتية، وتحديث البرمجيات، وتوسيع نطاق المصنفات. ومع ذلك، فإنها تقيدك بنموذج تسعير وسياسات المزود، والذي قد لا يتوافق مع المتطلبات التنظيمية المتخصصة. تمنحك الأدوات مفتوحة المصدر تحكمًا كاملاً ويمكن تشغيلها محليًا، لكنها تتطلب جهدًا هندسيًا لتحديثها ومراقبة تقنيات الهجوم الجديدة. يجب على الفرق الموازنة بين تكلفة وقت الموظفين ورسوم كل طلب للحواجز الوقائية السحابية.
ما يجب مراقبته لاحقًا
- خرائط طريق الموردين. راقب إعلانات منتجات الأمن المعتمدة على الذكاء الاصطناعي من Palo Alto و Check Point؛ فمن المرجح أن تدمج قدرات الأدوات التي استحوذت عليها ضمن مجموعات برمجية أوسع.
- نشاط المجتمع. قم بتقييم مدى حيوية مشاريع مثل NeMo Guardrails و Presidio من خلال نشاط طلبات السحب (pull-request) الأخيرة وتكرار الإصدارات. قد يشير المستودع (repo) الراكد إلى ظهور بديل أحدث.
- التوجيهات التنظيمية. مع تشديد الحكومات للقواعد المتعلقة بالمحتوى المُنشأ بواسطة الذكاء الاصطناعي وحماية البيانات، يجب أن تكون أي استراتيجية للحواجز الوقائية قابلة للتدقيق. ستصبح عمليات التسجيل (Logging) والتتبع إلزامية في العديد من الولايات القضائية.
الخلاصة
مع توقف دعم LLM Guard رسميًا، يجب على المطورين دمج مزيج من مرشحات المدخلات (input filters)، ومنظفات المخرجات (output sanitizers)، والاختبارات العدائية (adversarial testing) للحفاظ على سلامة تطبيقاتهم المدعومة بنماذج اللغة الكبيرة (LLM). توفر المشاريع مفتوحة المصدر مثل NeMo Guardrails و Guardrails AI و Presidio و Llama Prompt Guard 2 و promptfoo اللبنات الأساسية، بينما توفر الحواجز الوقائية السحابية الأصلية (cloud-native) الراحة مقابل تكلفة مادية. العامل الحاسم ليس الأداة التي تختارها، بل ما إذا كنت ستضع عملية منهجية — التدقيق، والحماية، والاختبار، والتسجيل — تظل متقدمة على بيئة التهديدات المتطورة.