حواجز حماية بوابة الذكاء الاصطناعي باستخدام AWS Bedrock و Kong
لقد قمت بنشر بوابة ذكاء اصطناعي (AI Gateway). حركة المرور تتدفق. النموذج اللغوي الكبير (LLM) يستجيب. كل شيء يبدو على ما يرام.
ثم يقوم مستخدم بإرسال أمر (prompt) لتجاهل جميع التعليمات السابقة. أو يقوم مستخدم بلصق رقم بطاقة ائتمان في روبوت الدردشة الخاص بك. أو يطلب مستخدم من الروبوت نصيحة مالية في قطاع خاضع للتنظيم.
إرسال حركة المرور إلى LLM أمر سهل. لكن التحكم في تلك الحركة أمر صعب. أنت بحاجة إلى سياسات أمان.
يمكنك استخدام AWS Bedrock Guardrails مع Kong AI Gateway على Kubernetes. يستخدم هذا الإعداد ملحق ai-aws-guardrails. تمر كل عملية طلب واستجابة عبر طبقة سياسات. تقوم البوابة بحظر الانتهاكات قبل وصولها إلى كود التطبيق الخاص بك.
يمكنك تكوين أربعة أنواع من حواجز الحماية:
- مرشحات المحتوى (Content Filters): حظر خطاب الكراهية، أو العنف، أو الإهانات.
- الحماية من هجمات الأوامر (Prompt Attack Protection): حظر محاولات كسر الحماية (jailbreaks) ومحاولات الحقن (injection).
- حماية معلومات الهوية الشخصية (PII Protection): حظر رسائل البريد الإلكتروني، وبطاقات الائتمان، وكلمات المرور.
- المواضيع المحظورة (Denied Topics): حظر مواضيع محددة مثل النصائح الاستثمارية.
بالنسبة لـ PII، لديك خياران. استخدم BLOCK لإيقاف الطلب. واستخدم ANONYMIZE لاستبدال البيانات الحساسة بنصوص بديلة (placeholders). يساعد هذا في مجال الرعاية الصحية عندما تحتاج إلى السياق دون الحاجة إلى البيانات الخام.
في تكوين Kong الخاص بك، اضبط guarding_mode على BOTH. الإعداد الافتراضي يتحقق من المدخلات فقط. أما ضبطه على BOTH فيتحقق من كل من أمر المستخدم واستجابة النموذج. وهذا يمنع النموذج المخترق من إرسال بيانات ضارة مرة أخرى إلى المستخدم الخاص بك.
الأمان هو جزء واحد فقط من البوابة الجيدة. يجب عليك أيضًا استخدام:
- تحديد معدل الطلبات (Rate limiting) للتحكم في التكاليف.
- التخزين المؤقت الدلالي (Semantic caching) لتقليل الاستعلامات المتكررة.
- مصادقة JWT لتأمين مساراتك.
اقرأ الدليل الكامل على Hashnode للحصول على تعريفات JSON الكاملة وخطوات الإعداد.
مجتمع تعليمي اختياري: https://t.me/GyaanSetuAi