فتحت كل من Anthropic وOpenAI مساراً بحثياً جديداً يسمح لفرق الأمن المعتمدة بالعمل مع نماذج ذكاء اصطناعي مجردة من معظم فلاتر الأمان. يمنح برنامج "Cyber Verification Program" من Anthropic و"Trusted Access for Cyber" من OpenAI الباحثين المعتمدين وصولاً مباشراً إلى نماذج لغوية قوية يمكنها إنشاء أكواد برمجية ومطالبات وتعليمات غير مقيدة. تكمن أهمية هذه الخطوة في أنها تخلق انقساماً واضحاً في سلسلة توريد الذكاء الاصطناعي: حيث يمكن لعدد قليل من المطلعين فحص النسخ الأضعف، بينما يظل بقية العالم خلف حواجز حماية أقوى.
سبب ظهور هذه البرامج
تقول كلتا الشركتين إن هذه المبادرات تهدف إلى تسريع اكتشاف الثغرات الأمنية التي يمكن استغلالها ضد خدماتهما. ومن خلال منح مجموعة محكومة من الخبراء بيئة تجريبية (sandbox) بقيود أقل، يأملون في الكشف عن نواقل الهجوم قبل أن يجدها المهاجمون. يحاكي هذا النهج أمن البرمجيات التقليدي، حيث يطلق المطورون إصدارات "مكافأة الثغرات" (bug-bounty) لجمهور مختار.
حسابات مخاطر جديدة للمدافعين
الجانب الآخر هو نموذج وصول ثنائي المستويات يجبر كل مؤسسة على رسم خط فاصل بين "الباحث" و"المخترق". أصبح هذا الخط الآن سطح هجوم محتملاً. إذا سرق مهاجم بيانات الاعتماد، أو استغل وصول أحد المطلعين، أو خدع عملية التدقيق، فيمكنه تجاوز حواجز الحماية التي تحمي معظم المستخدمين. وبمجرد الدخول، يمكن استدراج النموذج غير المقيد للقيام بما يلي:
- إنشاء نصوص برمجية للتصيد الاحتيالي تتجنب الكشف
- صياغة ثغرات "اليوم الصفر" (zero-day) مع مقتطفات برمجية مفصلة
- إنتاج مطالبات هندسة اجتماعية مقنعة مصممة لأهداف محددة
يجب على فرق الأمن التي بنت دفاعاتها على افتراض أن مخرجات الذكاء الاصطناعي مفلترة دائماً أن تعيد التفكير في هذا الافتراض.
كيف يمكن للمدافعين الاستجابة
- التعامل مع البرامج كمتجه تهديد. افترض أن الخصوم سيحاولون اختراق مسار التدقيق وراقب أنماط تسجيل الدخول غير الطبيعية على منصات الذكاء الاصطناعي.
- توسيع نطاق الكشف خارج السحابة. ابحث عن الأكواد أو النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي في حركة المرور الصادرة، خاصة من الحسابات ذات الامتيازات.
- تثبيت ضوابط السياسة برمجياً. فرض قواعد "الحد الأدنى من الامتيازات" الصارمة لأي استخدام داخلي لخدمات الذكاء الاصطناعي الخارجية، وتقسيم البيئات التي يمكن الوصول إليها عبر بيانات اعتماد مخترقة.
- التعاون مع الموردين. ابقَ على تواصل مع قنوات الاتصال الأمني الخاصة بـ Anthropic وOpenAI لتلقي التنبيهات بشأن التغييرات في معايير الوصول أو الانتهاكات المكتشفة.
وجهة النظر المعارضة
يجادل المؤيدون بأنه بدون قناة آمنة للفحص العميق، ستظل الثغرات مخفية حتى يتم استغلالها في الواقع. وبالتالي، يمكن لهذه البرامج أن تقلل من سطح الهجوم الإجمالي من خلال الكشف عن العيوب مبكراً. والمقايضة هي أن المستوى "الأقل حماية" يفتح الباب أمام الإساءة الانتهازية.
ما يجب مراقبته
- التحديثات على عملية التدقيق من أي من الشركتين
- تقارير عن سوء الاستخدام الناتج عن هذه البرامج
- التحولات على مستوى الصناعة في كيفية تصنيف أسطح الهجوم المتعلقة بالذكاء الاصطناعي
الخلاصة: تمنح المسارات البحثية الجديدة الباحثين الأمنيين أدوات قوية، لكنها تمنح أيضاً الأدوات نفسها لأي شخص يمكنه تجاوز البوابة. يجب على الفرق الدفاعية التعامل مع هذه البرامج كمصدر للرؤى وكمسار جديد للهجوم في آن واحد.