على مدار السنوات القليلة الماضية، تحدث قطاع الأمن عن الذكاء الاصطناعي باعتباره مضاعفاً للقوة للمدافعين. كانت القصة تسير على النحو التالي: ستقوم نماذج تعلم الآلة بفحص السجلات، ورصد الأنماط غير الطبيعية التي يغفل عنها المحللون البشريون، والتعامل مع العمل الممل المتمثل في اكتشاف التهديدات. لكن هذه القصة ليست سوى نصف حقيقة. أما النصف الآخر، وفقاً لأحدث النتائج من Check Point Research، فهو أن المهاجمين قد تجاوزوا مرحلة التجربة بكثير؛ فهم يستخدمون الذكاء الاصطناعي لشن هجمات مباشرة في الوقت الحالي. لم تعد هذه التكنولوجيا مجرد أداة للمطورين الذين يبنون حزم التطبيقات التالية، بل أصبحت سلاحاً نشطاً في أيدي المجرمين الذين يعملون على أتمتة الخداع بنطاق لم نشهده من قبل.
عندما يستخدم المهاجمون الذكاء الاصطناعي في العمليات المباشرة
يسلط التقرير الضوء على تحول حاسم في كيفية تنظيم الجهات المهددة لحملاتها. فبدلاً من الاعتماد على الأكواد الثابتة والتحكم والسيطرة اليدوي، يقوم المهاجمون ببناء أطر عمل برمجيات خبيثة معقدة مثل VoidLink. وتشير أطر العمل من هذا النوع إلى نهج معياري حيث يمكن للمكونات التكيف والتحديث والتواصل بشكل ديناميكي. وعندما يقود الذكاء الاصطناعي هذه الأنظمة، تصبح حملات البرمجيات الخبيثة أقل قابلية للتنبؤ بكثير. إذ يمكن للحمولات (Payloads) تغيير سلوكها بناءً على البيئة التي تصيبها، مما يجعل الكشف القائم على التوقيعات (signature-based detection) أصعب بكثير ويتطلب مراقبة سلوكية لم تنشرها سوى قلة من المؤسسات بشكل كامل.
والأمر الأكثر إثارة للقلق هو الاستغلال المباشر لنماذج الذكاء الاصطناعي التجارية. فالمهاجمون لا يقتصرون على الأدوات الموجودة في المنتديات السرية، بل يسيئون استخدام نماذج اللغات الكبيرة (LLMs) وخدمات الذكاء الاصطناعي نفسها التي تستخدمها الشركات المشروعة يومياً. ومن خلال تجاوز قيود الأنظمة (jailbreaking)، أو تحسين هندسة الأوامر (prompt engineering)، أو ببساطة أتمتة كميات هائلة من استدعاءات الـ API، يتجاوز المجرمون الإعدادات الأمنية وينشئون رسائل بريد إلكتروني للتصيد الاحتيالي، ونصوصاً برمجية خبيثة، وطعوم هندسة اجتماعية بسرعة الآلة. والمفارقة هنا حادة: فالبنية التحتية التي بُنيت لمساعدة الأشخاص على كتابة الأكواد أو تلخيص المستندات يتم الآن اختطافها لاختراق المؤسسات ذاتها التي دفعت ثمنها.
أربعة تهديدات مدفوعة بالذكاء الاصطناعي يجب فهمها
يشير تحليل Check Point إلى أربع حالات إساءة استخدام محددة تحتاج الفرق الأمنية إلى التعرف عليها بالتفصيل. كل حالة منها تغير الحسابات المتعلقة بما يمكن للمهاجم تحقيقه دون قيود التوسع البشري.
هجمات التصيد الاحتيالي المؤتمتة وُجدت في أشكال بدائية لعقود، لكن الذكاء الاصطناعي يزيل ما تبقى من عقبات. يمكن للمهاجمين كشط وسائل التواصل الاجتماعي والمواقع الإلكترونية للشركات لإنشاء رسائل بريد إلكتروني مخصصة للغاية في ثوانٍ، مع تعديل النبرة واللغة والسياق بحيث تبدو الحملات الجماعية وكأنها رسائل شخصية موجهة للفرد. وعندما تبدو كل رسالة تصيد موجه (spear-phishing) وكأنها صِيغت يدوياً، فإن الكشف التقليدي القائم على القواعد النحوية الركيكة أو رؤوس رسائل البريد الإلكتروني الجماعية يفشل ببساطة.
مجموعات أدوات التصيد الصوتي (vishing) عبر الوكلاء الصوتيين تمثل تصعيداً يتجاوز التزييف العميق المسجل. تنشر هذه المجموعات وكلاء صوتيين تفاعليين قادرين على إجراء محادثات في الوقت الفعلي مع الضحايا. تخيل مكالمة تبدو تماماً مثل مكتب المساعدة التقنية الخاص بك، وتستجيب لأسئلتك بشكل طبيعي، وتطلب منك بشكل عاجل رمز المصادقة متعدد العوامل (MFA). الصوت اصطناعي، والنص يتم إنشاؤه فورياً، والضحية تتحدث إلى برنامج لا يشعر بالتوتر أبداً، ولا يتلعثم في كلماته، ولا ينحرف عن هدفه أبداً.
الهويات الافتراضية المزورة توسع هذا الخداع من المكالمات الفردية إلى شخصيات كاملة. يمكن للجهات المهددة إنشاء ملفات تعريف اصطناعية كاملة بصور مولدة، وتاريخ وظيفي مفبرك، واتصالات شبكية اصطناعية. هذه الهويات لا ترسل رسالة واحدة فحسب؛ بل قد تنضم إلى الشبكات المهنية، وتشارك في المناقشات الصناعية، وتبني الثقة على مدار أسابيع أو أشهر قبل تقديم حمولة خبيثة أو طلب بيانات اعتماد حساسة. لقد أصبحت عمليات الاحتيال طويلة الأمد صناعية الطابع.
هجمات حقن الأوامر غير المباشرة تستهدف بنية تطبيقات الذكاء الاصطناعي نفسها بدلاً من استهداف المستخدم النهائي مباشرة. يقوم المهاجم بإخفاء تعليمات خبيثة داخل صفحة ويب، أو مستند، أو بريد إلكتروني يقوم وكيل الذكاء الاصطناعي بمعالجته لاحقاً. عندما تقرأ أداة المساعد المؤسسي تلك البيانات المسمومة، فإنها تنفذ التعليمات التي زرعها المهاجم، مما قد يؤدي إلى تسريب معلومات سرية أو اتخاذ إجراءات غير مصرح بها نيابة عن المستخدم. قد يبدو أن التطبيق يعاني من خلل، لكنه في الواقع يتبع ببساطة أوامر لم يكن ينبغي له رؤيتها أبداً.
الجبهة الداخلية: الذكاء الاصطناعي غير المصرح به وتسريبات البيانات
وتتفاقم هذه التهديدات الخارجية بسبب أزمة أكثر هدوءاً تحدث داخل جدران المكاتب. تواجه المؤسسات الآن مخاطر جسيمة من الاستخدام غير المصرح به للذكاء الاصطناعي، والذي يُطلق عليه غالباً "الذكاء الاصطناعي الخفي" (shadow AI)، حيث يقوم الموظفون بلصق الأكواد البرمجية المملوكة للشركة، أو سجلات العملاء، أو الخطط الاستراتيجية في روبوتات الدردشة العامة لتسريع المهام اليومية. والنتيجة هي