تقوم مساعدات البرمجة المدعومة بالذكاء الاصطناعي بإنتاج أسماء حزم غير موجودة، ويقوم المهاجمون بتحويل هذه "الهلوسات" إلى مخاطر حقيقية في سلاسل التوريد.
عندما طلب الباحث الأمني Bar Lanyado من Lasso Security من أداة برمجة مدعومة بالذكاء الاصطناعي توفير عميل Python، اقترح النموذج تثبيت huggingface-cli. هذه الحزمة وهمية؛ فالمكتبة الأصلية موجودة تحت اسم huggingface_hub. ولإثبات هذا الخطر، قام Lanyado بتسجيل الاسم الوهمي على فهرس حزم Python (PyPI) كعنصر نائب فارغ. وفي غضون ثلاثة أشهر، جمع هذا العنصر النائب أكثر من 30,000 عملية تحميل، وظهر في الوثائق العامة وحتى في عينات الأكواد المستخرجة من مستودعات Alibaba.
كيف تتحول الحزمة الوهمية إلى تهديد حقيقي
- الأمر (Prompt) ← الهلوسة – يطلب المطور المساعدة من الذكاء الاصطناعي. فيقوم النموذج، المدرب على بيانات إنترنت مشوشة، بابتكار اسم حزمة يبدو منطقيًا.
- النسخ واللصق ← الوثائق – يستقر الاقتراح في ملف README، أو إجابة على Stack Overflow، أو ويكي داخلي. وبمجرد كتابته، ينتشر الاسم عبر المجتمع.
- دمج الكود – يقوم المطور، واثقًا في الذكاء الاصطناعي، بإضافة الاسم إلى ملف المتطلبات (requirements file) ويدفعه إلى بيئة الإنتاج.
لماذا تفشل الدفاعات الحالية في رصد المشكلة
تبحث أدوات التحليل الساكن وفاحصات الثغرات الأمنية عن ثغرات CVE المعروفة وعن المكتبات التي لها تاريخ إصدار. أما الحزمة المنشورة حديثًا والتي لم تحصل على أي عمليات تحميل قبل اقتراح الذكاء الاصطناعي، فلا تملك CVE ولا سمعة، وبالتالي تظهر كحزمة نظيفة. فتعطي عملية التحقق القياسية "هل الإصدار معرض للخطر؟" نتيجة خاطئة، مما يمنح المطورين شعورًا زائفًا بالأمان.
ما تثبته التجربة
- الأسماء التي يبتكرها الذكاء الاصطناعي تصل إلى بيئة الإنتاج – تُظهر عمليات التحميل التي تجاوزت 30,000 عملية أن المطورين يقومون بالفعل بسحب هذه الحزم الوهمية.
- تتحول الهلوسات إلى وثائق – بمجرد ظهور اسم مزيف في دليل عام، يمكن أن يستمر إلى أجل غير مسمى، مما يؤدي إلى انتشار الخطأ.
- التسجيل أمر يسير للغاية – لا يكلف نشر حزمة على PyPI شيئًا ويستغرق دقائق معدودة، مما يقلل من العوائق أمام إساءة استخدام سلاسل التوريد.
خطوات دفاعية فعالة حقًا
- تحقق من كل تبعية (dependency) – قبل إضافة متطلب جديد، ابحث في فهرس الحزم وتأكد من أن الاسم يطابق مكتبة موجودة وموثقة.
- المقارنة مع المصادر الرسمية – قارن الاسم المقترح بمستودع المورد أو دليل التثبيت الرسمي.
- عامل الحزم الجديدة ذات الاستخدام المنخفض كخطر عالٍ – قم بتمييز أي تبعية لديها أقل من عدد قليل من عمليات التحميل أو تاريخ إصدار حديث جدًا للمراجعة اليدوية.
ما يجب مراقبته لاحقًا
الخلاصة بسيطة: اقتراح الذكاء الاصطناعي ليس ضمانًا. تعامل مع كل تبعية جديدة كعنصر طرف ثالث غير مفحوص، وتحقق من مصدرها، وراقب سلسلة التوريد قبل أن تسمح لحزمة وهمية بالتسلل إلى بيئة الإنتاج.