كشف باحثو الذكاء الاصطناعي عن جهد منسق من قبل شبكة تضم حوالي 150 موقعاً إخبارياً ذات حركة مرور منخفضة لإغراق بيانات تدريب نماذج اللغات الكبيرة (LLM) بروايات مؤيدة للكرملين. تقوم هذه المواقع، المعروفة مجتمعة باسم شبكة "برافدا" (Pravda network)، بنشر ما يقرب من ثلاثة ملايين مقال سنوياً، ويظهر محتواها الآن في مجموعة بيانات Common Crawl التي تشغل العديد من أنظمة الذكاء الاصطناعي التجارية.

كيف يعمل مسار التضليل الإعلامي

لا تهدف شبكة Pravda إلى جذب القراء البشر. بدلاً من ذلك، ينشر كل موقع مقالات متكررة تكرر مجموعة ضيقة من نقاط النقاش. ومن خلال حشو النصوص بكلمات رئيسية تعطيها محركات البحث وزواحف الويب الأولوية، تزيد المواقع من فرصة مواجهة نموذج الذكاء الاصطناعي لها أثناء جمع البيانات.

هناك آليتان للتسميم قيد العمل:

  • التسميم أثناء الاسترجاع (Retrieval-time poisoning) – عندما يسحب مساعد الذكاء الاصطناعي معلومات مباشرة من الويب، فقد يظهر مقالاً من Pravda إلى جانب المصادر المشروعة. يمكن أن يؤدي حظر النطاقات الضارة المعروفة إلى الحد من هذا التعرض.
  • التسميم أثناء التدريب (Training-time poisoning) – إذا تسللت المقالات إلى مجموعات النصوص الضخمة المستخدمة في التدريب المسبق للنموذج، فإن الادعاءات الكاذبة تصبح جزءاً من المعرفة الداخلية للنموذج. ويعد إزالة مثل هذا المحتوى بعد حدوثه أمراً أصعب بكثير.

لقد تتبع الباحثون بالفعل مقالات Pravda داخل Common Crawl، وهو أرشيف عام يُستخدم لتدريب العديد من نماذج الذكاء الاصطناعي. وهذا يعني أن التسميم ليس مجرد فرضية؛ بل لقد غير بالفعل قاعدة المعرفة للنماذج التي يعتمد عليها العديد من المستخدمين اليوم.

لماذا يهم هذا الأمر

لا تثق بالذكاء الاصطناعي لمجرد أنه يقول "تتفق مصادر عديدة". إذا كنت تبني أدوات ذكاء اصطناعي، فاستخدم قوائم الحظر للمواقع المعروفة بنشر التضليل. لا تستخدم "عدد الإشارات" كوسيلة لقياس الحقيقة. فالكمية لا تعني الجودة. تحقق من كل ما يخبرك به الذكاء الاصطناعي، خاصة إذا بدا منحازاً.

الإنترنت هو مجموعة التدريب لتقنياتنا المستقبلية. يمكن لأي شخص يمتلك موقعاً إلكترونياً أن يحاول تحيز الآلات التي نعتمد عليها.

ما يمكن للمطورين فعله الآن

  • الحفاظ على قوائم الحظر – أضف نطاقات التضليل المعروفة إلى فلاتر الزحف؛ حيث توقف قائمة الحظر التعرض أثناء الاسترجاع وأثناء التدريب على حد سواء.
  • إعادة التفكير في الاستدلالات القائمة على التكرار – توقف عن مساواة عدد الإشارات بالصحة. يمكن لادعاء يتكرر عبر عشرات المواقع منخفضة الجودة أن يتفوق في التصويت على مصدر واحد موثوق في نموذج بسيط يعتمد على التكرار.
  • تطبيق فحوصات المصدر (Provenance checks) – تتبع المعلومات وصولاً إلى مصدرها الأصلي. إذا انتهت السلسلة عند موقع ذي حركة مرور ضئيلة وتاريخ من الدعاية، فقم بتمييز المخرجات للمراجعة.
  • تنفيذ التطهير ما بعد التدريب – قم بإجراء عمليات تدقيق منسقة على مخرجات النموذج التي تتناول مواضيع حساسة سياسياً. يمكن للمراجعين البشريين اكتشاف الانحياز المنهجي الذي قد تغفله الفلاتر الآلية.

نقاط معارضة وتحديات

لا يزال تحقيق التوازن بين الأمن والشمولية مشكلة قائمة.

تطلع إلى المستقبل

تظهر شبكة Pravda كيف يمكن للجهات الحكومية استغلال الويب المفتوح كسلاح لتشكيل الجيل القادم من الذكاء الاصطناعي.

الخلاصة: تعتمد نزاهة الذكاء الاصطناعي على نظافة البيانات التي يتعلم منها. يمكن لفيضان منسق من المواقع منخفضة الحركة والمشبعة بالدعاية أن يزرع الأكاذيب بالفعل في النماذج التي نثق بها. يجب على المطورين التعامل مع سمعة المصدر كأولوية قصوى، وليس كمجرد فكرة ثانوية، لمنع الآلات التي نبنيها من أن تصبح بوقاً غير واعٍ للتضليل الإعلامي.