بدأت TikTok اختبار أداة للكشف عن التزييف العميق (deepfake) مدعومة بالذكاء الاصطناعي، تتيح لصناع المحتوى في الولايات المتحدة مسح المنصة بحثًا عن نسخ غير مصرح بها من وجوههم تم إنشاؤها بواسطة الذكاء الاصطناعي. وتقوم هذه الخدمة الاختيارية بتمييز مقاطع الفيديو والصور الاصطناعية التي تستغل ملامح صانع المحتوى.
لماذا تعتبر هذه الخطوة مهمة
ينتج الذكاء الاصطناعي التوليدي الآن مقاطع فيديو واقعية للغاية يمكنها وضع وجه أي شخص على أي جسد.
كيف تعمل الأداة
تتلقى مجموعة صغيرة من صناع المحتوى في الولايات المتحدة الذين اختاروا الاشتراك لوحة تحكم يعرض فيها نظام TikTok أي محتوى يحدده الذكاء الاصطناعي على أنه يطابق ملامح وجوههم الموثقة. ويقوم صناع المحتوى بمراجعة هذه النتائج وتقديم بلاغات ضد المنشورات أو الحسابات التي تسيء استخدام صورهم.
ولمنع الإساءة، تُلزم TikTok كل مشارك باجتياز عملية تحقق من الهوية تتطلب إجراءات دقيقة عبر Jumio، وهي خدمة تحقق تابعة لجهة خارجية. تتطلب عملية التحقق مسحًا لصورة سيلفي في الوقت الفعلي وهوية صادرة عن جهة حكومية. وتقول TikTok إنها لا تخزن الهويات التي يتم تحميلها؛ بل تستخدم بيانات الوجه فقط لمطابقة الملامح داخل محرك الكشف.
سباق التسلح الأوسع نطاقًا
ليست TikTok المنصة الأولى التي تطلق ميزة للحماية من التزييف العميق. فقد أطلقت YouTube مؤخرًا ميزة كشف مماثلة لجميع المستخدمين البالغين، مما يظهر توجه الصناعة نحو حماية الهويات الرقمية. ومع تطور النماذج اللغوية الكبيرة ونماذج الانتشار (diffusion models)، تتدفق "البشر الرقميون" الاصطناعيون إلى موجز المحتوى بسرعة أكبر مما يمكن للمشرفين البشريين التعامل معه.
ما الخطوة التالية
لا يزال البرنامج التجريبي مقتصرًا على الولايات المتحدة وعلى صناع المحتوى المتطوعين.
الخلاصة: يمثل اختبار TikTok للكشف عن التزييف العميق تحولًا حاسمًا نحو الحماية الاستباقية لهويات صناع المحتوى؛ وسيعتمد تأثيره على مدى نجاحه في الموازنة بين التحقق الصارم وسهولة الاستخدام التي يتوقعها صناع المحتوى.