یک سندیکای جنایی ۱۵,۵۰۰ وبسایت را راهاندازی کرده است که ویدئوهای جعل عمیق (deep-fake) از شخصیتهای مشهور را در حال تبلیغ توصیههای جعلی سهام پخش میکنند و این عملیات در حال مکیدن پول از سرمایهگذاران بیخبر است. مقیاس این عملیات به تنهایی حذف دستی آن را غیرممکن میکند و تیمهای امنیتی را مجبور میسازد تا در نحوه شناسایی و مسدود کردن چنین کلاهبرداریهایی تجدیدنظر کنند.
نحوه عملکرد این باند
کلاهبرداران به یک کلیپ جعلی واحد متکی نیستند. هر سایت طوری برنامهریزی شده است که بسته به اینکه چه کسی از آن بازدید میکند، رفتار متفاوتی داشته باشد. یک خزنده (crawler) خودکار یک صفحه ساده «در دست ساخت» را میبیند، در حالی که یک کاربر واقعی که با دستگاه موبایل وارد میشود، با یک ویدئوی صیقلخورده مواجه میشود که به نظر میرسد در آن یک سلبریتی در حال تأیید یک سهم است. این تفاوت باعث میشود که این عملیات از دید ابزارهای سنتی استخراج داده وب (web-scraping) پنهان بماند.
برای پنهان کردن این تغییر، این گروه از سرویسهای مسیریابی ترافیک مانند Keitaro استفاده میکند که میتواند URLها را پنهان کرده و بر اساس اعتبار IP، اثر انگشت دستگاه (device fingerprint) یا هدر ارجاعدهنده (referrer header)، محتوای متفاوتی ارائه دهد. نتیجه، یک شبکه عظیم از دامنههای «مشابه» است که در وب عادی ادغام شدهاند و شناسایی آنها را به عنوان سایتهای مخرب برای رباتهای امنیتی دشوار میکنند.
چرا تشخیصهای استاندارد ناکافی هستند
بیشتر راهکارهای ضد جعل عمیق (anti-deep-fake) بر شناسایی مصنوعات بصری (visual artefacts) تمرکز دارند که ماهیت مصنوعی ویدئو را فاش میکنند؛ مانند لبههای تار، نورپردازی ناسازگار یا عدم هماهنگی لبها با صدا. در این کارزار، این نشانهها نادر هستند زیرا ویدئوها با مدلهای باکیفیت رندر شدهاند. آسیبپذیری واقعی در هندسه صورت نهفته است: مولدهای جعل عمیق اغلب اختلافات ظریفی در رابطه فضایی بین نقاط شاخص صورت (facial landmarks) ایجاد میکنند.
بنابراین، یک بررسی سادهی «آیا این ویدئو جعلی است؟» بسیاری از محتواهای این باند را از دست میدهد. آنچه نیاز است، یک مرحله تأیید (verification) است که چهره نمایش داده شده در ویدئو را با یک تصویر شناختهشده و قابل اعتماد از آن سلبریتی مقایسه کند.
ساخت یک خط لوله تأیید (verification pipeline)
توسعهدهندگان میتوانند سه قابلیت اصلی را در جریانهای کاری امنیتی خود بگنجانند:
- خزیدن تطبیقی (Adaptive crawling) – استفاده از مرورگرهای بدون رابط کاربری (headless browsers) که عاملهای کاربری (user agents) واقعی را تقلید میکنند، IPها را تغییر میدهند و ویژگیهای دستگاههای موبایل را شبیهسازی میکنند. این کار به دور زدن فریبهای «در دست ساخت» و بازیابی محتوای اصلی ویدئو کمک میکند.
- مقایسه بیومتریک (Biometric comparison) – استخراج نقاط شاخص صورت از هر فریم ویدئو و محاسبه فواصل اقلیدسی (Euclidean distances) نسبت به یک عکس مرجع معتبر. خطاهای کوچک و مداوم در جایگذاری نقاط شاخص، نشانگر قوی برای جعل عمیق است. اجرای این مقایسه در چندین فریم، مثبت کاذب ناشی از انسدادهای لحظهای یا تغییرات نور را کاهش میدهد.
- تغییر از شناسایی به تأیید (Shift from detection to verification) – به جای علامتگذاری یک ویدئو به عنوان «احتمالاً جعلی»، با آن به عنوان محتوای تأیید نشده برخورد کنید تا زمانی که از بررسی بیومتریک در برابر یک منبع بررسیشده عبور کند. اگر تطابقی یافت نشد، محتوا میتواند قرنطینه شده یا برای بررسی انسانی ارسال شود.
یک پیادهسازی عملی ممکن است به این صورت باشد:
- Crawler صفحه را واکشی میکند، ریدایرکتها را دنبال میکند و URL نهایی ویدئو را ثبت میکند.
- Downloader ویدئو را دانلود کرده و آن را به فریمهای کلیدی (مثلاً یکی در هر ثانیه) تقسیم میکند.
- Face extractor یک مدل سبک را برای یافتن چهره در هر فریم اجرا میکند.
- Landmark matcher فاصله اقلیدسی بین نقاط شاخص استخراج شده و نقاط موجود در پرتره رسمی سلبریتی را محاسبه میکند.
- Score aggregator اگر میانه فواصل از یک آستانه از پیش تعیین شده فراتر رفت، ویدئو را علامت
اتکای این باند به سرویسهای پنهانسازی ترافیک به این معناست که هرگونه اختلال در این سرویسها میتواند موقتاً اثرگذاری این کمپین را کاهش دهد، اما تکنیک زیربنایی — یعنی تحویل محتوای پویا در کنار دیپفیکهای باکیفیت — احتمالاً در کلاهبرداریهای دیگر نیز تکرار خواهد شد. تأمینکنندگان امنیت باید الگوهای مشابه را رصد کنند: محتوای متفاوت بر اساس امضاهای خزنده (crawler signatures)، افزایش ناگهانی دامنههایی که به یک مخزن میزبانی ویدیو (video hosting bucket) یکسان اشاره میکنند، و استفاده مکرر از امضاهای خطای هندسه چهره مشابه.
برای توسعهدهندگان، قدم بعدی نمونهسازی خط لوله تأیید (verification pipeline) روی زیرمجموعه کوچکی از دامنههای مشکوک و اندازهگیری نرخهای مثبت کاذب (false-positive rates) است. اشتراکگذاری امضاهای شناسایی میان سازمانها نیز میتواند از دوبارهکاری جلوگیری کند.
نکته کلیدی: کلاهبرداری دیپفیک ۱۵,۵۰۰ سایت نشان میدهد که مقیاس، و نه فقط پیچیدگی، مرز جدید کلاهبرداری است. تیمهای امنیتی میتوانند با ترکیب خزش تطبیقی (adaptive crawling) با تأیید بیومتریک فریمبهفریم، یک مشکل طاقتفرسا را به یک دفاع خودکار و قابل اندازهگیری تبدیل کنند.