Злочинний синдикат створив 15 500 вебсайтів, які транслюють дипфейк-відео відомих особистостей, що пропонують фальшиві поради щодо акцій, і ця операція вже викачує гроші у недосвідчених інвесторів. Самі лише масштаби роблять ручне видалення неможливим, що змушує команди безпеки переосмислити способи виявлення та блокування такого шахрайства.
Як працює ця мережа
Шахраї не покладаються на один фальшивий ролик. Кожен сайт запрограмований поводитися по-різному залежно від того, хто його відвідує. Автоматизований краулер бачить просту сторінку «сайт у розробці», тоді як реальний користувач із мобільного пристрою отримує якісне відео, де знаменитість нібито рекламує акції. Така розбіжність дозволяє операції залишатися непомітною для традиційних інструментів веб-скрапінгу.
Щоб приховати підміну, група використовує сервіси маршрутизації трафіку, такі як Keitaro, які можуть маскувати URL-адреси та видавати різний контент залежно від репутації IP, цифрового відбитка пристрою або заголовка referrer. Результатом є величезна мережа «схожих» доменів, які зливаються зі звичайним вебом, що ускладнює їх ідентифікацію ботами безпеки як шкідливих.
Чому стандартні методи виявлення не справляються
Більшість рішень проти дипфейків зосереджені на виявленні візуальних артефактів, які видають синтетичне відео — розмиті краї, невідповідне освітлення або несинхронні рухи губ. У цій кампанії такі ознаки зустрічаються рідко, оскільки відео рендериться за допомогою високоякісних моделей. Справжня вразливість полягає в геометрії обличчя: генератори дипфейків часто вносять ледь помітні розбіжності у просторові відносини між ключовими точками обличчя.
Тому проста перевірка «чи це відео фейк?» пропускає багато контенту цієї мережі. Необхідний крок верифікації, який порівнює обличчя, показане на відео, із відомим, перевіреним зображенням знаменитості.
Побудова конвеєра верифікації
Розробники можуть впровадити три основні можливості у свої робочі процеси безпеки:
- Адаптивний краулінг – Використовуйте безголові браузери, які імітують реальних користувачів, ротують IP-адреси та емулюють характеристики мобільних пристроїв. Це допомагає обійти приманки «сайт у розробці» та отримати фактичний відеоконтент.
- Біометричне порівняння – Витягуйте ключові точки обличчя з кожного кадру відео та обчислюйте евклідові відстані до точок на автентичному референсному фото. Невеликі, сталі помилки у розміщенні точок є сильним показником дипфейку. Проведення порівняння на кількох кадрах зменшує кількість хибнопозитивних результатів, спричинених миттєвими перекриттями або змінами освітлення.
- Перехід від виявлення до верифікації – Замість того, щоб позначати відео як «потенційно фейкове», ставтеся до нього як до неперевіреного, доки воно не пройде біометричну перевірку за перевіреним джерелом. Якщо збігів не знайдено, контент можна помістити в карантин або відправити на перевірку людині.
Практична реалізація може виглядати так:
- Crawler завантажує сторінку, слідує за перенаправленнями та записує фінальну URL-адресу відео.
- Downloader завантажує відео та розбиває його на ключові кадри (наприклад, один кадр на секунду).
- Face extractor запускає легку модель для пошуку обличчя в кожному кадрі.
- Landmark matcher обчислює евклідову відстань між витягнутими точками та точками з офіційного портрета знаменитості.
- Score aggregator позначає відео, якщо медіанна відстань перевищує заздалегідь визначений поріг.
Оскільки операція охоплює тисячі доменів, автоматизація кожного кроку є важливою. Бібліотеки з відкритим кодом для виявлення обличчя та витягування ключових точок є загальнодоступними, а обчислення евклідової відстані є невимогливим до обчислювальних ресурсів, що дозволяє масштабувати конвеєр до десятків тисяч сайтів на день.
Потенційний спротив
Деякі команди безпеки стверджують, що біометрична верифікація викликає занепокоєння щодо конфіденційності, особливо коли йдеться про зберігання референтних зображень публічних осіб. Контраргумент полягає в тому, що набір референтних зображень можна обмежити публічно доступними ліцензованими фотографіями, які ніколи не зберігаються після етапу порівняння. Ризик того, що мільйони користувачів втратять інвестиційні кошти через обман, переважає скромні витрати на обробку даних.
Іншим запереченням є витрати на обслуговування для підтримки актуальності бібліотеки референтних зображень у міру того, як знаменитості змінюють свою зовнішність. Поступові оновлення — додавання нових фотографій у міру їх появи у перевірених медіа — пом'якшують цю проблему, не потребуючи повної перебудови системи.
Що варто відстежувати далі
Залежність угруповання від сервісів маскування трафіку означає, що будь-які збої в роботі цих сервісів можуть тимчасово послабити кампанію, але базова технологія — динамічна доставка контенту в поєднанні з високоякісними дипфейками — ймовірно, знову з'явиться в інших шахрайських схемах. Постачальникам рішень у сфері безпеки слід відстежувати схожі закономірності: розбіжність контенту на основі сигнатур краулерів, раптові сплески кількості доменів, що вказують на одне й те саме сховище відеохостингу, та повторне використання одних і тих самих сигнатур помилок геометрії обличчя.
Для розробників наступним кроком є прототипування конвеєра перевірки на невеликій підмножині підозрілих доменів та вимірювання рівня хибнопозитивних спрацювань. Обмін сигнатурами виявлення між організаціями також може зменшити дублювання зусиль.
Висновок: Шахрайство з використанням дипфейків на 15 500 сайтах ілюструє, що масштаби, а не лише складність, є новим фронтом для шахрайства. Поєднуючи адаптивне сканування з покадровою біометричною верифікацією, команди безпеки можуть перетворити проблему, що здається непереборною, на автоматизований і вимірюваний захист.