犯罪組織が、著名人が偽の株の銘柄情報を宣伝するディープフェイク動画を配信する15,500ものウェブサイトを立ち上げました。この活動により、すでに疑うことのない投資家から資金が吸い上げられています。その規模の大きさゆえに手動での削除は不可能であり、セキュリティチームは、このような詐欺をどのように検知し、ブロックするかという手法の再考を余儀なくされています。
組織の仕組み
詐欺師は単一の偽動画に頼るわけではありません。各サイトは、訪問者に応じて異なる挙動をするようにプログラムされています。自動クローラーには単なる「準備中」のページが表示されますが、モバイルデバイスからアクセスした実際のユーザーには、有名人が特定の銘柄を推奨しているように見える精巧な動画が配信されます。この食い違いにより、この活動は従来のウェブスクレイピングツールの監視を逃れることができるのです。
この切り替えを隠蔽するために、グループはKeitaroのようなトラフィックルーティングサービスを使用しています。これにより、IPレピュテーション、デバイスフィンガープリント、またはリファラーヘッダーに基づいてURLを隠蔽し、異なるコンテンツを配信することが可能になります。その結果、通常のウェブサイトに紛れ込む「類似ドメイン」の巨大なネットワークが形成され、セキュリティボットがそれらを悪意のあるものとしてフラグを立てることが困難になっています。
標準的な検知手法が不十分な理由
ほとんどのディープフェイク対策ソリューションは、合成動画であることを露呈させる視覚的なアーティファクト（ぼやけたエッジ、不自然な照明、一致しないリップシンクなど）の特定に焦点を当てています。今回のキャンペーンでは、動画が高品質なモデルでレンダリングされているため、そうした兆候は稀です。真の脆弱性は顔の幾何学的構造にあります。ディープフェイク生成器は、顔のランドマーク間の空間的な関係に、しばしば微妙な不一致を生じさせます。
したがって、単純な「この動画は偽物か？」というチェックでは、この組織のコンテンツの多くを見逃してしまいます。今求められているのは、動画に映っている顔を、既知の信頼できる有名人の画像と比較する検証ステップです。
検証パイプラインの構築
開発者は、セキュリティワークフローに以下の3つのコア機能を組み込むことができます。
- 適応型クローリング – 本物のユーザーエージェントを模倣し、IPをローテーションさせ、モバイルデバイスの特性をエミュレートするヘッドレスブラウザを使用します。これにより、「準備中」というデコイ（囮）を回避し、実際の動画ペイロードを取得できます。
- 生体認証比較 – 動画の各フレームから顔のランドマークを抽出し、本物の参照写真のランドマークとのユークリッド距離を計算します。ランドマーク配置における小さく一貫したエラーは、ディープフェイクの強力な指標となります。複数のフレームにわたって比較を実行することで、一時的な遮蔽や照明の変化による誤検知を減らすことができます。
- 「検知」から「検証」への転換 – 動画を「潜在的に偽物」としてフラグを立てるのではなく、検証済みのソースに対する生体認証チェックを通過するまで「未検証」として扱います。一致するものが見つからない場合、そのコンテンツは隔離されるか、人間によるレビューに回されます。
実用的な実装例は以下の通りです：
- Crawler がページを取得し、リダイレクトをたどり、最終的な動画URLを記録します。
- Downloader が動画をプルし、キーフレーム（例：1秒ごとに1枚）に分割します。
- Face extractor が軽量モデルを実行して、各フレーム内の顔の位置を特定します。
- Landmark matcher が、抽出されたランドマークと有名人の公式ポートレートのランドマークとの間のユークリッド距離を計算します。
- Score aggregator が、中央値の距離があらかじめ定義された閾値を超えた場合に動画にフラグを立てます。
この活動は数千のドメインに及ぶため、各ステップの自動化が不可欠です。顔検出やランドマーク抽出のためのオープンソースライブラリは容易に入手でき、ユークリッド距離の計算は計算負荷が低いため、パイプラインを1日あたり数万のサイトまでスケールさせることが可能です。
予想される反論
一部のセキュリティチームは、生体認証による検証は、特に公人の参照画像を保存する場合、プライバシーの懸念を引き起こすと主張しています。これに対する反論は、参照セットを公開されているライセンス済みの写真に限定し、比較ステップ以降は決して保持しないようにできるというものです。何百万人ものユーザーが投資資金を騙し取られるリスクは、わずかなデータ取り扱いに関わるリスクをはるかに上回ります。
もう一つの異論は、有名人の容姿が変わるにつれて、参照ライブラリを最新の状態に保つための保守オーバーヘッドです。検証済みのメディアに新しいヘッドショットが登場するたびにそれらを追加するという漸進的なアップデートを行うことで、完全な再構築を必要とせずにこの問題を軽減できます。
今後の注目点
この犯罪グループがトラフィック・マスキング・サービスに依存していることは、それらのサービスが中断されるとキャンペーンが一時的に弱体化する可能性があることを意味しますが、その根底にある手法——高品質なディープフェイクと組み合わせたダイナミック・コンテンツ配信——は、他の詐欺においても再び現れる可能性が高いでしょう。セキュリティベンダーは、同様のパターンを監視すべきです。具体的には、クローラーのシグネチャに基づくコンテンツの乖離、同一のビデオホスティングバケットを指すドメインの急増、および同一の顔の幾何学的エラーシグネチャの繰り返し使用などです。
開発者にとっての次のステップは、疑わしいドメインの小規模なサブセットで検証パイプラインのプロトタイプを作成し、誤検知率を測定することです。また、組織間で検知シグネチャを共有することで、労力の重複を減らすことも可能です。
要点: 15,500サイトに及ぶディープフェイク詐欺は、巧妙さだけでなく、規模（scale）こそが詐欺の新たなフロンティアであることを示しています。適応型クローリングとフレーム単位の生体認証を組み合わせることで、セキュリティチームは、圧倒的な規模の課題を、自動化された測定可能な防御へと変えることができます。