TikTokは、米国のクリエイターがプラットフォーム上で、自身の顔を無断で使用したAI生成コンテンツがないかをスキャンできる、AI駆動のディープフェイク検出ツールのテストを開始しました。このオプトイン形式のサービスは、クリエイターの容姿を悪用した合成ビデオや画像を検知します。

この動きが重要な理由

生成AIは現在、誰の顔でもあらゆる体に貼り付けることができる、極めてリアルな動画を生成できるようになっています。

ツールの仕組み

オプトインした米国の少数のクリエイターには、TikTokのシステムが、検証済みの顔の特徴と一致するとAIが判断したコンテンツをリストアップするダッシュボードが提供されます。クリエイターは検知された内容を確認し、自身の画像を悪用している投稿やアカウントに対して報告を行います。

悪用を防ぐため、TikTokは各参加者に対し、サードパーティの認証サービスであるJumioを通じた、手間のかかる本人確認を義務付けています。この確認には、リアルタイムのセルフィー・スキャンと政府発行の身分証明書が必要です。TikTokは、アップロードされた身分証明書は保存せず、顔データは検出エンジン内での容姿照合にのみ使用すると述べています。

広がる軍拡競争

ディープフェイク対策を導入するのは、TikTokが初めてではありません。YouTubeも最近、すべての成人ユーザー向けに同様の検出機能をリリースしており、デジタル・アイデンティティを保護しようとする業界全体の動きが見て取れます。大規模言語モデルや拡散モデルが進化するにつれ、合成された「デジタルヒューマン」が、手動のモデレーターが対応できるスピードを超えてフィードに溢れかえっています。

今後の展望

このパイロット運用は、現在、米国および志願したクリエイターのみに限定されています。

要点: TikTokのディープフェイク検出テストは、クリエイターのアイデンティティを積極的に保護する方向への決定的な転換点となります。その影響は、厳格な本人確認と、クリエイターが期待する利便性をいかにうまく両立させられるかにかかっています。