TikTok 已开始测试一种 AI 驱动的深度伪造（deepfake）检测器，允许美国创作者在平台上扫描未经授权的、由 AI 生成的其面部版本。这项选择性加入的服务会标记出劫持创作者肖像的合成视频和图像。

此举为何重要

生成式 AI 现在可以生成超逼真的视频，将任何人的脸贴在任何身体上。

该工具的工作原理

一小部分选择加入的美国创作者会收到一个控制面板，TikTok 的系统会在其中列出 AI 标记为与其验证过的面部特征相匹配的所有内容。创作者可以查看这些匹配项，并针对滥用其图像的帖子或账号进行举报。

为了防止滥用，TikTok 要求每位参与者通过 Jumio（一家第三方验证服务）完成一项流程较为复杂的身份检查。该检查需要进行实时自拍扫描并提供政府签发的身份证件。TikTok 表示，它不会存储上传的身份证件；面部数据仅用于检测引擎内部的肖像匹配。

更广泛的军备竞赛

TikTok 并不是第一个推出深度伪造防护措施的平台。YouTube 最近也为所有成年用户推出了类似的检测功能，显示出整个行业都在推动保护数字身份。随着大语言模型和扩散模型的进步，合成的“数字人”涌入信息流的速度超过了人工审核员的处理能力。

下一步动态

该试点项目目前仍仅限于美国以及自愿参与的创作者。

核心观点： TikTok 的深度伪造检测测试标志着向主动保护创作者身份的决定性转变；其影响将取决于它如何在严格验证与创作者所期望的便捷性之间取得平衡。