Meta 因快速转向 AI 内容审核面临内部抵制

Meta 正在积极将其内容审核基础设施从人工监督转向大语言模型 (LLMs)，目标是到 2025 年底实现特定类型内容 90% 以上的自动化。尽管公司承诺将达到前所未有的准确度，但内部警告指出，这种快速部署可能会损害内容的细微差别处理及平台的安全性。

自动化推动与“Muse Spark”转型

Meta 的自动化转型规模巨大。截至 2025 年初，这家社交媒体巨头已经用 AI 模型取代了约 50% 的人工审核请求。报告显示，其底层技术正在发生重大内部转向：Meta 正在放弃使用 Google 的 Gemini 进行审核和支持任务，转而采用其自有的基础模型 Muse Spark。

Muse Spark 是专门基于由人工审核员过去决策组成的历史数据集训练而成的。这一转型是 Meta 整合其 AI 技术栈这一更广泛战略的一部分，旨在减少对外部供应商的依赖，同时利用其自身海量的决策数据仓库来优化其审核能力。

效率与准确度：企业的叙事

从公司的角度来看，这一举措被描述为质量的巨大飞跃，而非仅仅是削减成本。虽然《金融时报》指出，这一转变每年可为 Meta 节省数十亿美元，但公司强调的是性能指标。自三月以来，Meta 声称其 LLMs 在两个关键领域表现优于人工审核员：在执行政策时错误减少了 13%，并多抓住了 10% 的实际违规行为。

与传统的机器学习 (ML) 分类器不同（后者在遇到讽刺、俚语或不断演变的语言趋势时经常失效），这些新型 LLMs 旨在理解复杂的细微差别，并在更广泛的全球语言范围内运行。

内部警告：人力成本与误差范围

尽管领导层提供了乐观的数据，但 Meta 员工对部署速度提出了警示。内部人士警告称，模型在处理语境方面仍然存在困难，经常导致完全无害的内容被删除或被“限流” (shadow-banning)。员工们最担心的是，随着“人机协同” (human-in-the-loop) 环节的快速退出，缺乏足够的监督来管理这些自动化错误。

这种技术转型也在公司的生态系统中产生了直接的社会经济后果。激进的自动化直接导致了裁员，特别是针对此前承担大部分人工审核任务的海量外部承包商群体。

为什么这对 AI 领域至关重要

Meta 的实验是整个科技行业的一个关键风向标。随着公司从“AI 辅助”审核转向“AI 主导”审核，行业必须应对规模化扩展与维护言论自由之间的紧张关系。如果像 Muse Spark 这样的基础模型能够成功应对人类讽刺和文化细微差别的复杂性，它将为自动化治理树立新标准。然而，如果员工报告的错误持续存在，这可能预示着 LLMs 尚未准备好承担社会话语监督的全部重任。

核心要点

• 大规模自动化： Meta 旨在到 2025 年底实现某些内容审核任务 90% 以上的自动化，目前替代率已达到 50%。
• 自有技术转向： Meta 正在用其基于历史人工审核数据训练的自有基础模型 Muse Spark 取代 Google 的 Gemini。
• 效率与可靠性的差距： 尽管 Meta 声称错误减少了 13%，但员工警告称，在快速部署过程中存在过度“限流”和监督不足的问题。