美国政府召回了一款 AI 模型

美国政府召回了一款 AI 模型

美国政府刚刚迫使 Anthropic 从市场上撤回了两款主要的 AI 模型。这发生在发布仅三天之后。

这两款模型是 Fable 5 和 Mythos 5。商务部以国家安全为由发布了出口管制指令。

导火索是一项口头指控。一家竞争对手声称他们成功“越狱”了 Mythos。当时并没有书面的技术报告或正式的安全调查结果，仅仅是一个口头指控。

该指令影响所有外国公民。由于 Anthropic 雇佣了外国公民，为了合规，该公司不得不在全球范围内禁用这些模型。

这是政府首次强制召回商业前沿 AI 模型。这为你带来了三个重要的教训：

• 口头指控现在具有分量。竞争对手的一句话和政府的一封信就让一款全球性产品停摆了。
• 出口管制是粗放的工具。法律无法做到精准打击。如果一个模型触及了某项规则，它就会在所有地方失效。
• 快速部署存在风险。本周在生产环境中使用这些模型的公司必须立即寻找替代方案。

如果你正在使用 Fable 5 或 Mythos 5，请立即切换到 Claude Sonnet 或 Opus。不要等待更新。

如果你正在构建 AI 产品，请做到以下几点：

• 从第一天起就建立回退路径。
• 将出口管制视为真实的运营风险。
• 绝不要在模型发布的第一个星期就建立关键依赖。

Anthropic 正在反击。他们表示，如果这成为常态，政府的行为将阻碍所有新模型的部署。

政府设计这些规则原本是针对硬件和芯片的。现在，他们正将其应用于软件模型。这为监管机构如何控制 AI 树立了新的先例。

来源：The New Stack, Axios, Anthropic

可选学习社区：https://t.me/GyaanSetuAi