特朗普政府因安全担忧强制下线 Anthropic 模型
Anthropic 最新 AI 模型在市场上的突然撤出在科技界引起了剧震,引发了关于国家安全与监管报复之间激烈争论。随着美国政府对尖端智能实施出口管制,AI 行业开始质疑,此举究竟是在保护国家,还是仅仅在重塑竞争格局。
关停事件:Fable 5 与 Mythos 5
特朗普政府最近发布了一项出口管制令,强制 Anthropic 将其两款最先进的模型 Fable 5 和 Mythos 5 下线。虽然 Fable 5 是面向公众广泛提供的模型,但 Mythos 5 主要服务于专业用户。政府将模糊的“国家安全担忧”作为该命令的主要驱动因素,特别要求任何外国公民都无法使用这些模型。
由于 Anthropic 拥有一支多元化的全球员工队伍,公司认定要确保合规性(特别是实时区分国内用户和外国用户)是不可行的,从而导致了模型的全面撤回。有报告称,在亚马逊研究人员据称发现了绕过 Fable 5 安全护栏的方法后,白宫采取了行动,据报道,亚马逊首席执行官 Andy Jassy 已将这一担忧上报至白宫。
国家安全还是监管报复?
这次打击行动使专家们产生了分歧。一方面,网络安全研究人员签署了一封公开信,敦促政府撤销该命令。他们认为,撤回这些先进模型实际上是“危险的”,因为这剥夺了美国网络防御者本可以用来保护国内基础设施的尖端网络安全能力。
另一方面,许多观察人士认为此举具有政治动机。批评人士指出,Anthropic 与现任政府之间紧张的关系可能在其中发挥了作用,并提到 Anthropic 模型中发现的风险并非其独有,在竞争对手的系统中也可能存在。人们越来越怀疑,政府可能在利用这些安全担忧作为借口来暂停 Anthropic 的进展,从而可能为竞争对手赢得缩小技术差距的时间。
AI 安全的悖论
这场争议也凸显了 AI 实验室在产品营销中固有的紧张关系。Anthropic 经常主张放缓 AI 发展,警告称与高级智能相关的“上帝机器”(God machine)风险。然而,在这些警告发布后立即推出像 Mythos 5 这样极其强大的模型,引发了对其虚伪的指责。
这种情况是更广泛的 AI 治理斗争的一个缩影。虽然 Sam Altman 和 Jensen Huang 等领导人呼吁在监管辩论中“降温”,但部署超强能力模型的现实情况,依然持续引发安全专家和政府机构的严密审查。
核心要点
- 强制下线状态: 由于引用国家安全风险的出口管制令,Anthropic 被迫将 Fable 5 和 Mythos 5 模型下线。
- 网络安全领域的抵制: 专家警告称,移除这些模型剥夺了美国防御者必备的高级网络安全工具,可能会削弱国防力量。
- 竞争影响: 此举引发了人们的质疑,即监管打击是否被选择性地用于削弱特定的 AI 实验室,同时允许其他实验室赶上来。