亚马逊的研究如何引发白宫对 Anthropic 的限制
亚马逊研究人员最近在网络安全领域取得的一项突破性进展在 AI 行业引起了巨大震动,并导致针对 Anthropic 的重大出口管制指令。限制访问 Anthropic 前沿模型的决定,引发了关于国家安全、模型漏洞以及人工智能政治格局的激烈辩论。
引发禁令的亚马逊研究
这场争议的核心在于亚马逊安全研究团队发布的一篇技术论文。据《华尔街日报》报道,亚马逊研究人员证明,通过一系列特定的提示词(prompts),可以操纵 Anthropic 的 Fable 5 和 Mythos 5 模型,使其提供能够协助进行网络攻击的信息。
据报道,亚马逊首席执行官 Andy Jassy 已将这一发现直接分享给了白宫。在这些讨论之后,政府发布了一项出口管制指令,实际上封锁了外国公民访问这些特定模型的权限。此举立即为 Anthropic 带来了内部危机,因为该公司许多研究人员本身就是外国出生,而现在他们被禁止使用自己参与构建的技术。
“越狱”辩论与模型漏洞
Anthropic 已迅速采取行动,对政府对该事件的技术定性提出异议。虽然政府将该漏洞利用描述为“越狱”(jailbreak),但 Anthropic 认为所发现的漏洞并非其架构所特有。该公司主张,使用其他知名的公开模型(如 GPT 5.5)也可以发现许多相同的安全漏洞。
独立安全专家也支持这一技术争议。LutaSecurity 的创始人兼首席执行官 Katie Moussouris 公开表示,亚马逊论文中的发现并不构成传统的“越狱”。这一区别对整个行业至关重要,因为它引发了人们的质疑:政府是在针对特定的模型缺陷,还是在实施更广泛的、或许是反应性的监管措施。
政治紧张局势与 AI 格局
这项禁令并非凭空出现;它发生之际,Anthropic 与现任政府之间的裂痕正在加深。Anthropic 一直保持着坚定的伦理立场,拒绝允许其 AI 模型被用于对美国公民进行大规模监控,或用于开发致命的自主武器。
据报道,这些伦理护栏已导致其与特朗普政府产生摩擦,后者此前曾指示联邦机构停止使用 Anthropic 的 AI 服务。一些行业观察人士,包括前商务部官员 Kate Koren,认为白宫目前对 Anthropic 的立场可能影响了近期出口限制的实施速度和严厉程度。随着 AI 模型能力的增强,网络安全研究、企业伦理与地缘政治控制的交汇点正成为技术监管的新前线。
核心要点
- 安全触发因素: 亚马逊的研究表明,Fable 5 和 Mythos 5 可能会被诱导协助进行网络攻击,从而导致联邦出口限制。
- 附带损害: 禁止外国公民访问 Anthropic 模型的规定,无意中也将该公司许多外籍研究人员拒之门外,使他们无法使用自己的工具。
- 技术分歧: Anthropic 与安全专家认为,该漏洞并非独特的“越狱”问题,而是存在于 GPT 5.5 等其他模型中的系统性问题。