政府何时应该管控 AI 模型？

Anthropic 最近面临一个重大问题。美国政府发布了一项指令，禁止外国公民使用其 Fable 5 和 Mythos 5 模型。为了遵守法律，Anthropic 禁用了所有客户的访问权限。

这是一个巨大的转变。

前沿 AI 不再仅仅是软件。它正在成为战略基础设施。当软件变成基础设施时，政府就会介入。

我们通常将 AI 视为聊天机器人或图像生成器等产品类别。但真正的转变正在底层发生。现代 AI 系统可以编写代码、寻找安全漏洞并运行工作流。它们以半自主的方式运行。

这改变了风险性质。标准的应用程序很容易监管。而一个能够自动化网络攻击的系统，看起来更像是国家安全基础设施。

支持监管的理由

如果一个模型加速了生物安全风险、欺诈或大规模监控，那么不受限制的访问就是危险的。工程师已经接受了对化学品、军事硬件和关键基础设施的限制。如果 AI 改变了威胁格局，那么实施访问控制是合理的。

反对过度监管的理由

政府的管控可能显得生硬且带有政治色彩。突然的限制会损害研究人员、初创公司和工程师的利益。它还会产生竞争问题。如果只有大公司才能负担得起遵守复杂规则的成本，我们就会面临中心化问题。中心化会导致审计减少，韧性降低。

解决方案：基于能力的规则

我们不应该基于炒作或流行程度来限制模型。我们应该基于它们实际能做什么来限制它们。

请思考以下问题：

• 它能否发现并利用安全漏洞？
• 它能否为非专家运行有害任务？
• 它能否在没有监督的情况下跨系统操作工具？
• 它是否会在压力下绕过安全防护？

工程师必须主导这场对话。政策不能是抽象的法律。它需要对模型能力、工具访问和部署环境的技术知识。

真正的战场：访问控制

AI 安全不仅仅关乎模型权重。它关乎访问控制。

谁可以使用该系统？这是一个经典的工程问题。自然语言提示词可以触发许多系统中的操作。权限必须是基础设施的一部分，而不是事后才考虑的事。一个运行在薄弱产品外壳下的强大模型是危险的。

我的观点

禁止 AI 是不可持续的。在没有任何规则的情况下发布一切是不负责任的。

当以下三个条件同时满足时，干预是合理的：

• 高能力
• 高滥用潜力
• 低问责性

目标是在不冻结创新的情况下阻止灾难。

在我们还没为 AI 制定规则之前，它正在变成基础设施。你在系统设计中所做的选择——权限、日志记录和人工审批——将塑造世界治理 AI 的方式。

AI 管控的未来将书写在基础设施之中。

Source: https://dev.to/joshua-fields/when-should-governments-pull-the-plug-on-ai-models-ffo

Optional learning community: https://t.me/GyaanSetuAi