OpenAI 及 100 多家科技公司签署了一封公开信，指出由人工智能驱动的网络攻击正准备走出实验室，冲击现实世界的基础设施。该联盟警告称，黑客很快将利用大语言模型和自主智能体以机器速度寻找漏洞并发起多阶段攻击，从而危及医院、电网和供水系统。

为什么现在的警告至关重要

人工智能模型已从研究领域的奇闻轶事，迅速进化为能在几秒钟内生成代码、撰写电子邮件甚至设计硬件的服务。这种生产力的提升为恶意行为者提供了无需人工干预即可扫描网络、编写漏洞利用脚本并协调攻击的工具。来自美国三个机构的联合警报证实，攻击者已经在利用 AI 编写针对工业控制系统（如运行许多能源、水务和制造工厂的 Siemens S7 系列）的漏洞利用代码。

威胁的驱动因素

该信函强调了将 AI 转变为武器的三种技术转变。首先，大语言模型可以将对目标的简短描述转化为可运行的代码，从而大幅缩短构建有效载荷所需的时间。其次，强化学习智能体可以在沙盒中测试数千种漏洞利用变体，学习哪些版本能够成功。第三，生成式工具可以伪造模仿受害者风格的钓鱼信息，从而提高凭据窃取率。综合来看，单一的自动化流水线可以在几分钟内定位漏洞、生成定制的漏洞利用程序并向数十台设备发起攻击。

可能遭受攻击的目标

关键基础设施之所以成为关注焦点，是因为其系统将数字控制与物理过程结合在一起。受损的水处理厂可能会导致化学品投加错误；被黑客攻击的变电站可能会导致整个地区陷入黑暗；被篡改的医院网络可能会导致生命维持设备失效。信中点名医院、水务设施、能源网和化学制造商为风险最高的行业。其中许多运营商运行着无法快速修补的遗留设备，为 AI 驱动的脚本留下了巨大的攻击面。

防御者如何跟上步伐

签署者认为，“防御者的优势”依然存在，但正在缩小。为了保持这一优势，他们提出了三项行动：

  • 企业责任 – 将安全提升至董事会优先事项，使预算和监督力度与 AI 威胁的规模相匹配。
  • 政府支持 – 加大对研究的资金投入，公开分享威胁情报，并与私营运营商协调响应计划。
  • 安全民主化 – 构建负担得起、易于部署的基于 AI 的防御工具，使小型公用事业和市政服务不会成为薄弱环节。

可能的反对意见

一些专家警告说，将 AI 聚焦为一种新危险可能会分散人们对长期存在的漏洞（如未修补的软件、弱密码和糟糕的网络分段）的注意力。他们指出，许多被吹捧用于进攻的 AI 技术同样可以用于防御——例如自动化代码审查、异常检测和快速事件响应。信函本身也提到，防御者已经在利用 AI，但批评者警告称，行业可能会过度承诺新工具，却在基础安全卫生方面投入不足。

值得关注的动向

  • 政策倡议 – 预计将出现针对 AI 网络安全研究的专项资金提案，以及管理强大生成式模型发布的标准。
  • 工具发布 – 供应商可能会针对信中强调的行业，推出 AI 增强型漏洞扫描器和入侵检测系统。
  • 事件报告 – 首例公开的 AI 驱动的关键基础设施系统入侵事件将证实该联盟的警报，并可能引发监管行动。

这封公开信标志着如此多的竞争对手首次就共同的生存风险发出统一的声音。行业是否能将这种共识转化为具体的防护措施，将决定 AI 是会助长下一波网络破坏浪潮，还是会成为维持社会运转的工具。