HiddenLayer 完成了 1 亿美元的 B 轮融资，由 Delta-v Capital 领投，微软旗下的 M12、摩根士丹利 (Morgan Stanley) 和 Ten Eleven Ventures 跟投。随着企业将生成式 AI 和自主智能体推向生产环境，这笔资金将用于推动其 AI 运行时安全平台的发展。

AI 模型周围的攻击面正在呈爆炸式增长。曾经仅运行概念验证 (PoC) Notebook 的公司，现在正将大语言模型和智能体工作流嵌入到面向客户的服务、内部决策流程甚至防御级系统中。每一个新的端点——无论是提示词界面、工具集成还是模型版本——都为攻击者提供了立足点，而防御这些端点的工具市场增长速度甚至超过了技术本身。

为什么 AI 安全已从理论转变为必然需求

三年前，大多数安全分析师仅将 AI 特有的威胁视为研究领域的奇闻轶事。关于对抗性攻击是否会规模化的观点更多是在争论，而非付诸行动。Gartner 目前预测，企业在 AI 安全工具上的支出今年将达到 28.3 亿美元，较去年增长 83%，并将在明年攀升至 47.8 亿美元。这些数字表明，企业正从实验性试点转向任务关键型部署，并意识到模型一旦遭到破坏，其代价将远超预防性工具的成本。

HiddenLayer 的增长也反映了这一趋势。CEO Chris Sestito 表示，公司的年度经常性收入 (ARR) 在过去 12 个月内增长了十倍以上，目前已达到“数千万美元”级别。其中超过 90% 的增长来自新客户——包括金融机构、大型科技公司、美国国防部和情报部门。此外，一家每周向超过 7 亿用户提供前沿模型的未公开客户也已签约，这进一步凸显了问题的广泛性。

从模型加固到保护自主智能体

传统的机器学习安全侧重于保护训练流水线，并检测微妙扭曲预测结果的对抗性输入。HiddenLayer 仍然涵盖这些基础功能——发现、运行时保护、攻击模拟和供应链检查——但现在它开始应对生成式 AI 所带来的独特风险。

  • 提示词注入 (Prompt injection) – 通过恶意输入强迫模型执行非预期的命令或泄露机密数据。该平台会在提示词到达模型之前对其进行清洗，并监控输出是否存在违反策略的行为。
  • 智能体操纵 (Agent manipulation) – 能够串联工具、API 和数据源的自主智能体可能会在执行过程中被劫持，从而导致有害行为或数据泄露。HiddenLayer 在每个工作流步骤中注入策略检查，中止任何违反既定规则的操作。
  • 恶意工具使用 (Malicious tool use) – AI 智能体越来越依赖外部插件、代码解释器或检索模块。该解决方案会监控这些集成是否存在异常行为，例如检索模块返回了意料之外的有效载荷 (payload)。

开源和开放权重模型带来了特殊的难题。由于模型文件可以自由分发，威胁参与者可以在模型加载时嵌入隐藏代码或恶意权重。HiddenLayer 可以解析并扫描约 50 种 AI 文件格式，寻找可能充当后门的“模型中的隐藏模型”。这种供应链防御能在受损组件进入生产环境之前将其拦截。

新资金将如何使用

HiddenLayer 将把这 1 亿美元分配到三个重点领域：

  1. 销售与分销 – 将小众的市场进入策略转化为更广泛的企业级销售引擎，触达那些刚刚开始大规模采用 AI 的行业。
  2. 工程研究 – 加倍投入对新兴攻击向量的检测逻辑研究，例如多模态提示词注入和跨智能体协同攻击。
  3. 地理扩张 – 在欧洲、中东和非洲 (EMEA) 地区建立业务，这些地区的 AI 透明度和安全性监管压力正在不断加大。

Sestito 将 HiddenLayer 的产品比作“AI 版的端点检测与响应 (EDR)”。正如 EDR 代理通过监控操作系统进程来发现恶意活动一样，HiddenLayer 的运行时卫士 (runtime guard) 会监控模型推理调用、工具调用和数据流，以发现违反策略的行为。

反方观点：云巨头是否会吞噬这一利基市场？

该公司承认，大型云供应商——AWS、Azure、Google Cloud——可能会在其托管的 AI 服务中嵌入类似的运行时保护。如果云厂商提供内置的提示词注入过滤器或智能体策略执行功能，企业对第三方插件的需求可能会降低。

Sestito 认为，治理、身份和策略控制将保持足够的复杂性，从而证明专业化解决方案的必要性。“当你处理跨越组织边界的多租户、高价值工作负载时，通用的云服务方案无法解决每一个合规细节，”他说道。他认为，专用的安全层可以比超大规模云厂商庞大的产品周期反应更快，并且与现有的安全信息和事件管理 (SIEM) 工具的深度集成将保持该平台的生命力。

未来几个月值得关注的动向

  • 采用速度 – 如果 HiddenLayer 安全工具成为 AI 采购合同的先决条件，企业许可数量可能会激增，尤其是在受监管行业。
  • 竞争动向 – 关注主要云供应商关于原生 AI 运行时加固的公告。捆绑式产品可能会迫使 HiddenLayer 转向混合云或本地部署。
  • 监管压力 – 随着各国政府起草 AI 特定安全标准，合规要求可能会明确提到运行时保护，从而为 HiddenLayer 等供应商带来监管层面的助力。
  • 威胁演变 – 新的攻击技术——如跨多个智能体的协同提示词注入，或大规模投毒模型权重的供应链攻击——将考验任何检测引擎。HiddenLayer 调整其检测模型的速度将成为关键的差异化因素。

总结

HiddenLayer 获得的 1 亿美元融资表明，AI 特定运行时安全市场已从学术辩论转向商业必然。随着企业级 AI 从孤立的模型扩展到复杂的、工具丰富的智能体，持续的、策略驱动的保护变得与传统的终端安全一样重要。这家初创公司能否在复杂的对手以及云巨头之间的安全军备竞赛中保持领先，将决定它究竟是继续作为“AI 的 EDR”，还是沦为被整合进更大平台的一个功能。下一个季度将揭示，在这样一个仍在定义自身边界的生态系统中，专业的 AI 安全供应商能否开辟出持久的利基市场。