AI 基础设施格局正在发生根本性的转向,资本正从模型训练转向模型推理。科技投资公司 Upper90 向 AI 推理初创公司 General Compute 提供的一笔高达 4 亿美元的巨额贷款,标志着硬件融资与部署方式的一个历史性里程碑。

抵押品的新时代:为推理芯片融资

Upper90 的这一举动模仿了 GPU 融资的早期阶段,正进军一个新的资产类别:推理专用芯片。虽然由 CoreWeave 等公司引领的前一波融资浪潮侧重于用于大规模训练工作负载的 Nvidia GPU,但这笔 4 亿美元的交易是以专门为运行已训练模型而构建的芯片作为抵押品。

在首席执行官 Finn Puklowski 的领导下,General Compute 正在构建一种 "neocloud"——一种专门为 AI 工作负载而非通用计算设计的专业基础设施提供商。这种区别至关重要;虽然 AWS 和 Azure 等传统超大规模云服务商提供广泛的服务,但 neocloud 针对大语言模型 (LLMs) 独特的延迟和吞吐量需求进行了优化。

SambaNova SN50 的技术优势

General Compute 战略的核心在于其与受 Intel 支持的芯片制造商 SambaNova 的合作伙伴关系。该公司正在部署 SambaNova 的 SN50 芯片,这些芯片旨在提供相对于传统硬件的重大性能飞跃。

根据 General Compute 的说法,这些芯片的推理速度最高可比目前的基于 GPU 的云快 16 倍。除了纯粹的速度之外,SN50 还具有两大运营优势:

  • 能效: 每个 token 的能耗更低,从而降低了 AI 部署的巨额开销成本。
  • 简化冷却: 与通常需要复杂且昂贵的水冷系统的顶级 GPU 不同,这些芯片可以在更广泛的标准数据中心环境中实现更快速的部署。

打破 Nvidia 的垄断

这笔交易不仅仅是一次资本注入,它还是一个战略信号,表明市场正在寻求替代 Nvidia 主导地位的选择。随着 token 成本和前沿模型访问权限仍然是开发者的障碍,对廉价、高效访问开源模型的需求正在增长。

高性能开源模型的兴起——例如在编程基准测试中与 Anthropic 和 OpenAI 竞争的 Kimi K3——意味着行业的瓶颈正在从“我们如何构建模型?”转向“我们如何以负担得起的价格运行它们?”通过利用非 Nvidia 芯片,General Compute 以及像 TensorWave(与 AMD 合作)这样的竞争对手,正在致力于提供更优的总体拥有成本 (TCO)。

正如 Puklowski 所指出的,这笔交易代表了“资本的自我组织”,旨在瓦解 Nvidia 对 AI 生态系统的垄断地位。通过押注于专用推理硬件,投资者们正在承认,AI 热潮的下一个阶段将由规模、效率以及 AI 在日常应用中的普及所驱动。

核心要点

  • 推理优先的融资: 这笔 4 亿美元的交易标志着融资模式的转变,即使用专用推理芯片(而非仅仅是训练 GPU)作为巨额贷款的抵押品。
  • 性能提升: General Compute 旨在通过使用 SambaNova 的 SN50 芯片,实现比基于 GPU 的云快达 16 倍的性能,这些芯片具有更好的能效和更简单的部署方式。
  • 堆栈多样化: 此举预示着市场对非 Nvidia 芯片的需求日益增长,以支持开源 LLM 的高性价比扩展。