在一些公司,AI token 的年度账单正开始与工程人员的工资支出相提并论,而领导层既不知道该庆祝还是该恐慌。过去几年,企业不断向大语言模型投入大量资金,期望更便宜的推理成本能自动转化为更少的人员编制和更快的交付周期。然而,许多工程团队发现自己正在支付双倍成本:一次是为了他们希望增强能力的才干,另一次是为了本应取代他们的算力。问题不再是 AI 是否能写代码,而是它写的代码是否足以支撑产生这些代码所消耗的巨额财富。

半薪基准

黄仁勋在 GTC 2026 结束时,在 All-In Podcast 上直言不讳地阐述了这一数学逻辑。这位 Nvidia CEO 提出,可以通过将工程师的薪水直接与其 AI token 消耗量进行比较,来衡量其效率。他的标准非常严苛。以一名年薪 50 万美元的软件工程师为例,如果该工程师每年的 token 使用量低于 25 万美元(大约为其薪水的一半),黄仁勋认为这是一个警告信号。用他的话说,领导层应该“深感警觉”,这并不是因为公司在人力上过度支出,而是因为公司可能没有充分利用这些人才。

这一逻辑颠覆了传统的成本控制思维。多年来,财务团队一直将算力视为需要最小化的变动成本。黄仁勋却持相反观点。一名几乎不接触模型的昂贵工程师,是一名没有“力量倍增器”的高薪工程师。预期的目标是,高成本人才应该充当一个“漏斗”,通过 AI 系统推动海量的工作,审查输出结果,并编排最终成果。低 token 消耗并不代表节俭,它意味着人类仍在从事模型本可以处理的机械性工作。

这种支出在实践中是什么样的

为了理解为什么这个基准很重要,请考虑 25 万美元的 token 实际上代表了什么。按照目前前沿模型的费率,这不仅仅是几次自动补全建议。它意味着在每个工作日,通过处理各种任务,要消耗数百万个 token。这表明工程师不仅仅是在接受编辑器的补全,而是在进行广泛的架构推理、通过智能体进行大规模重构、自动化测试流水线、合成数据生成以及迭代式设计探索。

以这种方式工作的高级工程师可能会为单个功能链式调用多个模型:生成脚手架、分析破坏性变更的依赖关系、模拟边缘情况行为,并并行生成文档。其吞吐量是巨大的,因为人类不再是逐行敲代码,而是在“驾驶”。对于黄仁勋来说,只有当人类以这种规模运作,通过不断的模型交互来倍增其产出时,薪水才物有所值。

回报在哪里消失了

尽管有这一愿景,业界正面临着基础设施支出与交付成果之间日益扩大的差距。公司纷纷涌入“重 token”策略,与 AI 供应商签订企业级合同,并围绕生成式工具改造其开发流水线。资本支出是惊人的,但对许多人来说,生产力的回报却差强人意。

开发者在处理枯燥事务方面确实变快了。当模型生成初稿时,样板代码、单元测试框架和重复的 CRUD 操作处理起来非常迅速。但软件工程从来不仅仅关乎打字速度。真正困难且昂贵的工作在于维护庞大的系统、推理分布式故障模式、确保跨层级依赖的安全,以及管理每一个捷径都会积累的技术债。这些