企业级 AI 项目都有一个规律。团队构建了一个原型,演示效果惊人。然而,三个月后,系统开始崩溃。回答开始偏移,成本不断攀升。合规官询问某个特定答案的来源,而房间里的没人能说出来。

这种崩溃很少是因为代码写得不好。它始于一个被当作“人气竞赛”来对待的架构选择:检索增强生成 (RAG) 与微调 (fine-tuning)。

RAG 和 fine-tuning 并不是同一种产品的两个版本。它们是本质上不同的工具。一个控制模型能“看到”什么,另一个控制模型的“行为方式”。为特定任务选错工具在原型阶段是看不出来的,只有当业务正式运行在它之上时,问题才会显现。

演示陷阱

发布生成式 AI 功能的压力非常大。团队经常因为在某个写得很好的教程中看到,或者因为供应商的演示文稿让它看起来很简单,就选择某种方法。这是一种极其糟糕的基础设施决策方式。

在受控的演示中,微调后的模型可能显得不可思议。它能以你公司的口吻说话,并能识别你的产品名称。RAG 流水线同样可以显得很神奇,它能回答关于从未训练过的文档的问题。但演示掩盖了运营层面的现实。如果你的价格数据每周都在变,而你使用的是上季度的数字进行微调,模型会自信地引用过时的数据。如果你的支持团队需要每个答案都能追溯到特定的政策 PDF,微调模型无法为你提供脚注,它只会给你一段文本。

RAG 的本质含义

RAG 代表检索增强生成 (Retrieval-Augmented Generation),但这个名字让它听起来比实际情况更复杂。其核心在于回答一个问题:模型现在需要查阅什么?

想象一下,一名客服人员在回复工单之前,被允许先搜索公司的维基 (wiki)。RAG 正是如此,只不过是自动完成的。当用户提出问题时,系统会在向量数据库或文档库中搜索相关的文本块。然后,它将这些文本块连同原始问题一起作为上下文交给语言模型。模型根据检索到的证据生成答案。

当你的知识库存在于模型之外时,这种方法就大放异彩了。产品文档、法律文件、医学研究和库存电子表格都在不断变化。RAG 无需重新训练任何权重即可保持模型信息的实时性。它还能建立天然的审计追踪。因为你知道检索了哪些文档,所以你可以向审计师或监管机构准确展示答案的来源。

Fine-Tuning 的本质含义

Fine-tuning 回答的是另一个问题:模型应该如何表现?

你不是给模型提供外部阅读材料,而是通过示例来教导它。你收集成百上千个你想要的输出示例,并在这些数据上继续训练基础模型。这个过程实际上调整了模型的内部参数,即改变了权重。

其结果是一个内化了模式的模型。