“agent”这个词正在失去它的含义。现在扫描任何产品发布公告，每一个 AI 功能都声称自己是一个 agent。一个能生成邮件草稿的友好小部件？是 agent。一个阅读你的知识库的支持机器人？是 agent。一个调用 API 并返回 JSON 的脚本？也是 agent。这不仅仅是营销上的草率，更是一种危险的设计。当你把一切都称为 agent 时，你就不再理解自己实际在构建什么了。在定义好任务之前，你就开始追求复杂的架构。其结果是脆弱的代码、失控的 Token 成本，以及行为无法解释或复现的系统。

聊天机器人只是在等待，它们并不行动

聊天机器人处于最简单的层级。它们是响应式的。用户输入一个问题，模型生成一个回复，对话就此结束，除非有下一次人类提示。这些系统不会决定去检查你的日历、更新数据库记录或停下来要求澄清。想想 SaaS 定价页面上嵌入的帮助小部件。它回答有关账单周期和功能限制的问题。它不会给客户退款、升级方案或标记可疑账户。除了聊天窗口之外，它没有任何工具，没有持久状态，除了生成一句相关的句子外，没有任何目标。那是一个聊天机器人。它在响应，而不是在行动。

助手在窗口内提供帮助

助手增加了复杂性，但没有增加自主性。它们使用 system prompts 来采用某种人格。它们在较长的对话中保留上下文。它们可能会总结你上传的文档，或者用不同的语气重写你的段落。一个检查语法并建议更清晰措辞的写作助手很有用。它记得你偏好英式拼写。但它不会代表你采取行动。它不会决定给你的编辑发邮件、安排截止日期或在未经提示的情况下搜索网络。它在你提供的窗口内提供协助。它不会开车，而是在你握紧方向盘时建议一条更好的路线。

工作流遵循你绘制的地图

工作流处于中间地带，这也是大多数生产级 AI 系统实际所属的领域。在这里，你定义了路径。你构建了一系列步骤：提取发票日期、查找供应商 ID、将金额与采购订单进行比较、更新会计电子表格、如果数字不匹配则向财务发送通知。模型可能会读取发票或分类差异，但它遵循你构建的图（graph）。你确切地知道会发生什么，因为地图是你画的。

工作流更容易测试。你可以隔离地对每个步骤进行单元测试。你可以在每个节点记录输入和输出。当某些东西出错时，你无需筛选晦涩难懂的思维链，就能知道哪个分支失败了。可观测性非常直接，因为系统不会通过绕路来让你感到意外。如果你的业务流程有明确的规则和已知的异常，工作流通常是更好的选择。你获得了速度、可靠性和更低的成本，而无需假装机器具有意图。

智能体选择路径

智能体是不同的。它们是动态的。你给它们一个目标，它们就会想办法实现它。一个智能体接收任务，分析需要发生什么，选择工具，执行，观察结果，然后决定下一步做什么。这种循环——推理、行动、观察、再次推理——是将智能体与所有其他类别区分开来的关键。

考虑一个处理退款请求的系统。工作流可能会检查三个条件，并根据固定规则批准或拒绝。而一个智能体，如果被赋予“在检查欺诈的同时公平地处理此退款”这一目标，可能会查询客户的购买历史，检查该产品类别的退货政策，查找最近的账户活动，如果模式看起来异常，则创建一个人工审核的支持工单，然后起草一封解释其决定的电子邮件。它根据案件的具体情况选择了使用哪些工具以及使用顺序。

智能体是一个系统，而不仅仅是一个模型

智能体不是运行在聊天窗口中的模型。它是一个完整的系统。它结合了：

  • 模型：用于推理和生成语言
  • 指令：约束其运行空间
  • 工具：具有严格模式（schema）以与外部世界交互
  • 上下文：关于当前任务和环境的信息
  • 状态：以便记住其在多步流程中的位置
  • 校验：在输入进入工具前、输出到达用户前进行检查
  • 限制：对预算、步骤或范围的限制，以防止失控行为
  • 可观测性：以便你可以重构其为何选择路径 A 而非路径 B

如果你的系统缺乏其中的大部分，那么你拥有的不是智能体（agent），而是一个带有额外 API 调用能力的模型。

没有控制的自主性只是风险

如果你的智能体可以查询生产数据库、在 CRM 中创建记录或向用户发送消息，那么它也可能损坏数据、创建重复条目或骚扰客户。一个优秀的智能体架构应假设失败。它在执行破坏性操作前会请求许可；在提交结果前会进行校验；并展示其推理过程，以便在成本或风险较高时由人工介入。

如果你仅仅因为演示效果很惊艳而忽略了这些限制，那么你将不得不利用周末时间去调试：为什么智能体在夜间创建了四百张支持工单，或者退掉了一笔它根本不该触碰的订单。当你同时交给 AI 一个目标和一组不受监督的工具时，你在黑盒系统中担心的不可预测性就会变成现实。

从问题出发，而非技术出发

不要从智能体开始。要从痛点开始。有时解决方案是一个更好的提示词（prompt）。有时是现有后端中的一个确定性函数。有时是一个包含一个 AI 步骤和五个传统 API 调用的工作流。

只有当任务确实需要以下条件时，才考虑使用智能体：

  • 相互依赖的多个步骤
  • 步骤之间的动态决策
  • 与外部工具的交互
  • 对无法提前完全规划的中间结果进行推理

如果路径是已知的，请构建工作流。如果交互是简单的，请构建聊天机器人或助手。不要仅仅因为“智能体”这个词听起来很现代就盲目添加代理能力。

构建成熟度，而非复杂性

当智能体确实是合适的选择时，请分层构建。从单个工具和硬编码的决策开始。添加测试以验证工具是否使用了正确的参数进行调用。添加日志以便查看完整的追踪过程。添加状态管理，使系统知道从哪里继续。在每个边界添加校验。添加可观测性仪表板，以便你的团队可以实时观察行为。最后，谨慎地添加自主性——即在选项之间进行选择的自由。不要反其道而行之。在混乱之上叠加自主性，只会产生代价高昂的事故。

核心启示

词汇塑造系统。请将“智能体（agent）”一词留给那些名副其实的架构：以目标为导向、能够使用工具并能动态适应，但同时被严格的限制和人工监督所包裹。除此之外的一切都只是聊天机器人、助手或工作流。构建能解决问题的最简单方案。你的生产日志、财务团队以及未来的自己都会感谢你。

Source: https://dev.to/leandrolayerle/no-todo-chatbot-es-un-agente-de-ia-3oec

Join the GyaanSetu learning community: https://t.me/GyaanSetuAi