Google 推出了适用于 TypeScript 和 Go 的 Genkit Agents API 预览版,新增了“分离轮次”(detached turns)和“人工介入”(human-in-the-loop)护栏,使构建和控制生产级 AI Agent 变得更加容易。
为什么这个新 API 至关重要
开发者在部署 AI Agent 时长期面临两个问题:耗时较长的任务会导致整个流水线停滞,以及难以保证操作的安全性和可靠性。“分离轮次”(detached turns)允许 Agent 在处理耗时操作时不会锁定周围的工作流,而“人工介入”(human-in-the-loop)选项则要求在应用 Agent 的输出之前进行人工审核。两者结合可以减少停机时间并防止代价高昂的错误。
发展历程
今年早些时候,开源框架和云服务开始为对话式 AI 提供即插即用的组件,但大多数都需要开发者编写自定义的编排代码。Google 的 Genkit 通过提供更高层级的 SDK 填补了这一空白,消除了请求处理、状态管理和模型选择中的样板代码。
这些功能具体能做什么
- Detached turns:当 Agent 需要从外部 API 获取数据、运行多步推理链或等待用户输入时,它会将工作交给后台进程。主工作流会接收到一个占位符并继续运行,从而避免了因阻塞下游任务而导致的完全停滞。
- Human-in-the-loop:在 Agent 的决策被执行之前(例如批准贷款或更新数据库),UI 会弹出提示供人工审核员查看。审核员可以接受、修改或拒绝该建议,这为组织提供了一个安全网,同时又没有放弃自动化。
涌现的配套工具
除了 Genkit,开源社区也在推出解决成本和调试问题的实用工具,而这两点正是 AI 流水线中常见的痛点。
- ORA:一个基于 Go 的任务编排器,打包为单个二进制文件。它将大型任务拆分为较小的子任务,并自动将每个子任务路由到能够处理它的最便宜的模型,帮助团队控制云端支出。
- Python AI error explainer:一个能够解析堆栈跟踪和晦涩日志,并返回通俗易懂的摘要、可能原因及修复步骤的库。通过将原始错误数据转化为可操作的见解,它加快了开发者的反馈循环。
谁是赢家,谁在担忧
下一步值得关注什么
如果预览版能够兑现其承诺,AI Agent 可能会从实验性的聊天机器人转变为可靠的组件,让企业在面临高风险决策时,能够信任它们去执行、暂停并寻求帮助。
