你的 AI 感觉很慢?也许它并不笨。

AI 经常让人感觉很慢,因为它一次只能处理一个任务。它在队列中排队。你必须等待一个模块完成后,下一个才能开始。

你可以通过使用并行智能体(parallel agents)来解决这个问题。

许多模块之间并不相互依赖。如果将它们拆分,多个智能体就可以同时工作。你可以在更短的时间内完成同样的工作。

以下是构建并行 AI 工作流的方法:

  1. 首先优化你的架构 并行化需要清晰的设计。你的模块必须是松耦合的。它们应该通过清晰的接口进行通信。如果你在混乱的代码上强行实施并行化,会制造出一团乱麻般的错误。在设计阶段使用 AI 来规划这些接口。

  2. 分配特定角色 针对不同的任务使用不同的模型,以节省时间和成本:

  • 主导者 (Opus):掌控全局,分配任务并进行最终检查。
  • 规划者 (Sonnet):负责测试驱动开发 (TDD) 和实施计划。
  • 执行者 (Haiku):编写实际代码并运行测试。
  1. 设置限制 智能体并不是越多越好。我曾尝试一次设置 10 个智能体,但我的机器内存不足。后来我减少到了 5 个。在与其他任务结合时,这为我带来了 10 倍的加速。根据你的机器配置和配额来匹配你的并发量。

  2. 使用“主导者”进行审查 不要专门雇佣一个独立的智能体来审查工作。那个智能体必须从头开始学习整个任务,这会浪费 Token。让“主导者”智能体来进行审查。它已经知道自己分配了什么任务,因此可以更快、更准确地检查工作。

  3. 避免不必要的拆分 某些任务必须按顺序执行。如果你强行拆分紧耦合的模块,质量就会下降。告诉你的 AI:“这些模块是耦合的,不要强行拆分。”

如何从今天开始:

  • 在你的全局指令中添加“尽可能并行化”。
  • 在设置中增加你的最大并发子智能体数量。
  • 每次给 AI 下达任务时,提醒它进行并行化。

来源:https://dev.to/kanfu-panda/your-ai-feels-slow-maybe-its-not-dumb-youre-making-it-work-one-thing-at-a-time-3ipl

可选学习社区:https://t.me/GyaanSetuAi