AI Agent 不需要更多记忆，它们需要受治理的回忆。

大多数人认为 AI agent 需要更多的记忆才能表现得更好。 他们建议增加聊天记录。 他们建议扩大上下文窗口。 他们建议增加向量存储。

但更多的记忆往往会让 agent 的可靠性降低。 agent 开始使用陈旧的假设。 它将旧的上下文视为当前的事实。 它将用户偏好与确凿证据混为一谈。

问题不在于 agent 记得多少。 问题在于决定 agent 被允许回忆起什么。

这是一个系统工程问题，而不是智能问题。

检索（Retrieval）不等于治理（Governance）。 检索系统寻找与查询相似的信息。 受治理的回忆系统则决定该信息是否可以安全使用。

一个良好的回忆策略会提出这些问题：

  • 这条信息是否仍然是最新的？
  • 谁有权查看此信息？
  • 更新的证据是否会覆盖这些旧数据？
  • 这条信息的来源是什么？

并非所有的记忆都具有同等的权威性。 工具结果是事实。 模型摘要是假设。 用户偏好是引导。

如果你将所有这些内容作为同等事实放入提示词（prompt）中，agent 就会失败。 系统必须区分证据和主张。 运行时（Runtime）证据必须始终优于模型假设。

记忆还需要范围和溯源。 agent 不应该看到公司里的每一条数据。 记忆需要基于角色、任务和权限来设定边界。 你还需要知道记忆的来源。 人类的评论比模型的猜测具有更高的权重。

不要再试图给 agent 更大的“大脑”了。 开始为它们可以回忆起的内容建立更好的规则。 运行时必须在上下文到达模型之前对其进行筛选。

真正的问题不在于 agent 能记得多少。 真正的问题在于你是否能信任 agent 所回忆起的内容。

Source: https://dev.to/glendel/ai-agents-dont-need-more-memory-they-need-governed-recall-3p73

Optional learning community: https://t.me/GyaanSetuAi