GraphRAG 和持久化上下文记忆正被整合进 AI 聊天机器人中，使对话在页面刷新或开启新浏览器标签页后依然能够延续。开发者表示，这种结合消除了让大多数对话式助手用户感到沮丧的“标签页关闭”式遗忘问题。

为什么传统方法力有不逮

大多数基于聊天的 AI 系统依赖于标准的检索增强生成 (RAG)。其流程是提取与当前问题相似的文本片段，将其输入语言模型，然后返回答案。对于单一事实查询——例如“法国的首都是哪里？”——这种方法效果很好。

但 RAG 将每次用户输入都视为一个孤立的请求。当后续问题依赖于几分钟前说过的内容时，模型对该上下文没有记忆。结果就是聊天机器人会要求你重复一遍，或者给出一个忽略了先前细节的答案。问题不在于缺乏智能，而在于缺乏“状态”。

GraphRAG：将扁平文本转化为网络

GraphRAG 重塑了检索阶段。它不再是提供一系列无关的文本块，而是构建一个图：

  • 节点 (Nodes) 代表实体，如人物、产品或事件。
  • 边 (Edges) 捕捉它们之间的关系——谁供应什么，哪个项目依赖于哪个组件等。

由于图结构编码了连接关系，系统可以进行多跳推理：它可以沿着跨越多个文档的事实链进行追踪，从而回答那些会让扁平文本搜索感到困惑的问题。它还可以生成整个子图的摘要，为用户提供主题的简明概述，而不是一堆零散的摘录。

上下文记忆：记住对话内容

持久化上下文记忆在图结构之上增加了一个时间维度。它分为三个部分：

  • 短期记忆 (Short-term memory) 保存当前的逐轮对话，因此用户无需重新陈述几句话前提到的观点。
  • 长期记忆 (Long-term memory) 记录跨会话的用户选择性事实——偏好语言、反复出现的问题或之前的购买记录。
  • 选择性记忆 (Selective memory) 决定保留哪些内容，丢弃填充词和无关的闲聊，以避免存储膨胀。

当用户关闭标签页后再次返回时，长期存储可以调出相关的背景信息，让聊天机器人能够从上次会话中断的地方继续。

何时使用哪种工具

  • 对于错失连接成本较低的简单事实核查，请坚持使用标准 RAG。
  • 当错误答案的代价很高，或者答案需要关联分布在多个文档中的信息时，请部署 GraphRAG。
  • 如果应用程序必须识别回访用户或在数天或数周内维持个人对话脉络，请添加上下文记忆。

构建这些层级并非即插即用的简单工作。随着源数据的变化，必须刷新 GraphRAG 索引，且记忆存储需要制定在相关性与存储成本之间取得平衡的策略。过度留存（存储说的每一个字）会迅速减慢检索速度，并让模型淹没在噪音中。

权衡

上下文记忆解决了遗忘问题。其缺点在于运维层面：维护一个实时的图结构和选择性记忆缓存需要持续的工程投入。

后续关注点

核心观点： GraphRAG 提供了关系骨干，而持久化上下文记忆提供了时间粘合剂。两者结合使聊天机器人能够在不同标签页和会话之间保持对话脉络，将令人沮丧的重置过程转变为无缝的对话体验。