Skip to content

使用和管理记忆库

记忆库为智能体提供记忆条目写入和检索所使用的存储。你可以在控制台中搜索、查看、纠正和删除其中的记忆条目。

判断是否需要记忆库

根据需要保留和检索的信息范围,选择会话上下文、知识库或记忆库。

  • 理解当前会话中已经说过的内容:使用会话上下文。
  • 检索产品手册、制度或其他已入库资料:使用知识库。
  • 保存可供后续交互检索的事实、偏好或上下文:使用记忆库。

第一次启用记忆时,建议为测试智能体准备一个专用记忆库,在 交互模式 中选择 TOOL,并用一个测试调用方完成写入、新会话检索、更正和删除。完成验收前,不要保存个人信息或业务敏感数据,也不要将这个记忆库添加到供其他用户创建实例的智能体模板。

记忆库的共享范围由智能体连接的具体记忆库决定。多个智能体实例连接同一个现有记忆库时,它们使用的是同一份记忆数据;更换调用方、智能体实例或 session_id 都不会把该记忆库自动分成多份。使用 记忆 - 实例 保存用户私有信息时,每个隔离范围需要单独的智能体模板和记忆库;也可以由业务系统管理按用户区分的长期记忆。

验证跨会话记忆时,需要真正开始一段新会话:通过 API 调用时不发送原来的 session_id;通过支持会话指令的渠道使用时,发送 /session new。新会话会使用新的对话上下文,但不会因此创建或清空记忆库。参见管理 API 会话、调用任务和中断管理渠道会话

创建和选择记忆库

记忆库管理中的记忆库选择、内容检索、返回条数和新增记忆操作

以下入口仅在租户已启用记忆能力时可用。按钮会在新标签页打开控制台。若先进入登录页,控制台目前不会在登录后自动返回目标页面;请登录后返回本文,再次选择按钮。

  1. 打开 记忆库管理

    也可从左侧导航进入 记忆库管理

  2. 单击 记忆库 下拉框旁的 管理记忆库,打开 记忆库管理

  3. 单击 新建记忆库,填写 名称 *和可选的 描述,然后单击 创建

  4. 从页面的 记忆库 下拉框中选择要管理的记忆库。

记忆库 下拉框中的每一项显示记忆库名称和 mem-* 资源 ID。切换选择后,右侧页面显示并管理所选记忆库中的记忆条目。

为智能体模板添加记忆

选择记忆库的使用范围

先判断以后创建的智能体实例是否应使用同一个记忆库,再选择插件类型:

需要的结果插件类型创建智能体实例后的结果
多个智能体实例确实需要访问同一份记忆数据记忆 - 实例从该智能体模板创建的实例都连接所选的现有记忆库
每个新建智能体实例分别使用自己的记忆库记忆 - 模板平台根据所选模板为每个新实例准备一个记忆库资源

同一个智能体实例会在后续会话中继续使用自己的记忆库;创建新会话不会创建新的记忆库。

记忆 - 模板 仅在列表中已有可选模板时使用。记忆库管理 页面不提供模板创建入口。如果列表为空,而业务要求每个新实例使用独立记忆库,请联系平台管理员确认可用配置,或由业务系统管理按用户区分的长期记忆;不要用一个包含私有数据的现有记忆库代替独立资源。

使用 记忆 - 模板 时,在智能体模板的 插件配置 中添加插件,选择已有记忆模板和 交互模式并保存。随后在智能体模板详情页的 插件 页签中确认记忆模板关联,再创建或更新智能体实例。

连接现有记忆库

警告

“记忆 - 实例”会共享同一个记忆库

智能体模板选择 记忆 - 实例 后,从该模板创建的所有智能体实例都会连接所选记忆库。控制台页面的可见范围不改变这一资源关系;其他用户通过该模板创建的智能体实例仍可使用其中的记忆。不要把个人或私有记忆库连接到供他人复用的智能体模板。

需要隔离时,为每个隔离范围使用单独的智能体模板和记忆库;环境中已有可选的 记忆 - 模板 时,也可以让平台为每个新实例准备独立记忆库。有关创建实例时的资源关系,参见为多个智能体实例规划记忆库

需要连接现有记忆库时:

  1. 创建或编辑智能体模板,打开 插件配置
  2. 单击 添加插件,并在 类型 中选择 记忆 - 实例
  3. 选择实例 中选择刚才创建的记忆库。
  4. 选择 交互模式并保存智能体模板。
  5. 在智能体模板详情页的 插件 页签中确认记忆实例名称和资源 ID。
  6. 创建智能体实例,或更新已有智能体实例的配置,然后测试记忆行为。

选择写入和检索方式

交互模式决定记忆由平台自动处理,还是由智能体通过工具按需处理。交互模式不会改变记忆库的共享范围。

使用意图控制台选项上线前应验证的结果
让智能体决定何时保存和检索TOOLTrace 中出现相应工具调用,记忆库出现正确条目;同一调用方在新会话中实际调用检索工具并返回该事实
让平台自动保存并提供相关记忆AUTO_EXTRACT_AND_INSERT完成交互后,记忆库出现正确条目;同一调用方在新会话中无需显式调用记忆工具即可使用相关事实
自动保存,但仅在智能体需要时检索AUTO_EXTRACT_AND_TOOL完成交互后,记忆库出现正确条目;同一调用方在新会话中实际调用检索工具后使用该事实

建议从 TOOL 开始。工具调用会出现在 Trace 中,便于确认智能体何时保存、检索、修改或删除记忆。系统提示词应说明哪些信息可以保存,以及什么时候使用记忆工具。

自动方式可以减少显式工具调用,但在用于生产数据前,需要在预发布智能体实例中分别验证自动写入、跨会话检索、错误事实处理和事实更新。某种自动方式未达到对应验收结果时,改用已经通过验证的 TOOL,或暂停在该场景中使用记忆。

自动提取可能在智能体完成回复后继续处理。测试时等待当前交互完成,再刷新 记忆库管理。如果等待和刷新后仍未达到所选模式的验收结果,请暂停上线,记录智能体实例、记忆库、交互模式、调用方式和测试输入,并联系平台管理员。

智能体回复“已记录”或 Playground 将记忆工具显示为“已完成”,都不能单独证明记忆已经写入。至少同时确认记忆库中出现正确条目,并在同一调用方的新会话中完成检索。如果 新增记忆 失败,请记录发生时间、记忆库和页面错误信息,并联系平台管理员。确认能够成功创建和查看记忆后,再继续验证智能体行为。

验证记忆行为

使用不含敏感信息的测试事实完成一次写入、检索和纠错闭环:

  1. 通过目标智能体实例提供一条允许保存的测试事实。
  2. 等待当前交互完成,在 记忆库管理记忆库 下拉框中选择该智能体实例使用的资源并刷新,检查是否出现正确条目。
  3. 使用相同调用方新建会话,并询问该事实。不要复用原会话作为跨会话记忆的证明。
  4. 修改测试事实,检查后续回答是否使用新值,并搜索和处理仍然存在的旧条目。
  5. 删除测试记忆,再确认后续交互不再使用该事实。
  6. 比较启用和停用记忆时的回答正确性、延迟和上下文用量。

分别验证所选交互模式。TOOLAUTO_EXTRACT_AND_TOOL 需要检查智能体是否实际调用了记忆工具;没有工具调用时,不能仅根据记忆库中存在条目判断检索已经生效。

如果对话中显示写入成功,但刷新后没有条目,或者新会话无法检索到该事实,应按写入失败处理。重试前先刷新并搜索该事实,确认没有延迟写入的条目,避免产生重复记忆;仍然失败时,记录失败时间、智能体实例、记忆库、交互模式和 Trace,并联系平台管理员。

验证多个调用方的记忆范围

同一个现有记忆库会在连接该记忆库的智能体实例之间共享。只有业务本来就要求共享这些记忆时,才让多个调用方使用该资源,并用不含敏感信息的事实确认共享结果符合预期。

业务要求不同用户不能互相读取记忆时,应先为两个测试用户准备不同的记忆库,再完成以下验证:

  1. 用户 A 保存“我的测试颜色是红色”。
  2. 用户 B 保存“我的测试颜色是蓝色”。
  3. 两位用户分别新建会话并询问自己的测试颜色。
  4. 确认用户 A 只得到红色,用户 B 只得到蓝色,且双方都无法检索另一方的测试事实。
  5. 分别删除两条测试记忆并再次确认。

任何一位用户能够检索到另一位用户的测试事实时,应停止保存用户私有信息,并检查两个智能体实例是否仍然连接同一个记忆库。无法为不同用户准备独立记忆库时,请由调用方业务系统管理长期用户记忆。

搜索和纠正记忆

手动选择 新增记忆 时,infer 决定是否先从输入内容中提取适合保存的记忆。输入内容已经是一条完整、明确的事实时,可以取消选择 infer 并直接保存。infer 只影响这次手动新增操作,不会改变智能体模板中选择的 交互模式。如果启用 infer 后无法新增,请取消选择并用不含敏感信息的完整事实验证直接保存;仍然失败时,记录页面错误并联系平台管理员。

记忆库管理 中:

  1. 记忆库 下拉框中选择要管理的资源。
  2. 使用 检索记忆内容 检查相似记忆,或使用 通过记忆 ID 获取 精确查询。
  3. 选择 查看,在 记忆详情 中核对内容、用户 ID、标签和创建时间。
  4. 选择 编辑,在 编辑记忆 中修改 记忆内容,再选择 更新
  5. 再次搜索,确认新内容可以被检索且旧表述不再返回。
  6. 需要移除条目时,选择 删除,在 确认删除 中选择 删除,再重新搜索确认条目不再返回。

如果同一事实存在多条冲突记忆,仅编辑一条可能仍留下旧值。先搜索所有相关表述,再逐条纠正或删除。

记忆库列表不能代替多用户隔离测试。当智能体可以使用某条记忆,但在所选记忆库中无法搜索到相应条目时,不要据此判断该记忆已经不存在。记录智能体实例、记忆库、调用方账号和测试会话,联系平台管理员确认后再执行纠正或删除。

控制记忆对性能和质量的影响

  • 只保存后续交互确实需要的稳定事实和偏好;不要把完整对话、临时工具输出或可从知识库检索的资料重复保存为记忆。
  • 定期搜索并删除重复、过期和冲突条目。更多相似条目不等于更可靠,反而可能增加检索内容并造成回答冲突。
  • 使用固定测试问题比较启用和停用记忆时的正确性与延迟。检索到的记忆也会占用模型上下文。
  • 工具方式中,系统提示词应明确什么时候保存、检索、修改和删除记忆,并通过 Trace 确认模型没有在普通问答中反复调用记忆工具。
  • 自动方式中,不要把回复已经完成当作记忆已经写入的证明;等待、刷新并完成新会话检索后再判定成功。

删除记忆或记忆库

删除单条记忆不可撤销。删除前记录记忆 ID,并确认它不再是业务所需事实。删除后重新搜索并通过目标智能体实例验证该事实不再被使用。

控制台删除记忆库后不能直接恢复。删除前完成必要留存,并向平台提供方和外部数据负责人确认适用的备份、恢复与保留策略。

了解使用范围和限制

  • 多个智能体实例可以引用同一个现有记忆库。只有在这些实例确实应访问同一组记忆时才这样配置。
  • 即使为不同智能体实例分别使用单独的记忆库,也不等于同一个实例内的最终用户已经自动隔离。处理用户数据前,请使用不同调用方账号验证写入和检索范围。
  • 每个智能体实例使用一个记忆插件。需要不同记忆范围时,请使用不同的智能体实例或记忆库。
  • 控制台支持搜索、编辑和删除记忆条目。保留期限、自动去重、记忆修订、召回阈值和最终用户自助删除由组织的数据流程或外部系统管理,并需要明确责任人。

警告

记忆可能包含个人信息或业务敏感数据。启用记忆前,租户管理员和智能体实例负责人需要明确允许保存的信息、调用方标识、保留、纠错和删除规则,并指定责任人。