用户先问“推荐几款手机”,接着问“第二款还有货吗”。第二次请求如果只有这一句话,模型无法知道“第二款”指什么。
多轮记忆解决的是这个指代问题:应用找回必要的历史消息,与当前问题一起发送给模型。Redis 可以保存这些消息,但“写入 Redis”还不等于完成了会话隔离、并发控制和生命周期管理。
本文依据 AgentShop 的
PortalAiMemoryService、PortalRedisChatMemory与 Store 实现整理,核对日期为 2026-09-28。重点区分当前已有机制和仍需验证的多实例行为。
1. Memory 是上下文窗口,不是完整聊天档案
LangChain4j 中三个角色容易混淆:
| 角色 | 职责 |
|---|---|
| Memory ID | 选择哪段会话 |
| ChatMemory | 管理模型使用的消息窗口 |
| ChatMemoryStore | 保存和恢复消息 |
模型每次仍然接收一份请求上下文,不是把一次 HTTP 对话永久记在模型里。窗口可以裁剪旧消息;聊天档案则可能需要长期保存、搜索和审计,两者不宜直接共用同一个无限列表。LangChain4j Chat Memory
在商城中,Memory 可以保留预算、品牌偏好和追问指代,但不能作为身份与业务事实的依据。历史里写着“我已经付款”,下一轮仍应通过订单 Tool 查询支付状态。
2. 会话 ID 要同时包含用户和话题
只用前端传入的 conversationId = phone-compare 作为 Redis Key,会让两个用户的同名会话冲突。
当前项目组合:
portal:member:{memberId}:conversation:{conversationId}其中 memberId 来自 UmsMemberService.getCurrentMember(),conversationId 才是用户选择的会话标识。
String memoryId = portalAiMemoryService.buildMemoryId( currentMember.getId(), conversationId);当前会话 ID 只允许字母、数字、下划线和中划线,最长 64 个字符;省略时使用 default。显式创建会话而没有提供 ID 时,可以由后端生成 UUID。
相同会员、相同会话 ID 应复用上下文;不同会员即使使用相同会话 ID,也必须隔离。创建、列表、删除和清空入口都需要采用同样的身份来源,不能只保护聊天接口。
3. AI Service 怎样选择记忆
当前 PortalAssistant 的方法签名是:
String chat(@MemoryId String memoryId, @UserMessage String message);PortalAiMemoryConfig 提供按 ID 创建记忆对象的 Provider:
return memoryId -> new PortalRedisChatMemory( memoryId, properties.getMaxMessages(), chatMemoryStore);PortalRedisChatMemory 构造时从 Store 恢复消息,本地增加消息、裁剪窗口后,再把适合保存的内容写回 Redis。
这里有一个关键细节:Provider 是创建某个 ID 对应记忆对象的工厂,不应假设每次 HTTP 请求都会重新执行构造器。 AI Services 会管理会话对应的记忆实例,结束会话时也需要考虑实例淘汰。AI Services 的 Memory 管理
这个区别会直接影响多实例一致性和删除语义,后面单独展开。
4. 当前轮消息与持久消息不是同一份东西
一个工具调用过程可能包含:
SystemMessageUserMessageAiMessage(请求工具)ToolExecutionResultMessageAiMessage(最终答案)当前轮需要工具请求和结果配对,框架才能继续对话;持久保存时,项目的 PortalAiMemorySanitizer 只保留文本用户消息和不带工具请求的最终助手文本。
保留到 Redis: 经过过滤的 UserMessage 经过过滤的最终 AiMessage
不原样保留到 Redis: SystemMessage 工具请求和工具结果 非文本消息Store 使用 LangChain4j 的消息 JSON Codec 序列化,再为 Redis 值设置 TTL。过滤与脱敏发生在这次写入的副本上,不能据此认为内存中的原始消息也已经被删除或脱敏。
当前配置还使用 .storeRetrievedContentInChatMemory(false),减少 RAG 原文在历史中重复积累。即使检索原文不持久化,最终答案仍可能复述政策,所以后续涉及规则时依旧应重新检索。
5. 消息数量、Token 与 TTL 分别限制什么
当前默认配置为:
mall: ai: memory: max-messages: 12 ttl-seconds: 604800 max-active-conversations: 20 lock-wait-seconds: 30 lock-ttl-seconds: 18012 条消息不等于 12 轮对话,更不等于固定 Token 数。一轮含多个工具请求时会产生更多消息;一条长文本也可能占用大量上下文。
裁剪时需要维护工具消息的配对关系。当前自定义记忆类在移除工具请求时尝试清理关联结果,但包含多工具调用和极小窗口时仍值得增加专门测试,防止留下孤立结果。
7 天 TTL 限制 Redis 消息的存活时间,写入时会刷新;它不会自动清理应用内已缓存的 ChatMemory 对象。会话数上限则限制用户索引,不能直接推导整个 JVM 中最多只有对应数量的对象。
6. 为什么需要会话列表和两种删除操作
当前前台提供:
POST /ai/portal/chatPOST /ai/portal/conversationsGET /ai/portal/conversationsDELETE /ai/portal/conversations/{conversationId}DELETE /ai/portal/conversations/{conversationId}/memory创建会话可以设置标题;列表按活跃时间排序。底层使用消息值、会话元数据 Hash 和用户 ZSet 索引,超过默认 20 个活跃会话时淘汰较久未活跃的会话。
两种删除含义不同:
- 清空记忆:保留会话入口,重新开始当前话题。
- 删除会话:同时删除消息、元数据和用户列表中的索引。
发消息时,前端继续携带相同 ID:
{ "conversationId": "phone-compare", "message": "刚才第二款有哪些颜色?"}成功结果包含 conversationId 与 answer。前端把当前话题与 ID 一起管理,避免上午选手机、下午查订单都落入一个无边界的默认窗口。
7. 会话锁解决交错写,但不自动刷新旧副本
典型的整列表存储有覆盖风险:
A 读到 [历史]B 也读到 [历史]A 写回 [历史, A]B 写回 [历史, B]当前聊天入口在模型调用外层获取 Redis 会话锁;清空与删除当前也已使用同一会话锁。释放时比较持有者随机值,再原子删除,避免旧请求删除后来者的锁。
默认等待 30 秒,租约 180 秒,没有自动续期。模型与多个 Tool 的总耗时可能超过租约,因此固定 TTL 不能证明所有情况下都互斥;需要请求预算、超时处理和失去租约后的写入限制。
更隐蔽的问题是本地副本:
实例 A 已缓存该会话的 ChatMemory实例 B 也已缓存旧版本A 持锁完成对话并写入 RedisB 随后持锁,但继续使用自己的旧列表B 仍可能覆盖 A 刚写入的消息从当前源码可见,自定义记忆只在构造时读取 Store,之后 messages() 返回本地列表。因此,Redis 锁与构造时加载的组合,不能直接推出多实例总能读取最新历史。
这属于根据生命周期推导出的待验证风险,本次未用双实例运行复现。验证时应让 A、B 先都创建同一个会话对象,再交替请求,不能每次都新建对象而绕过缓存问题。
8. 清空 Redis 后,还要处理应用内记忆
当前 clearMemory() 删除 Store 中的消息,deleteConversation() 还删除索引和元数据;PortalAssistant 没有公开 ChatMemoryAccess,这些路径没有同时驱逐 AI Service 内的记忆对象。
因此,不能把“Redis Key 已删除”直接当作“下一次模型调用已经看不到旧消息”。同一实例可能仍持有旧列表,下一次新增消息又将它写回;Redis TTL 到期也存在类似问题。
可选改进方向包括:
- 在会话锁内从 Store 刷新权威快照,再开展本轮调用。
- 为会话维护版本或代次,删除时递增代次,旧对象不能覆盖新状态。
- 正确管理 AI Service 的实例淘汰,并处理其他实例的缓存失效。
- 对持久写入增加版本条件,发现旧版本时拒绝覆盖。
仅在一个实例调用一次 evictChatMemory,不能自动清理所有实例。方案选择应与部署方式一致,不需要把所有机制都叠加进去,但必须有明确的生命周期约定。
9. Redis 失败不能伪装成“从来没有历史”
当前 Store 的读取方法捕获 RuntimeException 后记录失败并返回空列表,既可能处理 JSON 损坏,也可能掩盖 Redis 访问故障。写入与删除失败则继续抛出异常。
这意味着用户可能看到助手突然忘记上文,而不是明确知道记忆服务不可用。更清晰的策略应区分:
- 没有这个 Key:新会话或正常过期。
- 消息 JSON 损坏:记录异常并按恢复策略处理。
- Redis 不可用:明确失败,或显式提示进入无记忆模式。
涉及售后确认时,更不能因为恢复到空记忆就放宽检查;确认依据应来自独立的服务端动作记录,见售后工作流。
10. 用连续请求验证完整生命周期
单独调用 Store 的 get/set 测试,可以验证 JSON、TTL 与过滤,但不能覆盖 AI Service 的缓存行为。完整验收至少包括:
| 场景 | 检查重点 |
|---|---|
| 同会话连续追问 | 第二轮能正确理解指代 |
| 两会员使用同名会话 | 上下文严格隔离 |
| 两实例交替请求 | 不读旧副本、不覆盖新消息 |
| 聊天后清空,再追问 | 模型不再收到被清空内容 |
| TTL 到期但进程未重启 | 旧内存不恢复过期历史 |
| 长请求超过锁租约 | 不产生并发覆盖 |
| Redis 故障 | 用户与监控能辨认降级 |
测试清空时,要检查发给假模型的实际消息列表,而不仅是 Redis 调用了 delete。检查持久化脱敏时,也要区分 Store 中的内容与当前轮模型已经收到的内容。
本次重构按源码说明了已实现机制和上述生命周期限制,没有重新执行真实 Redis、多实例或真实模型测试。Memory 的目标是帮助理解上下文;商品、订单、政策与操作确认仍由各自的实时数据和业务流程负责。
If this article helped you, please share it with others!
Some information may be outdated






