第 243 题：大模型的长期记忆，外部记忆模块的检索增强？
题目
大模型的长期记忆，外部记忆模块的检索增强？
完整讲解
一、长期记忆的需求
- 模型上下文有限，无法容纳用户全部历史；外部记忆模块 将长程信息存于可检索存储，按需取回并注入当前上下文，实现「长期记忆」。
二、外部记忆与检索增强
- 存储内容：用户长期偏好、重要交互摘要、跨会话的关键事件（购买、订阅）、产品知识等；可向量化存于向量库或结构化存于 DB。
- 检索：根据当前 query/对话状态检索相关记忆片段（top-k 向量检索或规则触发），与当前轮输入一起拼成 Prompt。
- 更新：新交互发生后，用模型或规则生成摘要或 embedding，写入记忆库；可设容量与遗忘策略（如按时间衰减、重要度采样）。
- 与 LLM 的配合：检索到的记忆作为 context 注入，LLM 在「当前输入 + 长期记忆」基础上生成推荐或回复，避免遗忘与重复推荐。
三、设计要点
- 记忆表示要紧凑且可检索；更新需平衡新鲜度与噪声；隐私与合规要求高时需脱敏与访问控制。
面试要点
- 能说清长期记忆的架构：外部存储 + 按需检索 + 注入 Prompt；存储内容与更新策略。
- 能说明检索方式（向量/规则）、更新时机与遗忘策略，以及与 LLM 的衔接。
记忆要点
- 长期记忆：外部记忆库存储长程信息，检索后注入上下文；内容可为偏好、摘要、关键事件。
- 更新与检索：新交互写摘要/embedding；按 query 或状态检索；可设容量与遗忘策略。