第8篇：Agent 记忆管理 —— 让 LLM 不再“每次都是第一次见面“-北京尧图网络

LLM 本质无状态——参数在训练后固定每次请求独立前后对话无关联。所谓的记忆本质是把历史对话拼接到输入 x 中利用注意力机制假装有记忆。这个假装的关键局限是上下文窗口是有限的。你不可能把半年的对话历史全塞进去。这就需要记忆管理——有选择地记住什么、忘记什么、如何组织和检索。一、分层的记忆架构绝大多数 Agent 系统的记忆都分为三层工作记忆、短期记忆、长期记忆。工作记忆Working Memory当前对话中正在处理的信息。这实际上是 LLM 的上下文窗口本身——包含当前用户输入、已加载的 Skill 定义、短期历史。工作记忆的特点是每次请求重置。短期记忆Short Term Memory仅当前 Session 有效用 Redis 存储快、可自动过期。避免 Token 超限不需要每次带上全部历史只取最近相关的内容。典型实现滑动窗口保留最近 N 轮对话如最近 20 轮超出后丢弃最旧的摘要压缩超过限制时将聊天历史发给 LLM 压缩保留核心意思。压缩后信息密度更高但细节丢失滑动窗口适合大多数场景——简单、高效、信息无损失被丢掉的通常是最不相关的早期对话。摘要压缩适合需要保持整体语境的场景但每次压缩都有信息损失。长期记忆Long Term Memory跨 Session 的记忆包括两部分用户画像User Profile积累用户姓名、性别、年龄、喜好、职业、近期任务等信息用普通数据库存储。这些信息可以直接通过 System Prompt 注入。记忆片段通过向量数据库存储语义总结每次 Session 结束或每 N 条消息做一次语义总结。查询时通过语义检索找到相关片段。长期记忆的设计要点是有损摘要——不需要记住每一句话只需要记住发生了什么、用户在意什么。二、三种 Memory 方案对比方案一传统数据库用 Redis / PostgreSQL 存储对话历史每次请求取出拼接。优点精确、可靠、可查询支持结构化检索“上个月用户问了哪些关于数据库的问题”缺点存储成本高、检索需要额外逻辑需要设计 Schema、索引方案二Markdown 蒸馏每次 Session 结束用 LLM 将对话历史蒸馏为 Markdown 格式的摘要存为 MEMORY.md 等文件。下次加载这些文件作为 Context。优点简洁、高效、人类可读可以直接打开文件看摘要LLM 原生理解 Markdown缺点信息可能丢失蒸馏有损不支持结构化查询方案三记忆晋升Memory Promotion以 OpenClaw 为例的Dreaming系统MEMORY.md长期记忆人工/AI 维护的精华摘要memory/*.md每日日志记录原始交互Dreaming自动将日志晋升到 MEMORY.md——筛选出有长期价值的信息去除日常琐碎记忆晋升的关键在于不是所有对话都值得记住。Dreaming 系统会在后台分析日志识别出用户的核心偏好、重要决策、关键约定只把这些晋升到长期记忆。维度传统数据库Markdown 蒸馏记忆晋升精确度高中有损中成本高低低可读性低高高查询能力强弱弱适合场景生产系统个人工具个人工具三、Memory vs Data 的区别概念说明Memory下一次发送给 LLM 的内容参与推理Data原始聊天记录存储不参与计算仅用于审计/回溯这个区分很重要不是所有历史数据都要变成 Memory。大多数历史只是 Data——用来做分析、审计、训练但不会进入 LLM 的上下文。四、语义搜索的价值向量检索能找到语义相关的历史记忆片段。例如用户上次讨论了React 性能优化这次问那个框架的问题向量检索能找到相关记忆提升上下文质量。语义搜索在记忆管理中的两个典型用途记忆检索从长期记忆库中检索与当前对话相关的历史片段上下文增强在 LLM 推理前将相关记忆注入到输入中如果不做语义搜索就只能靠关键词匹配——用户说上次那个时如果只用关键词搜索几乎不可能命中React 性能优化这条记忆。

第8篇：Agent 记忆管理 —— 让 LLM 不再“每次都是第一次见面“

相关推荐

米家API深度解析：Python智能家居编程控制的架构设计与实战应用

阶段六：SSE AI 流式对话

阶段五：HttpOnly Cookie 登录持久化

更多资讯

rclone WebDAV 后端全解析：从交互式配置到供应商差异与协议级实现

Puppeteer Configuration 接口完全指南：用配置文件和环境变量掌控浏览器安装与运行行为

Python GUI开发指南：PyQt5、Tkinter与Kivy对比

Remix UI 模块 README 写作方法论：write-ui-module-readme Skill 实战解析

Expo 内部 CLI expotools（et）推送前三项检查：CI 校验规则、执行位置与真实踩坑记录

基于B站用户行为分析系统Python毕业设计实战：从表结构到性能优化

今日更新

CopilotKit Vue Demo 与 React Demo 的 Parity 实现指南：路由、运行时端点与交互语义的全框架对齐

Harbor RBAC 实战：db_auth 模式下非管理员用户管理项目成员的完整验证与权限模型解析

STM32平衡车纯平衡程序从拆包到参数整定的完整调试指南

本周精选

超人会飞不算本事：系统稳定依赖清晰规则与边界设计

超人VS蜘蛛侠：拆解超级IP的影响力与传播方法论

基于CNN的调制信号识别：MATLAB实现时频图分类实战

本月热门

基于YOLO的焊缝缺陷检测：从数据标注到工业部署全流程实践

分布式服务的决策记录

创业产品的首版范围

读完文章，想聊聊您的网站？