第8篇：Agent 记忆管理 —— 让 LLM 不再“每次都是第一次见面“-北京尧图网络

LLM 本质无状态——参数在训练后固定每次请求独立前后对话无关联。所谓的记忆本质是把历史对话拼接到输入 x 中利用注意力机制假装有记忆。这个假装的关键局限是上下文窗口是有限的。你不可能把半年的对话历史全塞进去。这就需要记忆管理——有选择地记住什么、忘记什么、如何组织和检索。一、分层的记忆架构绝大多数 Agent 系统的记忆都分为三层工作记忆、短期记忆、长期记忆。工作记忆Working Memory当前对话中正在处理的信息。这实际上是 LLM 的上下文窗口本身——包含当前用户输入、已加载的 Skill 定义、短期历史。工作记忆的特点是每次请求重置。短期记忆Short Term Memory仅当前 Session 有效用 Redis 存储快、可自动过期。避免 Token 超限不需要每次带上全部历史只取最近相关的内容。典型实现滑动窗口保留最近 N 轮对话如最近 20 轮超出后丢弃最旧的摘要压缩超过限制时将聊天历史发给 LLM 压缩保留核心意思。压缩后信息密度更高但细节丢失滑动窗口适合大多数场景——简单、高效、信息无损失被丢掉的通常是最不相关的早期对话。摘要压缩适合需要保持整体语境的场景但每次压缩都有信息损失。长期记忆Long Term Memory跨 Session 的记忆包括两部分用户画像User Profile积累用户姓名、性别、年龄、喜好、职业、近期任务等信息用普通数据库存储。这些信息可以直接通过 System Prompt 注入。记忆片段通过向量数据库存储语义总结每次 Session 结束或每 N 条消息做一次语义总结。查询时通过语义检索找到相关片段。长期记忆的设计要点是有损摘要——不需要记住每一句话只需要记住发生了什么、用户在意什么。二、三种 Memory 方案对比方案一传统数据库用 Redis / PostgreSQL 存储对话历史每次请求取出拼接。优点精确、可靠、可查询支持结构化检索“上个月用户问了哪些关于数据库的问题”缺点存储成本高、检索需要额外逻辑需要设计 Schema、索引方案二Markdown 蒸馏每次 Session 结束用 LLM 将对话历史蒸馏为 Markdown 格式的摘要存为 MEMORY.md 等文件。下次加载这些文件作为 Context。优点简洁、高效、人类可读可以直接打开文件看摘要LLM 原生理解 Markdown缺点信息可能丢失蒸馏有损不支持结构化查询方案三记忆晋升Memory Promotion以 OpenClaw 为例的Dreaming系统MEMORY.md长期记忆人工/AI 维护的精华摘要memory/*.md每日日志记录原始交互Dreaming自动将日志晋升到 MEMORY.md——筛选出有长期价值的信息去除日常琐碎记忆晋升的关键在于不是所有对话都值得记住。Dreaming 系统会在后台分析日志识别出用户的核心偏好、重要决策、关键约定只把这些晋升到长期记忆。维度传统数据库Markdown 蒸馏记忆晋升精确度高中有损中成本高低低可读性低高高查询能力强弱弱适合场景生产系统个人工具个人工具三、Memory vs Data 的区别概念说明Memory下一次发送给 LLM 的内容参与推理Data原始聊天记录存储不参与计算仅用于审计/回溯这个区分很重要不是所有历史数据都要变成 Memory。大多数历史只是 Data——用来做分析、审计、训练但不会进入 LLM 的上下文。四、语义搜索的价值向量检索能找到语义相关的历史记忆片段。例如用户上次讨论了React 性能优化这次问那个框架的问题向量检索能找到相关记忆提升上下文质量。语义搜索在记忆管理中的两个典型用途记忆检索从长期记忆库中检索与当前对话相关的历史片段上下文增强在 LLM 推理前将相关记忆注入到输入中如果不做语义搜索就只能靠关键词匹配——用户说上次那个时如果只用关键词搜索几乎不可能命中React 性能优化这条记忆。

第8篇：Agent 记忆管理 —— 让 LLM 不再“每次都是第一次见面“

相关推荐

米家API深度解析：Python智能家居编程控制的架构设计与实战应用

阶段六：SSE AI 流式对话

阶段五：HttpOnly Cookie 登录持久化

更多资讯

中级电工证有啥补贴？官方报名入口怎么选才不吃亏

中级电工证有啥补贴千万别踩坑？考前必看的避坑指南

高压电工证要怎么考良心建议:从报名到拿证全攻略

威远哪里可以考电工证良心建议：选对培训机构，一次过证不踩坑

河池低压电工证报名地点保姆级教程：学历不高也能拿证

之前考的证在外省能不能转过来？电工证获取途径怎么填通过率揭秘

今日更新

金坛办电工证在哪里？考前押题能帮你少走弯路

怎样查看真假电工证怎么考

史密斯内部电工证值不值得考？怕考不过白交培训费的看过来

本周精选

安监局电工证分数查询怎么查才能知道含金量高不高

新疆电工作业干活累吗良心建议助你避开考不过的坑

中牟县电工证怎么报名外省证能转吗

本月热门

面向复杂光照与角度的宠物面部识别鲁棒性增强策略

基于DRV8818与STM32的双极步进电机驱动方案实战解析

DRV8818PWPR+PIC18F45K80双极步进电机控制方案实战

读完文章，想聊聊您的网站？