AI 为什么总是＂失忆＂?

新闻

作者：微信文章
用了Openclaw才发现，现在的AI Agent有点傻。
你有没有发现，AI 没有记忆力，就像一条金鱼。

就像一个没有记忆能力的人，必须靠文字把事情写下来才行。

文件就是AI智能体的大脑。

memory/YYYY-MM-DD.md → 短期记忆
MEMORY. md → 长期记忆

你和AI聊了一个小时，第二天再开一个新对话，它对你来说是个陌生人。

你不得不重新解释背景、重新说需求、重新建立信任。每次都从零开始。

AI的记忆真是一个大难题。

为了搞清楚为什么，特意研究了一下
。
AI的记忆难题，这不是bug，这是AI最底层的工程特性：它们是无状态的。

每一次对话，都是一次全新的空白。
这个问题有多严重？

不只是"麻烦"的程度。

想象一下，你雇了一个助手，他能力极强，但每天早上起来完全不记得昨天发生了什么。你花了三个月跟他说明你的工作习惯、项目背景、沟通偏好……他什么都不记得了。

现在的AI基本上就是这样。

这限制了它几件很关键的事：

• 长期任务没法持续推进• 个性化几乎做不到• 多个AI智能体协作时，大家对不上"共识"

所以整个AI工程界，有很大一块在解决这一个问题：怎么给AI装上一个靠谱的记忆系统。
人类记忆给了一个很好的参考模板



人类记忆不是一个整体，它分层。

感觉记忆：类似闪光，转瞬即逝。AI相当于：你刚输入的那条消息，处理完就没了。

短期/工作记忆：你脑子里暂时存着的东西，比如"刚才那段话的重点是什么"。AI相当于：上下文窗口。你能塞多少，就"记得"多少。

长期记忆：分三种。

• 语义记忆：你知道"水在零度结冰"这种客观事实。AI对应的是RAG（检索增强生成）或知识库——把知识存外面，需要的时候去查。• 情景记忆：你记得"昨天的会议上Lisa说了什么"。AI对应的是历史对话日志、用户偏好记录——带时间戳的、你专属的经历。• 程序性记忆：骑自行车的肌肉记忆。AI对应的是工具调用规则、微调后固化在权重里的行为模式。

有趣的是，这三种长期记忆必须同时存在才有意义。

只有情景记忆？AI会过度迎合你一个人的偏好，变得偏执。
只有语义记忆？AI像个博学的书呆子，从不从经验中成长。
只有程序性记忆？AI只会按脚本走，一旦遇到新情况就挂掉。
两条主流路线：上下文塞满 vs 边查边用



工业界处理外部知识的方式，主要就两个方向现在打得最厉害。
路线一：直接把所有东西塞进上下文

逻辑很简单粗暴：模型的上下文窗口越来越大了，现在已经到了百万Token量级，那我直接把所有历史、所有背景、所有资料都丢进去，让它自己处理。

这个思路有时候确实很好使。前沿模型处理大量结构化上下文的能力令人惊讶。

但代价也很明显：

计算成本随长度非线性增长。 Token越多，花的钱和时间越多。

更麻烦的是一个叫"迷失在中间（Lost in the Middle）"的效应——当你塞进去几十万Token的时候，模型的注意力会偏向开头和结尾，中间那段很容易被忽视。

你写了三页重要背景放在中间，它看漏了，然后给你一个错误答案。这不是偶发，这是规律性的现象。
路线二：RAG，边查边用

RAG（Retrieval Augmented Generation，检索增强生成）的思路不一样。

它不是把所有东西塞进去，而是先把知识切碎、变成向量，等AI需要的时候，通过语义相似度去搜索相关片段，只把相关部分喂给模型。

成本效益高很多——据测算，纯RAG方案每次查询的成本大约是长上下文方案的1/1250。在处理海量高频更新的数据库时，RAG几乎是唯一实际可行的方案。

但RAG有个根本性的问题：向量是死的，世界是活的。

具体来说：

它分不清谁的数据是谁的。 如果你的系统里有一万个用户，传统RAG在检索时不会自动隔离用户数据，理论上可能把A的记录检索给B。

它不懂时间。 如果用户上个月住在北京，这个月搬去上海，系统里两条记录都存着。向量搜索没有"这条是旧的应该忽略"的概念，于是新旧相矛盾的事实可能同时被检索出来喂给模型，让它产生幻觉。业界管这个叫"土拨鼠之日效应"——一遍又一遍地活在同一个矛盾的情境里，出不来。

为了修补这些问题，工程师们不得不在RAG外面套混合搜索、重排序、元数据过滤……

结果原本毫秒级的检索延迟被推到了接近一秒。用户感受直线下降。
专门为AI智能体记忆设计的框架



传统RAG打补丁解决不了的问题，催生了一批专门的记忆框架。
Letta（原MemGPT）：把LLM当操作系统来用

Letta有一个很酷的类比：

大语言模型 = CPU
上下文窗口 = RAM（内存，有限）
外部存储 = 磁盘（无限，但读写需要操作）

传统方案是什么？程序员手动拼接提示词，把该记的东西硬塞进上下文，像个笨拙的内存管理员。

Letta让AI自己来管。

Letta给AI配了一套工具——core_memory_replace（更新记忆块）、archival_memory_search（从外部磁盘搜索历史）——AI会自己判断什么时候需要调这些工具，什么时候需要把什么写进去，什么时候需要清理掉什么。

它还有个设计特别有意思：内部独白。

AI在给你回复之前，会先在脑子里走一遍隐藏的推理过程，评估当前对话的重要程度，决定要不要更新记忆。这个内部独白你看不到，但它一直在发生。

还有一个"心跳"机制，允许AI在不等你发新消息的情况下，自己主动执行多轮内部推理，处理后台任务、异步更新状态。

整体来说，Letta的思路就是：让AI像操作系统一样自主管内存，而不是靠外部程序员手动操控。
Mem0 和 Zep：向量 + 知识图谱的双引擎



传统向量数据库的缺陷之一是处理不了"多跳推理"——比如"谁在哪个项目里向谁汇报"这种需要跨多个节点推导的问题。

Mem0和Zep的解法是：向量存语义相似度，图谱存关系结构，两个引擎按需切换。

Mem0的核心设计是用户隔离。它不是在一个全局向量库里搜索，而是给每个用户维护独立的记忆图谱，检索时只在你自己的圈子里查。这从架构层面解决了跨用户数据泄露的隐患。

更关键的是，Mem0在摄入新信息时，不是简单地"追加一条记录"，而是实时分析这条信息是否和用户已有的某条记忆冲突，如果冲突就直接覆写更新。土拨鼠之日效应被从根本上解决了。

在LOCOMO基准测试（专门评估长期对话记忆的黄金标准）上，Mem0对比基础大模型记忆方案：

• 准确率相对提升 26%• 查询P95延迟降低 91%• Token消耗节省 90%

三个维度同时赢。

还有一家叫Cognee的做了一个叫"Dreamify"的东西——模拟人类睡眠期间的突触修剪，在后台对数据节点做重连和优化。在需要跨多个文档推理的任务上，表现超越了大多数基线方法。
生成式智能体：记忆让AI活起来



斯坦福大学做了一个叫Smallville的实验——一个有25个AI角色的虚拟小镇，每个角色都有名字、职业、社会关系。

他们没有给每个角色硬编码行为树，而是完全依靠记忆系统来驱动行为。

每个角色有一个记忆流，按时间排列，记录了它所有的感知、对话、行动。

当角色决定下一步做什么时，它会用一个三维评分机制来检索记忆：

• 近期性：越近的记忆权重越高，随时间指数衰减• 相关性：跟当前情景语义相关的记忆被优先召回• 重要性：提前由LLM给每条记忆打1-10分——"喝了杯水"得1分，"目击了一场火灾"得10分

更有意思的是反思机制。

角色会定期回顾近期记忆，提炼出更高层次的"信念"。

比如：

• 原始记录：Alice三次按时交付代码，Alice主动重构了一个模块• 反思生成的新记忆：Alice是一个极其尽责且技术高超的程序员

这条信念本身变成了一条新的记忆，影响后续行为。

实验结论很惊人：这些AI角色展现出了自发形成社会关系、记住承诺并履行、建立长期目标的行为，没有任何硬编码。

纯粹靠记忆系统涌现出来的。
把记忆直接写进权重：参数化记忆的野心

以上说的全是"外部记忆"——把东西存在模型外面，需要的时候检索进来。

这个思路不可避免地带来两个摩擦：检索延迟，以及检索出来的东西不够"丝滑"地融入推理过程。

有没有办法把记忆直接写进模型本身？
Google Titans：推理时实时学习



Google Titans做了一件以前被认为几乎不可能的事：让模型在推理的同时，实时更新自己的参数。

传统认知里，模型推理时权重是冻结的，学习只发生在训练阶段。Titans打破了这个边界。

Titans引入了一个叫"惊讶度"的指标——本质上是模型预测的损失梯度。

逻辑很直觉：

• 输入的信息是"废话"（预期内的、重复的）→ 梯度极小 → 模型不记它• 输入的信息反常识、或者包含重要的新知识 → 梯度大 → 模型把它编码进当前会话的神经参数里

同时，Titans还引入了自适应权重衰减，充当遗忘门——老的不那么重要的信息会慢慢被平滑清除，让容量不会溢出。

配合着一个叫Infini-attention的机制（把压缩记忆模块直接嵌进注意力层，实现了114倍的内存压缩），一个1B参数的小模型能以流式方式处理无限长的上下文，内存和计算消耗保持在固定边界内。

Titans的意义不只是工程优化，它代表了一个范式的转变：AI模型第一次真正意义上可以在对话过程中"学习"，并把新知识内化为直觉。
还没解决的真实难题

承认吧，进展很快，但问题没有几个被彻底解决。


灾难性遗忘

这是深度学习的一个老病——当你用新数据更新模型权重时，旧知识会被破坏。不是渐进衰减，是灾难性崩塌。

1989年就被发现了，到现在依然没有完美解法。

2025年出现了一个新尝试：动态LoRA专家混合架构，通过实时评估新任务对Transformer各层的敏感度，动态决定在哪里注入低秩适应参数，尽量避免踩到旧知识的"敏感神经"。

有效，但没有根治。
记忆污染：一个错误信念可以毁掉整个系统

在强调自主记忆巩固的系统里（比如Letta），AI会自己提炼经验，生成"信念"写进长期记忆。

问题在于，这个反思过程是单体的，没有外部校验。

一旦AI从偶发事件里得出了错误的因果推断——比如把一次网络延迟错误归因于某段特定的代码——这个错误信念就进了长期记忆。随后的每一次交互，AI都会基于这个错误信念行动，并且把结果解读为"验证了这个信念"。

确认偏误的闭环。越来越深。

目前没有系统级的解决方案来识别和清除这类错误信念。
多智能体的一致性灾难

当多个AI智能体协同工作时，每个智能体看到的上下文不完全相同，它们会发展出不同的"局部真理"。

在资源调度或决策制定上，这会导致死锁、冲突，甚至系统级崩溃。

更麻烦的是，一旦有一个智能体向共享记忆里写入了错误信息，涟漪效应会感染所有下游节点。

而且代价极高——实测数据显示，多智能体系统的Token消耗通常是单次对话的15倍以上。协调本身就是巨大的开销。
评估这些记忆系统有多难？

顺带说一句，评估AI记忆能力这件事，比听起来难很多。

你不能用MMLU那种静态知识问答来测时序感知和跨会话一致性。

目前学术界建立了几个专门的基准：

• LOCOMO：包含多角色、多会话的深层对话数据集，考察时序推理、多跳推理、对抗性抗干扰• LongMemEval：上下文深度突破百万Token，专门测参数化记忆模型的长期可靠性• MemoryAgentBench：测智能体级别的自主记忆存取能力，上下文最长达144万Token

这些基准提供了一把相对靠谱的量化尺子，但距离"真实世界的复杂记忆任务"还有距离。
往哪个方向走



综合来看，方向其实比较清晰了，就是执行难度大。

记忆整合会自动化。 就像人类靠睡眠把短期记忆转化为长期记忆，未来的AI会在后台"睡眠"——合并相似条目、清除过期事实、提炼高维洞见。已经有一些框架（比如MemInsight）在实验这个方向。

AI的记忆会成为协议。 MCP（模型上下文协议）这类标准正在推进统一的上下文管理规范，让不同智能体能以共同语言来共享、校验、同步记忆，而不是各说各话。未来的多智能体网络会内置类似区块链共识机制的东西，来保证共享状态的一致性。

下一代基座模型出厂就带原生长期记忆。 Google Titans已经预示了这个走向。模型不再是静态文件，而是内置神经可塑性记忆单元的"活体"——能在推理时在线学习，在对话中实时内化新知识。

在这套体系成熟之前，外部记忆系统（向量引擎 + 时序知识图谱）和参数化记忆会并肩存在，由一个元控制层来动态决策"这次查外部记忆更快，还是直接用神经网络里的直觉更好"。

---

最后说一句很现实的话：

记忆不仅仅是AI的一个功能模块，它是AI能否真正成为"智能体"而不是"工具"的核心分水岭。

一个没有记忆的AI，每次都从零开始，无法持续学习，无法建立关系，无法跨越时间维度做判断。

记忆机制的突破，是AI从"会回答问题"到"能陪你走完一段旅途"之间那道真正的门槛。

这道门还没完全打开。但已经有人在搬锁了。