Anthropic:Agent 记忆的关键在于懂得遗忘,而非存多少
核心要点
- Anthropic 测试了 Claude 如何在跨会话中通过笔记文件存储信息,并从中检索以完成后续任务。
- 测试表明,有选择地记录策略和规则比记录每一步都更有效,后者会因过时的数据而让模型不堪重负。
- 通过一种名为“Dreaming”的会话后处理机制,系统会在空闲期间分析早期会话记录,独立修正错误的笔记并构建结构化的知识库。
Anthropic 研究了 Claude 如何跨会话保留知识。其测试显示,选择性笔记比全面档案更高效,且让 Claude 在事后回顾其自身记忆可以纠正错误。
任何与 AI agent 合作多天的人都会迅速遭遇瓶颈,因为每个新会话都从零开始。在研究博客中,Anthropic 描述了 Claude 如何在模型本身不变的情况下跨会话保留知识:Claude 向一个文件夹写入笔记,以便日后读回。
据 Anthropic 称,核心问题是选择。在了解接下来会发生什么之前,agent 必须当场判断哪些信息日后可能重要,因此每条笔记都是对未来的押注。

试图保存一切的 agent 会迷失方向
在 Anthropic 用《宝可梦 红》进行的测试中,较老的 Claude Sonnet 3.7 把所有信息都当作可能有用来保存,在约 1 万步游戏过程中创建了 413 个文件、225 个文件夹,常常为每一场战斗、每一件捡到的物品单独建文件。由于游戏状态不断变化,这些存档很快过时。有时模型干脆不玩游戏,只顾整理笔记,最终只拿到一枚徽章。
较新的 Claude Fable 5 把记忆控制在几个文件之内,拿到了四枚徽章。Fable 5 不会记录屏幕上已经能看到的信息,只写下计划、策略和自己验证过的规则。不过,Anthropic 的对比中每个模型只玩了一遍。

Anthropic 建议向 Claude 说明记忆的用途,让模型自行决定如何使用。据 Anthropic 称,在某个基准测试中,"只记录错误"这类死板的指令几乎抹掉了更强模型的大部分优势;而较老的模型反而受益于明确的指令,比如被告知每次回答前要真正读一遍自己的笔记。

“做梦”机制旨在修复虚假记忆
更大的风险在于智能体盲目信任后续其生成的错误笔记。
在 Pokémon 测试中,Claude 错误地记录了地标位于山体的哪一侧。由于依赖这条错误笔记,Claude 三次陷入同样的陷阱,最终因想要放弃而错失了目标。经过一次“做梦”过程后,Claude 通过对照会话记录发现笔记中的错误,并找到了正确的路径。

Anthropic 认为,Dreaming 还能整理更大规模的知识库。Claude 基于 Anthropic 收购的软件公司 Stainless 的约 35 万份内部文档,构建了一个互链的 wiki。Dreaming 在生成新页面的同时,还能修复缺漏、重复内容和失效链接。效果最好的用法是把 wiki 与搜索结合起来,让 wiki 作为补充而非替代方案。

在 Anthropic 另一项法律领域的测试中,wiki 对答案分散在多份文档中的问题帮助最大:借助 wiki,Claude 的得分达到 87%,而仅用搜索只有 73%。对于简单的查找任务,wiki 的表现与搜索基本持平,甚至有一次 wiki 的规模反而超过了源文档本身。
记忆功能仍在完善中
Anthropic 承认,关键问题仍待解决。任务中途做笔记会分散 Agent 的注意力;Dreaming 功能需要额外的算力,且结果存在延迟。维基和笔记还需要定期维护,否则错误和幻觉会不断累积。Anthropic 还警告,不要向每个会话自动加载过多记忆,因为这会挤占上下文,并将任何不良记录传递到所有后续会话中。
所有测试均来自 Anthropic。总体结论是,有用的 Agent 记忆系统,重点不在于尽可能多地存储,而在于保留正确信息并在后续纠正错误。
Anthropic 于 5 月推出了 Dreaming,作为 Claude 托管 Agent 研究预览版及该公司 AI Agent 云平台的一部分。该服务读取现有的内存库和多达 100 个历史会话,移除重复和过时条目,并创建一个新的整理过的库,同时保持原始数据不变。发布时,Dreaming 仅支持 Claude Opus 4.7 和 Sonnet 4.6。
OpenAI 也将其在 6 月全面改造的 ChatGPT 记忆功能称为“Dreaming”。该系统在后台维护用户配置文件,并自动更正过时信息。据 OpenAI 称,这将时间准确性从 52.2% 提升至 75.1%。
谷歌和 Google DeepMind 的研究人员也让 AI Agent“做梦”,但他们利用做梦来改进 Agent 的搜索策略。他们的 Agent 利用已存储的结果来探索替代方案,而无需再次调用模型。谷歌还开发了WikiSkill,一个专供 Agent 使用的维基。与 Anthropic 的系统一样,WikiSkill 将原始转录文本、提炼的知识以及具体指令存储在不同的层中。