← 文章 / AI技术
The Decoder 5天前 · 2026-11-17 01:16:38 · 17 阅读

Anthropic:Agent 记忆的关键在于懂得遗忘,而非存多少

Image description

核心要点

  • Anthropic 测试了 Claude 如何在跨会话中通过笔记文件存储信息,并从中检索以完成后续任务。
  • 测试表明,有选择地记录策略和规则比记录每一步都更有效,后者会因过时的数据而让模型不堪重负。
  • 通过一种名为“Dreaming”的会话后处理机制,系统会在空闲期间分析早期会话记录,独立修正错误的笔记并构建结构化的知识库。

Anthropic 研究了 Claude 如何跨会话保留知识。其测试显示,选择性笔记比全面档案更高效,且让 Claude 在事后回顾其自身记忆可以纠正错误。

任何与 AI agent 合作多天的人都会迅速遭遇瓶颈,因为每个新会话都从零开始。在研究博客中,Anthropic 描述了 Claude 如何在模型本身不变的情况下跨会话保留知识:Claude 向一个文件夹写入笔记,以便日后读回。

据 Anthropic 称,核心问题是选择。在了解接下来会发生什么之前,agent 必须当场判断哪些信息日后可能重要,因此每条笔记都是对未来的押注。

Two Pokémon Red map segments showing the player character at a ledge near Mt. Moon. On the left, it walks toward the next city with a wrong note; on the right, it heads back to the cave entrance with the corrected note.
关于 Pokémon 中心位置错误笔记导致 Claude 反复从悬崖跌落后返回。 | 图片:Anthropic

试图保存一切的 agent 会迷失方向

在 Anthropic 用《宝可梦 红》进行的测试中,较老的 Claude Sonnet 3.7 把所有信息都当作可能有用来保存,在约 1 万步游戏过程中创建了 413 个文件、225 个文件夹,常常为每一场战斗、每一件捡到的物品单独建文件。由于游戏状态不断变化,这些存档很快过时。有时模型干脆不玩游戏,只顾整理笔记,最终只拿到一枚徽章。

较新的 Claude Fable 5 把记忆控制在几个文件之内,拿到了四枚徽章。Fable 5 不会记录屏幕上已经能看到的信息,只写下计划、策略和自己验证过的规则。不过,Anthropic 的对比中每个模型只玩了一遍。

Two treemaps at the same scale compare the memory folders of Claude Sonnet 3.7 with 413 files and about 978,000 characters against Claude Fable 5 with 10 files and about 43,000 characters.
玩《宝可梦》时,Sonnet 3.7 几乎什么都存,而 Fable 5 只保存策略和已验证的规则,因此走得更远。| 图片来源:Anthropic

Anthropic 建议向 Claude 说明记忆的用途,让模型自行决定如何使用。据 Anthropic 称,在某个基准测试中,"只记录错误"这类死板的指令几乎抹掉了更强模型的大部分优势;而较老的模型反而受益于明确的指令,比如被告知每次回答前要真正读一遍自己的笔记。

左侧为 Sonnet 4.6 的柱状图,显示无记忆时得分为 0.330,有记忆时为 0.364,有记忆且附带精炼指令时为 0.641。右侧展示了当模型被指示仅记录失败项时,记忆带来的收益下降情况。
具体的记忆规则有助于提升旧模型的表现,而较强的模型在遵循僵化指令时表现反而更差。| 图片来源:Anthropic

“做梦”机制旨在修复虚假记忆

更大的风险在于智能体盲目信任后续其生成的错误笔记。展示两次会话之间记忆层级的示意图,包括会话记录、记忆笔记、如维基等记忆表示形式以及注入的上下文,整体被标记为“做梦”的区域框定。

在“做梦”期间,Claude 会在空闲时段处理旧会话记录,并基于此构建其记忆的高层结构。| 图片来源:Anthropic

在 Pokémon 测试中,Claude 错误地记录了地标位于山体的哪一侧。由于依赖这条错误笔记,Claude 三次陷入同样的陷阱,最终因想要放弃而错失了目标。经过一次“做梦”过程后,Claude 通过对照会话记录发现笔记中的错误,并找到了正确的路径。

Line chart tracking progress toward Cerulean City over 3,000 actions. The run with memory and Dreaming reaches the city after 1,935 actions; the runs without memory and without correction never do.
只有借助 Dreaming 修正过的笔记,Claude 才成功穿过月见山抵达华蓝市。| 图片来源:Anthropic

Anthropic 认为,Dreaming 还能整理更大规模的知识库。Claude 基于 Anthropic 收购的软件公司 Stainless 的约 35 万份内部文档,构建了一个互链的 wiki。Dreaming 在生成新页面的同时,还能修复缺漏、重复内容和失效链接。效果最好的用法是把 wiki 与搜索结合起来,让 wiki 作为补充而非替代方案。

Line chart showing the share of graded criteria met across 25 questions about a document corpus. Wiki plus search rises from 54 to 61 percent, the wiki alone from 13 to 48 percent, and search alone stays at 53 percent. Two network graphs show the wiki after 2 and after 128 sessions.
Claude 处理 Stainless 文档 wiki 的时间越长,答题表现就越好,其中 wiki 与搜索结合使用的效果最佳。| 图片来源:Anthropic

在 Anthropic 另一项法律领域的测试中,wiki 对答案分散在多份文档中的问题帮助最大:借助 wiki,Claude 的得分达到 87%,而仅用搜索只有 73%。对于简单的查找任务,wiki 的表现与搜索基本持平,甚至有一次 wiki 的规模反而超过了源文档本身。

记忆功能仍在完善中

Anthropic 承认,关键问题仍待解决。任务中途做笔记会分散 Agent 的注意力;Dreaming 功能需要额外的算力,且结果存在延迟。维基和笔记还需要定期维护,否则错误和幻觉会不断累积。Anthropic 还警告,不要向每个会话自动加载过多记忆,因为这会挤占上下文,并将任何不良记录传递到所有后续会话中。

所有测试均来自 Anthropic。总体结论是,有用的 Agent 记忆系统,重点不在于尽可能多地存储,而在于保留正确信息并在后续纠正错误。

Anthropic 于 5 月推出了 Dreaming,作为 Claude 托管 Agent 研究预览版及该公司 AI Agent 云平台的一部分。该服务读取现有的内存库和多达 100 个历史会话,移除重复和过时条目,并创建一个新的整理过的库,同时保持原始数据不变。发布时,Dreaming 仅支持 Claude Opus 4.7 和 Sonnet 4.6。

OpenAI 也将其在 6 月全面改造的 ChatGPT 记忆功能称为“Dreaming”。该系统在后台维护用户配置文件,并自动更正过时信息。据 OpenAI 称,这将时间准确性从 52.2% 提升至 75.1%。

谷歌和 Google DeepMind 的研究人员也让 AI Agent“做梦”,但他们利用做梦来改进 Agent 的搜索策略。他们的 Agent 利用已存储的结果来探索替代方案,而无需再次调用模型。谷歌还开发了WikiSkill,一个专供 Agent 使用的维基。与 Anthropic 的系统一样,WikiSkill 将原始转录文本、提炼的知识以及具体指令存储在不同的层中。

原始来源: The Decoder

评论 (0)