Langchain创始人：Agent记忆管理大揭秘

今年3月的人工智能大会上，LangChain创始人Harrison Chase分享了一个关于Agent的演讲，其中指出了智能体目前面临的三大局限：规划、用户体验和记忆。半年多过去，记忆这个方向在LangChain家族里有什么实质进展？今天就来拆一拆。

用户当然希望系统具备记忆能力——毕竟现在各种应用都太“人性化”了。但系统本身并不自带记忆功能，需要我们有意识地往里面添加。那么问题来了：怎么加？加什么？

—— 记忆是跟特定应用程序绑定的。智能体的关键在于用户体验，而不同的用户体验又催生了不同的记忆收集和更新方式。比如PyCharm的智能体，可能优先记住开发者喜欢哪些Python库；Unify则更关注用户正在研究什么行业什么领域。没有放之四海而皆准的记忆方案。

先看看记忆的类型。在CoALA框架里，记忆被划分为三类：

1. 过程性记忆
   ：长期记忆，类似大脑的核心指令集——系统如何执行任务的底层逻辑。好比一个小孩学会骑自行车，之后就不用再从头学。CoALA论文把过程性记忆描述为权重和代码的集合，现实中几乎没有系统能自动化修改这种记忆。

2. 语义记忆
   ：对人类来说，这是学校学到的各种事实、概念含义和关联方式。在Agent中，通常通过LLM从对话或交互里提取信息来构建。这种信息是应用场景特定的，在之后类似的场景中，系统会检索这些信息并插入提示词，从而影响Agent的回应。

3. 情景记忆
   ：类比人类，回想起过去经历的特定事件或场景。实践中多通过Few-shot提示实现。如果收集了足够多的样本，还可以用动态Few-shot来实时选取最相关的例子。这对于指导Agent“按之前成功的方式”执行特定操作非常有用。反过来，如果事情没有唯一正确的做法，或者Agent不断面对新场景、旧例子帮不上忙，那么语义记忆就更有价值。

如何更新记忆？

更新记忆有两种典型路径。

第一种是

：系统在响应回复之前，明确决定记住某个事实。ChatGPT就采用这种方式。优点是即时，缺点是——在给出任何响应之前引入额外延迟，而且记忆逻辑必须和Agent逻辑耦合在一起。

第二种是

：一个后台进程在对话期间或结束后运行，负责更新记忆。这样不会带来额外延迟，记忆逻辑也能保持独立。但缺点也很明显：记忆无法立即生效，还需要额外逻辑来决定何时启动后台进程。

另一种更新记忆的方式涉及用户反馈，尤其与情景记忆相关。比如，用户把一次交互标记为“好评”，那么这个交互就可以被保存下来，供将来回忆和参考。

持续在进步的LangChain家族

考虑到记忆对智能系统的实用性有决定性影响，LangChain家族也在不断尝试，已经构建了不少实用功能：

• LangGraph 中用于记忆存储的低级抽象，让用户可以完全掌控Agent的记忆 —— Memory for Agents
• LangGraph 中用于热更新和后台更新记忆的模板示例 —— memory-template
• LangSmith 中用于快速迭代的动态Few-shot示例选择 —— Dynamic Few-Shot Examples

关于Agent的应用落地实战，市面上也有一些不错的参考资料，感兴趣可以自行翻阅。记忆这个方向，还在快速演进中。