什么是AI Agent？

随着ChatGPT推出插件和函数调用功能，构建以LLM（大语言模型）为核心控制器的AI Agent，已经成为一个充满无限可能的概念。LLM的潜力远不止生成高质量的文章、故事、散文和程序——它完全可以被打造为一个强大的通用问题求解器。在当下的大模型发展主线中，AI Agent无疑是最激动人心的方向之一。

概念

在计算机和人工智能的专业领域，Agent通常被译为“智能体”，指的是在特定环境中体现出自治性、反应性、社会性、预动性、思辨性（慎思性）、认知性等一种或多种智能特征的软件或硬件实体。而AI Agent则特指由LLM驱动的智能体。虽然目前还没有一个统一公认的定义，但我们可以把它理解为这样一个系统：利用LLM来推理问题，自主创建解决问题的计划，并借助一系列工具来执行计划。

简而言之，AI Agent是一个具备复杂推理能力、记忆力以及任务执行能力的系统，如下图所示：

AI Agent由以下核心组件构成：

智能体核心

中央协调模块，负责管理核心逻辑和智能体的行为特点，进行关键决策。需要在这里定义以下内容：

• 智能体的总体目标——要达成的总目标和目的。
• 执行工具——智能体可以使用的所有工具的简短列表（或“用户手册”）。
• 如何使用计划模块的说明——详细解释不同计划模块的作用，以及在什么情况下使用。
• 相关记忆——这是一个动态部分，填充与用户过往对话中最相关的内容。“相关性”是根据用户提出的问题判断的。
• 智能体个性（可选）——如果希望LLM偏向于使用某些类型的工具，或者最终响应中展现某些特点，可以把所需个性描述清楚。

下图是一个求解用户问题“2024财年Q1与Q2之间，利润增长了多少？”的提示模板：当提示输入给LLM后，LLM做出的决策是需要使用搜索工具：

记忆模块

记忆模块扮演着非常重要的角色，它记录了智能体内部日志以及和用户的交互历史。有两种类型的记忆模块：

• 短期记忆——智能体在尝试回答用户单个问题时经历的思考和行动。通常就是提示工程中的上下文，超过上下文限制后，LLM就会忘记之前输入的信息。
• 长期记忆——用户和智能体交互相关的行为和想法，包含跨度数周或数月的对话记录。通常是一个外部的向量库，可以几乎无限地保留和快速取回历史信息。

记忆模块并不只是依赖语义相似性检索。通常，综合评分由语义相似性、重要性、新近程度以及其他特定指标构成。记忆模块用于检索特定信息。

工具集

工具集是定义明确的可执行工作流，智能体使用它们来执行任务。通常，工具集就是专门的第三方API。举个例子，智能体可以使用RAG（检索增强生成）根据上下文生成答案；使用代码解释器（比如Python脚本解释器）来编程求解复杂任务；使用API从互联网搜索信息；或者使用任何简单的API服务，如用天气API获取天气预报、用即时消息API收发消息。

计划模块

复杂的问题，比如分析一组财务报表来回答上层业务问题，通常需要循序渐进的方法。对于由LLM驱动的智能体，计划能力本质上是提示工程（Prompt Engineering）中很多高级玩法的高级实践。可以通过两种技术的组合来应对复杂问题：

任务和问题分解

复合问题或推断信息需要某种形式的分解。例如“2024财年Q1与Q2之间，利润增长了多少？”这个问题可以分解为多个子问题：

• “Q1的利润是多少？”
• “Q2的利润是多少？”
• “上述两项结果之间的差是多少？”

专门的AI Agent必须能够主导这种分解，比如采用下面的提示模板：

当填入具体问题输入给LLM后，LLM会做出问题拆解结果的响应：

反思或批判

ReAct（推理和动作协同）、Reflexion（反思）、Chain of Thought（思维链）和Graph of Thought（思维图）等技术，已经成为基于批判或基于证据的提示框架。它们被广泛用于提高LLM的推理能力和响应能力，也可以用来优化智能体生成的执行计划。

比如LangChain智能体框架支持的ReAct，即Reason+Act模式，把复杂问题拆开，把缺少的内容通过工具从外部获取，然后补充到问题回答里。ReAct的提示模板一般包含这些内容的多次重复：

举例问题：“除了Apple Remote之外，还有什么设备可以控制Apple Remote原生设计用来交互的程序？”ReAct会按如下的步骤思考和行动：

• 第1次思考：我需要找到Apple Remote原生设计用来交互的程序。第1次行动：去搜索引擎搜索【Apple Remote】，取得关于Apple Remote的介绍。
• 第2次思考：在结果中找到Apple Remote原生设计用来控制Front Row程序，我需要查找Front Row的信息。第2次行动：搜索【Front Row】。搜索引擎返回没找到相关信息。
• 第3次思考：我应该加上“软件”重新搜索。第3次行动：搜索【Front Row（软件）】，取得Front Row软件的介绍。
• 第4次思考：在结果中发现关键信息：Front Row软件可以被Apple Remote或键盘多功能按键控制。第4次行动：完成，返回用户答案【键盘多功能按键】。

这个过程如下图所示：

挑战

基于LLM去构建Agent，目前也面临一系列挑战：

有限的上下文长度

有限的上下文长度限制了对历史信息、详细指令、API调用上下文和API响应的容纳量。Agent的系统设计必须在有限的通信带宽中工作。矛盾的是，像“自我反思”这种机制若想取得更好的效果，则需要更长甚至无限的上下文窗口。虽然向量存取能提供访问更大知识库的能力，但它的表现力并不像上下文内的注意力机制那么强大。

长期计划和任务拆解能力不足

在针对长期历史做计划、有效探索解决问题时，Agent还面临挑战。LLM在面对未知错误时，调整计划显得非常艰难。和人类从失败教训中学习相比，LLM还不够强大。

自然语言接口不够可靠

当前的Agent体系非常依赖使用自然语言作为LLM和外部组件（比如记忆和工具）的接口。然而，LLM本身的输出是存有疑虑的——它们经常犯语法格式错误，也时常产生违抗表现（比如不遵照用户指令）。以至于很多Agent都在解析模型输出上花了很多功夫。

展望

生成式AI的智能革命演化至今，人类与AI协同出现了三种模式：

在Agents（智能体）模式下，人类设定目标和提供必要的资源，然后AI独立地承担大部分工作，最后人类监督进程以及评估最终结果。这种模式下，AI充分体现了智能体的互动性、自主性和适应性特征，接近于独立的行动者，而人类则更多地扮演监督者和评估者的角色。Agents模式相较于Embedding（嵌入）模式、Copilot（副驾驶）模式无疑更为高效，或将成为未来人机协同的主要模式。

AI Agent是人工智能成为基础设施的重要推动力。回顾技术发展史，技术的尽头是成为基础设施——比如电力变得像空气一样不易察觉却又必不可少，再比如云计算等。几乎所有人都认同，人工智能会成为未来社会的基础设施。而智能体正在促使人工智能基础设施化。AI Agent能够适应不同的任务和环境，并能够学习和优化性能，使得它可以被应用于广泛的领域，进而成为各个行业和社会活动的基础支撑。