从大模型到智能体：实战构建具备规划与工具调用能力的AI应用

在当前的AI技术浪潮中，我们经常听到“智能体”和“大模型”这两个词被频繁提及。许多开发者，尤其是刚接触这个领域的同学，可能会感到困惑：它们到底有什么区别？为什么现在大家都在谈论“智能体开发”？更重要的是，在构建一个真正有用的AI应用时，我们究竟是在比拼模型的“判断力”，还是在激发它的“创造力”？

本文将从一线开发者的实战视角出发，彻底厘清智能体（Agent）与大模型（LLM）的核心差异。我们将通过一个完整的项目案例，手把手教你如何利用现有的大模型API，构建一个具备自主规划、工具调用和持续学习能力的智能体。文章不仅会解释概念，更会提供可运行、可复现的代码，并深入探讨在工程化实践中，如何平衡与提升智能体的“判断力”与“创造力”。无论你是想入门AI应用开发，还是希望将现有的大模型调用升级为更智能的系统，这篇文章都将为你提供清晰的路径和实用的工具箱。

1. 智能体与大模型：核心概念辨析与时代背景

在深入代码之前，我们必须先建立正确的认知框架。混淆智能体和大模型，是很多项目走弯路的第一步。

1.1 大模型：强大的“大脑”与“知识库”

大语言模型（Large Language Model, LLM），如 GPT-4、Claude、文心一言、通义千问等，本质上是一个基于海量数据训练而成的概率模型。它的核心能力是文本生成与理解。

• 它是什么：你可以把它想象成一个拥有庞杂知识、语言能力极强的“大脑”。你给它一段输入（提示词），它根据学习到的模式，预测并生成最可能的后续文本。
• 它能做什么：流畅对话、文本创作、翻译、总结、代码生成、简单推理等。
• 它的局限：
  1. 知识截止性：它的知识局限于训练数据，无法获取实时信息（除非设计特定接口）。
  2. 缺乏“行动”能力：它只能“说”，不能“做”。它知道如何写一段查询数据库的SQL代码，但它不能自己去执行这段代码。
  3. 幻觉问题：可能会生成看似合理但实际错误或虚构的内容。
  4. 静态性：一次对话中，它通常不会主动记忆或规划多步骤任务。

简单来说，大模型是一个被动的、强大的响应生成器。

1.2 智能体：拥有“大脑”、“手脚”和“记忆”的智能系统

智能体（Agent）是一个更上层的概念。它是一个能够感知环境、进行决策并执行行动以实现目标的系统。在AI语境下，智能体通常以大模型作为其“大脑”或“决策核心”。

• 它是什么：一个完整的、可自主运行的软件实体。它整合了思考（LLM）、工具（Tools）、记忆（Memory）和规划（Planning）等多个模块。
• 核心组件：
  • 规划模块：将复杂目标拆解为可执行的子任务序列。这体现了“判断力”——分析现状、确定优先级、制定策略。
  • 工具调用模块：为LLM装上“手脚”。智能体可以调用搜索引擎、数据库、API、计算器、文件系统等外部工具来获取信息或执行操作。
  • 记忆模块：包括短期记忆（当前会话上下文）和长期记忆（向量数据库等），让智能体拥有持续学习和对活历史的能力。
  • 执行与反思模块：执行行动后，评估结果，如果失败则调整策略。这体现了“创造力”的另一种形式——解决新问题的应变能力。
• 它能做什么：自动完成涉及多步骤、多工具调用的复杂任务。例如，“分析上周销售数据，生成报告摘要，并邮件发送给经理”。这个任务需要调用数据库工具、数据分析工具、文本生成模型和邮件API。

两者的关系：大模型是智能体的核心推理引擎，但智能体是让大模型真正“活”起来，具备行动力和自主性的框架和身体。我们开发的不是另一个大模型，而是如何高效、可靠地组织和使用大模型。

1.3 判断力与创造力之争：智能体时代的工程核心

这并非哲学辩论，而是实实在在的工程挑战。

• 判断力：在智能体中，指其规划、决策和评估的准确性与可靠性。

  • 对应技术：任务拆解（Chain-of-Thought）、工具选择（Tool Calling）、结果验证（Self-Correction）。例如，用户说“我热了”，智能体需要判断是调低空调温度，还是推荐一杯冷饮，或是检查用户是否有发热症状？这需要结合上下文、用户画像和可用工具做出最佳决策。
  • 挑战：如何减少幻觉导致的错误决策？如何设计评估机制确保每一步都走在正确的路径上？

• 创造力：在智能体中，指其解决前所未见问题、生成新颖有效解决方案的能力。

  • 对应技术：思维链提示、多智能体协作（模拟头脑风暴）、基于反馈的迭代优化。例如，为一个全新产品起名、设计一个独特的营销方案。
  • 挑战：如何引导LLM跳出常规模式？如何在可控范围内激发“创意”，同时避免产出无用或离题的内容？

工程上的平衡：一个优秀的智能体，既需要稳健的判断力来保证任务执行的成功率，也需要一定的创造力来处理边界情况和开放性问题。我们的开发工作，很大程度上就是在设计提示词（Prompt）、工作流（Workflow）和反馈机制来塑造和平衡这两种能力。

2. 环境准备与核心工具栈

我们将使用 Python 作为开发语言，这是目前 AI 智能体生态最丰富的语言。我们的目标是构建一个本地可运行的智能体原型。

2.1 基础环境与版本说明

• 操作系统：Windows 10/11, macOS, 或 Linux (Ubuntu 20.04+) 均可。
• Python：版本 >= 3.8。推荐使用 3.9 或 3.10，以获得最佳的库兼容性。
• 包管理工具：使用pip。强烈建议使用虚拟环境（venv或conda）来隔离项目依赖。

2.2 核心库介绍与安装

我们将基于LangChain框架来构建智能体，它是一个用于开发由语言模型驱动的应用程序的流行框架，提供了智能体、链、工具等高级抽象。

打开终端，创建并激活虚拟环境后，执行以下安装命令：

# 安装 LangChain 核心库及 OpenAI 集成（我们将使用 OpenAI API 作为 LLM 引擎） pip install langchain langchain-openai # 安装用于定义和解析工具调用结构的库 pip install langchain-community # 安装用于环境变量管理的库，安全存储API密钥 pip install python-dotenv # 可选但推荐：安装用于结构化输出的库，使LLM返回更规整的数据 pip install langchain-core

重要提示：本文示例将使用OpenAI的 GPT 模型作为推理核心，你需要一个有效的 OpenAI API Key。你也可以替换为其他兼容 OpenAI API 的模型服务（如 Azure OpenAI, 国内的一些大模型平台等），只需调整初始化参数。

2.3 项目结构初始化

创建一个新的项目目录，结构如下：

ai_agent_project/ ├── .env # 存储环境变量，如API密钥 ├── main.py # 主程序入口 ├── tools/ # 自定义工具模块 │ └── custom_tools.py ├── agents/ # 智能体定义模块 │ └── research_agent.py └── utils/ # 工具函数 └── __init__.py

首先，在项目根目录创建.env文件，并填入你的 OpenAI API Key。切记不要将此文件提交到版本控制系统（如 Git）。

# .env OPENAI_API_KEY="sk-your-actual-openai-api-key-here"

3. 核心模块拆解：从工具到智能体

智能体的构建是模块化的。我们自底向上，先创建“手脚”（工具），再组装“大脑”和“记忆”。

3.1 打造智能体的“手脚”：自定义工具

工具是智能体与外界交互的桥梁。LangChain 提供了简洁的方式来定义工具。

假设我们要创建一个“研究助手”智能体，它需要能搜索网络和进行数学计算。我们先实现一个简单的计算器工具和一个模拟的网络搜索工具。

# tools/custom_tools.py import math from langchain.tools import tool from typing import Optional @tool def calculate(expression: str) -> str: """ 执行一个数学表达式计算。支持加减乘除(+, -, *, /)、乘方(**)、括号和常见数学函数如sqrt, sin, cos。 请确保表达式是数学上有效的。 Args: expression: 一个字符串格式的数学表达式，例如 "3 + 5 * 2", "sqrt(16)", "sin(3.14/2)"。 Returns: 计算结果的字符串表示，如果出错则返回错误信息。 """ # 安全警告：在生产环境中，直接eval用户输入是极度危险的！ # 这里仅为演示，实际应用必须使用安全的表达式解析库（如 ast.literal_eval 配合限制，或 numexpr）。 try: # 为数学表达式添加安全的数学函数命名空间 allowed_names = {k: v for k, v in math.__dict__.items() if not k.startswith("_")} allowed_names['abs'] = abs # 使用 eval 并限制可用的命名空间，这是一个简化的示例，生产环境需加固。 result = eval(expression, {"__builtins__": {}}, allowed_names) return str(result) except Exception as e: return f"计算错误：{e}。请检查表达式格式。" @tool def search_web(query: str, max_results: int = 3) -> str: """ 根据查询词模拟网络搜索。在实际应用中，这里应替换为真实的搜索引擎API（如SerperAPI、Google Custom Search）。 Args: query: 搜索关键词。 max_results: 返回的最大结果数量。 Returns: 模拟的搜索结果摘要字符串。 """ # 这是一个模拟函数。真实集成请参考以下思路： # 1. 使用 SerperAPI (https://serper.dev) 或 Tavily API。 # 2. 使用 requests 库调用搜索引擎API。 # 3. 解析返回的JSON，提取标题、链接和摘要。 # 模拟返回 mock_results = [ f"1. 关于 '{query}' 的百科介绍：这是一个模拟结果，描述了{query}的基本概念。", f"2. '{query}' 的最新发展：2023-2024年，{query}在AI领域取得了显著进展。", f"3. 学习 '{query}' 的教程资源：推荐官方文档和几个实践课程。" ] return "\n\n".join(mock_results[:max_results]) # 将工具收集到列表中，方便后续提供给智能体 CUSTOM_TOOLS = [calculate, search_web]

关键点解释：

1. @tool装饰器：LangChain 用于声明一个函数为工具的便捷方式。它会自动根据函数签名和文档字符串生成工具的描述，这对于LLM理解工具功能至关重要。
2. 文档字符串：必须清晰描述工具的功能、参数和返回值。LLM 依靠这些描述来决定何时以及如何使用该工具。
3. 安全性：calculate工具中的eval用法在演示中可行，但在真实、对外的服务中必须替换为安全的表达式求值库，否则会造成严重的代码注入漏洞。

3.2 装配“大脑”：初始化大模型与智能体

接下来，我们创建智能体。我们将使用 LangChain 提供的create_react_agent助手函数，它实现了 ReAct 框架（Reasoning + Acting），让智能体能够进行“思考-行动-观察”的循环。

# agents/research_agent.py import os from langchain_openai import ChatOpenAI from langchain.agents import create_react_agent, AgentExecutor from langchain.prompts import PromptTemplate from tools.custom_tools import CUSTOM_TOOLS from dotenv import load_dotenv # 加载 .env 文件中的环境变量 load_dotenv() def get_research_agent(): """ 创建并返回一个配置好的研究助手智能体执行器。 """ # 1. 初始化大模型 # 使用 GPT-3.5-turbo 作为推理引擎，性价比高。可根据需要换为 gpt-4。 llm = ChatOpenAI( model="gpt-3.5-turbo", temperature=0.1, # 较低的温度使输出更确定、更可靠，适合需要判断力的任务。 openai_api_key=os.getenv("OPENAI_API_KEY") ) # 2. 定义智能体的提示词模板 # ReAct 框架有特定的提示词结构，LangChain 提供了默认模板，我们也可以微调。 prompt = PromptTemplate.from_template( """你是一个强大的研究助手。你的任务是利用所有可用工具，帮助用户解答问题或完成研究任务。 你可以使用的工具： {tools} 使用工具时，请严格按照以下格式：

Thought: 我需要思考当前问题，并决定下一步做什么 Action: 要使用的工具名称，必须是[{tool_names}]中的一个 Action Input: 工具的输入参数

当你有工具返回的观察结果时，必须遵循以下格式：

Observation: 工具返回的结果

当你最终得出问题的答案时，必须使用以下格式：

Thought: 我现在知道了最终答案 Final Answer: 你的最终答案

开始！记住，在给出最终答案前，如果需要，请多次使用工具。 历史对话： {chat_history} 当前问题：{input} {agent_scratchpad}""" ) # 3. 创建智能体 # `create_react_agent` 将模型、提示词和工具绑定在一起，形成一个智能体对象。 agent = create_react_agent( llm=llm, tools=CUSTOM_TOOLS, prompt=prompt ) # 4. 创建智能体执行器 # AgentExecutor 是运行智能体的“发动机”，它处理与模型的交互、工具调用和解析循环。 agent_executor = AgentExecutor( agent=agent, tools=CUSTOM_TOOLS, verbose=True, # 设置为 True 可以在控制台看到详细的思考过程，调试时非常有用。 handle_parsing_errors=True, # 优雅地处理模型输出解析错误 max_iterations=5, # 限制最大迭代次数，防止智能体陷入死循环 early_stopping_method="generate" # 当模型连续两次生成最终答案时停止 ) return agent_executor

关键点解释：

1. temperature：设置为较低的 0.1，这会让模型的输出更加集中和确定，减少随机性，从而提升任务执行的判断力和可靠性。如果需要更多创造力（如头脑风暴、写作），可以适当调高。
2. 提示词模板：这是塑造智能体行为的关键。我们定义了清晰的 ReAct 格式，强制模型进行结构化思考。{agent_scratchpad}是一个特殊占位符，LangChain 会自动将之前的“思考-行动-观察”记录填充进去。
3. AgentExecutor：它管理着智能体运行的整个生命周期，包括调用模型、解析输出、执行工具、处理错误，并控制循环（通过max_iterations防止无限循环）。

3.3 赋予“记忆”：为智能体添加会话上下文

一个没有记忆的智能体，每次对话都是全新的开始。为了实现连贯的多轮对话，我们需要引入记忆机制。

# agents/research_agent.py (续) from langchain.memory import ConversationBufferMemory def get_research_agent_with_memory(): """ 创建并返回一个带有会话记忆的研究助手智能体执行器。 """ llm = ChatOpenAI(model="gpt-3.5-turbo", temperature=0.1, openai_api_key=os.getenv("OPENAI_API_KEY")) # 初始化一个对话缓冲记忆 memory = ConversationBufferMemory(memory_key="chat_history", return_messages=True) prompt = PromptTemplate.from_template( # ... 同上一个提示词模板，但包含了 {chat_history} 占位符 ... ) agent = create_react_agent(llm=llm, tools=CUSTOM_TOOLS, prompt=prompt) # 在创建执行器时传入 memory agent_executor = AgentExecutor( agent=agent, tools=CUSTOM_TOOLS, verbose=True, handle_parsing_errors=True, max_iterations=5, memory=memory # 关键：添加记忆组件 ) return agent_executor

现在，智能体可以记住同一会话中之前的对话内容，从而进行更连贯的交互。例如，用户先问“什么是LangChain？”，再问“它和LlamaIndex有什么区别？”，智能体会知道“它”指代的是LangChain。

4. 完整实战：构建并运行你的第一个智能体

让我们将以上模块组合起来，创建一个完整的可运行示例。

# main.py import sys import os sys.path.append(os.path.dirname(os.path.abspath(__file__))) from agents.research_agent import get_research_agent_with_memory def main(): print("=== 研究助手智能体已启动 ===") print("输入 'quit' 或 'exit' 结束对话。\n") # 获取带有记忆的智能体 agent = get_research_agent_with_memory() while True: try: user_input = input("\n您: ") if user_input.lower() in ['quit', 'exit']: print("智能体: 再见！") break if not user_input.strip(): continue # 调用智能体 response = agent.invoke({"input": user_input}) print(f"\n智能体: {response['output']}") except KeyboardInterrupt: print("\n\n程序被中断。") break except Exception as e: print(f"\n发生错误: {e}") if __name__ == "__main__": main()

运行你的智能体：

1. 确保你的.env文件已正确配置 API Key。
2. 在终端中，进入项目根目录，运行：

   python main.py

交互示例：

您: 请计算圆的面积，如果半径是5。 智能体（思考过程）： Thought: 用户想计算半径为5的圆的面积。我需要使用数学公式 面积 = π * r²。我有一个计算工具。 Action: calculate Action Input: math.pi * 5 ** 2 Observation: 78.53981633974483 Thought: 我得到了计算结果，可以给出最终答案。 Final Answer: 半径为5的圆的面积大约是78.54平方单位。 智能体: 半径为5的圆的面积大约是78.54平方单位。

您: 帮我搜索一下LangChain的最新信息，然后告诉我它主要用来做什么。 智能体（思考过程）： Thought: 用户需要两个信息：1. LangChain的最新信息。2. LangChain的主要用途。我应该先使用搜索工具。 Action: search_web Action Input: LangChain latest updates 2024 Observation: 1. 关于 'LangChain latest updates 2024' 的百科介绍：这是一个模拟结果... 2. 'LangChain latest updates 2024' 的最新发展：2023-2024年，LangChain在AI领域取得了显著进展... 3. 学习 'LangChain latest updates 2024' 的教程资源... Thought: 我得到了一些关于LangChain的最新信息。现在我需要总结它的主要用途。我可以基于我的知识回答，但为了更准确，也许可以再搜索一下它的用途。 Action: search_web Action Input: LangChain primary use cases Observation: 1. 关于 'LangChain primary use cases' 的百科介绍：这是一个模拟结果，描述了LangChain用于构建LLM应用... 2. 'LangChain primary use cases' 的最新发展... Thought: 我现在有足够的信息来回答用户的问题。 Final Answer: 根据最新信息，LangChain 是一个用于开发由语言模型驱动的应用程序的框架。它的主要用途包括：1. 构建智能体（Agents），使LLM能够调用工具和进行推理；2. 创建处理复杂任务的工作链（Chains）；3. 管理LLM的提示词（Prompts）；4. 集成多种数据源（如索引和检索系统）；5. 提供记忆（Memory）能力以实现多轮对话。它简化了将大语言模型连接到外部数据和动作的过程。 智能体: 根据最新信息，LangChain 是一个用于开发由语言模型驱动的应用程序的框架...

通过这个例子，你可以看到智能体如何自主地规划任务（先搜索最新信息，再搜索用途），调用合适的工具，并综合信息给出最终答案。这体现了判断力（决定搜索什么、如何组织答案）和一定程度的创造力（综合信息并生成连贯的总结）。

5. 进阶：提升判断力与创造力的工程实践

基础智能体已经能工作，但要使其强大可靠，还需要进一步的工程优化。

5.1 提升判断力：结构化输出与验证

LLM 的自由文本输出容易导致格式错误。使用Pydantic和 LangChain 的StructuredOutputParser可以强制模型返回结构化的 JSON 数据，极大提升工具调用和结果解析的可靠性。

# 示例：定义一个结构化工具调用的期望格式 from langchain.output_parsers import PydanticOutputParser from pydantic import BaseModel, Field from typing import List class ToolCallSchema(BaseModel): """定义工具调用的结构""" thought: str = Field(description="智能体当前的思考过程") action: str = Field(description="要调用的工具名称", pattern="^(calculate|search_web)$") # 限制工具名 action_input: str = Field(description="工具的输入参数") # 在更复杂的智能体设定中，可以将此解析器集成到提示词中，引导模型输出标准JSON。

5.2 提升判断力：让智能体学会“反思”

ReAct 框架本身包含了“观察”步骤。我们可以强化这一点，在工具返回结果后，让智能体主动评估结果是否解决了问题，或者是否需要尝试其他方法。这可以通过在提示词中加入反思指令来实现。

# 在提示词模板的思考部分加入反思引导 reflection_prompt_section = """ 在得到观察结果后，请反思： 1. 这个结果是否直接回答了问题的一部分？ 2. 结果是否可信或有疑问？ 3. 我是否需要更多信息或使用其他工具？ 然后，再决定下一步是继续行动还是给出最终答案。 """ # 将这部分内容加入到主提示词的 `{agent_scratchpad}` 之前或之后。

5.3 激发创造力：多智能体协作与辩论

对于开放性问题，单一智能体的思路可能受限。可以模拟“头脑风暴”，创建多个具有不同角色（如“创意者”、“批评者”、“执行者”）的智能体，让它们围绕一个问题进行讨论或辩论，最后由一个“协调者”智能体汇总结论。

# 概念性代码，展示多智能体协作思路 from langchain.schema import SystemMessage, HumanMessage class DebateAgent: def __init__(self, role, llm): self.role = role # 例如 "创意发散者", "逻辑批判者" self.llm = llm self.system_prompt = f"你是一个{role}，请从你的角色出发思考问题。" def generate_opinion(self, topic): messages = [ SystemMessage(content=self.system_prompt), HumanMessage(content=f"请就以下话题发表你的看法：{topic}") ] response = self.llm.invoke(messages) return response.content # 主流程 topic = "如何设计一个吸引年轻人的环保公益项目？" creative_agent = DebateAgent("创意发散者，追求新颖有趣", llm) critical_agent = DebateAgent("逻辑批判者，关注可行性与成本", llm) creative_idea = creative_agent.generate_opinion(topic) critical_feedback = critical_agent.generate_opinion(f"请评价这个想法：{creative_idea}") # 最后，可以再用一个智能体来综合双方观点

5.4 平衡判断与创造：温度参数与提示词工程

• 判断力任务（数据查询、代码执行、逻辑推理）：使用低温度（如 0.1-0.3）和高度结构化的提示词，明确步骤和格式要求。
• 创造力任务（创意写作、方案设计、头脑风暴）：可以尝试稍高的温度（如 0.7-0.9）和更开放、鼓励性的提示词，如“请列出10个天马行空的想法”。

在实践中，一个复杂的智能体可能需要动态调整这些参数，或者为不同的子任务调用不同配置的模型。

6. 常见问题与排查思路

在开发智能体时，你可能会遇到以下典型问题：

7. 最佳实践与工程化建议

要将智能体从原型推向生产，需要考虑以下方面：

1. 工具设计的鲁棒性：

   • 输入验证：在所有工具函数的入口处，严格检查输入参数的类型、范围和格式。
   • 错误处理：工具内部必须有完善的 try-catch，返回清晰的错误信息，而不是抛出异常导致智能体崩溃。
   • 超时与重试：对于调用外部 API 的工具，必须设置超时和重试逻辑。

2. 提示词工程与管理：

   • 模块化：将系统指令、工具描述、格式规范、示例等拆分成可维护的模块。
   • 版本控制：像管理代码一样，对提示词进行版本控制（如 Git），记录每次变更的效果。
   • A/B测试：对重要的提示词进行 A/B 测试，量化不同提示词对任务成功率的影响。

3. 可观测性与评估：

   • 全面日志记录：记录每一次用户输入、模型思考、工具调用、工具输出和最终回答。这对于调试和优化至关重要。
   • 定义评估指标：根据应用场景，定义成功指标，如任务完成率、工具调用准确率、用户满意度等。
   • 构建测试集：创建涵盖常见和边缘用例的测试问题集，定期运行以监控智能体性能是否退化。

4. 安全与合规：

   • 权限控制：为智能体配备的工具应遵循最小权限原则。例如，一个回答内部知识库的智能体不应拥有删除数据库的权限。
   • 内容过滤：在智能体的输入和输出端部署内容安全过滤器，防止生成或响应有害、偏见或不适当的内容。
   • 用户数据隔离：确保不同用户的记忆（对话历史）严格隔离，防止信息泄露。

5. 架构演进：

   • 从单智能体到多智能体：复杂业务可以拆分成由多个 specialized agent 协作完成的流水线。
   • 引入规划器：对于超复杂任务，可以引入一个专门的“规划器”智能体，先将宏观目标分解成子任务，再分发给其他“执行器”智能体。
   • 与现有系统集成：智能体应通过清晰的 API 与你的业务后端、数据库、中间件集成，而不是一个信息孤岛。

智能体开发是一个快速迭代的过程，核心在于深刻理解“判断力”与“创造力”不过是不同场景下对模型推理和生成能力的不同约束与引导。通过精心的工具设计、提示词工程和系统架构，我们能够将大模型的原始潜力，塑造成可靠、有用且智能的应用程序。