AI Agent 中的规划器、执行器与质量监督：什么交给 AI，什么交给程序

当一个 AI Agent 能够检索资料、创建文件、调用业务系统，甚至自动发布内容时，很多人会认为它像一个完整的“数字员工”。但在工程实现中，Agent 并不是一个单一模型，而是一组职责不同的 AI Client 与受控程序共同组成的执行系统。

理解这一点，是从聊天 Demo 走向可靠 Agent 的关键。

一、规划器、执行器、质量监督器都是 AI 吗？

通常是的。它们往往由同一个大模型，配合不同的系统提示词、工具权限和上下文策略构建而成：

它们不一定需要四个不同的模型。一个 ChatModel 可以被包装成多个 ChatClient：只要默认 Prompt、可用工具、记忆窗口或 RAG 配置不同，它们就可以承担不同角色。

同一个模型
  + “你是任务规划师” Prompt       = 规划器
  + “你是精准执行者” Prompt + 工具 = 执行器
  + “你是质量审核员” Prompt       = 质量监督器

一个典型的自主 Agent 循环是：

分析任务 → 制定策略 → 调用工具 → 获取结果 → 质量评估 → 决定下一步

其中，AI 擅长理解自然语言、拆解模糊任务、选择工具和判断语义质量；但真正的外部动作不应由模型本身完成。

例如用户要求“搜索资料并创建 Markdown 文档”：

AI 执行器：判断需要检索和写文件
MCP 搜索服务：返回资料
MCP 文件服务：实际创建并写入文件
业务程序：校验文件是否存在、内容是否符合规则
AI 监督器：评价内容是否完整、表述是否清晰

因此，正确的分工不是“AI 负责所有事情”，而是：

AI：规划、决策、语义理解、内容生成、质量建议
MCP / 业务服务：访问外部系统并执行真实操作
程序控制器：权限、状态、重试、超时、审批与结果校验

并非每个任务都应交给自主 Agent。工程上常见三种执行方式。

博客发布就是典型的固定工作流：

检索资料 → 生成草稿 → 内容检查 → 用户确认 → 发布 → 保存文章 URL

它的关键步骤明确，且发布具有外部副作用。相比让模型自由决定所有动作，固定工作流更稳定、成本更低，也更方便审计。

自主循环更适合“下一步无法提前确定”的任务，例如跨文档调研、故障排查或需要反复实验的分析工作。

质量监督器能检查逻辑是否完整、语言是否清晰、结果是否偏离需求，但它仍然是一个 AI 判断，可能误判或遗漏。因此，不能仅凭模型输出“PASS”就认定任务完成。

应将质量检查分成三层：

例如，AI 可以建议“文章质量通过”，但系统仍要验证：草稿是否已保存、引用是否完整、文章是否重复发布，以及用户是否确认正式发布。

要把“规划—执行—监督”做成可靠的 Agent，至少应补上以下能力。

不要依赖 result.contains("任务状态: COMPLETED") 判断结束。应要求分析器返回受 Schema 约束的结果：

{
  "status": "CONTINUE",
  "completion": 60,
  "nextTask": "检索 Spring AI 核心概念",
  "reason": "资料来源不足"
}

程序验证字段后再决定是否进入下一步。

必须设置最大步骤数、单步超时、成本预算和取消机制。工具使用应采用白名单；写文件限定目录，发布操作要求审批，资金和删除类动作应由更严格的策略守护。

将每一步的计划、工具调用、工具结果、检查结论保存为 AgentRun 和 AgentStep。上下文过长时对历史做摘要或按需检索，避免 Token 成本随步骤线性失控。

模型说“文件已创建”不等于文件真的存在；模型说“文章已发布”不等于 CMS 返回成功。业务系统必须读取工具返回值、验证资源状态，并保存可追踪的任务 ID。

规划器、执行器和质量监督器可以都是 AI，但可靠的 Agent 不会把所有权力交给 AI。

AI 用于理解目标、制定计划、选择工具和评估语义质量；MCP 与业务服务执行真实动作；程序负责控制流程、验证结果、限制风险和保留审计记录。