Skip to content

万字详解:AI Agent 系统架构设计 ​

进阶知识篇 · 工具层、行动层与推理层

1. 设计主动智能系统(一):智能体架构 ​

架构概览 ​

主动智能系统在三个逻辑层面上运作:工具层、推理层和行动层。

  • 每一层在使智能体能够有效检索、处理和行动信息方面都扮演特定角色。
  • 理解这些层之间的交互对于设计功能性和可扩展的系统至关重要。

万字详解:AI Agent 系统架构设计:流程与结构图 1

三层分别承担什么职责?

  1. 工具层: 系统的基础。此层与外部数据源和服务交互,包括 API、向量数据库、操作数据、知识库和用户交互。它负责获取系统所依赖的原始信息。设计良好的工具确保智能体高效检索相关且高质量的数据。
  2. 行动层: 有时也称作编排层。此层负责协调大语言模型与外部世界之间的交互。在适用情况下,它还处理与用户的交互。它接收来自 LLM 的下一步行动指令,执行该行动,再将结果提供给推理层。
  3. 推理层: 系统智能的核心。此层使用 LLM 处理检索到的信息,根据上下文、逻辑和预设目标决定智能体接下来需要做什么。推理不充分可能造成重复查询或行动不一致。

为了准确起见,主动智能系统中的推理并不总是由 LLM 执行。 例如,Roomba 吸尘器属于不使用 LLM 的主动智能系统示例。本页仅聚焦基于 LLM 的主动智能系统。

主动智能工作流程 ​

万字详解:AI Agent 系统架构设计:流程与结构图 2

2. 设计主动智能系统(二):记忆和状态 ​

短期记忆 保留当前任务需要的消息和结果;** 长期记忆** 保留经过确认、允许跨会话使用的信息;** 业务状态** 记录订单、审批或工单处于哪个阶段。这三者应该分别管理。

对象示例何时清理
当前上下文最近问题、工具返回摘要任务结束或超出预算时
长期资料已确认偏好、知识条目到期、撤回授权或内容失效时
业务状态待审批、已执行、失败按业务留存规则

3. 设计主动智能系统(三):工具契约 ​

工具描述写清用途、输入类型、返回结构和错误语义。将查询与写操作拆开。工具结果包含 ok、data 或 error,使编排层能够判定成功,而不需要从一段自然语言里猜。

json
{"ok":false,"error":{"code":"TIMEOUT","retryable":true},"request_id":"demo-001"}

模型可以建议重试,执行器仍然负责次数上限和总时间限制。相同写请求需要幂等键,避免网络重试造成重复退款或重复创建工单。

4. 设计主动智能系统(四):评测与可观测性 ​

记录任务编号、工具名称、参数摘要、耗时、错误和结束原因。对外展示可读的阶段状态,对内保留可诊断的轨迹。不要把调试日志中的密钥和用户私密内容直接显示给终端用户。

一张架构图的验收方法

拿“查订单失败后转人工”走一遍:输入从哪里来,状态存哪里,谁决定转人工,工具失败如何表示,人工能拿到什么上下文。每个问题都能在图上找到位置,架构才真正连起来。

内容依据:用户提供的第 8 张参考图。保留其可见结构、概念和案例,截图未显示的步骤为教学补写。原图作者与历史标注见下方对照。
查看参考原图 · 完整保留截图中的图表与可见文字

第8张参考原图

商业实战出版级教程 | 严禁未授权翻印传播