从RAG到Agent:企业级AI应用架构升级指南

开发者/架构RAGAgentMCPA2A企业架构可观测性2026-09-21

售后客服主管经常遇到这种工单:客户问“我的订单为什么还没发货”。已有 RAG 知识库能把退换货政策答得很顺,但订单状态在 OMS 里,物流轨迹在快递接口里,补偿券要写会员系统。RAG 只能把政策段落拼给客户,解决不了“查订单、查物流、发券”这条动作链。

这类场景就是企业 AI 应用从 RAG 走向 Agent 的典型入口。按架构决策顺序写:哪些问题 RAG 够了,协议怎么选,多智能体怎么编排,权限和评测怎么补,再往后看阿里云、腾讯云控制台里能落下哪些组件。文中不嵌入 B 站、腾讯视频、优酷、抖音视频:视频链接会失效,且无法在 2026-09-08 逐条核验,只保留官方文档入口。

1. RAG 在知识密集场景的局限

RAG 的强项是“从文档里找依据再生成答案”。政策问答、产品手册、合同条款、培训资料,这几类问题只要文档完整、更新及时、召回稳定,RAG 成本低,评测也简单。局限经常出在数据形态和任务边界,模型本身不一定是主要原因。

先看一张判断表:

问题类型例子RAG 够不够需要补什么
静态政策退货要几天够文档更新、引用
多跳查询A 产品的配件在 B 仓库有没有库存常常不够库存 API、工具调用
实时状态我的订单到哪了不够OMS、物流接口
写操作帮我改收货地址不够权限校验、事务、确认
权限隔离销售总监看全国,销售看自己区域容易出错行级权限过滤
表格/扫描件报价单 PDF容易漏版面解析、结构化抽取
长流程退款同时改发票、发券、通知不够编排、状态机、重试
RAG 常见的翻车点有五个。分块把条件句和例外拆开,召回一段政策却漏了“仅限自营商品”。向量检索对编号、型号、金额不敏感,A-102 和 A-103 可能一起召回。权限过滤放在生成后,模型已经看到不该看的内容。时效数据还在文档里,订单状态已经变了。评测只看答案像不像,没看引用是否支持结论。

所以 RAG 升级 Agent 的触发条件可以写成清单:

  • 用户问题需要调用内部 API 或 SaaS 接口
  • 答案依赖实时状态,不只是文档
  • 任务包含写操作,必须鉴权和确认
  • 需要跨系统取数,再决定下一步
  • 失败后要重试、降级或转人工
  • 需要按用户身份返回不同数据范围
命中三条以上,就不要再往提示词里塞更多文档,先设计工具调用和权限边界。

2. 工具调用、MCP、A2A 协议选型

工具调用、MCP、A2A 不在同一层。工具调用解决“模型怎么表达要调哪个函数”。MCP 解决“工具和资源怎么以统一方式接给不同客户端”。A2A 解决“一个 Agent 怎么发现并委托另一个 Agent”。选型先看调用方和被调用方是不是同一套系统。

方案解决什么典型场景2026 年注意点
Function calling模型输出结构化参数,业务代码执行1 到 3 个内部 API、POC参数校验、超时、幂等要自己做
MCP统一接入工具、资源、提示模板多个客户端复用同一批工具,如 IDE、客服台、内部助手看规范版本;授权走 OAuth 2.1 相关流程
A2AAgent 间发现、消息、任务协作跨团队、跨厂商、跨进程的 Agent 委托适合边界清晰的 Agent,不适合替代内部函数
平台插件云厂商控制台内置工具连接器快速接数据库、搜索、工作流锁定风险,导出和迁移要提前评估
MCP 规范入口在 `https://modelcontextprotocol.io/specification/2025-06-18`,授权部分见 `https://modelcontextprotocol.io/specification/2025-06-18/basic/authorization`。MCP 把 server 暴露的能力分成 tools、resources、prompts 等类型。企业接入时,别把数据库账号直接塞进 server;用网关换短时 token,按用户和工具做权限。

A2A 的公开项目在 https://github.com/a2aproject/A2A,官网入口 https://a2a-protocol.org/。A2A 适合这种结构:客服 Agent 不直接管报销,它把“查报销规则”委托给财务 Agent。A2A 消息里仍然要带用户身份、租户、trace_id,否则下游无法审计。

选型步骤:

  • 列出工具清单,标记只读/可写、数据级别、调用频率。
  • 只读工具先接 MCP,写工具单独走审批和幂等设计。
  • 两个以上 Agent 需要互相委托,再引入 A2A。
  • 同一云平台内能完成的,先用平台工作流,但保留 HTTP/OpenAPI 出口,避免迁移时重写。

3. 多智能体编排与可观测性

多智能体不是越多越好。一个客服 Agent 加订单查询工具、物流工具、退款工具,能解决大部分问题。需要多 Agent 的情况通常是:检索、风控、执行三类职责的模型、权限、评测指标不同,或者不同团队各自维护 Agent。

常见编排模式:

  • 单 Agent + 工具:POC 和中等复杂度任务,链路短,调试快。
  • 主管-工人:主管拆任务,工人分别查知识库、订单、物流,主管汇总。
  • 状态机:退款、理赔、开户这类流程,状态和转移条件必须明确。
  • 事件驱动:工单创建、物流异常、支付失败触发 Agent,适合异步。
下面是一个售后场景的编排图:

flowchart LR U[用户/客服台] --> O[编排器] O --> R[知识检索 Agent] O --> S[订单 Agent] O --> L[物流 Agent] R --> KB[(知识库)] S --> OMS[订单 API] L --> WMS[物流 API] O --> H[人工审核] O --> A[回复/工单]

可观测性别只看模型输入输出。一次 Agent 任务要能还原:用户是谁、命中哪些文档、调了哪个工具、参数是什么、返回什么、花了多少 token、延迟卡在哪、为什么转人工。建议统一 trace 字段:

字段用途
trace_id串起用户请求、Agent、工具、异步任务
span区分检索、规划、工具调用、生成
tool_name / status统计工具成功率和失败类型
retrieval_hit看召回文档 ID、分数、是否被引用
token / cost按租户、用户、Agent 分摊
latency_ms拆分模型、检索、API、排队
error_type区分超时、鉴权失败、参数错误、模型拒绝
human_handoff记录转人工原因,回流评测集
日志里不要写完整身份证、手机号、银行卡。需要排查时写脱敏后的哈希或后四位。工具返回大对象时只存摘要和对象存储指针。

4. 权限、安全、评测

Agent 一旦能写数据,权限问题就从“提示词约束”变成“系统约束”。用户身份不能由模型自己声明,要从登录态、OAuth token 或网关签名传入。工具层做 RBAC 或 ABAC,数据层做行级过滤。比如销售 Agent 查订单,SQL 里必须带 region = current_user.region,不能靠模型记得。

安全清单按调用链排:

  • 用户身份、租户、角色从可信网关注入,模型不可覆盖
  • 每个工具声明所需 scope,最小权限,短时 token
  • 写操作二次确认,金额/数量/地址变更留快照
  • 参数白名单和范围校验,拒绝 SQL、命令、路径拼接
  • 工具返回内容做提示注入检测,标记不可信文本
  • 网络出口限制到目标域名,容器或沙箱运行
  • 审计日志保留用户、工具、参数摘要、结果状态
  • 预算和速率限制按租户、用户、Agent 设置
  • 敏感数据脱敏后再进模型上下文
  • 失败降级:查不到转人工,不编造订单状态
评测分两层。RAG 层看召回率@k、引用忠实度、答案正确性、无答案识别。Agent 层看任务完成率、工具调用成功率、参数正确率、平均轮次、端到端延迟、单任务成本、转人工率。离线集要覆盖正常问题、边界条件、权限越权、工具超时、提示注入。上线后按周抽样,把转人工和差评工单补进评测集。

一个可执行的最小评测集:

类型条数建议通过标准
单跳知识问答30引用正确,无编造
多跳工具查询20工具链正确,结果可追溯
权限隔离10越权请求被拒绝
写操作确认10未确认不执行
故障降级10超时转人工,不重试写操作
提示注入10不泄露系统提示和内部数据

5. 阿里云与腾讯云落地案例

这里写公开控制台里能看到的组件和落地路径,不写客户名和收益数字。产品价格、配额、地域、协议版本在 2026 年会调整,以官方计费页和文档为准。

阿里云百炼入口在 https://bailian.console.aliyun.com/,文档在 https://help.aliyun.com/zh/model-studio/。可用组件包括知识库、插件、工作流、智能体应用。一个可落地的售后路径:知识库导入退换货政策;工作流先判断意图;订单查询接 API 插件或 HTTP 工具;退款写操作接函数计算并加 RAM 权限和审批;日志投到 SLS。注意 RAM 子账号、VPC、知识库权限和模型调用配额要分开管。

腾讯云大模型知识引擎入口在 https://cloud.tencent.com/product/lke,智能体开发平台入口在 https://cloud.tencent.com/product/adp。LKE 偏文档解析、知识库、RAG 和工作流;ADP 偏 Agent 编排和应用发布。落地路径:工单分类走工作流;政策问答走知识库;订单、物流、退款接云函数或 API 网关;发布到客服台或企业微信。注意子账号权限、网络访问、内容安全审核和会话数据保留策略。

两个平台的共同检查项:

  • 知识库文档权限和 Agent 工具权限是否同一套身份
  • 写操作是否支持幂等、审批和回滚
  • trace 是否能导出到自建 Observability
  • 模型、向量库、工具是否可替换,避免硬绑定
  • 计费按 token、检索、工具调用分别核对
下一步可以立刻做:挑一个只读订单查询 API,包成 MCP server,在测试环境记录 trace_id、用户身份、工具参数摘要和失败原因;准备 50 条评测问题,跑完再看是否值得加写操作。检查项只有一个:越权用户问“查一下华东区所有订单”时,系统是否在工具层拒绝,而不是靠模型回答“我不能”。

免责声明:文中链接为官方公开入口,产品能力、价格、配额和协议版本可能变化,请以对应云厂商和控制台最新文档为准;本文不构成采购或安全合规建议。未嵌入 B 站、腾讯视频、优酷、抖音视频,原因是无法在 2026-09-08 核验具体视频链接与内容。

PREMIUM

需要完整版教程?

包含详细步骤、视频演示、提示词模板和可下载资料包。微信支付即时获取。

购买完整版 ¥29.90