AI 客服 Agent 设计
经典的端到端 AI Agent 落地场景：意图识别 → 多工具编排 → 人工兜底 → 评估闭环。Agent 基础见 Agent架构与ReAct、多 Agent 协作见 多Agent协作Multi-Agent、安全见 大模型安全与伦理。
整体闭环
flowchart LR U[用户消息] --> I[意图识别] I -->|FAQ/简单| Ans[直答/RAG检索] I -->|业务办理| T[多工具编排<br/>查订单/退款/改约] I -->|不确定/高风险| H[人工兜底] Ans --> E[评估闭环<br/>满意度/质量] T --> E H --> E E -->|问题回流| I
模块一：意图识别
- 先分类：闲聊 / 咨询 / 业务办理 / 投诉 / 转人工。
- 用轻量模型或分类器做路由，避免每个请求都调大模型。
- 识别”情绪/风险”信号（辱骂、资金风险），触发升级。
模块二：多工具编排
- 查询类工具：订单查询、物流、知识库检索（RAG）。
- 办理类工具：退款、改约、发券——高危操作必须权限分级 + 人工确认，见 Agent安全防护系统设计。
- 用 ReAct 或 Plan-and-Execute 串联多步，见 Agent架构与ReAct。
模块三：人工兜底
- 主动转人工触发条件：低置信度、高风险操作、用户明确要求、连续两轮未解决。
- 转人工时把对话摘要 + 已收集信息 + 推荐方案一并给坐席，减少重复沟通。
- 人机协同而非全替代：AI 处理 80% 高频，人处理长尾与纠纷。
模块四：评估闭环
关键权衡
| 问题 | 设计回答要点 |
|---|---|
| 什么时候该转人工？ | 低置信度、资金/隐私高风险、用户要求、连续未解决；核心是”宁可转人工也别乱承诺” |
| 怎么避免 AI 擅自退款？ | 工具权限分级 + 高危操作需人工确认/二次授权 + 操作审计，见安全防护设计 |
| 如何持续提升客服质量？ | 评估闭环：满意度/解决率监控 + 离线质检 + 问题回流知识库与意图体系 |
| 意图识别和 RAG 怎么配合？ | 意图识别做路由（该查知识库还是办业务），RAG 负责知识问答，二者分层不耦合 |
速记卡（面试闪卡）
Q1：一句话讲清「AI 客服 Agent 设计」到底是什么？ A：AI 客服 Agent 的经典闭环：意图识别 → 多工具编排（查询/办理）→ 人工兜底 → 评估闭环；核心是高风险的活宁转人工也别擅自承诺。
Q2：模块一——意图识别 —— 怎么理解？ A：先分类闲聊/咨询/业务/投诉/转人工，用轻量模型或分类器做路由，避免每个请求都调大模型。还要识别情绪/风险信号（辱骂、资金风险）触发升级。像前台先问”办啥事”，再决定指给哪个窗口。
Q3：模块二——多工具编排 —— 怎么理解？ A：查询类工具（订单/物流/知识库 RAG）直接调；办理类（退款/改约/发券）是高危，必须权限分级 + 人工确认。用 ReAct 或 Plan-and-Execute 串联多步。像柜员：查余额自己来，动钱得主管签字。
Q4：模块三——人工兜底 —— 怎么理解？ A：主动转人工触发条件：低置信度、高风险、用户要求、连续两轮未解决。转接时把对话摘要+已收集信息+推荐方案一并给坐席，无缝接管。人机协同：AI 吃 80% 高频，人管长尾与纠纷。
Q5：模块四——评估闭环 —— 怎么理解？ A：实时看满意度、解决率、转人工率；离线抽检 + LLM-as-Judge 评质量，问题回流到知识库与意图体系。安全合规审计贯穿全程。像餐厅请吃完饭打分，差评回流后厨改菜单。
Q6：核心速记主线有哪些？
- 闭环：意图识别→多工具编排→人工兜底→评估闭环
- 意图识别做路由，轻量模型省成本
- 高危操作权限分级+人工确认，宁转人工不擅自办
- 评估闭环持续回流优化；人机协同而非全替代
口诀 A：客服 Agent 四段环，意图识别先路由； 多工具编排查与办，高危须人来拍板。 转人工带摘要，评估闭环回流优； 人机协同不替代，长尾纠纷人兜兜。
相关链接
快速问答
| 问题 | 参考答案 |
|---|---|
| AI 客服的核心闭环？ | 意图识别 → 多工具编排（查询/办理）→ 人工兜底 → 评估闭环（问题回流优化），四段循环。 |
| 为什么不能让 Agent 直接办所有业务？ | 退款/改约等高危操作有误操作与合规风险，必须权限分级 + 人工确认 + 审计。 |
| 转人工如何不丢上下文？ | 转接时附对话摘要、已收集信息、推荐方案，坐席无缝接管。 |
| 怎么衡量客服 Agent 好坏？ | 解决率、转人工率、满意度、离线质检分；用评估闭环持续回流优化。 |