决策可追溯

本条目是「Agent 产品化思维」的第 12 部分，对应学习清单条目 7.4.3。

前置依赖：权限分级

为以下铺垫：错误恢复路径

---

一、核心观点

决策可追溯（Decision Traceability）：Agent 的每一步”输入→决策→依据→输出”都要留结构化记录，让它不是黑盒。可追溯是调试、审计、建立信任的前提，也是 错误恢复 的线索。

---

二、定义与原理

2.1 是什么

• 决策可追溯：把 Agent 的推理链以结构化方式落盘，事后能回放”它为什么这么做”

• 核心：透明（transparent），不是黑盒（black box）

• 作用：调试 bug、合规审计、给用户/监管一个交代

类比——医生写病历：好医生每个诊断都写”主诉 + 检查 + 推断 + 处方”。出问题了能翻病历追责、能复盘、能教学生。Agent 若只吐最终答案不写”病历”，一旦出错你完全不知道它哪步抽风，只能盲修。

2.2 要记录的四类内容

graph LR

    I["输入 Input<br/>用户说了啥/上下文/工具返回"] --> D["决策 Decision<br/>做了啥+为什么+依据"]

    D --> O["输出 Output<br/>结果+格式"]

    O --> L["日志 Log<br/>每步调用+错误"]

---

三、实践：结构化日志

每条决策存一条结构化记录，而非一大段文本：

 
def log_decision(task, decision, reasoning, result):
 
    log = {
 
        "ts": datetime.now().isoformat(),
 
        "task": task,
 
        "decision": decision,
 
        "reasoning": reasoning,   # 关键：记录"为什么"
 
        "result": result,
 
        "trace_id": task.id,      # 串联整条链路
 
    }
 
    append_jsonl("agent_log.jsonl", log)
 

要点：reasoning 字段最关键——没有”为什么”，日志只是流水账，出了事还是查不出根因。

---

四、示例

一次”删文件”动作的追溯链应该能回答：

问题	记录里要有
它为什么删？	reasoning：用户明确指令 + 文件已确认废弃
依据是什么？	引用用户输入片段 + 权限级别 destructive 已确认
结果如何？	删除成功 / 失败 + 错误码
谁批准的？	HITL 确认人 / 自动执行的置信度

→ 这正好和 权限分级、HITL 串成完整证据链。

---

五、优劣势

• ✅ 出事能定位、能复盘、能合规

• ✅ 是错误恢复与持续改进的数据燃料

• ❌ 日志本身占 token / 存储，要取舍记什么

• ❌ 只记结果不记 reasoning = 假可追溯

---

六、核心要点

• 🔍 不是黑盒：每步”输入→决策→依据→输出”都要留痕。

• 📝 reasoning 是灵魂：只记结果不记”为什么”，等于没追溯。

• 🆔 trace_id 串联：用链路 ID 把分散日志拼成完整故事。

• 🧩 铁三角收口：与 HITL、权限分级 共同构成安全与可信底座。

---

七、最新研究与企业数据

• Reasoning Trace 成标配：2026 年复盘显示，领先组织把 Agent 的每次决策写入防篡改的 Reasoning Trace 数据库作为审计底稿；多 Agent 系统中仅 17% 的企业持续监控 agent 间交互，绝大多数仍只监输入/输出——中间过程不可见正是隐患所在。

• 上下文是有限的：Anthropic《Effective context engineering》提醒上下文是稀缺资源，可追溯记录要”该记的记、不该记的别塞进上下文”，用外部存储而非无限拉长上下文。

---

八、学习资源

• 数据/实践：The Tech Trends《Why 40% of Agentic Projects Fail》(2026)：thetechtrends.tech/agentic-ai-project-failure-lessons（Reasoning Trace、仅 17% 监控 agent 间交互）

• 一手：Anthropic《Effective context engineering for AI agents》(2025-09)：anthropic.com/engineering/effective-context-engineering-for-ai-agents

• 延伸：错误恢复路径——追溯链如何支撑恢复

---

下一篇：错误恢复路径——交互设计讲完，下篇讲”用户要能看到 Agent 出错了然后自动恢复”。

---

参考来源（一手链接 · 可溯源深挖）

• The Tech Trends (2026)《Why 40% of Agentic Projects Fail》：thetechtrends.tech/agentic-ai-project-failure-lessons（Reasoning Trace 审计、仅 17% 监控 agent 间交互）

• Anthropic (2025-09)《Effective context engineering for AI agents》：anthropic.com/engineering/effective-context-engineering-for-ai-agents

速记卡（面试闪卡）

Q1：一句话讲清「决策可追溯」到底是什么？

A：决策可追溯（Decision Traceability）是把 Agent 每步输入→决策→依据→输出留痕，让它不再是黑盒。

Q2：像什么生活场景 —— 怎么理解？

A：像医生写病历：好医生每个诊断都写「主诉+检查+推断+处方」。Agent 若只吐最终答案不写「病历」，一出事你完全不知道它哪步抽风，只能盲修。

Q3：要记哪四类 —— 怎么理解？

A：像快递四联单：Input（用户说了啥）、Decision（做了啥+为什么）、Output（结果+格式）、Log（每步调用+错误）。四样拼起来才能事后回放「它为什么这么做」。

Q4：reasoning 字段为何是灵魂 —— 怎么理解？

A：像破案只记「抓了人」却不记「凭啥抓」，出了事还是查不出根因。没写「为什么」的日志只是流水账；trace_id 则像案号，把分散日志串成完整故事。

Q5：有代价吗 —— 怎么理解？

A：像装监控要买硬盘。日志占 token / 存储，得权衡记什么；只记结果不记 reasoning 就是「假可追溯」。2026 复盘仅 17% 企业持续监控 agent 间交互，隐患正在于此。

Q6：核心速记主线有哪些？

• 不是黑盒：每步输入决策依据输出留痕

• reasoning 是灵魂，无因等于没追溯

• trace_id 串联，拼成完整证据链

• 与 HITL、权限分级构成可信铁三角

口诀

A：决策要留痕，输入决策据输出

病历为鉴 reasoning 魂，无因等于无

trace_id 串案号，链路拼成完整书

铁三角收口，可信才稳固

相关链接

• 系列清单：Agent 方法论与产品思维学习路线图

• 上一层级：Agent 产品化思维 · 索引

• 同主题：权限分级 · 错误恢复路径