AI-场景系统设计 目录索引

RAG / 知识库系统设计

文件主题
01-RAG系统设计双路径架构(数据摄入+查询)、分块、混合检索、缓存优化
08-RAG知识库系统设计规模视角:摄入 Pipeline、分块调优、检索质量监控

Agent 平台与基础设施

文件主题
02-Agent平台设计Harness + Skill 加载 + 工具注册中心 + 安全隔离
03-LLM推理服务设计推理网关、模型放置、Prefill/Decode 分离、KV Cache 管理
05-高并发MQ选型RabbitMQ / Kafka / RocketMQ / Pulsar 在 AI 场景的选型对比

Agent 应用设计

文件主题
06-AI客服Agent设计意图识别 → 多工具编排 → 人工兜底 → 评估闭环
07-多Agent代码审查系统设计Supervisor-Worker 架构 + 并行审查 + 报告聚合
04-AI评测平台设计Case 管理 + 自动化评估 + 回归基线 + 可视化

Agent 韧性工程

文件主题
09-Agent安全防护系统设计权限分级 + 审计日志 + Prompt Injection 防御 + 行为熔断
10-Agent记忆系统设计工作/短期/长期记忆分层 + 上下文压缩策略
11-Agent降级与容错系统设计重试 + 熔断 + Fallback + 降级路径
12-Agent流式推理服务设计SSE 推送 + Backpressure + 流失败降级

相关链接