AI 知识地图
AI 文档要讲清从用户问题到模型回答的完整链路:文本如何变成 token,模型如何推理,RAG 如何召回知识,Agent 如何调用工具,系统如何评估、安全治理和上线。
学习路线
mermaid
flowchart TD
A["AI 是什么"] --> B["Token 和大模型基础"]
B --> C["Transformer 原理"]
C --> D["Embedding 和向量数据库"]
D --> E["Prompt 工程和结构化输出"]
E --> F["RAG 知识库"]
F --> G["Tool Calling 和 Agent"]
G --> H["微调、部署、推理优化"]
H --> I["评估、安全、LLMOps"]每个模块必须补什么
| 模块 | 必讲原理 | 必备 Demo |
|---|---|---|
| 大模型基础 | Token、上下文窗口、温度、采样、幻觉、成本 | 简单对话请求和参数对比 |
| Transformer | Attention、位置编码、前馈网络、训练和推理区别 | 用小例子解释注意力权重 |
| Embedding | 文本向量化、相似度、召回、维度、归一化 | 文本相似度检索 |
| 向量数据库 | Collection、Index、TopK、过滤、重排 | 写入文档并检索 |
| Prompt | 指令、上下文、约束、示例、输出格式 | 分类、抽取、总结 |
| RAG | 切分、清洗、Embedding、召回、重排、生成、引用 | 企业知识库问答 |
| Agent | 规划、工具、记忆、观察、循环、停止条件 | 查询订单和发送通知 |
| Tool Calling | Schema、参数校验、权限、幂等、失败处理 | 调用后端接口 |
| 微调 | 数据、LoRA、QLoRA、评估、上线 | 领域问答微调流程 |
| 部署优化 | 量化、KV Cache、批处理、流式输出 | 本地模型部署说明 |
| 评估安全 | 准确性、幻觉、越权、Prompt 注入、数据泄漏 | 构建评测集和安全用例 |
| LLMOps | 版本、灰度、日志、成本、监控、回滚 | Prompt 版本管理 |
AI 应用调用链
mermaid
flowchart TD
A["用户问题"] --> B["输入清洗和权限判断"]
B --> C["Prompt 组装"]
C --> D{"是否需要知识库"}
D -- "需要" --> E["RAG 检索和重排"]
D -- "不需要" --> F["调用模型"]
E --> F
F --> G{"是否需要工具"}
G -- "需要" --> H["Tool Calling"]
H --> I["后端执行工具"]
I --> F
G -- "不需要" --> J["输出校验和安全过滤"]
J --> K["返回用户并记录评估数据"]这个链路里,每一步都可能出问题:
| 问题 | 常见原因 | 排查方向 |
|---|---|---|
| 答非所问 | Prompt 不清、召回质量差 | 看 Prompt、召回文档、重排结果 |
| 幻觉 | 模型自由发挥、缺少引用约束 | 降低温度、要求引用、加事实校验 |
| 泄露数据 | 权限过滤缺失 | 检查用户权限和知识库过滤 |
| 工具误调用 | Schema 不清、缺少确认 | 收紧工具描述和参数校验 |
| 成本过高 | 上下文过长、重复请求 | 缓存、摘要、限流、模型分层 |
商业场景要求
AI 文档 Demo 要优先覆盖:
- 客服问答:RAG、引用、拒答、人工转接。
- 医疗/政企知识库:权限过滤、数据脱敏、审计。
- 代码助手:上下文裁剪、工具调用、执行安全。
- 数据分析助手:SQL 生成、结果解释、权限控制。
- 业务 Agent:查询订单、创建工单、发送通知、幂等控制。
面试闭环
AI 面试页要能回答:
- Token 是什么,为什么影响成本和上下文长度。
- Transformer 为什么能处理上下文。
- Embedding 和向量数据库解决什么问题。
- RAG 为什么能降低幻觉,但不能消除幻觉。
- Agent 和普通 ChatBot 区别是什么。
- Tool Calling 如何保证安全。
- 微调和 RAG 怎么选。
- 如何评估一个 AI 应用。
- 如何防 Prompt 注入。
- 如何做生产化监控和回滚。
本章小结
AI 文档不能只讲“怎么调接口”。必须讲清模型原理、知识库链路、工具调用、安全边界、评估和生产治理。否则用户只能做 Demo,做不了可靠的商业 AI 应用。
