Skip to content

AI 知识地图

AI 文档要讲清从用户问题到模型回答的完整链路:文本如何变成 token,模型如何推理,RAG 如何召回知识,Agent 如何调用工具,系统如何评估、安全治理和上线。

学习路线

mermaid
flowchart TD
    A["AI 是什么"] --> B["Token 和大模型基础"]
    B --> C["Transformer 原理"]
    C --> D["Embedding 和向量数据库"]
    D --> E["Prompt 工程和结构化输出"]
    E --> F["RAG 知识库"]
    F --> G["Tool Calling 和 Agent"]
    G --> H["微调、部署、推理优化"]
    H --> I["评估、安全、LLMOps"]

每个模块必须补什么

模块必讲原理必备 Demo
大模型基础Token、上下文窗口、温度、采样、幻觉、成本简单对话请求和参数对比
TransformerAttention、位置编码、前馈网络、训练和推理区别用小例子解释注意力权重
Embedding文本向量化、相似度、召回、维度、归一化文本相似度检索
向量数据库Collection、Index、TopK、过滤、重排写入文档并检索
Prompt指令、上下文、约束、示例、输出格式分类、抽取、总结
RAG切分、清洗、Embedding、召回、重排、生成、引用企业知识库问答
Agent规划、工具、记忆、观察、循环、停止条件查询订单和发送通知
Tool CallingSchema、参数校验、权限、幂等、失败处理调用后端接口
微调数据、LoRA、QLoRA、评估、上线领域问答微调流程
部署优化量化、KV Cache、批处理、流式输出本地模型部署说明
评估安全准确性、幻觉、越权、Prompt 注入、数据泄漏构建评测集和安全用例
LLMOps版本、灰度、日志、成本、监控、回滚Prompt 版本管理

AI 应用调用链

mermaid
flowchart TD
    A["用户问题"] --> B["输入清洗和权限判断"]
    B --> C["Prompt 组装"]
    C --> D{"是否需要知识库"}
    D -- "需要" --> E["RAG 检索和重排"]
    D -- "不需要" --> F["调用模型"]
    E --> F
    F --> G{"是否需要工具"}
    G -- "需要" --> H["Tool Calling"]
    H --> I["后端执行工具"]
    I --> F
    G -- "不需要" --> J["输出校验和安全过滤"]
    J --> K["返回用户并记录评估数据"]

这个链路里,每一步都可能出问题:

问题常见原因排查方向
答非所问Prompt 不清、召回质量差看 Prompt、召回文档、重排结果
幻觉模型自由发挥、缺少引用约束降低温度、要求引用、加事实校验
泄露数据权限过滤缺失检查用户权限和知识库过滤
工具误调用Schema 不清、缺少确认收紧工具描述和参数校验
成本过高上下文过长、重复请求缓存、摘要、限流、模型分层

商业场景要求

AI 文档 Demo 要优先覆盖:

  1. 客服问答:RAG、引用、拒答、人工转接。
  2. 医疗/政企知识库:权限过滤、数据脱敏、审计。
  3. 代码助手:上下文裁剪、工具调用、执行安全。
  4. 数据分析助手:SQL 生成、结果解释、权限控制。
  5. 业务 Agent:查询订单、创建工单、发送通知、幂等控制。

面试闭环

AI 面试页要能回答:

  1. Token 是什么,为什么影响成本和上下文长度。
  2. Transformer 为什么能处理上下文。
  3. Embedding 和向量数据库解决什么问题。
  4. RAG 为什么能降低幻觉,但不能消除幻觉。
  5. Agent 和普通 ChatBot 区别是什么。
  6. Tool Calling 如何保证安全。
  7. 微调和 RAG 怎么选。
  8. 如何评估一个 AI 应用。
  9. 如何防 Prompt 注入。
  10. 如何做生产化监控和回滚。

本章小结

AI 文档不能只讲“怎么调接口”。必须讲清模型原理、知识库链路、工具调用、安全边界、评估和生产治理。否则用户只能做 Demo,做不了可靠的商业 AI 应用。