1
为什么需要 RAG？
容易幻觉
- LLM 可能编造并不存在的答案
- 无法验证真实性，误导性强
知识过时
- 训练数据有截止日期
- 不了解最新发生的信息
缺少私有知识
- 不知道企业内部资料
- 无法回答专属业务问题
成本与窗口限制
- 资料太长，直接塞给模型不现实
- Token 消耗大，费用高
核心问题：传统 LLM 直接回答，往往不够准、也不够可控。
2
RAG 的核心思路
❌ 传统方式
用户提问
直接发给模型
LLM
凭记忆直接回答
靠模型记忆，容易出错、过时、幻觉。
✅ RAG 方式
用户提问
发起查询
检索资料
搜索相关文档
增强 Prompt
把资料塞进上下文
LLM 生成
基于资料回答
核心逻辑：先检索，再增强，最后生成。
3
一张图看懂 RAG 流程
入库阶段
离线处理
- ① 导入企业文档
- ② 解析 / 清洗 / OCR
- ③ 切分（Chunking）成小块
- ④ Embedding 向量化
- ⑤ 存入向量数据库
查询阶段
在线响应
- ⑥ 用户提问
- ⑦ Query Rewrite（可选优化）
- ⑧ Top-K 向量召回
- ⑨ Rerank 重排序
- ⑩ 构造 Prompt → LLM 生成答案
一句话理解：文档先"消化"进数据库，问题来了再"精准捞出"相关内容，交给模型回答。
4
三个关键概念
Chunking
切分
- 把长文档切成小块
- 每块大小适合检索
- 方便精准定位相关内容
Embedding
向量化
- 把文字变成数字向量
- 语义相近的向量距离近
- 支持相似度计算与检索
Rerank
重排序
- 对召回结果二次打分
- 找出最相关的内容
- 提升最终回答的质量
5
RAG 适合用在哪里？
企业知识库问答
- 产品手册、制度流程查询
- 新员工快速上手内部知识
客服机器人
- 基于 FAQ 自动回答用户问题
- 回答可追溯到具体文档来源
文档助手
- 合同、报告等长文档理解
- 精准定位关键段落内容
内部培训 / AI 搜索
- 培训资料智能问答
- 内部搜索引擎语义升级
特别适合：产品手册、制度流程、FAQ、培训资料等场景——凡是需要「基于文档回答」的地方，RAG 都能发挥作用。
6
最后总结
没有 RAG
- 靠记忆回答，容易幻觉
- 知识过时，不了解最新信息
- 不知道企业私有资料
有了 RAG
- 先查资料，再基于资料回答
- 基于上下文，更准确更可靠
- 可对接私有知识库
一句话记住：RAG 的核心，不是让模型记住所有知识，而是让模型在回答前，先找到正确的知识。
学完可以做什么？
- 用 RAG 框架（如 LangChain、LlamaIndex）搭建自己的知识库问答系统
- 把企业文档接入 AI，让员工直接用自然语言查资料
- 结合 Claude API 快速搭建文档助手原型
一图总结全部内容 ↓
