教它我的文档,还是让它读这些文档?
RAG vs 微调:教它,还是让它自己读?(5 分钟)
教它我的文档,还是让它读这些文档?
RAG vs 微调 · 构建者 · 5 分钟 · rag、embeddings、context · 继 [上下文窗口](/explain/context-window/) 、[嵌入](/explain/embeddings/) 之后
RAG 在回答时把正确的文档放进窗口(开卷);微调用示例训练来改变模型(学习)。会变的事实放进“书”里;习惯、格式和风格放进模型里。
开始前:你能向朋友解释这个吗?1 2 3 4 5
1 = 完全不能 · 5 = 轻松
- 1 先猜
你想要一个了解公司政策的聊天机器人,而政策每月都会变。你会怎么做?
- A 每月用政策重新训练模型
- B 在回答前查找相关页面并放进窗口
- C 把整份政策粘贴到每个提示里
- 2 看
教它你的东西的两种方式
1 / 3
开卷(RAG)
1 . 问题进来
- 2 . 找到相关页面
- 3 . 把它们放进窗口
- 4 . 回答并引用它们
学习(微调)
- 1 . 收集示例
- 2 . 用它们训练模型
- 3 . 模型改变
- 4 . 凭记忆回答
同一个问题,两条路线。两者开始时模型相同。
◀ - - - 重置 ▶
两条路线,开始时同一个模型:一条把页面加进窗口,另一条改变模型本身。
- RAG 是嵌入在做一件事:把问题变成一个点,找到点最接近的页面,把它们放进窗口。模型随后根据它实际能看到的文本回答——并且可以引用。微调则是在数百个示例上训练,直到某种行为进入数字里。
- 4 你就是模型
把四种情况分别归到一条路线,然后检查。
开卷(RAG)
1 . 问题进来
- 2 . 找到相关页面
- 3 . 把它们放进窗口
- 4 . 回答并引用它们
学习(微调)
- 1 . 收集示例
- 2 . 用它们训练模型
- 3 . 模型改变
- 4 . 凭记忆回答
- 回答关于我们 400 页、每月变化的内部政策的问题
开卷 学习
- 始终用我们品牌简洁、小写的风格回复
开卷 学习
- 引用客户合同中的确切条款
开卷 学习
- 可靠地解析我们奇怪的内部工单格式
开卷 学习
把每种情况归到一条路线,然后检查。检查
我完成了——给我看模型
- 5 检查
事实变化时,哪种更新更便宜?
- A RAG——换文档
- B 微调——重新训练
- C 一样
- 6 复述
用一句话向朋友解释 RAG vs 微调。比较
- 7 任务 · 5 分钟
写三条自己的短笔记,用一个免费嵌入密钥把它们嵌入,再嵌入一个问题,并用余弦相似度找到最近的笔记。你刚刚构建了 RAG 的检索那一半。
[免费嵌入 API](/learn/free-embeddings-api/) 完成
三道快问
从本课题库中随机抽取;下次会不同。
完成?
现在:你能向朋友解释这个吗?1 2 3 4 5
1 = 完全不能 · 5 = 轻松
标记完成 先回答三道快问。
深入阅读
来源
- https://arxiv.org/abs/2005.11401
- https://www.anthropic.com/news/contextual-retrieval 发布于 2026 年 10 月 20 日 · 更新于 2026 年 10 月 20 日