← 小课堂

教它我的文档,还是让它读这些文档?

RAG vs 微调:教它,还是让它自己读?(5 分钟)

教它我的文档,还是让它读这些文档?

RAG vs 微调 · 构建者 · 5 分钟 · rag、embeddings、context · 继 [上下文窗口](/explain/context-window/) 、[嵌入](/explain/embeddings/) 之后

RAG 在回答时把正确的文档放进窗口(开卷);微调用示例训练来改变模型(学习)。会变的事实放进“书”里;习惯、格式和风格放进模型里。

开始前:你能向朋友解释这个吗?1 2 3 4 5

1 = 完全不能 · 5 = 轻松

  • 1 先猜

你想要一个了解公司政策的聊天机器人,而政策每月都会变。你会怎么做?

  • A 每月用政策重新训练模型
  • B 在回答前查找相关页面并放进窗口
  • C 把整份政策粘贴到每个提示里
  • 2 看

教它你的东西的两种方式

1 / 3

开卷(RAG)

1 . 问题进来

  • 2 . 找到相关页面
  • 3 . 把它们放进窗口
  • 4 . 回答并引用它们

学习(微调)

  • 1 . 收集示例
  • 2 . 用它们训练模型
  • 3 . 模型改变
  • 4 . 凭记忆回答

同一个问题,两条路线。两者开始时模型相同。

◀ - - - 重置 ▶

两条路线,开始时同一个模型:一条把页面加进窗口,另一条改变模型本身。

  • RAG 是嵌入在做一件事:把问题变成一个点,找到点最接近的页面,把它们放进窗口。模型随后根据它实际能看到的文本回答——并且可以引用。微调则是在数百个示例上训练,直到某种行为进入数字里。
  • 4 你就是模型

把四种情况分别归到一条路线,然后检查。

开卷(RAG)

1 . 问题进来

  • 2 . 找到相关页面
  • 3 . 把它们放进窗口
  • 4 . 回答并引用它们

学习(微调)

  • 1 . 收集示例
  • 2 . 用它们训练模型
  • 3 . 模型改变
  • 4 . 凭记忆回答
  • 回答关于我们 400 页、每月变化的内部政策的问题

开卷 学习

  • 始终用我们品牌简洁、小写的风格回复

开卷 学习

  • 引用客户合同中的确切条款

开卷 学习

  • 可靠地解析我们奇怪的内部工单格式

开卷 学习

把每种情况归到一条路线,然后检查。检查

我完成了——给我看模型

  • 5 检查

事实变化时,哪种更新更便宜?

  • A RAG——换文档
  • B 微调——重新训练
  • C 一样
  • 6 复述

用一句话向朋友解释 RAG vs 微调。比较

  • 7 任务 · 5 分钟

写三条自己的短笔记,用一个免费嵌入密钥把它们嵌入,再嵌入一个问题,并用余弦相似度找到最近的笔记。你刚刚构建了 RAG 的检索那一半。

[免费嵌入 API](/learn/free-embeddings-api/) 完成

三道快问

从本课题库中随机抽取;下次会不同。

完成?

现在:你能向朋友解释这个吗?1 2 3 4 5

1 = 完全不能 · 5 = 轻松

标记完成 先回答三道快问。

深入阅读

来源

译自 aifree.dev 教程栏目 · 信息以原文为准