AI 助教问 AI 助教
东方瑞通 · FDE

RAG 核心链路:开卷问答与三步原理

RAG 是开卷式问答:回答时临时检索外部资料拼进提示词、基于片段生成并标注出处,答案可溯源、更新只需重建索引。

考点精讲

  1. 第 173 页把 RAG 与微调的根本差别说清:RAG 是开卷——知识留在外部、回答时临时取用、答案带出处、更新只需重建索引;微调是背书——把信息学进参数里,更新等于重新训练。因此事实类、常更新的问题用 RAG 更合适。第 174 页给三步原理:检索(问题变查询、找最相关 K 个片段)、增强(片段加问题组装提示词)、生成(LLM 基于片段作答并标注出处)。第 178 页给一条完整链路:离线建库四步(解析、分块、向量化、存向量库)加在线问答三步(问题向量化、检索 top-K、生成并标注来源)。第 190 页给两条硬纪律:只给检索片段不给全文,否则等于退回超长上下文、成本高且易失焦;第 190 页还要求系统提示写死「只用片段作答、不得凭记忆补充」。
  2. 前后置引导:前置读「实操二:市民诉求智能分类器」页:判定型任务之后进入需要外部知识的场景。;后置读「分块、Embedding、向量库与双指标验收」页:把本页的链路拆到分块、Embedding、向量库与验收层面。

记忆技巧

三步原理记「切片建库、向量检索、片段生成」
离线四步与在线三步各背一遍
纪律记「只给片段、检索不到就拒答」。

常见误区

  • 误区:把 RAG 当成让模型学会知识。第 173 页明确 RAG 是开卷、把信息学进参数的是微调。
  • 误区:只存向量不存原文与来源。第 179 页明确来源就没了、溯源会断。
  • 误区:检索为空时让模型凭记忆作答。第 179 页的纪律是明确说未检索到、无法回答。

真题思路

  • 【示例】 按讲义,RAG 与微调最本质的区别是?
    RAG 更快,微调更慢 RAG 是开卷、知识留在外部且可溯源;微调是闭卷、把知识学进参数 RAG 只能用于中文,微调只能用于英文 RAG 需要 GPU,微调不需要
    答案:B
    解析:第 173 页用开卷与闭卷作对比,并据此得出适用边界:事实类用 RAG、行为格式类用微调。A、C、D 均非该页给出的差别维度。

常见问题

Q:RAG 与微调最本质的区别是什么?

A:RAG 开卷、知识在外部、答案带出处且更新只需重建索引;微调背书、把信息学进参数、更新要重新训练。(解析:第 173 页与第 246 页两处都给出这张对比,第 246 页还给了判断清单,并明确「先 RAG 后微调、微调是最后一公里」。)

Q:分块太大或太小各会出什么问题?

A:太大则一段里塞太多无关内容、检索不精准、模型易跑偏;太小则关键信息被切断,检索到了但片段不含完整答案。(解析:第 182 页从调参与进阶两个层面回应:起点 chunk_size 256–1024 token、overlap 10%–20%(经验起点、非万能最优);不够用再按第 183 页升级语义分块与父子文档。)

Q:「检索不到不能编」的三条判据是什么?

A:一是检索为空或片段太少,回答「未检索到、无法回答」;二是命中但不相关,说明「未找到与问题直接相关的条款」、不硬答;三是片段互相冲突,如实标注「不同条款存在差异」、交人工确认。(解析:第 191 页把三条逐条给出处理动作,并把红线「答案可追溯」落在「先有片段加原文加来源,再有只用片段作答加强制引用加检索不到不编」。第 193 页的「库外问题」是评估口径(由讲师外部给定),不属这三条之一。)

相关知识

教材出处:第9章 RAG 方法 RAG 核心链路:开卷问答与三步原理

AI 助教

让 AI 助教带你深入学习,把你卡住的地方直接问它

随时为您答疑解惑

开始答疑