AI 助教问 AI 助教
东方瑞通 · FDE

分块、Embedding、向量库与双指标验收

分块起点是 256–1024 token 加 10%–20% 重叠;验收必须双指标,答案准确率与来源可追溯率都要过线。

考点精讲

  1. 第 182 页给分块起点:chunk_size 256–1024 token、overlap 10%–20%,是经验起点而非万能最优;第 184 页给 Embedding 选型:BGE-M3 为 1024 维、可本地部署不出域。第 186 页要求向量库必存三样:向量、原文、来源元数据(Chroma 做 PoC、Milvus 做大规模、pgvector 用于已有 Postgres);第 188 页强调混合检索必须配 jieba。第 192 页给双指标:答案准确率查结论是否正确切题无幻觉,来源可追溯率查关键论断是否带对出处,答对但引错同样不验收。第 193 页要求检索与生成分开评估、排错按「先找、再答、后引」,LLM 打分需人工抽检。
  2. 前后置引导:前置读「RAG 核心链路:开卷问答与三步原理」页:先有三步原理与开卷问答的定位,再进参数与验收细节。;后置读「实操三:政策法规 RAG 问答系统」页:把分块、选型与双指标落到场景 B 的五份政策文件上。

记忆技巧

分块记「1024 以内、重叠一到两成」
库记「向量、原文、来源三样」
验收记「答得对、引得对,两个都要过线」。

常见误区

  • 误区:只测答案准确率。第 192 页明确答对但引错同样不验收,并把它点名为政务 RAG 最常见的失效点。
  • 误区:只存向量不存原文与来源。第 186 页明确只存向量就丢原文,溯源直接断。
  • 误区:用 LLM 打分代替人工复核。第 193 页要求 LLM 打分只作初筛、抽检不少于 20% 人工复核。

真题思路

  • 【示例】 按讲义,政务 RAG 里「答对但引错」应当如何处理?
    答对即视为通过,引用问题留待后续优化 不通过验收,因为来源可追溯率未过线 只要引用格式正确就算通过 由模型自己判断引用准不准
    答案:B
    解析:第 192 页明确双指标都必须过线,答对但引错同样不验收。A、C 只看答案一侧;D 让模型自评,与该页「分开评估、人工复核」的要求相反。

常见问题

Q:分块参数起点是多少,为什么不能一步设死?

A:256–1024 token、重叠 10%–20%;因为这是经验起点,必须拿实测结果再微调。(解析:第 182 页的措辞是经验起点而非万能最优;第 183 页再给语义分块、父子文档、上下文检索等进阶策略,说明参数要随语料形态调整。)

Q:Chroma、Milvus、pgvector 各适合什么场景?

A:Chroma 适合嵌入式 PoC、开箱即用;Milvus 适合分布式生产与大规模;pgvector 适合数据已在 Postgres 的场景。(解析:第 186 页按规模与既有技术栈给出这三档,并同时要求无论选哪个都必存向量、原文、来源元数据三样,否则溯源失效。)

Q:为什么系统提示必须写死「只用所给片段作答」?

A:否则模型会回归凭记忆编,引用不可信,来源可追溯率必然失守。(解析:这与第 192 页的双指标直接相关:可追溯率要求每条关键论断带对出处,一旦允许模型自由发挥,出处就成了装饰;第 193 页还要求库外问题回答未检索到。)

相关知识

教材出处:第9章 RAG 方法 分块、Embedding、向量库与双指标验收

AI 助教

让 AI 助教带你深入学习,把你卡住的地方直接问它

随时为您答疑解惑

开始答疑