AI 助教问 AI 助教
东方瑞通 · FDE

LLM 能力金字塔:从最简单开始,仅必要时升级

LLM 能力金字塔从下到上是提示词与分类、RAG、微调、Agent;选型原则是从最简单开始、仅必要时升级、各层可组合。

考点精讲

  1. 第 66–67 页给出四层:最底层是提示词工程与分类(一次调用就能解决判定类问题);其上 RAG(需要外部知识且要求可溯源);再上微调(需要固定行为、格式、风格或私有协议);顶层是 Agent(需要多步决策、调工具、闭环执行)。选型原则三条:从最简单的一层开始、只有证据表明下层不够才升级、各层可组合而非必须逐级攀登。第 145–147 页给出两个必须分清的点:coding agent(帮你写代码的工具)与第 4 层 Agent(运行时自主决策的系统)同名不同物;升级必须带证据——拿上一层的实测结果说话,而不是凭感觉上更强的技术。第 107 页也把新手「什么都想上 Agent」列为要拉回「从最简单开始」的典型。
  2. 前后置引导:前置读「PPT 三要素与四阶段:用 Stage Gate 凭证据把关」页:知道在哪个阶段做选型判断。;后置读「能力回注四步法与拒绝过早标准化」页:把选出来的能力沉淀成平台可复用资产。

记忆技巧

四层记「提示词、RAG、微调、Agent」自下而上
三原则记「从简、有证据才升、可组合」
一句提醒:coding agent ≠ 第 4 层 Agent。

常见误区

  • 误区:把金字塔当成必须逐级攀登的单线路径。第 67 页明确各层可组合,不是必须逐级攀登。
  • 误区:新手什么都想上 Agent。第 107 页专门提示要拉回「从最简单开始」。
  • 误区:把 coding agent 与第 4 层 Agent 混为一谈。第 146 页明确同名不同物:前者是帮你写代码,后者是运行时自主决策。

真题思路

  • 【示例】 按讲义的能力金字塔选型原则,下列做法正确的是?
    新项目直接从 Agent 层开始,以便一次做到位 从最简单的一层开始,只有证据表明不够时才升级,各层可组合 必须先做完提示词、RAG、微调三层,才有资格使用 Agent 微调一定优于 RAG,因为改的是模型权重
    答案:B
    解析:第 66–67 页给出三原则:从最简单开始、仅必要时升级、各层可组合。A、C 违背「从简」与「不必逐级攀登」;D 与第 246 页「先 RAG 后微调、微调是最后一公里」相反。

常见问题

Q:微调层为什么排在 RAG 之上?

A:因为事实与知识类问题用 RAG 就能解决且可溯源,微调只该用于行为、格式、风格等最后一公里问题。(解析:第 246 页的对比表把 RAG 定位为骨架先做、微调定位为收尾;第 67 页的层级顺序与之一致,两者互相印证。)

Q:各层可以怎么组合?

A:分类器做判定、RAG 给依据、微调定行为、Agent 负责多步执行,按问题需要叠加而非替代。(解析:第 67 页明确可组合;第 294 页的「三块拼图」(分类器、RAG、路由)正是组合思路在能力栈层面的表述。)

Q:为什么升级必须带证据?

A:因为每一层升级都带来成本、延迟与维护负担,没有上一层的实测结果就无法证明升级必要。(解析:第 147 页要求在升级时给出依据;这也是第 14 章八项生产准入 Gate「通过证据」思维在选型上的同构要求。)

相关知识

教材出处:第3章 FDE 交付方法论 LLM 能力金字塔:从最简单开始,仅必要时升级

AI 助教

让 AI 助教带你深入学习,把你卡住的地方直接问它

随时为您答疑解惑

开始答疑