零基础备考大模型考点：从Transformer到RAG与Agent的复习路线

某次线下交流，有位朋友问我：“零基础想学大模型技术，考点应该怎么复习？”我反问他：“你知道大模型相关的考点其实可以拆成几块吗？”他想了想，只说出“Transformer、提示词”两个词。这个问题其实很典型。大模型技术这几年已经大量进入各类认证考试、岗位技能评估和面试考察，资料虽然多，但要么是算法推导劝退小白，要么是谈商业、谈热点的大词文章，真正按“零基础考点”整理出来的复习路径少之又少。很多人花了两三周刷视频、看文章，最后发现自己只是记住了零散名词，遇到考试题仍然无从下手。

这篇文章我按多年解读和辅导经验来写。不推公式，不要求读懂源码，只讲零基础考生复习时最需要掌握的技术主线、底层原理、应用套路和备考节奏。适合两类人：一类是真要参加大模型相关认证或笔试，希望短期内建立知识体系、拿下考点；另一类是想快速了解大模型技术是什么、能做什么，希望别人聊到这个话题时有框架能应对。全文会把考点掰开揉碎，讲得比常规资料更口语化，让你听完之后不只是“好像懂了”，而是能讲、能做题、能动手。

1. 零基础备考大模型考点：先搞清“考什么”再发力

1.1 大模型考点其实是三块知识地图

所有和大模型技术相关的考题，基本可以归纳为三块。

第一块是“基础层”。包括神经网络的核心概念、损失函数、梯度下降，以及 Transformer 这种底层架构。基础层题目以选择题、填空题、名词解释为主，重点考察“知不知道这个概念、能不能一句话说清它的作用”。比如“注意力机制解决了什么问题”“位置编码为什么需要”，就是典型的基础层考题。

第二块是“训练与原理层”。包括预训练、微调（SFT）、对齐（RLHF）、数据工程等。这一层考察的是流程理解和阶段辨析，题目常以判断题、简答题出现，要求你把“先预训练，再微调，最后对齐”这条完整链条理解清楚。

第三块是“应用层”。包括提示工程、检索增强生成（RAG）、智能体（Agent）、模型评估、部署选型。应用层的分值是三类里最高的，往往出现在案例分析、方案设计题里。好消息是，这一层对数学基础要求极低，靠理解和记忆就能快速提升，是零基础考生最应该优先发力的板块。

我画过太多这样的知识地图，建议你也照着画一张：中心线是“模型怎么来（训练）→模型怎么用（推理）→业务怎么接（应用）”，左右分支写上高频名词。考试无论怎么出题，基本都在这个链路里。你只要定位到“哪个环节”，答案方向就不会错。

下面这张表是我反复调整后的考点分布速查，可以直接拿去做复习计划：

1.2 优先级策略：先“送分”，再“拿分”，最后“攻坚”

我接触过不少零基础备考者，发现大多数失败案例都败在同一个问题：学习顺序完全反了。他们一上来就死磕 Transformer 自注意力公式，结果第二周就放弃了；也有些人一上来就背各种模型的参数规模，对应用场景完全没有概念，碰上一道“如何设计一个知识库问答系统”的大题就彻底崩盘。

零基础备考的最优顺序，不是“从原理到应用”硬推，而是“先从应用建立信心，再回头补原理”。

原因很简单：应用层的门槛低。设计一个提示词、解释什么是 RAG，不需要任何数学基础，一两天就能学到可以答题的程度；而原理层的硬骨头如果放在最开始啃，很容易因为抽象度太高而半途而废。

按这个逻辑，我的优先级策略如下：

第一优先级（应用层）：提示工程、RAG、Agent 的基本概念与设计套路。目标：会举例、会辨析、会设计简单方案。这一层属于“送分题”，花三天就能提升不少得分率。

第二优先级（训练原理层）：预训练和微调的区别、对齐的意义、采样参数的作用。目标：会解释、能简答。这层属于“拿分题”，需要理解而不只背诵。

第三优先级（基础层）：注意力机制、位置编码、前馈网络的作用。目标：能名词解释、能判断正误。这层属于“攻坚题”，不必强求数学推导，能说出逻辑即可。

这套顺序就是用最低的学习成本拿下最大比例的分值。零基础本身就意味着时间有限，要先把最容易得分的阵地拿下来，再逐步向外扩。

2. Transformer：零基础第一个必须攻下的核心考点

2.1 注意力机制：从“查字典”到“聚光灯”

Transformer 几乎是所有主流大模型共用的底层架构。考试中反复出现的追问是：“为什么有了循环神经网络，还需要注意力机制？”

要回答这个问题，得先把循环神经网络的问题说清楚。循环神经网络处理文本时，信息要按照词的顺序一步一步向后传递，这就像一条只能单行的巷子，第一个人要走到第十个人的位置，必须穿过中间所有人。如果文本很长，最前面的信息传到后面时已经损耗得非常严重，模型就“忘了”开头说了什么。注意力机制提供了一条捷径：处理某个词时，模型可以直接回头看输入序列里的所有词，计算每个词与当前词的相关性，并把注意力集中在最相关的位置。我常把这比喻成“在房间里打开一束聚光灯”，想照亮谁就照亮谁，不再依赖一条窄路接力传话。

考试评分时，通常看三点：第一，能不能点明注意力机制解决的是“长距离依赖”问题；第二，能不能说出“权重来自相关度计算”；第三，能不能提到它让并行计算成为可能。只要这三点到位，名词解释题基本能拿满。

还有一个容易被忽视的考点：注意力机制里通常包含“查询向量、键向量、值向量”。查询和键计算相关度，结果再对值做加权求和。零基础阶段不需要会手算公式，但最好知道“相关性权重”这个大方向，因为后续考察微调、RAG 时，这个词还会反复出现。

2.2 多头注意力与位置编码：两个固定送分点

多头注意力在白话层面并不难理解。单个注意力机制相当于一个“总负责人”，每次只能聚焦一种关系；多头机制则把计算空间拆成多个子空间，每个头负责关注不同的关系模式，最后再把结果拼接起来。我常把它类比成“不同专业的小组同时开会”：一个小组关注语法关系，另一个小组关注指代关系，还有一个小组关注语义相似性，所有小组汇总意见，最终给出整体判断。考题通常不会让你描述具体数学形式，主要问“多头注意力的作用是什么”，标准答法是：它在不同子空间里学习多种表达模式，提升模型表达能力。

位置编码是另一个高频考点。注意力机制本身不区分词的顺序，如果你把一句话倒过来，不额外加信息，模型看到的“注意力分布”几乎一样。位置编码的作用，就是给每个词注入一个“我在第几个位置”的数值信号。我总让学员把它想象成电影院的座位号：没有座位号，观众随便坐也能看电影，但电影剧情有先后顺序，坐错位置并不会影响你看懂画面，但模型没有位置信息，就看不懂“张三把苹果给了李四”和“李四把苹果给了张三”的区别。

进阶一点的考题会提到相对位置编码和旋转位置编码。零基础复习阶段，能理解“位置编码是为了弥补注意力机制缺失顺序信息”这一点，已经足以应对绝大多数题目。不要试图去推导旋转位置编码的公式，备考的性价比太低。

3. 训练主线：预训练、微调与对齐的高频考点

3.1 自监督预训练：最容易丢分的一句话考点

预训练是大模型“变聪明”的阶段。这个阶段要解决的核心问题是：模型如何从海量文本学会语言规律。

考试里最经典的判断题是：“预训练属于监督学习还是无监督学习？”很多考生会直接选“无监督”，结果被扣分。准确的说法是“自监督学习”。这个词的意思是：模型并不依赖人工标注好的标签，而是从文本数据本身构造“题目”和“答案”。比如最常用的训练任务，是让模型根据前文预测下一个词；或者在文本中遮挡一部分内容，让模型还原被遮住的词。因为答案就在数据本身，不需要人来标注，所以叫自监督。

另一个常考点是预训练数据工程。题目可能问：“为什么要对预训练语料进行清洗、去重和过滤？”回答要点有三：第一，低质量文本会让模型学到不合适的表达方式；第二，高度重复的数据会导致训练不稳定，模型会过度拟合某些样本；第三，数据来源多样性能明显影响模型能力，百科数据适合学通识，代码数据适合学逻辑。有些考试还会扩展到数据配比，即不同来源语料的比例问题，这类题在你的知识地图上属于“数据工程”分支。

我还想提醒一个概念：上下文窗口。预训练阶段通常会用固定长度的文本来训练模型，这个长度上限就是模型的上下文窗口。考题如果问你“为什么大模型只能处理有限长度的输入”，答案中应该提到上下文窗口和计算资源的限制，而不是简单说模型“没有记忆能力”。

3.2 微调（SFT）与对齐（RLHF）怎么区分

零基础最容易混淆的三个概念是：预训练、微调、对齐。我用“大学生→实习生→合格员工”来类比。

预训练阶段培养的是通用语言能力，相当于完成大学通识教育，能够看懂各种文本、续写各种内容，但还不会好好“干活”。微调阶段，我们用带有任务指令的数据对模型做监督训练，让模型学会“回答问题”的标准格式，相当于进入实习岗位后，针对岗位需求补专业技能。对齐阶段，则是要让模型符合人类的偏好和价值观，比如拒绝输出有害内容、回答要诚实、语气要友善，相当于一个员工不仅业务能力合格，还要有职业素养。

考试里常考“指令微调（SFT）和预训练有什么区别”。标准答法要抓住三个层面：训练数据的来源不同，预训练用的是大规模无标注文本，微调用的是人工整理的指令数据；目标任务不同，预训练是语言建模，微调是“学习遵循指令”；训练方式也有差异，微调通常是有监督训练。能把这三点说清楚，简答题的得分就稳了。

关于“RLHF”的题目也很常见。零基础不需要掌握强化学习的数学细节，只需要记住它的作用：RLHF 通过对人类偏好进行建模，引导模型生成更符合人类期望的内容，提升有用性和安全性。考试里经常出现的选择题选项是“RLHF 的目的是什么”，选“提升生成内容与人类期望的一致性”即可。

4. 推理与应用生成：从原理到落地的考点解析

4.1 生成式推理与采样参数：一道必考的应用题

大模型的“推理”，和逻辑推理不完全是一回事。在日常使用阶段，模型执行的是“自回归生成”：根据前面已经生成的词，一步步预测下一个词，每生成一个词，就把它加回输入，再继续生成下一个。这个过程，考场上可以理解为“滚雪球”——后面的内容永远基于前面已经生成的内容。

与推理密切相关的考点是采样参数。实操和考试中，以下参数是必考的。

温度（temperature）控制模型输出的随机程度。温度越低，模型越倾向于选择概率最高的词，输出更确定、更保守；温度越高，词的概率分布会被拉平，模型会更大胆地选择低概率词，输出更多样，但也更容易跑偏。考试常问：“写代码或做数学题时，温度应该调高还是调低？”标准答案：调低，最好接近 0，因为代码和数学题要求确定性和准确性。

top-p 和 top-k 决定候选词的范围。top-k 是只看概率排前 k 个的词；top-p 是从概率最高的词开始，逐个累加，直到累计概率超过阈值，把这批词作为候选集。二者本质上都是给模型输出加一个“候选池上限”，控制生成内容的意外程度。

这些参数在实际请求里通常长这样，示意代码如下，不代表任何特定接口：

# 伪代码示例：一次带参数控制的问答请求 messages = [ {"role": "system", "content": "你是严谨的编程助手，只输出代码和必要解释。"}, {"role": "user", "content": "用python写一个函数，判断某个字符串是否为回文。"}, ] result = model_api.chat( messages=messages, temperature=0.1, # 低温度保证确定性 top_p=0.6, # 限制候选范围 max_tokens=256 # 控制生成长度 )

对照一下各参数的典型取值：

有的考题还会提到“KV缓存”。这里的“KV”指的是注意力计算里的键和值，缓存起来可以避免每生成一个词都重新计算历史词的注意力。零基础只要记住结论：KV 缓存能显著提升生成速度，让推理过程更快，是实际部署中的常用优化手段。

4.2 量化、蒸馏与部署选型：资源有限时怎么“跑起来”

应用层另一类常考题目，是“如何用有限资源把模型跑起来”。这类答案通常会落到两种主流压缩技术：量化与知识蒸馏。

量化是把模型权重的数值精度降低，以减小体积、加快速度。可以把它想象成高清照片转成压缩图片：图片能看，但细节损失了一些。大模型的权重通常用较高精度浮点数存储，如果把这些数字的位宽降低，模型文件会明显变小，推理时需要的显存也大幅减少。考题的标准问法：“量化会造成什么影响？”回答：体积变小、推理速度变快，可能带来轻微的精度损失。

知识蒸馏是把一个大模型的知识“压缩”到一个小模型里。典型做法是让一个参数量少的“学生”模型，去学习参数量大的“老师”模型的输出分布。蒸馏的核心优势是：小模型在保留多数能力的同时，推理速度更快，部署成本更低，很适合跑在边缘设备上。考试若问你“为什么现在很多场景不直接部署大模型”，可以把“速度、成本、显存限制”三个词放进去。

部署选型题通常以场景为背景出案例分析。比如，内部数据不能出公司、需要秒级响应的场景，应优先考虑本地部署；预算有限、响应要求不高、数据不敏感的场景，可以调用云端接口。这里的核心权衡是：计算资源、数据隐私、单次调用成本。答题时把三点都摆出来，再给出倾向性判断，分数不会低。

还有一种常被忽略的部署考点：输入输出格式限制。实际业务里，我们经常要求模型输出一个 JSON 结构，而不是自由文本。考题如果让你设计一个“信息抽取助手”，你需要在提示词里明确“只输出 JSON，字段包括标题、时间、作者、摘要”，这既是一个工程实践，也是考试的得分点。

5. 应用层考点：提示工程、RAG 与 Agent 三板斧

5.1 提示工程：零基础最值得投入的得分区

提示工程是大模型考试里性价比最高的考点。它不需要数学基础，也不需要理解模型内部结构，考验的是“你有没有能力用自然语言引导模型给出预期结果”。

核心考点包括四个要素：角色设定、任务描述、上下文信息和输出格式。我平时用的模板一般长这样：

你是一名资深的中文技术编辑。 任务：把下面这段文字改写成通顺、简洁、无病句的版本。 背景：这段文字会发布在面向新手的科普频道。 要求：只输出修改后的文字，不要解释修改原因，不要添加新的信息。 原文：xxx

这短短几行里其实包含了一套完整的答题公式。考试如果给了一个低质量提示词，让你指出问题，常见毛病有：目标任务模糊、没有背景信息、没有输出格式限制、缺少正反示例。你能按这四个方向作答，基本就把题干踩点踩全了。

另一个高频考点是少样本示例。模型不擅长听抽象的指令，但很擅长模仿。你给一个示例，它就会照着你的风格输出。考场遇到“让模型生成某种风格文案”的题，最稳的套路是：先构造一组输入输出范例，再把目标内容放进去，让模型模仿。这比反复用形容词描述“要幽默一点、要有网感”有效得多。

5.2 RAG 与微调的选择题逻辑

检索增强生成（RAG）是现在大模型应用落地最重要的考点之一。它的流程可以概括为三步：先把外部文档分割成片段并建立索引；用户提问时，从中检索出几个最相关的片段；最后把检索结果和用户问题一起组装成提示词，让模型基于检索到的内容生成回答。

RAG 解决的核心问题是“知识老化”和“私有知识获取”。大模型在预训练后就固定了对世界的认知，训练截止之后的事件、企业内部文档，它都不知道。与其频繁重训模型，不如在问答时把最新资料或私域资料“喂”进上下文，让模型边查边答。同时，因为回答需要参照检索内容，RAG 还能明显降低模型“编造内容”的概率。

考试里高频出现的是一道选择题或简答题：“什么时候用 RAG，什么时候用微调？”我的判断口诀是：需要更新知识、引用来源、查私有文档，优先考虑 RAG；需要改变模型的写作风格、输出格式、专门能力，考虑微调。一句话概括：RAG 让模型“知道更多”，微调让模型“更擅长某件事”。

5.3 Agent 基础考点：让大模型学会“调用工具”

Agent（智能体）是当前大模型应用领域最热的方向之一，也正在成为考试进阶题。零基础复习时，不需要掌握工程实现细节，先理解它是怎么运作的。

Agent 的基本框架是：大模型不再只是“生成文字”，而是扮演一个“决策者”。它接收任务后，先将任务拆解成多个步骤，再为每个步骤选择合适的工具，然后执行工具调用，并根据工具返回的结果决定下一步动作。

我给零基础学员画过一个简化流程：

1. 定义任务目标，例如“帮我查询某地明天天气，并决定要不要提醒我带伞”。
2. 模型拆解计划：第一步查询天气，第二步根据结果生成提醒。
3. 调用工具：调用天气查询接口，传入城市名和日期参数。
4. 汇总反馈：把接口返回的数据放入上下文，生成最终回答。

这里的关键词是“函数调用”。工程师会预先定义好一批工具函数，每个函数都带一个描述和参数说明，模型根据用户意图选择最适合的函数并传参。本质上，就是给模型一本“通讯录”，让它自己决定给谁打电话、说什么内容。

一个简化的函数调用示意，可以帮你理解考点：

{ "function": "query_weather", "arguments": { "city": "beijing", "date": "2025-07-20" } }

考试题最常见的问法是：“智能体和普通对话系统有什么区别？”答法是：普通对话系统只输出文本；智能体能自主规划、调用外部工具、根据执行结果动态调整策略，并最终给出一个“做了事”的答复。能说出“规划、工具调用、反馈”三个词，基本就能拿到大部分分值。

6. 备考实操：一条能落地的复习路线和避坑清单

6.1 一条零基础可照做的三四周复习路线

我没办法在文章里替你安排所有时间，但我可以给出一条经过验证的复习路线，分为四周。

第一周：主攻应用层。前三天浏览提示工程的常见写法，练习“系统身份+任务描述+格式要求”三段式提示词；花两天理解 RAG 的检索、拼接、生成流程，用自己的话把流程讲一遍；最后两天了解 Agent 的概念、函数调用和几个经典案例。这一周完全不接触公式，目标是能说、能举例子。

第二周：主攻原理层。先看 Transformer 的通俗解释，理解注意力机制、多头、位置编码；然后重点掌握预训练、微调、对齐三阶段的差异，配合思维导图把“训练链路”默写三遍。这一周的目标，是能在一分钟内把“模型是怎么训练出来的”清晰讲给别人听。

第三周：动手验证一次。尝试部署一个开源权重模型，跑通一个最简单的对话流程；再用一个本地文档集，做一个最小化的问答 Demo。不追求规模大，只求“手上有真实项目过一遍”。这个过程中你会非常自然地理解前面背过的所有概念。

第四周：整理真题与错题。找一些模拟题，按章节定时练习，记录错题。重点记录混淆项：预训练是自监督，微调是监督，对齐要考虑人类偏好；代码和数学题温度调低；RAG 更适合解决知识更新问题。

6.2 零基础备考最容易踩的坑

最后整理几个我反复见到的备考误区，帮你提前避开。

死磕数学公式是最常见的问题。大模型零基础考试很少要求手推公式，你的目标是看到公式能识别它对应的场景，而不是复现推导。时间要用在建立概念和训练应用理解上。

把预训练和微调混为一谈。简答题里，如果你说“微调就是继续训练模型”，会被判为不准确。微调是使用指令数据做监督学习，目标是提升模型遵循指令和完成任务的能力；继续预训练只增加知识。这两件事在考试里不能混。

答设计题时忽略输出格式。很多考生在方案设计题中能写出功能模块，却忘了写“最后输出必须为 JSON”之类的约束。这是典型扣分点。答题时主动提输出格式，既是得分点，也是实际工程中的常见需求。

只背概念不上手。即使完全零基础，也应该抽时间跑通一个最小案例。几十行调用代码、一个本地问答 Demo，能把抽象知识变成具象体验，记忆成本比背诵低得多。

看到“开源权重模型”就焦虑版本。零基础阶段不需要追最新模型，挑一个文档完善、社区活跃的开源模型，跑通流程即可。重点是理解训练、推理、应用的整体链路，而不是堆模型名和参数数字。

这几条坑如果提前规避，复习效率至少能翻一倍。考试不是为了背诵名词，而是考察你在真实业务中能否选对方案、说清原理、搭好流程。带着“我是在设计一个解决方案”的心态去复习，很多概念会变得更容易记住。

我在实际辅导中的体会是，零基础学大模型技术，最大的敌人不是技术难度，而是信息密度过载。今天这个课程提一个新词，明天那篇文章又引入一个概念，没有骨架的知识很快就被遗忘。先把“训练—推理—应用”这条主线架起来，再往框架里填细节，你会发现那些看似复杂的名词，其实只是链条里的螺丝钉。如果你也正在备考相关考试，不妨从今天开始，先拿一张纸画出自己的知识地图，再一步步把每个考点填充进去。按这个节奏走，比漫无目的地刷两个星期视频要稳得多。最后再分享一个小技巧：复习到任何时候觉得混乱了，就回去默写一遍那条训练到应用的主线，只要脉络还在，你丢不掉全局。