授课讲义：第 03 次课：预训练与后训练：大模型的教育 ​

一、上节课回顾 ​

• 上节课三个要点：
  1. 人工神经元按“输入、权重、激活、输出”处理信息，权重决定不同信息的重要程度。
  2. 神经网络通过输入层、隐藏层、输出层逐层组合特征，深层特征更抽象。
  3. RNN 像传话游戏，远距离信息容易衰减；Transformer 改用开会式注意力，让模型全局找重点。
• 已经留下的基础：学生能解释注意力会根据上下文给重要内容更高权重，也能用 bank 的例子说明一词多义。
• 今天要接上的问题：一个结构强大的模型，为什么还要经历“预训练”和“后训练”两个教育阶段。
• 开场检查：请学生回答“Transformer 解决了 RNN 的什么问题？它的比喻为什么是开会，而不是传话？”

二、本节课主要内容和目标 ​

本节课结束时，学生能：

1. 用“基础教育”解释预训练的目标、数据来源和能学到的能力。
2. 用“完形填空”说明自监督学习如何在没有人工标注的情况下训练模型。
3. 识别涌现能力的表现，并说明“规模够大后突然出现”的含义和边界。
4. 区分知识截止、幻觉和普通错误，并选择合适的核验方法。
5. 用“岗前培训”解释 SFT 如何把续写机器调整成听从指令的助手。
6. 从准确性、格式、覆盖面和安全性等角度判断 SFT 数据质量。

课堂总时长 80 分钟，另留 10 分钟机动。教师准备一段带空格的中文短文、一个可演示的大模型工具、一个近期新闻问题和一份好/坏 SFT 样本对照表。

三、本节课知识内容 ​

M1：预训练 ​

剧情钩子：Transformer 已经学会了“开会”，但会议桌上还没有材料。于是预训练登场，像把一个新人送进基础教育阶段：读海量文本、见大量表达，先学会语言规律和世界常识。

是什么：预训练是大模型在正式服务用户前的第一阶段训练。训练系统会把互联网网页、书籍、文章、代码等海量文本交给模型，让它学习词与词之间的关系、句法结构、常见事实和不同领域的表达方式。这个阶段的目标不是让模型只会回答某个固定问题，而是形成广泛的语言和知识基础。

核心特点：预训练的数据规模极大，覆盖面广，成本高，训练目标相对通用。它让模型具备语言理解、常识推断、写作改写、代码补全等基础能力，但不会天然保证模型符合人的使用习惯。预训练之后，模型更像一个读过很多书的“续写器”，知道语言怎么接，还不一定知道用户想要什么格式、语气和边界。

典型例子：模型读过大量“今天天气很好，适合出门”的表达后，更容易续写活动安排；读过很多 Python 报错和修复示例后，更容易识别常见代码错误；读过不同风格的说明文后，能把“AI 很强”扩写成一段有论据的介绍。但它可能只知道语言规律，不知道你要求的是课堂发言、求职简历还是短视频脚本。

易错点：学生容易把预训练理解成“把资料背下来”。模型不是数据库，而是在海量文本中学习统计规律和语义关系。也不能认为预训练结束后模型就一定可靠；它可能知道很多表达，却仍然编造细节、误解指令或输出不适合的答案。

课堂练习：讲完本模块后，在学习通完成【M1-01】识别预训练目标、【M1-02】判断预训练能力、【M1-03】匹配预训练原料。

M2：自监督学习 ​

剧情钩子：预训练的数据量太大，人工标注答案根本不现实。自监督学习站出来说：“别急着给每句话写答案，把文本本身变成试卷。”于是模型开始做大规模完形填空。

是什么：自监督学习是一种不需要人工逐条标注答案的训练方式。系统会自动遮住文本中的某些词，或让模型预测下一个词、前后句关系、被删除的内容。文本的一部分变成输入，另一部分自动变成学习目标，所以叫“自监督”。

核心特点：它的最大优势是能利用几乎无穷的自然文本。模型不是只记住某道题的答案，而是在反复预测中学习语法、搭配、上下文一致性和常见知识。缺点也很明显：数据来自真实文本，可能包含过时观点、错误说法、偏见和不一致信息；模型学到的是语言概率，不等于每条事实都被验证过。

典型例子：“前端开发需要掌握 HTML、CSS 和______。”模型会根据上下文预测 JavaScript。“她把文件保存到桌面，接着打开______。”模型可能预测文件夹、电脑或软件。完形填空越复杂，模型越需要理解语义，而不只是看相邻词。

易错点：学生容易把自监督学习和无监督学习混在一起。自监督学习虽然不靠人工标签，但系统仍然从文本内部自动构造了学习信号；无监督学习更强调在没有预设标签的情况下发现结构。也不能认为“没有人工标注”等于“没有监督目标”。

课堂练习：讲完本模块后，在学习通完成【M2-01】解释完形填空机制、【M2-02】判断自监督学习、【M2-03】辨析标注需求。

M3：涌现能力 ​

剧情钩子：模型不断变大，学生可能以为它只是“写得快一点”。但某些能力像水管加粗到临界点后突然喷水：小模型做不到的任务，大模型开始能做了。这种现象被称为涌现能力。

是什么：涌现能力指当模型参数、数据量和算力规模达到一定程度后，出现的较小模型不具备或表现很弱的能力，例如多步推理、跨领域总结、按复杂指令组织答案、理解隐含条件等。它不是凭空魔法，而是大规模学习和复杂结构共同作用后表现出的能力跃迁。

核心特点：涌现能力有“规模阈值”和“任务依赖”两个关键点。同一类模型在小规模时可能只能复述，大规模后才出现更稳定的推理和归纳。不同任务出现涌现的时机不同；某些能力会随着规模提升快速改善，另一些仍可能失败。因此不能把所有好结果都归因于涌现，也不能期待模型在所有任务上都稳定表现。

典型例子：小模型可能只会把长文章压缩成几句话；更大的模型能总结文章、比较观点、指出矛盾并按老师要求改写成课堂汇报。面对数学应用题，小模型可能直接给答案，更大的模型能拆条件、列关系、逐步推理。

易错点：“涌现”不表示能力可靠、永远正确，也不表示模型已经拥有人类意识。它描述的是规模扩大后能力的显著变化。学生还要避免把普通改进都说成涌现；只有能力的表现方式或任务难度出现明显跃迁时，才更适合用这个词。

课堂练习：讲完本模块后，在学习通完成【M3-01】识别涌现现象、【M3-02】判断规模条件、【M3-03】设计能力测试任务。

M4：知识截止与幻觉 ​

剧情钩子：模型读过很多书，但它不能自动刷新书架。问到训练截止后的事情，它可能装作知道；遇到不确定内容，它也可能补出一个看似合理的细节。于是知识截止和幻觉一起登场。

是什么：知识截止指模型只能稳定学习到训练数据截止时间之前的信息，之后发生的事件、发布的产品、更新的政策可能不在其知识范围内。幻觉指模型生成了看似合理但实际上错误、虚构或无法验证的内容，例如编造文献、网址、API 名称或案件细节。两者都会导致回答不可靠，但来源不同。

核心特点：知识截止是时间边界问题；幻觉是生成机制带来的可靠性问题。知识截止可以通过联网检索、更新模型或提供新资料缓解；幻觉更需要人工核验、要求模型说明依据、限制回答范围和交叉验证。对课程作业、代码、法律、医疗、新闻等场景，必须先判断问题是否涉及事实和时间敏感信息。

典型例子：问模型“最近一周发布的模型有哪些”，它可能给出过时列表，这是知识截止。问它某篇论文的作者和结论，它可能编造一个格式完美但不存在的标题，这是幻觉。二者也可能同时出现：模型用过时框架回答新需求，还补造不存在的配置参数。

易错点：学生容易把所有错误都叫幻觉。时间边界导致的信息陈旧，更适合称为知识截止；逻辑错误、漏看条件也不一定属于幻觉。也不能因为模型语气肯定就相信答案；语气流畅不等于事实正确。

课堂练习：讲完本模块后，在学习通完成【M4-01】识别知识截止、【M4-02】区分幻觉与过时、【M4-03】选择核验策略。

M5：后训练 SFT ​

剧情钩子：预训练结束后，模型像一个博览群书但没上过岗的毕业生。它会续写，却可能把问题续写成一段散文。于是 SFT 登场，像岗前培训：拿大量“问题—好答案”样例教它听懂指令、控制格式、承担责任。

是什么：SFT，全称 Supervised Fine-Tuning，中文常译为监督微调，是大模型后训练的重要阶段。训练数据通常由提示词和高品质回答组成。模型在这些样本中学习：用户是在提问、求解、总结、改写还是分类；回答应该用什么角色、结构、语气、长度和安全边界。

核心特点：SFT 改变的是模型与用户的协作方式。预训练让模型会说，SFT 让模型更会“按要求说”。经过 SFT 后，模型更能遵守“分点回答”“只输出代码”“扮演面试官”“不要编造来源”等指令。它仍不能消除所有幻觉，也不能替代事实核验，但能显著提高可用性和一致性。

典型例子：没有充分后训练的续写器遇到“请用三条建议回答”时，可能继续写一段背景说明；经过 SFT 的助手更可能输出三条编号建议。用户要求“扮演严格的项目经理审查方案”时，SFT 帮助模型进入角色，并按审查视角提出风险、优先级和修改要求。

易错点：学生容易认为 SFT 是重新预训练，或者只要数据多就一定更好。SFT 通常是在已有能力基础上调整行为，重点是指令对齐和答案质量。也不能把“回答礼貌”当成“回答正确”；模型可能格式很好但事实有误。

课堂练习：讲完本模块后，在学习通完成【M5-01】识别 SFT 目标、【M5-02】判断指令数据、【M5-03】比较前后行为。

M6：SFT 数据质量 ​

剧情钩子：SFT 培训班开课了，可如果教材里全是含糊答案、错误步骤和不安全建议，模型学得越熟练，错得越像样。数据质量开始接管课堂：好老师不是讲得多，而是示范得准。

是什么：SFT 数据质量指“问题—回答”样本是否能稳定代表用户任务和期望行为。高质量数据通常有清晰任务、准确事实、完整步骤、合适格式、一致风格和必要安全边界。低质量数据可能问题模糊、答案冗长、格式混乱、事实错误、覆盖面窄，甚至教模型学会不良表达。

核心特点：数据质量比单纯数量更重要。少量高质量样本可以让模型更清楚目标行为；大量噪声样本会让模型在不同风格之间摇摆。数据还需要覆盖真实任务的多样性，例如不同岗位、难度、语言风格、失败场景和安全请求。评估时应看正确性、一致性、可执行性、结构清晰度和边界处理。

典型例子：同一个问题“帮学生制定前端学习计划”，低质量回答可能只写“多练习、多看文档”；高质量回答会分阶段安排 HTML/CSS、JavaScript、项目练习、复盘方式，并说明适合零基础学生的时间投入。若训练集中很多答案都编造 API，模型也会更倾向编造。

易错点：学生容易只检查答案是否“看起来专业”。还要检查事实是否可靠、步骤是否能执行、格式是否符合任务。也不能只收集一种类型的问题；如果训练数据全是简答题，模型遇到表格整理、代码修改或多轮追问时可能表现不稳定。

课堂练习：讲完本模块后，在学习通完成【M6-01】评估 SFT 数据质量、【M6-02】诊断坏样本、【M6-03】设计高质量 SFT 样本。

课后作业 ​

• 【作业-01】大模型知识边界测试：设计 5 个问题测试常用大模型的知识边界，记录提示词、回答、错误类型和核验来源，截止下节课前一天 22:00。

资料与下载 ​

• PPT 课件：已上传学习通网盘，待补充下载链接。
• 课堂/课后习题：请在学习通对应单元完成，待补充入口链接。
• 补充提示词或资料：如本页未列出，以老师课前在学习通发布的资料包为准。