参考资料

• InstructGPT
• Constitutional AI
• Direct Preference Optimization

大模型基础（08） - 预训练、SFT、RLHF、RLAIF 与 DPO

读完后，你应能：

• 给定“知识过期、格式不稳、行为不稳、需要外部动作”四类需求，能输出 Prompt、RAG、Tool、SFT 或偏好优化的选型表，并用更新频率、引用要求、数据量和回归集验证选择依据。
• 给定一批指令示范与 chosen/rejected 偏好样本，能形成数据验收报告，检查来源隔离、近重复泄漏和 Rubric 一致性，并用抽样记录证明训练信号没有被长度或语气替代。
• 给定基础模型与候选对齐模型，能运行同一套能力、安全、延迟和成本回归集，输出逐样本 Diff 与指标对比，并用预先登记的回退阈值决定发布或回滚。

训练阶段解决的是“模型参数如何形成”，RAG、Prompt 和 Tool 解决的是“应用运行时如何补充知识与能力”。

核心知识清单

• 预训练与下一个 Token 预测
• SFT 指令微调与示范数据
• 奖励模型、RLHF 与 PPO
• Constitutional AI 与 RLAIF
• 偏好数据、chosen/rejected 与 DPO
• 训练、微调、RAG 和 Prompt 的选择边界

一、先建立全局：预训练、SFT、RLHF、RLAIF 与 DPO 是什么？

理解“预训练、SFT、RLHF、RLAIF 与 DPO”，先要把标题中的对象放进同一条处理链：它接收什么输入，经过哪些状态变化，最终用什么证据判断结果。下表不另造概念，只把作者正文已经解释的章节按依赖顺序连起来。

“预训练、SFT、RLHF、RLAIF 与 DPO”的第一个核心判断是：SFT 用高质量输入输出示范教会指令格式和任务行为；。先弄清这个判断中的对象和输入输出，后面的实现、故障和验收才有共同语境。

顺序	章节	读完本节应抓住的结论
1	各阶段解决什么	SFT 用高质量输入输出示范教会指令格式和任务行为；
2	什么时候不要微调	知识频繁变化、答案必须引用来源时优先 RAG；
3	数据质量与验收	训练集、验证集、测试集按来源或用户隔离，避免近重复泄漏。
4	SFT 指令微调与示范数据	SFT 用高质量输入输出示范教会指令格式和任务行为；
5	训练、微调、RAG 和 Prompt 的选择边界	训练阶段解决的是“模型参数如何形成”，RAG、Prompt 和 Tool 解决的是“应用运行时如何补充知识与能力”。
6	预训练从海量语料学习语言和世界模式	预训练从海量语料学习语言和世界模式；

1.1 核心对象之间怎样衔接

flowchart LR
  S1["各阶段解决什么"] --> S2
  S2["什么时候不要微调"] --> S3
  S3["数据质量与验收"] --> S4
  S4["SFT 指令微调与示范数据"] --> S5
  S5["训练、微调、RAG 和 Prompt 的选择边界"]

这张图只表达本文的讲解顺序，不替代正文机制。判断“预训练、SFT、RLHF、RLAIF 与 DPO”是否真正掌握，需要能从最后一个结果沿图回到前面每个章节的输入、状态变化和证据。

1.2 再看失败：问题最早会出现在哪一步？

在“预训练、SFT、RLHF、RLAIF 与 DPO”的对象和顺序已经明确后，再看可观察的失败：训练测试泄漏、偏好标注只奖励长度、奖励投机、过拟合或基础能力明显回退。定位时不从最后一条错误猜原因，而是沿上图找第一个偏离正文结论的节点。

二、各阶段解决什么

预训练从海量语料学习语言和世界模式； SFT 用高质量输入输出示范教会指令格式和任务行为； RLHF 先用人类偏好训练奖励模型，再用强化学习优化策略； RLAIF 用规则约束下的模型反馈辅助人工； DPO 直接拉大 chosen 与 rejected 回答的相对概率， 不需要显式训练奖励模型和在线 RL。

三、什么时候不要微调

知识频繁变化、答案必须引用来源时优先 RAG； 只是输出格式或语气不稳定时先用结构化输出、Prompt 和评测； 需要访问外部系统时使用 Tool。 只有稳定行为无法通过这些手段达到目标， 且有代表性数据、训练预算和回归集时， 再考虑 SFT 或偏好优化。

四、数据质量与验收

训练集、验证集、测试集按来源或用户隔离，避免近重复泄漏。 每条偏好样本应有明确 rubric，不能把长度、语气等表面特征误当正确性。 验收同时检查目标能力、通用能力回退、安全、延迟和部署成本，并保留基础模型作为可回滚基线。

需求信号	首选手段	升级训练前必须拿到的证据
知识频繁变化且答案要引用	RAG	目标文档能召回，引用能回链，索引可按版本发布
只是格式或语气不稳	Prompt 与结构化输出	固定样本仍无法达到格式通过率目标
必须读取或修改外部系统	Tool	权限、参数、确认、幂等和审计链路已通过测试
稳定行为仍无法达标	SFT 或偏好优化	有代表性数据、隔离回归集、训练预算和回滚基线

五、动手验证：先跑通 预训练、SFT、RLHF、RLAIF 与 DPO，再改变一个变量

前面的章节已经建立问题、概念和机制。现在把“预训练、SFT、RLHF、RLAIF 与 DPO”放进同一套基线中运行；本节不再引入新术语，只验证前文结论能否被复现。

5.1 基线与候选只允许一个变量不同

验证“预训练、SFT、RLHF、RLAIF 与 DPO”时，先固定基础模型、数据集版本、切分键、训练参数、随机种子、Rubric 和回退基线。候选方案只能改变本次要验证的变量；如果同时更换数据、依赖和配置，即使结果改善，也不能知道是哪一项产生作用。

执行“预训练、SFT、RLHF、RLAIF 与 DPO”时，动作是：分别运行训练前基线与候选模型，在隔离测试集上比较能力、安全、延迟和成本。原始结果不能只保留截图或汇总分数，必须同步保存：数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本，使下一次复查可以在同一输入上重放。

实验要素	本文要求
固定条件	固定基础模型、数据集版本、切分键、训练参数、随机种子、Rubric 和回退基线
唯一变量	本次候选方案与基线之间的一项明确差异
原始证据	数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本
通过阈值	目标能力改善且通用能力与安全集不越过回退阈值，结果能追溯到数据和参数
立即停止	训练测试泄漏、偏好标注只奖励长度、奖励投机、过拟合或基础能力明显回退

5.2 执行前先排除不可比较条件

“预训练、SFT、RLHF、RLAIF 与 DPO”开始前先确认下面四项；任一项不成立，都应先修复实验条件，而不是解释结果。

• 基线能够在“预训练、SFT、RLHF、RLAIF 与 DPO”的当前环境重复运行。
• 候选只改变一个与“预训练、SFT、RLHF、RLAIF 与 DPO”结论直接相关的条件。
• “预训练、SFT、RLHF、RLAIF 与 DPO”的基线和候选使用同一批输入、同一版本依赖与同一通过阈值。
• “预训练、SFT、RLHF、RLAIF 与 DPO”的原始输出和失败现场不会被重试、格式化或汇总覆盖。

5.3 执行后先核对证据完整性

结果出来后先检查证据，再讨论“预训练、SFT、RLHF、RLAIF 与 DPO”是否通过。缺少中间状态时，最终输出只能说明现象，不能证明机制。

检查项	当前文章的判定
输入可追溯	固定基础模型、数据集版本、切分键、训练参数、随机种子、Rubric 和回退基线
过程可回放	分别运行训练前基线与候选模型，在隔离测试集上比较能力、安全、延迟和成本
结果可审计	数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本

“预训练、SFT、RLHF、RLAIF 与 DPO”的一次合格基线对照按以下顺序执行：

1. 保存“预训练、SFT、RLHF、RLAIF 与 DPO”基线版本及输入摘要，确认基线本身可以重复运行。
2. 写下“预训练、SFT、RLHF、RLAIF 与 DPO”候选方案唯一变化的变量，以及它预期影响的指标。
3. 在同一环境执行“预训练、SFT、RLHF、RLAIF 与 DPO”：分别运行训练前基线与候选模型，在隔离测试集上比较能力、安全、延迟和成本。
4. 为“预训练、SFT、RLHF、RLAIF 与 DPO”保存：数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本。
5. 使用“预训练、SFT、RLHF、RLAIF 与 DPO”预登记条件判断：目标能力改善且通用能力与安全集不越过回退阈值，结果能追溯到数据和参数。
6. 如果“预训练、SFT、RLHF、RLAIF 与 DPO”未通过，不修改第二个变量，先恢复基线并保留失败现场。

六、用一张矩阵验证 预训练、SFT、RLHF、RLAIF 与 DPO 的关键结论

矩阵按正文顺序列出“预训练、SFT、RLHF、RLAIF 与 DPO”的结论。一次实验只选择一行，只改变这一行对应的条件；不要把多行合并成一个无法归因的大实验。

正文章节	已解释的结论	本轮唯一变量	必须保存的证据
各阶段解决什么	SFT 用高质量输入输出示范教会指令格式和任务行为；	只改变与“各阶段解决什么”相关的条件	数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本
什么时候不要微调	知识频繁变化、答案必须引用来源时优先 RAG；	只改变与“什么时候不要微调”相关的条件	数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本
数据质量与验收	训练集、验证集、测试集按来源或用户隔离，避免近重复泄漏。	只改变与“数据质量与验收”相关的条件	数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本
SFT 指令微调与示范数据	SFT 用高质量输入输出示范教会指令格式和任务行为；	只改变与“SFT 指令微调与示范数据”相关的条件	数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本
训练、微调、RAG 和 Prompt 的选择边界	训练阶段解决的是“模型参数如何形成”，RAG、Prompt 和 Tool 解决的是“应用运行时如何补充知识与能力”。	只改变与“训练、微调、RAG 和 Prompt 的选择边界”相关的条件	数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本
预训练从海量语料学习语言和世界模式	预训练从海量语料学习语言和世界模式；	只改变与“预训练从海量语料学习语言和世界模式”相关的条件	数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本

6.1 记录本次实际实验

下面的记录用于“预训练、SFT、RLHF、RLAIF 与 DPO”当前这一次实验，不是第二套知识目录。先从矩阵选择一个章节，再填写实际值；没有填写的字段表示尚未验证。

topic: "预训练、SFT、RLHF、RLAIF 与 DPO"
selected_chapter: required
claim_from_article: required
baseline_version: required
changed_condition: exactly_one
execution: "分别运行训练前基线与候选模型，在隔离测试集上比较能力、安全、延迟和成本"
evidence: "数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本"
pass_when: "目标能力改善且通用能力与安全集不越过回退阈值，结果能追溯到数据和参数"
stop_when: "训练测试泄漏、偏好标注只奖励长度、奖励投机、过拟合或基础能力明显回退"
observed_result: required
first_deviation: null_or_evidence
recovery_replay: required_after_failure

6.2 边界实验必须证明能够停止和恢复

成功路径只能证明“预训练、SFT、RLHF、RLAIF 与 DPO”在当前样本上工作，不能证明它可以进入生产。边界实验需要主动制造：训练测试泄漏、偏好标注只奖励长度、奖励投机、过拟合或基础能力明显回退，并观察系统是否在产生不可逆副作用前停止。

场景	只改变什么	应保存什么	通过标准
正常路径	使用已知有效输入	数据哈希、切分报告、训练曲线、逐样本输出、偏好一致率、失败标签和模型版本	目标能力改善且通用能力与安全集不越过回退阈值，结果能追溯到数据和参数
边界路径	把一个输入推进到约束临界值	临界值前后的输出与指标	不静默降级，不把部分结果冒充成功
明确失败	注入：训练测试泄漏、偏好标注只奖励长度、奖励投机、过拟合或基础能力明显回退	原始错误、首个异常阶段和最终状态	失败被正确分类且没有扩大副作用
恢复重放	执行：停止发布并保留基础模型，按数据、Rubric、训练阶段和评测切片定位首个偏差	原失败样本的复测证据	原样本恢复，正常样本没有回归

恢复动作不是简单重启。对于“预训练、SFT、RLHF、RLAIF 与 DPO”，第一步是：停止发布并保留基础模型，按数据、Rubric、训练阶段和评测切片定位首个偏差。完成后使用原始失败样本复测；只验证一个新样本成功，不能证明触发条件已经消失。

“预训练、SFT、RLHF、RLAIF 与 DPO”边界实验结束后，应把正常、临界、失败和恢复四类记录放在同一个运行批次中。这样才能区分“候选方案真的修复问题”和“环境变化让问题暂时没有出现”。

七、预训练、SFT、RLHF、RLAIF 与 DPO 的结果解释

解释“预训练、SFT、RLHF、RLAIF 与 DPO”实验时先看首个偏差，而不是最后一条错误。最后的异常通常只是上游状态错误的结果；从末端反推容易误把症状当根因。

观察结果	可以支持的判断	下一步
主链路没有达到预期	训练测试泄漏、偏好标注只奖励长度、奖励投机、过拟合或基础能力明显回退	先执行：停止发布并保留基础模型，按数据、Rubric、训练阶段和评测切片定位首个偏差
异常链路无法恢复	训练测试泄漏、偏好标注只奖励长度、奖励投机、过拟合或基础能力明显回退	先执行：停止发布并保留基础模型，按数据、Rubric、训练阶段和评测切片定位首个偏差
新样本成功但原样本仍失败	修复没有覆盖原始触发条件	固定原失败输入，恢复基线后重新比较
指标改善但证据无法回链	数据、版本或中间状态没有固定	暂停发布，补齐可追溯记录后重跑

“预训练、SFT、RLHF、RLAIF 与 DPO”只有同时满足“目标能力改善且通用能力与安全集不越过回退阈值，结果能追溯到数据和参数”，并且没有出现“训练测试泄漏、偏好标注只奖励长度、奖励投机、过拟合或基础能力明显回退”，才可以认为主链路通过。这里的“通过”只对当前固定版本、样本和环境有效，不能外推到尚未测试的容量、权限或数据分布。

如果“预训练、SFT、RLHF、RLAIF 与 DPO”候选方案与基线差异很小，先检查证据分辨率是否足够；如果差异很大，先排除数据泄漏、环境漂移和版本不一致。两种情况都不能只看一个汇总均值，需要回到逐样本输出和中间状态。

“预训练、SFT、RLHF、RLAIF 与 DPO”故障定位完成后，记录“现象、首个偏差、根因、改动、原样本复测”五项。缺少原样本复测时，只能标记为待观察，不能标记为已解决。

八、预训练、SFT、RLHF、RLAIF 与 DPO 的发布判断

发布判断需要把“预训练、SFT、RLHF、RLAIF 与 DPO”的质量、失败边界和恢复能力放在同一份记录中。以下任一条件缺失，都应停止扩量，而不是用“基本正常”替代证据。

• “预训练、SFT、RLHF、RLAIF 与 DPO”的基线与候选只存在一个计划内变量。
• “预训练、SFT、RLHF、RLAIF 与 DPO”的输入、代码、依赖、配置和数据版本可以追溯。
• “预训练、SFT、RLHF、RLAIF 与 DPO”的正常、临界、失败和恢复样本使用同一套断言。
• “预训练、SFT、RLHF、RLAIF 与 DPO”的原始输出、中间状态和失败现场已经保留。
• “预训练、SFT、RLHF、RLAIF 与 DPO”的日志、Trace、截图和测试数据已经脱敏。
• “预训练、SFT、RLHF、RLAIF 与 DPO”的停止条件、负责人和回滚入口已经演练。
• “预训练、SFT、RLHF、RLAIF 与 DPO”尚未覆盖的输入、权限、容量和外部依赖已经登记。

最终记录至少包含基线版本、唯一变量、原始证据、首个偏差、恢复复测和发布责任人。没有参与本次修改的人如果不能据此重放“预训练、SFT、RLHF、RLAIF 与 DPO”的判断，就不能发布。

九、总结

• 各阶段解决什么：SFT 用高质量输入输出示范教会指令格式和任务行为；
• 什么时候不要微调：知识频繁变化、答案必须引用来源时优先 RAG；
• 数据质量与验收：训练集、验证集、测试集按来源或用户隔离，避免近重复泄漏。
• 训练、微调、RAG 和 Prompt 的选择边界：训练阶段解决的是“模型参数如何形成”，RAG、Prompt 和 Tool 解决的是“应用运行时如何补充知识与能力”。