11. 生成式 AI：模型怎样从识别内容走向生成内容

来源：AI 理论基础

上一篇，我们讨论了模型怎样根据行动的反馈改进策略。现在把目光转向复习助手的一项具体能力：它怎样写出一张原本不存在的卡片？

假设笔记里只有这样一句话：

训练时根据损失更新参数；普通推理时使用已经学到的参数进行计算。

你可以让助手判断这段话属于哪个主题，也可以让它改写成一道判断题：

判断：模型每回答一次问题，就一定会更新参数。答案：错误。

前一项任务给已有内容贴标签，后一项任务组织出新的表达。两者都需要计算，都可能用到学习过的规律，但我们希望得到的结果不同。这个变化，使 AI 从“帮我识别和筛选”走向“帮我起草和制作”。

本篇解释分类、预测与生成的关系，再认识两种重要的生成方式：自回归与扩散。所有卡片、概率和数字例子都是教学构造，不是某款模型的实测结果。无需安装工具。

一、分类、预测与生成，并不是三个互不相干的盒子

先把复习助手可能承担的工作放在一起：

任务	输入	希望得到的输出
分类	一段笔记	“训练”“评估”等预设类别
数值预测	文章长度等特征	预计阅读时间，例如 6 分钟
内容生成	笔记与“写一道判断题”的要求	完整的问题、答案和解释

分类通常在预设标签中选择；数值预测估计一个或多个数；生成则要形成文本、图像等内容。生成的输出空间往往很大，同一份笔记可以改写成多道不同但都合格的题。

不过，“预测”也有更广的含义：估计尚未给出的信息。按这个意思，分类是在预测类别，文字生成也可以通过不断预测下一个文字单元来实现。因此，不能把“模型在预测”与“模型在生成”当成相互否定的说法。

同样，任务与模型机制也不是一回事。让语言模型输出“训练”两个字，内部可以仍然是文字生成，而应用把结果当作分类标签使用。反过来，一个传统分类器也可以帮助生成系统筛掉不合格的候选结果。

从“识别”走向“生成”，描述的是应用能力的扩展，不意味着分类技术过时，更不意味着所有模型都必须依次经历这两个阶段。

二、生成模型要学的，不只是一份固定答案

复习助手不能只记住一条“笔记 → 卡片”的固定对应。笔记的主题、长短、措辞都会变化，用户也可能要求选择题、比喻或者配图。

可以把生成模型的目标直观地理解为：从训练材料中学习内容的规律，并据此形成可能的内容。对语言来说，规律包括词语搭配、句子结构和上下文关系；对图像来说，包括形状、颜色和物体之间的关系。“数据分布”这个术语，关注的正是哪些内容及组合更可能出现。

这不是说模型脑中存在一张完整的“所有答案表”。以语言模型为例，它可以用前面已有的内容，计算后续各个文字单元的概率，再逐步形成序列。《动手学深度学习》：语言模型

这里还要区分两种使用方式：

• 无条件生成：没有指定具体目标内容，例如从学过的图片分布中生成一张图片。
• 条件生成：给出额外条件，例如“根据这段笔记出题”或“画一只蓝色的纸鹤”。

“条件”可以是文字，也可以是图片、类别等。它改变这一次希望生成什么，并不等于这一次重新训练模型。潜在扩散模型的原始论文，就展示了让文字等条件参与图像生成的方法。Latent Diffusion Models 论文

对我们的助手来说，原始笔记与出题要求都是条件。但条件提供了依据和方向，不会自动成为绝对约束。模型仍可能误读笔记、遗漏限制，或者写出资料里没有的解释。

三、自回归：把已经生成的内容接回输入

自回归可以先理解成一个循环：依据已有内容预测下一项，把选出的这一项接上去，再预测下一项。

在语言模型中，这里的“一项”通常是 Token，即模型处理的文本单元。它可能对应一个字、一个词或词的一部分；具体分词将在第二部分讲。下面故意按几个容易阅读的片段演示，不代表真实分词器的结果。

笔记 + 要求：“写一句复习建议”
          ↓
预测下一个单元 → 选出“先”
          ↓
笔记 + 要求 + “先”
          ↓
预测下一个单元 → 选出“理解”
          ↓
笔记 + 要求 + “先 理解”
          ↓
预测下一个单元 → 选出“概念”
          ↓
继续，直到结束或达到长度限制

“自”体现在后续计算会用到自己此前生成的结果。普通的这个生成循环中，变化的是已经写出的文本与中间计算状态，模型参数通常保持不变。

为了看清概率怎样参与选择，构造一个极小的词表。假设目前已经生成“先”，下一项只有三个候选：

下一项	条件概率
理解	0.60
记住	0.30
忽略	0.10

程序可以每次选择概率最高的“理解”，这称为贪心选择。也可以按这组概率进行采样：像一个大小不等的抽签盘，“理解”占的份额最大，但另外两个仍可能被选中。采样不是让所有词机会均等。Hugging Face 的生成文档明确区分了这两类选择方式。Generation strategies

这也解释了为什么同样的问题有时得到不同表述：即使概率分布没变，抽取结果也可能变化。不能仅凭回答变化，就断定模型刚刚学到了新知识。

局部最可能，不等于整段最可能

继续做一个只有两步的玩具例子。规定输出恰好两个单元，第二步之后必定结束：

第一步	第一步概率	该分支第二步的选择及概率	完整路径概率
A	0.60	X：0.50；Y：0.50	AX：0.30；AY：0.30
B	0.40	X：0.90；Y：0.10	BX：0.36；BY：0.04

路径概率要沿着分支相乘。例如 BX 是 0.40 × 0.90 = 0.36。四条路径加起来是 1。

第一步贪心选 A，最后只能得到概率 0.30 的 AX 或 AY；整个玩具空间中概率最高的却是 BX。这说明逐步选最高概率，并不保证找到完整序列里概率最高的结果。

但不要接着得出“找到最高概率答案就一定正确”。这些概率描述模型倾向生成什么，不是答案符合事实的概率。把续写做得流畅，与核实某个知识点，是不同的要求。

四、训练时学接续，使用时真正接续

自回归生成让人很容易误以为：模型每写一个字，都在进行一次训练。回想第 08 篇的区分，就能看出不同。

设训练材料中有“先 理解 概念”这段序列。在常见的下一项预测训练中，可以构造“看见‘先’，目标是‘理解’”这样的学习任务。模型对目标给出的概率影响损失，训练程序再根据梯度更新参数。

而生成时，程序拿到的是模型给出的候选分布，需要实际选出一个结果接入后文。它没有一份事先写好的“这次回答标准全文”，也不必计算训练损失和更新参数。

环节	训练中的典型做法	普通生成中的典型做法
前文从哪里来	使用训练材料中的前缀	使用请求、上下文和已经生成的内容
下一项怎么处理	对照材料中的目标计算损失	按生成策略选出一个单元
参数是否更新	训练程序执行更新	通常不更新

这也带来一个应用问题：前面生成的失误可能影响后面的续写。假设复习助手先把“推理”写成了“训练”，后续解释就可能沿着错误前提展开。给它更多输出空间，并不会自动纠正这个前提。

这里是机制概览，不是在说模型只会机械模仿句式。下一项预测是训练目标，模型能从这个目标学到多复杂的规律，还取决于数据、结构、规模和训练过程。第二部分会专门解释这个问题。

五、扩散：从带噪的表示中逐步形成内容

文字可以一项一项接续，但图片也可以通过另一条路线生成：从噪声出发，经过多个步骤逐渐形成图像。

理解经典的去噪扩散模型，最好把训练与生成分开看。

训练时，先有真实图片。 程序按设定的噪声强度，把随机噪声混入图片，再让模型根据带噪图片和噪声阶段预测相关信息。在 DDPM 的常见训练形式中，目标是预测加入的噪声；程序知道自己加入了什么，因此能计算预测误差，并用它更新参数。DDPM 论文，训练算法与简化目标

想象复习助手需要画卡片插图。为了学会生成纸鹤，训练材料里可能包含纸鹤图片。轻度加噪后，轮廓还比较明显；重度加噪后，细节甚至主体都难以辨认。模型要在不同噪声水平上学习如何处理这种输入，而不是只学会一张图的修复。

这里的噪声是随机数造成的扰动，不是简单地把图片模糊一下。训练也不一定要对每张图一步一步做完整条加噪链：可以抽取某个阶段，直接构造对应的带噪样本。官方训练示例展示了抽取噪声、指定阶段、计算噪声预测均方误差的过程。Diffusers：训练扩散模型

生成新图时，通常从重新抽取的随机噪声开始。 模型给出预测，采样算法根据预测与当前阶段更新图像表示，再把更新后的表示送入下一步。并不是先偷偷拿到一张目标原图，再把它擦干净。

训练：真实图片 + 已知随机噪声 → 带噪样本
                                  ↓
                         模型预测 → 计算误差 → 更新参数

生成：新随机噪声 → 模型预测与采样更新 → 新的中间表示
                                         ↓
                                    重复若干步
                                         ↓
                                      输出图片

“逐步去噪”是整体直觉。实际更新含有系数、采样规则，某些步骤还会加入随机量，不能写成“每次直接减掉模型输出的噪声”就算完整算法。模型与采样调度器各自负责什么，可以在官方的管线拆解中看到。Diffusers：模型与调度器

同样，生成时反复使用网络，不表示反复训练网络。更新的是正在形成的样本；普通生成过程不因此改变模型参数。

六、文字要求怎样影响一张扩散生成的图

如果只有随机噪声，怎样让结果符合“蓝色纸鹤”这个要求？

文本条件生成系统会把要求转换成可计算的表示，并让它参与生成过程。可以把它理解为：每一步处理当前样本时，同时参考“这次想要什么”。模型必须通过相应训练学会利用这些条件；随便拿一个无条件模型，旁边附上一句文字，并不会自动获得文生图能力。

还有一个与成本有关的设计：不直接在完整像素上完成所有扩散步骤，而是在更紧凑的图像表示中计算，最后再把表示解码成图片。这里的内部表示称为潜在表示，不是一张缩略图的同义词。潜在扩散论文将这种设计用于减少高分辨率生成的计算负担，同时研究了文字等条件的接入。Latent Diffusion Models

因此，看到绘图界面从一团模糊内容变成清晰图片，可以把它当成生成过程的可视化；但不能认定内部一直保存着同样大小的可见图片，也不能据此判断模型每一步怎样计算。

对于开发复习助手的人，这些知识有一个实际用途：生成一张插图涉及的可能是一整套管线，包括文本编码、反复预测、采样更新和图像解码。产品界面上的一次“生成”，不等于模型只执行了一次计算。

七、两条路线的共同点与边界

比较点	本篇介绍的自回归文本生成	本篇介绍的扩散图像生成
常见起点	提示与已有文本	随机噪声，以及可选的文字等条件
中间过程	把选出的单元接入序列	多次更新正在形成的样本表示
生成时主要变化	序列及中间计算状态	样本表示及采样状态
参数是否必须更新	不需要	不需要
一项重要限制	前面的错误可能影响后续	形成清晰图像不保证细节与要求正确

这是两个典型例子的对照，不能据此把“文本”永远绑定自回归、“图像”永远绑定扩散。生成模型的路线也不只有这两种。例如 GAN，即生成对抗网络，通过生成器和判别器之间的训练配合学习生成内容；它并不要求使用本篇的逐项续写或扩散去噪流程。GAN 原始论文

还需要避免另外两个误解。

生成不等于查询数据库。 模型可以根据学到的规律组织输出；应用若要查询笔记库，需要安排相应的检索过程。但这也不代表每次输出都绝对原创。研究者曾从 GPT-2 中提取出与训练材料一致的文本，说明学习与记忆可能同时存在。这个研究结果不能直接变成对所有模型、所有输出的比例判断。Extracting Training Data from Large Language Models

生成得像，不等于完成得对。 给复习卡片配一幅想象中的蓝色纸鹤，允许多种合理画法；把“推理通常不更新参数”改成判断题，必须保持原意。两种任务都在生成内容，却需要不同的检查标准。

例如卡片写成“判断：推理过程中完全没有计算”，又把答案标成“正确”，它在格式上完整，却已经歪曲笔记。开发者需要检查事实、原文支持和题目是否可答，而不只是看输出有没有题目和答案两个字段。

八、五道理解检查

先自己回答，再看解释。不需要调用模型。

1．语言模型只输出“训练”两个字。它是在分类，还是生成？

2．在前面的两步玩具例子里，AX、AY、BX、BY 的概率分别是多少？第一步贪心选择能否得到最高概率路径？

3．同一模型、同一请求产生两种措辞，能否证明模型参数发生了更新？

4．扩散模型训练时使用真实图片，是否意味着每次生成新图片也必须拿到那张原图？去噪 30 步是否意味着训练了 30 次？

5．复习助手生成的卡片格式完整、句子自然，却增加了笔记没有支持的结论。能否仅凭前两点判定任务成功？

参考答案

1. 应用任务可以是分类，模型执行机制可以是文字生成。要分别问“用户要什么结果”与“系统怎样得到结果”。
2. 分别是 0.30、0.30、0.36、0.04。第一步贪心选 A，会错过 BX。即使选到 BX，也只是本玩具空间中的最高概率路径，不包含事实正确的保证。
3. 不能。按概率采样就可能产生不同结果；上下文、生成设置等变化也可能影响输出。参数有没有更新，要看系统是否执行了训练更新。
4. 不意味着。标准的从噪声生成新图流程使用新随机噪声；图片编辑等任务则可能另有输入图片。去噪步骤更新样本表示，普通推理并不因此更新模型参数。
5. 不能。若任务要求忠实于笔记，就要检查新增结论是否有依据；形式完整和事实可靠是不同维度。

接下来：怎样判断生成结果真的有用

到这里，复习助手的几个能力已经能分开理解：分类帮助组织材料，数值预测给出估计，生成负责组织新内容，强化学习则是改进行动策略的一种学习方式。它们可以组合在同一个应用里。

最后一个问题是：怎样证明这个组合真的变好了？下一篇《怎样判断 AI 有没有进步：指标、基准与真实任务》会把“感觉不错”拆成可以检查的标准，也为进入大模型原理部分做好准备。

---

上一篇：强化学习：模型怎样从行动和反馈中改进 · 返回本部分大纲

资料观察基准：2026 年 10 月 3 日。本文介绍典型机制，不据此断言所有生成模型采用同一种结构或流程。