← 全部极客知识库

大模型通识 / 大模型技术演进

3. 2022—2023:并行发展的 AI 绘画与 AIGC 热潮

原文备份 · 第 4 / 26 篇 · 查看极客时间原知识库 ↗

来源:大模型技术演进

2022 年,一幅名为《Théâtre D’opéra Spatial》的作品获得了美国科罗拉多州博览会艺术比赛的奖项。创作者 Jason Allen 使用 Midjourney 生成图像,再借助其他软件进行处理。作品进入比赛、获得认可,也把 AI 参与创作的问题带到了公众面前。美国版权局后来审查这件作品时,专门记录了它的创作过程和获奖带来的关注。作品及事件的官方记录

这件事发生在 ChatGPT 发布之前。

它能帮助我们找回一个容易被后来的聊天机器人热潮遮住的历史现场:在 2022 年,生成式 AI 已经开始用图像震动人们的想象。输入一段描述,系统就能生成一幅有光影、构图和风格的画面。即使不会画画的人,也可以亲手试验自己的想法;对已有创作经验的人,这又意味着构思、试稿和修改可能出现新的工具。

随之而来的问题也很直接:一幅图里的创意来自哪里?输入要求、选择结果和后期修改,分别贡献了什么?一次漂亮的生成,能否变成稳定的创作方法?这些问题让 AI 绘画同时进入技术、艺术和产品讨论。

因此,回顾大模型的发展,必须把图像生成这条线放回来。它与语言模型并行演进,在 2022 年已经取得重要进展,又在 2023 年随着产品、社区和工具生态的发展,成为 AIGC 热潮中非常醒目的一部分。

先把时间放对:AI 绘画有自己的起点和节奏。

几个节点足以说明这条路线并非从 ChatGPT 发布后才开始:

时间 代表事件 这一阶段值得注意的变化
2022 年 4 月 DALL·E 2 研究预览 用文字描述生成图像,组合概念、属性和风格
2022 年 7 月 Midjourney 向更广泛的用户开放测试 用户通过 Discord 接触生成服务,并在社区中分享和交流
2022 年 8 月 Stable Diffusion 公开发布 模型权重与代码的开放,让开发者能够下载、运行和继续构建工具
2023 年初 LoRA 在图像模型中的应用、ControlNet 等方案发展 对特定概念、风格和画面结构的控制得到更多手段
2023 年春季 Adobe Firefly 与 Photoshop 生成式功能陆续公布 生成能力进一步进入已有设计软件和编辑流程

前几个日期可以分别从 DALL·E 2 当时的系统说明、Discord 对 Midjourney 的案例记录和 Stable Diffusion 发布公告核对。后面的技术与产品变化,我们将在下文展开。

这里的 AIGC,是 AI-Generated Content 的缩写,通常译为“人工智能生成内容”。它涵盖文字、图像、音频、视频等内容类型。ChatGPT 生成的文章也属于这个范围;AI 绘画只是其中一条特别容易被看见、分享和讨论的分支。

所以,AIGC 可以帮助描述这一时期人们关注的应用方向,但它并不是一个后来被聊天、RAG 或 Agent 整体替换掉的技术阶段。不同形态会持续存在,也会在同一个产品里结合。

Midjourney 让“描述一个画面”成为可以直接体验的产品。

早期 Midjourney 的一个鲜明特点,是通过 Discord 提供服务。Discord 原本是用于聊天和社区交流的平台;用户在其中向机器人提交要求,等待图像生成,再围绕结果继续尝试。生成与交流发生在相邻的地方,其他人的作品和使用方法也更容易被看见。Discord 的 Midjourney 案例

这个入口把一项技术能力变成了有吸引力的创作过程。用户可以从“试试看它能画什么”开始,逐渐学习怎样描述主体、环境、光线和画面风格。一次生成的结果又会刺激下一次尝试:换个视角会怎样,把背景改成夜晚会怎样,保留构图再换一种质感会怎样?

与纯粹阅读技术报告相比,图像还提供了一种直接的感受。用户不必先理解模型架构,就能对生成结果产生判断:这张有氛围,那张构图有意思,另一张的人物细节出了问题。视觉上的吸引力与明显的缺陷,往往同时出现在一个画面里。

Midjourney 自身也持续迭代。官方历史文档记录,V3 是 2022 年 7 月至 11 月期间的默认模型,V4 在当年 11 月发布。理解当时的体验,需要对应具体版本;今天看到的效果,不能直接当作 2022 年产品已经达到的水平。Midjourney 历史版本说明

从应用角度看,这条路线展示了一个重要组合:模型负责生成,产品降低尝试门槛,社区帮助使用经验传播。用户获得的是一套可以不断探索的服务,而不必自己配置运行模型的环境。

Stable Diffusion 则把更多构建空间交给了开发者和社区。

2022 年 8 月 22 日,Stable Diffusion 公开发布。围绕这次发布,模型权重和代码可以被获取,开发者得以在许可条件下运行模型、研究生成过程,并构建自己的界面和应用。模型权重,可以先理解为训练后保存下来的大量数值参数,它们是模型能够执行生成任务的重要组成部分。Stable Diffusion 公开发布公告

对于想做个人项目的人,这和使用一个现成网站有不同的意义。你可以围绕自己需要的功能设计界面,也可以把生成环节接入其他程序。当然,下载得到模型并不等于任何电脑都能轻松运行;显存、运行环境和速度会成为现实约束。模型的开放也有具体许可条件,不能仅凭“能够下载”就推断使用范围。

这一时期的开放生态,让应用创新有机会分散到许多人手中:有人研究更适合某种画风的模型,有人改进运行效率,有人开发浏览器界面,有人把生成结果接到自己的设计流程里。理解这类生态,要同时看底层模型和围绕模型生长出来的软件。

Stable Diffusion 名字里的 Diffusion,指的是扩散模型路线。入门时可以先这样理解:训练让模型学习怎样从被噪声扰动的图像表示中逐步恢复信息;生成时,系统从噪声出发,在文字等条件的引导下逐步形成图像。

Stable Diffusion 所依赖的潜空间扩散方法,把主要生成计算放在压缩后的图像表示中,而不是始终在完整像素空间里进行,以此降低计算负担。“潜空间”在这里可以理解为模型使用的一种压缩表示。这个技术选择,是理解它为何能够支持广泛工具探索的重要背景。潜空间扩散模型论文

这也说明了图像模型与聊天模型之间的关系:它们都属于生成式 AI,但不必采用同样的生成过程。会根据文字画图,并不意味着系统内部就是先运行一个聊天机器人,再让它画出来。

2023 年,一个更迫切的需求出现了:让结果符合具体要求。

第一次看到漂亮图像时,人们关心的是“它居然能画出来”。真正拿来做事以后,要求会变得具体得多。

假设你想为个人网站制作一组插图。第一张里的角色很好看,但第二张换了一张脸;你希望人物抬起左手,结果姿势反复偏离;整体氛围合适,却没有给标题留出位置。这些是用来解释需求的构造例子,它们说明“能生成”和“能按要求生成”之间还存在距离。

提示词仍然重要,但创作者开始需要文字以外的控制手段。这个时期的 LoRA 与 ControlNet,正好从不同方向回应了这些需求。

LoRA 最早在 2021 年的大语言模型研究中提出,核心思路是冻结原模型参数,通过训练少量新增参数来适配任务。它后来被用于图像模型;Hugging Face 在 2023 年 1 月就发布了将 LoRA 用于 Stable Diffusion 微调的说明。LoRA 原始论文、2023 年的 Stable Diffusion LoRA 说明

在图像创作中,可以把经过训练的 LoRA 理解为对基础模型能力的一种适配,用来加强某些概念、主体或风格的表达。它降低了部分定制任务的训练和分发负担。但 LoRA 本身并不是“风格”的同义词,也不能保证角色、服装和细节在所有画面里完全一致。

ControlNet 的论文则于 2023 年 2 月公开。它为已有文本到图像扩散模型增加空间条件控制,研究中展示了边缘、深度、人体姿态等多种输入方式。ControlNet 论文

这类输入把部分要求从文字转换成了更直接的结构信息。例如,参考姿态可以表达身体怎样摆放,边缘图可以约束轮廓,深度信息可以帮助描述物体的空间关系。模型由此多了一种理解画面要求的依据,创作者也获得了更明确的调整入口。

如果只记住一个区别,可以这样区分:LoRA 常用于让模型适应某类表达需求,ControlNet 则通过额外条件帮助约束画面结构。两者可以配合使用,实际效果仍取决于模型、训练材料、输入条件和参数设置。

WebUI 与 ComfyUI,把零散能力组织成了可使用的工具。

随着可选模型和控制手段增多,用户面临一个新问题:怎样把它们用起来?

AUTOMATIC1111 的 Stable Diffusion WebUI 是这个生态中的代表性界面项目。它把文本生成图像、图像到图像、局部重绘以及多种参数组织进浏览器界面,并通过扩展继续增加功能。这里的 WebUI 指网页形式的操作界面,并不意味着计算一定发生在某家网站的云端。项目仓库

这类界面减少了直接编写程序的需要,但用户仍要理解功能之间的关系。换一个模型、调整一项参数、增加一个控制条件,都可能改变结果。工具提供的选项越多,如何保存和重用一套有效配置就越重要。

ComfyUI 把生成过程进一步展开成可以连接的节点。项目在 2023 年初已经开始发展,当年 5 月的官方博客就记录了工作流、自定义节点和其他界面集成的社区生态。ComfyUI 的 2023 年记录

节点可以先理解为流程里的一个处理步骤。加载模型、处理提示词、执行采样(逐步生成图像表示)、转换图像、保存结果,被组织成一个相互连接的流程。它让使用者更容易看见数据经过了哪些步骤,也便于把整套流程保存下来,供下次修改和复用。

对初学者而言,这种界面可能更复杂;对希望组合多种处理步骤的人,它提供了更明确的结构。复用工作流仍然需要对应的模型、节点和环境,拿到一份流程文件并不保证在任何电脑上都会得到相同结果。

这两个方向共同说明:底层模型进步以后,生态还需要解决操作、组合和复用的问题。图像生成领域已经开始积累一种工程经验——把一次有效尝试整理成可以重复执行的流程。后面讨论语言模型工作流和 Agent 时,我们还会遇到类似需求。

Firefly 把生成带进编辑软件,中国产品也开始寻找具体场景。

Adobe 于 2023 年 3 月 21 日公布 Firefly,初期测试聚焦图像生成和文字效果。5 月 23 日,Adobe 又公布 Photoshop 中的 Generative Fill,把 Firefly 的能力带入 Photoshop 测试版,支持生成式添加、移除内容和扩展图像等编辑方向。Firefly 发布公告、Photoshop 生成式填充公告

这条路线连接了用户已有的编辑习惯。创作者可能已经有一张照片,只需要补出更宽的背景;也可能只想修改画面中的一部分,同时保留其他内容。生成能力进入编辑工具后,就可以参与具体修改,而不必每次都从空白画面开始。

中国的影像与设计产品也在探索这种结合。2023 年 6 月 19 日,美图公布 MiracleVision(奇想智能)视觉大模型,以及 WHEE、美图设计室 2.0 等影像生产力产品。它们把视觉生成与创作、商业设计等使用场景放在一起,展示了已有影像产品的厂商怎样通过自研模型和应用参与这一轮变化。美图当时的发布记录

这些产品值得放在同一条发展线上看:用户需要的可能是一幅全新插画,也可能是一张商品图、一处局部修改或一套风格接近的素材。不同任务对模型、控制方式和界面的要求并不相同。应用的空间,正是在这些差异里逐渐展开。

这场热潮留下了三种不同的产品路径。

路径 本篇中的代表 开发者能从中看到的机会
直接提供生成服务 Midjourney、DALL·E 让用户容易表达意图、挑选结果并继续修改
开放模型并形成工具生态 Stable Diffusion、WebUI、ComfyUI 围绕模型构建界面、定制能力和可复用流程
将生成嵌入已有应用 Firefly 与 Photoshop、影像设计产品 把生成放到用户原本就需要完成的具体操作里

这张表概括的是当时值得观察的方向,产品本身可以跨越多种路径。它们共同推动了一个变化:AI 生成从令人惊讶的结果,逐渐走向可以被组织、修改和嵌入应用的能力。

语言与图像产品也开始汇合。2023 年 10 月 19 日,OpenAI 宣布 DALL·E 3 已面向 ChatGPT Plus 和 Enterprise 用户开放。用户可以在对话中描述画面,再提出修改要求。与 2022 年 DALL·E 2 展示的文字生成图像能力相比,这里值得关注的产品变化,是对话助手开始参与创意表达和提示词调整。DALL·E 3 在 ChatGPT 中的开放公告

回看 2022—2023 年,AI 绘画让人们直观地感受到生成式 AI 的创造潜力;围绕风格、结构、局部修改和流程复用的探索,又暴露了从作品展示到实际使用的距离。模型、工具与产品就在这种距离中共同演进。

语言模型也正在经历类似过程。人们体验过一个好用的聊天助手之后,开始希望把这种能力放进自己的软件。下一篇回到 2023 年的语言模型应用,看看提示词、API、插件与函数调用,怎样让开发者从“使用一个产品”走向“构建自己的应用”。


上一篇:02|2023:更强的理解与指令遵循,推动第一轮应用扩张

下一篇:04|2023:模型成为可调用的能力,提示词与 API 开启应用探索

返回:第 0 部分大纲