大模型通识 / 大模型技术演进
2. 2023:更强的理解与指令遵循,推动第一轮应用扩张
原文备份 · 第 3 / 26 篇 · 查看极客时间原知识库 ↗
来源:大模型技术演进
ChatGPT 发布后的热潮,很快把一个更大的问题推到了科技公司面前:如果人们可以直接告诉软件自己想做什么,搜索框、文档编辑器和办公套件应该怎样变化?
2023 年春天,这个问题接连有了产品层面的回应。2 月,微软推出结合大语言模型的新 Bing;3 月 14 日,OpenAI 发布 GPT-4,Anthropic 同日介绍 Claude;两天后,微软公布 Microsoft 365 Copilot,把 AI 助手带进了 Word、Excel、PowerPoint 等办公场景。几个月前,人们还在惊叹一个聊天窗口能写出怎样的回答;现在,厂商开始展示这些能力怎样参与人们每天的工作。新 Bing 公告、GPT-4 公告、Claude 公告、Microsoft 365 Copilot 公告
这一轮扩张让 AI 的影响变得更具体了。搜索关系到人们怎样获取信息,办公软件关系到怎样把信息变成成果。对这些产品来说,大模型开始触及核心使用流程;对开发者来说,新的机会也随之出现:除了做一个聊天机器人,还可以把模型放进已有任务里,帮助用户少做几步。
不过,要看懂这一年,不能只把发布会排成时间表。需要把两条线连起来:一条是模型能够更好地处理复杂要求,另一条是产品开始为模型提供资料、界面和工作场景。
GPT-4 让“可以试试”向更复杂的任务推进了一步。
2023 年 3 月发布的 GPT-4,把复杂任务表现带到了更显眼的位置。OpenAI 在当时的公告中强调,它相较 GPT-3.5 更能处理细致的指令,并展示了多种考试与评测结果。首发时,ChatGPT Plus 用户可以在额度限制下使用 GPT-4,开发者 API 则通过等待名单逐步开放。GPT-4 首发说明
“更能处理细致指令”听起来没有生成一篇文章那么直观,却直接影响一个功能能否做成产品。
这里的 API,可以先理解为供其他程序调用模型的接口。用户在聊天页面里输入要求,开发者则可以通过接口把请求交给模型,再把结果放进自己的应用。
可以用一个构造的例子理解。假设你在做个人学习助手,希望它读取一段学习记录,然后区分“已经掌握”“仍有疑问”“下次要做的练习”,既保留原文里的限定条件,又不能把计划当成已完成事项。这个任务包含多项要求:理解内容、判断状态、遵循格式、避免补充没有依据的信息。
只会生成通顺文字,未必能同时满足这些条件。模型如果经常漏掉其中一项,用户就需要反复检查、重写要求,开发者也要补很多处理逻辑。模型在这类任务上表现改善后,原本勉强可用的功能,才更有机会变成值得反复使用的功能。
这就是能力提升与应用扩张之间的实际联系:有些进步改变的是一次演示的观感,有些进步降低的是完成一项任务的反复修改成本。 对应用而言,后者同样关键。
当然,考试成绩和真实工作之间仍有距离。标准化试题通常有明确输入和判分方式;真实用户可能给出不完整材料、相互矛盾的要求,甚至没有想清楚目的。判断模型是否适合你的应用,仍要看它在具体任务上的表现。
GPT-4 也展示了接收图像并生成文字的能力,不过首发公告明确说明,当时图像输入尚未向公众普遍开放。它仍存在编造事实和推理错误的问题。回顾历史时,要把模型展示出的能力、产品开放的功能和用户当时真正能用到的东西分别看待。当时的图像输入范围与局限
新 Bing 把竞争带到了搜索入口。
2023 年 2 月 7 日,微软公布新 Bing 和 Edge,先以有限预览形式开放。产品把搜索、对话和内容生成结合起来,尝试根据网络结果组织答案,并提供来源链接。到了 3 月 14 日,微软确认,新 Bing 已在使用针对搜索场景调整过的 GPT-4。新 Bing 首发说明、GPT-4 使用情况确认
这一变化之所以引人关注,是因为它涉及搜索过程中一段非常费力的工作:用户找到若干网页后,还要自己阅读、比较、整理,才能得到适合自己的答案。
以计划一次旅行为例,你可能先搜索地点,再看交通,再核对开放时间,最后把信息拼成行程。对话式搜索试图承担其中一部分整理工作,让用户可以直接表达条件,再围绕结果追问。这个例子说明的是产品设计方向,并不保证当时任何一次旅行规划都准确可用。
从技术上看,联网搜索补充了外部信息,模型负责理解问题和组织回答,界面则让用户继续追问并检查来源。这几个部分配合起来,才构成搜索产品的体验。底层模型是否更强,只是其中一个因素。
这种设计也引出了新的问题。网页可能过时,搜索结果可能不完整,模型还可能把不同来源的信息混在一起。回答附有链接,只能说明用户多了一条核查路径;是否真的得到来源支持,还需要打开原文判断。
对开发者来说,这里已经出现了后来反复使用的一种应用结构:先获得与问题有关的资料,再让模型依据资料作答。后面的 RAG 和 AI 搜索篇目,会继续讨论这条路线怎样发展。
Claude 与 Bard,让通用助手出现更多路线。
Anthropic 在 2023 年 3 月 14 日介绍 Claude 时,已经提到了此前与 Notion、Quora、DuckDuckGo 等合作伙伴的测试。它面向对话和文本处理任务,提供聊天与 API 访问方式,强调可引导性以及对有益、诚实、无害行为的研究。Claude 首发公告
这里的“可引导性”,可以理解为模型是否容易按照要求调整任务、语气和行为。对应用开发者而言,这关系到同一个模型能否适应不同产品:学习助手需要耐心解释,编辑工具需要遵守原文,客服助手需要围绕限定资料回答。厂商强调的方向并不自动等于每次输出都能达到目标,但它说明竞争已经涉及怎样把能力组织成稳定的使用体验。
Claude 的早期合作也提供了一个重要视角:用户可以在其他产品里接触模型,而不一定进入模型厂商自己的聊天网站。模型服务和最终应用开始形成更清楚的分工,软件开发者由此获得了更多接入选择。
Google 则在 2 月宣布 Bard 后,于 3 月 21 日开始向美国和英国用户开放申请体验。这个早期版本基于轻量化、优化后的 LaMDA。Google 当时把 Bard 定位为与搜索互补的体验,用户可以借助搜索进一步核查答案。不能把这一时期的 Bard 直接等同于后来所有 Google 搜索 AI 功能。Bard 开放体验公告
到这里,用户已经有理由开始比较:哪个助手更适合写作,哪个更方便查资料,哪个更容易按照要求改写?这些比较也提醒开发者,模型选择要与任务结合。某个模型在一种使用方式里令人满意,并不代表它在所有应用中都更合适。
办公 Copilot 展示了另一种可能:AI 就在工作发生的地方。
3 月 16 日公布的 Microsoft 365 Copilot,把大语言模型、Microsoft Graph 中的工作数据与办公应用连接起来。微软展示的方向包括辅助撰写文档、制作演示、处理邮件和总结会议。最初只有一小部分客户参与测试;面向企业客户的正式可用日期是当年 11 月 1 日。3 月发布公告、企业开放时间说明
Microsoft Graph 可以先理解为连接 Microsoft 365 中邮件、日历、文件等工作数据的服务层。把它与模型、应用连接,意味着系统有机会围绕用户已有的工作材料提供帮助,而不必完全依赖用户手工把背景复制到聊天框里。
这也是办公场景的吸引力所在。一个空白聊天窗口需要用户自己组织材料、描述任务,再把结果搬回原来的软件。如果 AI 能进入工作正在发生的界面,材料和操作就更有机会连在一起。用户关心的也会从“它能写出什么”,进一步变成“它能帮我把眼前这件事推进多少”。
从应用设计看,模型能力与产品整合在这里缺一不可。模型要理解任务,系统要找到用户有权访问的资料,结果还要以可查看、可编辑的方式呈现。仅凭一段精彩演示,无法判断所有环节在日常使用中是否同样可靠;但这些演示已经把软件发展的一个方向展示得相当具体。
这一阶段还有一个常见的名称误会,值得一次分清:
| 产品线 | 这一阶段的主要位置 | 理解历史时应记住的区别 |
|---|---|---|
| GitHub Copilot | 代码编辑器里的编程辅助 | 早于 ChatGPT 热潮,2022 年 6 月已面向个人开发者正式开放 |
| 新 Bing/Bing Chat,后纳入 Microsoft Copilot 品牌 | 搜索、网页对话与内容生成 | 2023 年从搜索和浏览器场景扩展 |
| Microsoft 365 Copilot | 办公应用与工作数据 | 2023 年 3 月公布,随后逐步测试和商业开放 |
GitHub 的正式开放公告强调的是编辑器中的代码建议;微软则在 2023 年 11 月宣布 Bing Chat 和 Bing Chat Enterprise 改称 Copilot。它们共享“副驾驶”的产品比喻,但对应的工作场景、接入资料和发展过程各不相同。GitHub Copilot 2022 年公告、微软 2023 年 11 月公告
记住这几条产品线,后面再读到 AI 编程、办公助手和个人助手,就不会把所有变化都归到同一款产品身上。
中国市场也开始把模型推向中文用户与已有业务。
2023 年 3 月 16 日,百度发布文心一言,初期通过邀请码向用户开放,并提供企业 API 申请。4 月 11 日,阿里云公布通义千问,介绍了将模型融入阿里业务及面向客户、开发者提供能力的计划。百度发布稿、阿里通义千问公告
这两项动作放在同一阶段看,能看到中国市场当时的两类入口:一类让用户直接体验中文对话助手,另一类把模型连接到云服务和已有应用。公开展示只是开始,开发者真正需要的是能够接入的服务,以及模型对自己场景中中文表达和业务材料的处理能力。
因此,理解这一轮国内产品,既要记录谁在何时发布,也要继续追问:用户当时能否访问,开发者能否调用,它具体改善了什么任务?后来开放模型、长上下文和更低调用成本逐渐发展,这些问题才会出现更多答案。我们会在相应篇目中继续介绍影响较大的模型与产品,不用今天的市场位置倒推它们在 2023 年就已经具备同样的影响力。
第一轮扩张,改变了应用开发者面对的问题。
把这一年的代表性产品放在一起,可以看到三种相互关联的进展:GPT-4 等模型推动更复杂的任务处理,搜索产品为回答引入外部资料,办公助手则尝试把模型放进已有的工作流程。
从开发角度理解,这些进展让“模型能做什么”逐步连接到“用户怎样完成一件事”。一个模型即使能写出很好的总结,用户仍然需要把资料交给它、理解输出、保存结果并继续工作。减少这些环节中的阻力,开始成为应用本身的价值。
与此同时,新的瓶颈也更明显了。用户希望助手了解自己的文件,通用模型却不会自动拥有这些资料;用户希望输出可以直接交付,模型却可能遗漏条件;用户希望软件能完成操作,聊天结果却仍可能只是一段建议。这些落差会推动知识库、工作流、工具调用等方向发展。
因此,2023 年的第一轮扩张带来了双重变化:更强的模型提高了人们愿意交给 AI 的任务难度,进入搜索和办公的产品又提高了人们对 AI 实用性的期待。后面的应用生态,就在能力增长与实际需求之间不断展开。
不过,同一时期的热潮还有另一幅面孔。许多人第一次被生成式 AI 打动,面对的是一张按描述生成的图片。下一篇会把时间拨回 2022—2023 年,沿着 Midjourney、Stable Diffusion 等产品梳理并行发展的 AI 绘画与 AIGC 热潮,看视觉创作怎样拓展了人们对 AI 能力的想象。
上一篇:01|2022 年末:从语言生成到自然对话,ChatGPT 为什么成为转折点
下一篇:03|2022—2023:并行发展的 AI 绘画与 AIGC 热潮
返回:第 0 部分大纲