大模型通识 / 大模型技术演进
6. 2023—2024:一次调用不够用,定制助手与工作流发展起来
原文备份 · 第 7 / 26 篇 · 查看极客时间原知识库 ↗
来源:大模型技术演进
2023 年 11 月 6 日,OpenAI 在首届开发者大会期间推出 GPTs:用户可以把指令、补充知识和工具能力组合起来,创建面向特定用途的 ChatGPT。制作这样一个助手,不再要求先写出一个网站或调用 API 的程序。GPTs 发布公告
这让“我也能做一个 AI 工具”有了更直接的入口。一个熟悉教学的人,可以尝试把自己的讲解方法放进助手;一个懂桌游的人,可以让助手依据规则帮助玩家;经常写作的人,也可以保存一套反复使用的要求。使用者开始有机会把自己的经验组织成别人能够打开、使用的工具。
到 2024 年 1 月 10 日,OpenAI 开始推出 GPT Store,并表示用户已经创建了超过 300 万个定制 GPT。这个数字是官方公布的创建数量,并不代表有 300 万个成熟产品或活跃业务,但它反映了这类入口激发的尝试规模。GPT Store 上线公告
与此同时,另一个问题逐渐变得突出:一个助手能记住要求、查阅资料,不代表它就能稳定完成一串复杂工作。先判断需求,再检索材料,按条件调用工具,最后生成规定格式的结果——这些步骤如果都藏在一段长提示词里,过程就很难看清。
于是,2023—2024 年的应用开发沿着两个相互连接的方向发展:把有效的用法保存成定制助手,把复杂任务拆成可以执行和检查的工作流。GPTs、Dify、Coze、Flowise、Langflow、Copilot Studio 等产品,分别从不同入口回应了这两种需求。
定制助手,让一套有效用法能够被保存和复用。
在普通聊天里,你可能每次都要重复同样的背景:“我刚学 Python,先解释思路,不要直接给完整答案。”如果还要附上学习计划、已有笔记和输出要求,一次准备就会占用不少时间。
定制助手把这些相对稳定的内容保存下来。用户下次打开同一个助手,只需要提供本次任务;其他人使用时,也可以从创建者已经整理好的指令和资料开始。
GPTs 当时的设计,就把这种定制放进 ChatGPT 产品中:配置指令、添加知识、选择可用能力,也可以通过自定义 Actions 连接外部 API。首发公告中,示例 GPT 已面向 Plus 和 Enterprise 用户提供。这与推出一个新的基础模型是不同层面的变化。GPTs 当时的配置方式与开放范围
可以把一个定制助手理解为:围绕一个用途,预先安排好模型应该怎样工作、能够参考什么、可以使用哪些工具。它通常不需要为每个创建者重新训练一个模型;上传资料的含义,也应结合上一篇介绍的上下文与检索来理解。
这里的价值不只在“少复制几次提示词”。一旦要求能够保存、命名和分享,就可以逐步打磨同一种体验。例如,复习助手先让学习者回答,再给提示,最后解释错误;这种教学顺序可以成为一个持续修改的设计对象。
不过,GPTs 是当时 ChatGPT 内的产品形态。分享一个 GPT,与拿到一套能部署在自己服务器上的完整应用,并不是同一件事。需要独立网页、自己的数据存储或更明确的执行流程时,开发者还会寻找其他构建方式。
工作流,把任务顺序从一段要求变成程序结构。
假设你想做一个个人复习助手。它需要读取这周的学习笔记,根据其中记录的疑问选择复习主题,生成五道练习题,并把题目与答案分开放好。
直接把全部要求交给模型,确实可能得到一份不错的结果。但如果笔记没有读到、题目数量不对,或者答案提前混在题目里,你需要知道问题出在哪一步。
工作流,也就是 Workflow,将任务组织成多个有明确输入和输出的步骤。用于解释思路的一个流程可以是:
选择本周笔记 → 提取知识点 → 根据学习记录选择复习主题 → 生成题目与答案 → 检查格式和数量 → 保存为草稿。
这里并非每一步都需要大模型。根据日期筛选笔记,可以用普通程序;提炼知识点,适合利用模型;检查是否恰好有五道题,可以用规则;真正保存文件,则要交给文件操作程序。
如果没有本周笔记,流程可以走到“提示补充材料”的分支;如果题目格式不合格,可以让生成步骤再尝试一次,并设定尝试次数。执行顺序、条件与数据传递,由应用明确组织起来。
这类组织方法早已存在于软件和自动化系统中。大模型带来的新空间,是把总结、分类、信息提取、改写等过去较难用简单规则表达的操作,也变成流程中的可调用步骤。
它的前提仍然是模型能较好地完成这些子任务。模型越能遵守指令、读取给定材料、按要求输出,开发者就越容易把它与普通程序组合。把任务拆开,还能让每次模型调用面对更明确的输入与目标。
但步骤增加也有代价:多一次调用就可能增加等待与费用,前一步的错误也可能传到后面。工作流的价值在于让有必要的分工变得明确,效果需要从实际结果判断。
Dify 的演进,展示了从配置应用到编排流程的变化。
Dify 在 2023 年 5 月的早期介绍中,已经提供可视化提示词编排、数据集管理、应用 API 和日志等能力。它试图把围绕模型应用反复出现的后台工作整合起来,让开发者更容易创建和持续改进应用。Dify 2023 年的产品介绍
这个时期,上一章的知识库问答就可以成为一种应用:导入资料、安排提示词,再提供一个访问入口。开发者开始不必亲自搭建所有基础组件。
2024 年 4 月 8 日,Dify 公布 Workflow。它把模型、工具、知识检索、代码和条件判断等能力放到画布中,通过节点和连线组织流程,同时区分独立工作流与面向对话的 Chatflow。Dify Workflow 发布介绍
节点可以理解为一次处理操作,连线表达操作之间的连接关系。对使用者来说,一个明显变化是:可以看见上一节点产出的内容怎样进入下一节点,而不必在一大段提示词里猜测任务是否按顺序进行。
例如,前面的复习助手可以把“提取知识点”和“生成练习题”分开。题目质量差时,先检查提取到的知识点是否正确,再判断生成要求是否合适。这种检查方式,与只反复修改最终提示词有很大不同。
5 月 31 日的 Dify 更新又加入了迭代节点、参数提取,以及将工作流发布为工具的能力。于是,一段已经设计好的流程,可以被另一条流程或 Agent 调用。Dify 当时的工作流更新
这一步很有意义:用户不必每次重新组织“生成复习题”的全部细节,可以把它变成一个接收笔记、返回题目的功能,再放进更大的学习助手里。复杂应用开始能够由一些较小、可复用的处理过程组成。
Coze 把助手配置、能力组合与发布入口放到同一个平台里。
2024 年,字节跳动的扣子(Coze)是另一条值得关注的产品路线。Coze 国际版当年在 Product Hunt 的产品介绍中,就把“无需编程构建 Bot,并发布到 Discord、Telegram、Slack 等消息应用”作为核心方向。Coze 当时的产品介绍与发布记录
这里多了一层产品考虑:助手做出来之后,用户从哪里使用它?如果能够出现在熟悉的沟通入口里,用户就不一定需要另外学习一个独立网站。发布渠道因此成为助手平台的重要组成部分。
国内扣子的迭代也显示,平台在逐渐超出单个聊天机器人的配置。官方 2024 年 10 月记录列出了插件、工作流、知识库等资源的组织方式;11 月开始公测包含业务逻辑与用户界面的 AI 应用开发,12 月又记录了对话流以及应用发布到小程序、飞书等渠道的能力。扣子 2024 年更新记录
这些变化需要按时间理解:助手、带界面的应用、不同渠道的发布支持,是逐步扩展的。国际版与国内版的模型、渠道和开放条件也不能直接互相套用。
对个人项目而言,这种平台的吸引力,是把几个原本分开的环节放到同一处:定义助手做什么,组合它需要的资料和能力,安排处理流程,再找到用户可以进入的地方。
例如,一个复习工具可以用对话接收学习需求,也可以用页面显示题目、答案和历史记录。两种入口可能使用相近的后台流程,但界面会影响用户怎样完成任务。这也是“搭一个 Bot”逐步走向“做一个应用”的过程。
Flowise 与 Langflow,让组件之间的关系更容易被看见。
可视化并非只有大型平台在探索。Flowise 的共同创始人 Henry Heng 在 2023 年回顾中写到,项目于当年 4 月发布到 GitHub。他在 Y Combinator 的介绍中说明了起点:使用 LangChain 等框架开发时,希望减少重复代码,并更直观地展示整个模型应用流程。Flowise 创始人的年度回顾、创始人对产品缘起的说明
把文档读取、嵌入模型、检索存储和语言模型放在画布上,既能帮助搭建,也能帮助学习。初学者有机会看见:所谓“和文件聊天”,其实是不同组件共同完成的过程。
Langflow 也沿着可视化组件这条路线发展。2024 年 6 月 24 日发布的 1.0 版本,强调可定制、可复用的组件和更复杂的流程,并增强了查看与控制执行步骤的能力。Langflow 1.0 发布公告
它们与上一章的 LangChain、LlamaIndex 处在相互关联的生态中,但名称相近不代表是同一个项目。底层框架提供程序组件,可视化工具可以把组件及其连接呈现为画布;不同产品又可能继续增加自己的运行、部署和管理能力。
画布降低了表达流程的门槛,也让一些原本藏在代码里的关系变得直观。不过,节点之间依然要传递合适的数据。一个节点输出的是一段文字,下一个节点需要的却是由多条记录组成的列表,仍然需要转换。图形界面改变了表达方式,数据结构与程序逻辑依然存在。
Copilot Studio 与 n8n,把这股变化接到了已有软件体系上。
2023 年 11 月 15 日,微软公布 Copilot Studio,提供低代码方式定制 Microsoft 365 Copilot,以及创建独立的 Copilot。首发公告明确区分了产品本身可用与 Microsoft 365 集成处于预览的状态,并强调连接业务数据、构建、发布与管理助手。Copilot Studio 当时的公告
这延续了第二篇中办公助手的发展线:当通用办公产品进入企业后,下一步就是让它适应具体业务。某个团队自己的表单、内部服务与处理规则,需要有地方配置和连接。Copilot Studio 因而是一种构建工具,需要与用户日常使用的 Copilot 助手区分开来。
n8n 则从自动化流程这侧接入模型。官方在 2023 年 11 月发布的十月回顾中,介绍了 LangChain 集成,使 AI 处理逻辑能够与已有连接器组合。n8n 对 2023 年十月更新的回顾
连接器可以先理解为软件与外部服务交互的现成组件。对于自动化系统,模型由此成为流程中可以使用的一种能力:原来的流程负责获取数据、检查条件和写入结果,模型可以参与分类、提取或生成。
假设一个资料整理工具每天取得新文章,先判断哪些与你的学习主题有关,再生成摘要并存入指定位置。触发时间、取得原文和保存记录,可以由自动化步骤完成;语言理解参与其中一部分。这个例子也说明,AI 应用不必总从聊天窗口启动。
后来围绕 n8n 与 Agent 自动化的讨论,可以沿着这条线继续理解:更强的模型开始参与更多判断,但与真实软件、数据和任务触发方式的连接,仍然依赖周边系统。
定制助手、工作流与 Agent,怎样放在同一张图里理解?
这些名称经常交叉出现,初学者很容易以为它们是互相替代的产品代际。更有帮助的方式,是看它们分别强调什么。
| 形态 | 主要强调的问题 | 复习助手中的例子 |
|---|---|---|
| 定制助手 | 怎样保存并复用特定用途的指令、资料和能力 | 固定教学风格、参考范围与讲解要求 |
| 工作流 | 怎样明确组织步骤、分支和数据传递 | 先读取笔记,再出题、检查、保存 |
| Agent | 怎样根据目标和运行结果,动态决定后续行动 | 判断还缺哪些资料,选择工具继续查找 |
这是一种理解角度,不是所有厂商共同采用的命名标准。Anthropic 在 2024 年末的工程文章中,也专门区分了按照预先安排路径执行的工作流,与由模型动态决定过程和工具使用的 Agent。当时对工作流与 Agent 的区分
同一个助手可以同时包含这些机制。用户面对的是一个学习助手,内部的一段出题流程由程序明确规定,遇到开放式资料搜集任务时,又让模型选择下一步工具。Dify 在 2024 年允许工作流发布为工具,就是这种组合的一个具体例子。
因此,RAG 没有因为工作流发展就失去作用,工作流也不必等着被 Agent 淘汰。知识检索可以是流程中的一个步骤,完整流程又可以成为 Agent 调用的一项能力。
开发门槛下降以后,设计和验证变得更显眼。
这一轮工具让更多人能够搭出可运行的东西,但“画布连通了”和“任务完成得好”之间,仍然有一段距离。
在复习助手里,流程可能确实生成五道题,却全部集中在同一个知识点;文件也可能成功保存,却把答案放到了题目上方。前一个问题需要检查题目覆盖范围,后一个问题需要检查输出结构与最终文件。判断标准仍然来自你希望用户获得的结果。
可检查的中间步骤因此很有价值。看到提取出的知识点、选定的主题和最终保存内容,就更容易分辨应该调整哪一环。产品也开始把这种检查做成能力,例如 Dify 在 Workflow 发布介绍中就强调了单节点测试、整条流程测试和运行记录。Dify 当时的调试设计
复用也需要相应条件。拿到别人的工作流,仍要有匹配的资料、模型、插件配置和外部服务权限。模板保存的是设计,实际运行还取决于它所连接的环境。
回看这两年,定制助手让有效经验更容易保存和分享,工作流让复杂任务更容易组织和检查,可视化与低代码工具则扩大了参与构建的人群。大模型应用的开发,逐渐从一次提问的技巧,扩展到对完整使用过程的设计。
而当开发者能够配置这些应用以后,又会进一步关心:底层模型能否自行选择、下载、部署和改造?下一篇将进入开放模型生态,看看 Llama、Qwen 等模型,以及围绕它们发展的工具,怎样继续扩大个人开发者的选择。
上一篇:05|2023—2024:模型不知道我的资料,RAG 与知识库问答兴起
下一篇:07|2023—2024:模型可以下载和改造,开放生态扩大开发选择
返回:第 0 部分大纲