← 全部极客知识库

大模型通识 / AI 理论基础

1. 先建立一张地图:AI、机器学习、深度学习与大模型是什么关系

原文备份 · 第 2 / 14 篇 · 查看极客时间原知识库 ↗

本篇目录 · 7 节

来源:AI 理论基础

假设你想做一个小工具:导入自己的学习笔记,让它生成几张复习卡片,确认后保存,第二天再提醒你复习。

搜索实现方法时,你可能接连遇到这些建议:用机器学习给笔记分类,用深度学习理解文字,接一个大模型生成问题,再做成一个 Agent。听起来每个词都很重要,却很难判断:它们是四种不同方案,还是同一件事的四个名字?

要回答这个问题,先把几种不同的讨论分开。有些词描述研究领域,有些描述学习方法,有些描述训练好的模型,还有些描述如何把模型组织成应用。把这些层次混在一起,就容易以为“想做一个 AI 应用,必须先训练一个大模型”,或者“接入了一个强模型,整个软件就会自动可靠”。

这一篇先建立概念地图。读完后,你应该能解释 AI、机器学习、深度学习与大模型的关系,也能指出复习助手里哪些事情由模型承担,哪些仍由程序完成。不需要安装软件,也不要求先学数学;下面的复习助手是教学构造,并非已经运行的产品。

AI 是一个领域,范围比聊天模型大得多

AI 是 Artificial Intelligence,通常译为“人工智能”。不同教材的定义有所侧重,但共同关心的是:怎样构建能够感知信息、进行推断、作出选择或采取行动的计算系统,让它在某些任务上表现出有用的智能行为。

例如,识别一张图片中的物体、为一个目标寻找可行计划、根据条件推断结论,都可以成为 AI 研究的问题。《Artificial Intelligence: Foundations of Computational Agents》就从在环境中行动的计算主体来组织这一领域,讨论怎样构建能够适应任务与限制的系统。教材中的 AI 定义

AI 并不只靠一种方法。搜索、逻辑推理、知识表示、规划和机器学习,都在其中承担过或仍然承担重要作用。有的系统主要依据人写下的规则,有的主要依靠从数据中学到的规律,还有的把不同方法结合起来。

因此,AI 不是一种特定的软件外壳。一个界面带有聊天框,不能说明里面采用什么技术;一个系统没有聊天框,也可能使用了机器学习模型。

对我们的复习助手来说,定时提醒完全可以由普通程序完成:到了规定时间,就发送提醒。只有日期判断与通知发送,并不需要大模型。另一方面,“从这段笔记里挑出值得复习的概念,并写成清楚的问题”,包含更复杂的语言处理,才是考虑使用模型的地方。

划清这两件事,会直接影响你的开发方式:明确的规则交给明确的程序,难以穷举的语言变化再交给适合处理它的模型。它们可以在同一个应用里配合。

机器学习:让一部分规律从数据中形成

机器学习,英文是 Machine Learning,常缩写为 ML。它是 AI 中非常重要的一类方法:通过数据或经验形成模型,使模型能够处理新的输入。Google 机器学习入门

先用“给笔记分类”理解它。

你可以手写规则:笔记出现“CSS”就归到前端,出现“SQL”就归到数据库。这种方式清楚、容易检查,但会遇到例外。一篇讨论“如何在网页里展示 SQL 查询结果”的笔记,同时出现两个关键词;一篇讲样式布局的笔记,又可能一次都没写 CSS。

另一条路线是准备一批已经分类的笔记,让学习程序从这些例子中调整一个分类模型。模型接到新笔记时,再根据学到的规律判断类别。它可能利用比几个关键词更丰富的线索,也可能因为训练样本偏少或分类标准混乱而判断错误。

这里发生了一个重要变化:开发者不再逐条写出所有分类规则,而是设计学习过程、准备数据,并检查得到的模型是否适合任务。人的工作没有消失,只是有一部分从编写规则转到了数据、目标和验证上。

而且,机器学习不只有大模型。线性模型、决策树等也是常见方法。对于输入结构清楚、任务范围有限的问题,一个较简单的模型就可能有用。后面的文章会再解释模型怎样从样本中学习,这里先记住:“使用机器学习”描述的是一类获得能力的方法,并不说明模型一定很大。

深度学习:机器学习中的一条重要路线

深度学习,英文是 Deep Learning,常缩写为 DL。它使用具有多层计算结构的神经网络,从数据中学习表示和任务规律。

“神经网络”这个名字容易让人联想到人脑。学习时可以暂时把它理解为:许多带有可调整参数的计算单元,按一定结构连接起来。它受到生物神经系统的部分启发,但不能把每个部件与人脑直接对应,更不能因为名字里有“神经”就认定它具有意识。

多层结构有什么意义?输入经过不同层的变换后,可以形成更适合任务的内部表示。例如,图像模型可能逐步形成对局部图案及其组合的表示。这个例子帮助理解多层变换,但不意味着每层一定有一个人类能够明确命名的职责。

深度学习的重要特点之一,是可以把表示的学习也纳入训练,而不只依赖人为指定的一小组特征。《动手学深度学习》将其放在多层表示学习的脉络下解释。深度学习教材导论

它与机器学习的关系,可以这样画:

人工智能 AI:更广的研究领域
├─ 搜索、规划、逻辑推理等方法
└─ 机器学习 ML:从数据或经验中学习
   ├─ 线性模型、决策树等方法
   └─ 深度学习 DL:用多层神经网络学习
      ├─ 图像、语音等任务中的神经网络模型
      └─ 当代主流大语言模型 LLM

这是一张帮助入门的关系图,列出的方向并不完整,各分支也可以组合。它要说明的是:深度学习属于机器学习,而 AI 的范围更大。图中的模型类别也存在交叉,例如大语言模型可以进一步具备图像处理能力。

“深”与“大”同样不是一个指标。“深”主要关联计算层次;“大”可能涉及参数规模及训练投入。一个深度学习模型可以很小,也可以很大。

大模型、大语言模型、基础模型,分别强调什么

我们日常说的“大模型”,通常是在讨论规模较大、经过较大规模训练的模型。但这个词没有一个适用于所有领域、所有时期的统一参数分界。不能仅凭名字带“大”字,就认定它在所有任务上都更好。

大语言模型的英文是 Large Language Model,简称 LLM,强调语言建模这条技术路线。当代主流 LLM 使用深度神经网络,通过训练形成处理和生成语言的能力。它可以帮助改写、总结、生成代码或回答问题,但具体能力与训练方式、输入资料和使用环境有关。

“语言模型”也不等于“只会聊天”。代码、结构化文本和工具调用参数都可以通过文本形式表达。另一方面,一些模型又扩展了图像、音频等输入或输出能力。这时需要逐项看它支持什么,不能只依据一个总名称推断。

还有一个常见词是基础模型,Foundation Model。相关研究用它描述在广泛数据上训练、可以适配多种下游任务的模型,重点在于它能够成为多种应用的基础。基础模型可以用于语言,也可以用于视觉等领域。基础模型研究报告

这几个名称观察的是不同方面:“大”强调规模,“语言”强调建模对象或技术路线,“基础”强调广泛适配与复用的作用。

同样,“生成式 AI”主要强调生成内容的用途或能力。能生成文字的语言模型、能生成图片的模型,都可能被归入这个范围。它不是在前面的关系图末尾再接一层,就能囊括所有情况。

所以,看到一款新模型时,与其急着给它贴齐所有标签,更值得问:它接受什么输入、产生什么输出、能处理哪些任务、有哪些使用条件?这些答案才会帮助你设计应用。

模型、算法与应用:先把交付的对象分清楚

前面几节讨论技术关系,现在回到开发现场。

一个模型通常包含计算结构,以及通过训练获得的参数。参数可以先理解为控制计算行为的一组数值。训练过程会依据数据和目标调整这些数值;使用一个已经训练好的模型处理新输入,通常称为推理,inference。

这里的“推理”是运行模型的技术用语。即使只是生成一句简单问候,也属于 inference;它与“经过多步思考解一道难题”所说的推理能力,并不是完全相同的概念。

算法则是完成某类计算或解决问题的方法。训练算法用于调整模型,搜索算法用于寻找结果;模型运行时也需要具体的计算步骤。因此,“算法”和“模型”有关,但不能随意互换。

应用则把模型放进用户可以完成事情的流程。拿复习助手来说,可以做出下面的分工:

应用中的环节 可以由谁承担 完成后的可检查结果
导入笔记 文件读取与解析程序 能看到正确读取的原文
生成复习卡片草稿 语言模型 每张卡片的问题与答案可以对照原文
检查必填字段、显示预览 普通程序 缺少问题或答案时能够提示
确认后保存 界面逻辑与存储程序 重新打开仍能找到确认过的卡片
到时间提醒 调度与通知程序 在设定时间收到对应提醒

这是一个教学设计,不是说每款复习产品都采用同样架构。它说明了一点:用户拿到的是整个应用的结果,模型只承担其中一部分工作。

如果卡片写错了,需要检查原始资料和生成过程;如果卡片内容正确,关闭页面后却消失了,问题可能出在保存流程。后者通常不会因为换一个更贵的模型就自行解决。

这也是应用开发与模型训练的分工。你可以使用别人已经训练好的模型,通过 API,也就是程序之间调用能力的接口,来开发自己的应用。是否需要进一步训练,是另一个问题,并不是开始开发的前置条件。

Agent:模型怎样进入行动与反馈的过程

Agent 这个词在 AI 研究中早已有之,广义上指能够在环境中行动的主体。本教程讨论大模型应用时,主要关注由模型参与决定后续步骤、使用工具并根据结果继续推进任务的系统。

仍以复习助手为例。一种设计总是依次执行“读取三篇笔记—生成十张卡片—展示预览”。主要路径由程序提前确定,可以理解为固定工作流。

另一种设计允许助手先检查资料:如果概念解释不完整,就请求检索相关笔记;找到补充材料后再生成卡片;如果两篇笔记冲突,就把问题交给用户确认。哪些步骤需要发生,会受到模型判断和中间结果影响。

Anthropic 在其工程文章中采用过类似的实用区分:工作流主要按预先编写的路径组织,Agent 则让模型更动态地决定流程和工具使用。不同团队对 Agent 的用词可能更宽或更窄,因此阅读产品介绍时仍应看具体机制。工作流与 Agent 的工程区分

工作流也可以包含分支、重试和模型调用。这里的区别在于,下一步的选择主要由预先设计的控制逻辑安排,还是更多交给模型根据任务和反馈决定;真实应用也可以把两者结合。

Agent 不是比大模型“再大一级”的模型类别。它描述一种系统组织方式,可能包含一个或多个模型,也包含工具、状态、执行环境和停止条件。

模型提出“保存这些卡片”,程序才会尝试写入;程序返回成功或失败后,系统才能决定下一步。模型生成一句“已经保存”,本身不是文件或数据库已写入的证明。要确认成功,仍需读取实际结果。

这种区别对使用 Vibe Coding 工具尤其有帮助。你可以让编程 Agent 写保存功能,但验收时要重新打开页面,检查卡片是否还在。自然语言让提出任务更方便,真实软件的完成条件仍然存在。

用几个判断,检查这张地图是否清楚

先独立判断下面五句话,再看解释。不需要调用模型替你作答。

  1. 一个程序按固定规则每天提醒复习,因此它一定使用了机器学习。
  2. 一个笔记分类模型使用决策树,因此它属于机器学习,但未必属于深度学习。
  3. 我的网页通过 API 调用大语言模型,所以我正在开发 AI 应用,即使没有训练模型。
  4. 系统把旧笔记读出来交给模型,因此模型参数一定已经学会并永久保存了这些笔记。
  5. 助手表示卡片已保存,因此保存功能已经验收通过。

第 1 句不成立。定时规则本身不能证明系统从数据中进行了学习。

第 2 句成立。机器学习包含多种方法,决策树并不因此变成深度神经网络。

第 3 句成立。调用已有能力、组织用户流程和实现数据保存,本来就是应用开发的重要部分。

第 4 句不成立。把资料作为当前输入,与通过训练改变参数,是不同操作。应用即使把笔记长期保存在数据库里,也不能因此推断模型参数已经更新。后面会逐步区分上下文、检索和训练。

第 5 句不成立。需要独立检查保存结果,例如重新读取卡片,并确认内容与用户批准的版本一致。

如果第 1、2 题容易混淆,可以回看机器学习与深度学习的关系;如果第 4 题不确定,要重点区分数据进入当前输入与参数更新;如果第 5 题拿不准,就回看模型、程序与应用的分工。

现在,再回到开头的项目。你可以用一个大语言模型生成卡片,用普通程序完成保存和提醒,在确有需要时加入动态检索和工具选择。它们不必按照流行名词的数量叠加,而应围绕用户要完成的任务组合。

下一篇会把“从数据中学习”拆开来看:模型究竟学到什么,一个样本怎样参与学习,以及学到的规律怎样用于从未见过的新输入。


下一篇:02|机器学习:程序怎样从数据中学到规律

返回:第一部分大纲

关联:第 0 部分:大模型发展史;第二部分大纲