1.2 机器学习基础.md 13 KB
你可能有疑惑：我不是要学习大模型么，为什么要先学习机器学习，他们之间是什么关系？
这是因为大语言模型属于机器学习的子集，模型的训练依然是采用的机器学习的训练方法。
比如大家都在用的 DeepSeek模型是基于大语言模型（Large language model），采用深度神经网络构建，包含数十亿至数万亿参数。模型运行分为两个阶段：
训练阶段：包括预训练和优化训练（微调）。预训练通过大规模自监督学习从通用文本数据学习语言模式；优化训练通过有监督微调（SFT）或强化学习（RL）使模型适应特定任务(如回答问题)。
推理阶段：模型部署后，基于输入内容预测下一个词元，采用自回归生成方式输出响应(如文本、表格或代码)。强调模型并非检索训练数据，而是基于语义理解动态生成内容，不存储原始训练数据。
上面提到的深度神经网络、监督微调、强化学习都是机器学习的训练方法。如果不了解这些概念，理解起来会很困难。
上面这张图直观展示了AI、机器学习、监督学习…等的边界关系。
1、AI的发展历程
人工智能的英文是 Artificial Intelligence，简称 AI。是计算机科学的一个分支，其目的是让计算机模拟人类智能，以解决问题和执行任务。 自1956年AI作为独立学科确立以来，经历了多次起伏，不断演进发展，发展历程如下：
| 时期 | 年份 | 主要事件与特征 |
|---|---|---|
| 诞生期 | 1956-1974 | 1956年达特茅斯会议标志AI正式诞生；早期专注于符号推理和问题求解；开发了首批AI程序如逻辑理论家和通用问题求解器 |
| 第一次AI寒冬 | 1974-1980 | 计算能力限制和过高期望导致资金削减；研究进展缓慢，公众和投资者信心下降 |
| 专家系统时代 | 1980-1987 | 专家系统兴起，如MYCIN医疗诊断系统；基于规则的系统在特定领域取得成功；商业应用带来新一轮投资热潮 |
| 第二次AI寒冬 | 1987-1993 | 专家系统维护成本高昂，扩展性差；硬件（如LISP机器）市场崩溃；研究资金再次大幅减少 |
| 机器学习兴起 | 1993-2011 | 机器学习方法兴起；互联网提供海量数据；计算能力显著提升；深蓝击败国际象棋冠军（1997） |
| 深度学习革命 | 2012-2022 | 2012年AlexNet在ImageNet竞赛中取得突破；GPU加速深度神经网络训练；AlphaGo击败围棋世界冠军（2016）；自然语言处理取得重大进展 |
| 大模型时代 | 2022-至今 | ChatGPT发布（2022年11月）引发AI应用热潮；大语言模型（LLM）展现通用智能潜力；多模态AI、生成式AI成为主流；AI开始深入各行各业 |
2、什么是机器学习
机器学习是 AI 的子集，它核心在于不需要人类做显示编程，而是让计算机通过算法自行学习和改进去识别模式，做出预测和决策。
比如我们通过代码告诉电脑，图片里包含特征1、特征2、特征3…的动物是狗，那程序对动物的判断就是通过人类直接明确编写逻辑达成的，不属于机器学习。
但如果我们给电脑大量狗的图片，让电脑自行识别模式，总结特征规律，从而能对没见过的图片进行预测和判断，这就是机器学习。
机器学习能利用计算机的运算能力，从大量的数据中发现一个“函数”或“模型”，并通过它来模拟现实世界事物间的关系，从而实现预测、判断等目的。这个过程的关键是建立一个合适的模型，并能主动地根据这个模型进行“推理”，而这个建模的过程就是机器的“学习”过程。
3、机器是如何学习的
机器学习的模型本质上是一个函数，变量x1,x2,x3…xn 叫做特征，因变量y是标签。一批历史特征和一批历史标签的集合，就是机器学习的数据集。
$$ y = f(x_1, x_2, x_3, ..., x_n; \theta) $$
其中:
y 表示模型的输出（标签或预测值）
x₁, x₂, x₃, ..., xₙ 表示输入特征
3.1 数据集类型
训练数据集（training dataset）：用来训练的数据集，就是训练数据集。
验证数据集（validation dataset）：当机器通过训练找到了一个函数，我们还需要验证和评估，也就是说，这时候我们要给机器另一批同类数据特征，看机器能不能用这个函数推出这批数据的标签。这一过程就是在验证模型是否能够被推广、泛化（训练数据集之外的数据也能表现良好），而此时我们用到的数据集，就叫验证数据集简单来说，在验证、评估的过程里，我们就是要验证这个函数到底好不好。
测试数据集（test dataset）：如果这个函数通过了评估，那就可以在测试数据集上做最终的测试；如果通过不了，就需要继续找新的模型。
3.2 模型训练过程
机器的学习过程就是在已知数据集的基础上，通过反复的计算，选择最贴切的函数去描述数据集中自变量 x1, x2, x3, …, xn 和因变量 y 之间的因果关系。这个过程，就叫做机器学习的训练，也叫拟合。
在训练数据上表现很好，但是在测试数据或者上线真实数据上表现不好，则叫做“过拟合”。有些大模型厂商采用公开的评测数据集来训练，但是真实场景的训练不足，使得训练出来的模型榜单上跑分很高，但是实际使用一般的核心原因。
训练模型就是用训练集中的特征变量和已知标签，根据当前样本的损失大小来逐渐拟合函数，确定最优的内部参数，最后完成模型。训练核心是减少损失，使函数对特征到标签的模拟越来越贴切。
那什么是损失呢？它其实是对糟糕预测的惩罚，同时也是对模型好坏的度量。损失也就是模型的误差，也称为成本或代价。名字虽多，但都是一个意思，就是当前预测值和真实值之间的差距的体现。它是一个数值，表示对于单个样本而言模型预测的准确程度。如果模型的预测完全准确，则损失为 0；如果不准确，就有损失。
在机器学习中，我们追求的是比较小的损失。不过，模型好不好，还不能仅看单个样本，还要针对所有数据样本，找到一组平均损失“较小”的函数模型。样本的损失大小，从几何意义上基本可以理解为预测值和真值之间的几何距离。平均距离越大，说明误差越大，模型越离谱。在下面这个图中，左边是平均损失较大的模型，右边是平均损失较小的模型，模型所有数据点的平均损失很明显大过右边模型。
因此，针对每一组不同的参数，机器都会基于样本数据集，用损失函数算一次平均损失。而机器学习的最优化过程，就是逐步减小训练集上损失的过程。具体到我们今天这个回归模型的拟合，它的关键环节就是通过梯度下降，逐步优化模型的参数，使训练集误差值达到最小。在这里面，线性回归中计算误差的方法很好理解，就是数据集中真值与预测值之间的残差平方和。那梯度下降又是怎么一回事呢？为了让你直观地理解，我用一张图来展示一下，梯度下降是怎么一步一步地走到损失曲线中的最小损失点的。
5、机器学习的分类
监督学习（Supervised learning）：训练数据集全部有标签，叫监督学习。
无监督学习（Unsupervised learning）：训练数据集没有标签，叫做无监督学习。
半监督学习（Semi-supervised learning）：在训练数据集中，有的数据有标签，有的数据没有标签，我们叫做半监督学习。
强化学习（Reinforcement Learning）：让模型在环境里采取行动，获得结果反馈，从反馈里学习，从而能在给定情况下采取最佳行动来最大化奖励或是最小化损失。
监督学习、强化学习是目前最主流的类型。
5.1 监督学习
在监督学习里，机器学习算法会接受有标签的数据训练，数据标签就是期望的输出值，所以每个训练数据点都既包括输入特征，也包括期望的输出值。
算法的目标是学习输入和输出之间的映射关系，从而在给定新的输入特征后，能够准确预测出相应的输出值。
经典的监督学习任务包括回归和分类：
回归：拿一些房子特征的数据，比如面积、卧室数、是否带阳台等，和相应的房价作为标签继续训练，然后让模型根据没见过的房子的特征预测房价，这就属于回归。
分类：就是把数据划分为不同的类别以及回归，也就是对数值进行预测。比如拿一些猫猫狗狗的照片，和一堆对应猫狗的标签，给模型训练，然后让模型根据没见过的照片预测是猫还是狗，这就属于分类。
5.2 无监督学习
无监督学习和监督学习不同的是，他学习的数据是没有标签的，所以算法的任务是自主发现数据里的模式和规律。经典的无监督学习任务包括聚类：也就是把数据进行分组，比如来一堆新闻文章，让模型根据主题或内容的特征自动把相似文章进行组织。
5.3 强化学习（Reinforcement Learning，简称RL)
强化学习则是让模型在环境里采取行动，获得结果反馈，从反馈里学习，从而能在给定情况下采取最佳行动来最大化奖励或是最小化损失。
类似于训小狗，刚开始的时候小狗会随心所欲做出很多动作。但随着和训犬师的互动，小狗会发现某些动作能够获得零食，某些动作没有零食，某些动作甚至会遭受惩罚。通过观察动作和奖惩之间的联系，小狗的行为会逐渐接近训犬师的期望。
强化学习可以应用在很多任务上，比如说让模型下围棋，获得不同行动导致的奖励或损失反馈，从而在一局局游戏里优化策略，学习如何采取行动达到高分。
5.4 深度学习
深度学习是机器学习的一种方法，其关键在于使用人工神经网络来模仿大脑处理信息的方式，从而逐层提取和表示数据的特征。
神经网络可以用于监督学习、无监督学习、强化学习，所以深度学习不属于他们的子集。
为了更好地理解这一概念，我们可以通过一个形象的例子来说明。
想象你是一个艺术家，正在学习如何画一只小猫。刚开始，你没有任何指导，只能通过观察来画。在这个过程中，你的眼睛就像是神经网络的输入层，负责采集图像。在深度学习中，数据首先被传递到输入层，就像你用眼睛看到图片一样。
接着，你开始关注小猫的不同特征，比如耳朵的形状、眼睛的位置和它柔软的毛发。这就像你的大脑通过多个隐藏层对信息进行处理一样。每一层隐含层都可以看作是你逐步细化和完善你绘画技能的过程，每一层负责识别、分析和理解图片中的某一特定特征。
比如，第一层可能会关注图片中的边缘和线条，就如同你大致勾勒出小猫的轮廓。第二层可能会识别出更复杂的图案，如小猫的耳朵和眼睛。第三层继续深入，识别出更具体的许多细节，如猫的毛发质感和颜色。
最终，通过这些层层的分析和处理，数据到达输出层。
这个输出层给出一个明确的答案，即这张图片是否是一只小猫。就像你通过多次尝试和修正，终于能够画出一只逼真的小猫一样。
5.4 生成式Al
生成式Al是深度学习的一种应用，它利用神经网络来识别现有内容的模式和结构，学习生成新的内容。 之所以被称为“生成式”，是因为它的主要功能是生成新的内容。与传统AI模型不同，这些模型并不只是分析或识别既有数据，而是通过学习大量的示例数据，掌握其中的模式和结构，从而能够创造出全新的数据。这种“生成”的特性，使它能够在多个领域进行内容创作，包括文本、图像、音乐等。
5.5 大语言模型
大语言模型也叫LLM （Large Language model），也是深度学习的一种应用，专门用于进行自然语言处理任务。大语言模型里面的大字说明模型的参数量非常大，可能有数十亿甚至到万亿个。而且训练过程中也需要海量文本数据集，所以能更好的理解自然语言以及生成高质量的文本。 大语言模型的例子有非常多，比如国外的GPT、LLama，国内的Kimi、豆包等，可以进行文本的理解和生成。以GPT这个模型例子，它会根据输入提示以及前面生成过的词，通过概率计算，逐步生成下一个词或token来输出文本序列。
到这里，我们就已经了解了机器学习的基础概念。