{
  "id": "machine-learning",
  "title": "机器学习",
  "lang": "zh-Hans",
  "source_lang": "en",
  "summary": "机器学习研究的是一类算法，它们通过从数据中学习规律来提升任务表现，而不是遵循明确编写的规则。",
  "category": "computer-science",
  "subcategory": "artificial-intelligence",
  "type": "concept",
  "aliases": [
    "统计学习",
    "ML"
  ],
  "generated_at": "2026-10-08",
  "model": "pro/claude-haiku-5-5",
  "url": "https://aiwiki.page/zh/machine-learning/",
  "translations": {
    "en": {
      "url": "https://aiwiki.page/en/machine-learning/",
      "json": "https://aiwiki.page/en/machine-learning.json"
    }
  },
  "sections": [
    {
      "heading": "",
      "text": "机器学习（ML）是人工智能的一个领域，研究如何让算法通过经验提升其在某项任务上的表现。通常的做法是用模型拟合训练数据，而不是依靠人工编写的规则。其方法大量借鉴了统计学、线性代数、微积分和数学优化，其模型既包括简单的线性回归，也包括拥有数十亿参数的大语言模型。如今，该领域已成为语言技术、图像分析、以蛋白质结构预测为代表的科学发现，以及众多商业系统的核心。\n\n本词条首先阐明机器学习是什么，以及它与统计学和人工智能的关系，然后梳理其历史，从早期的神经网络模型和符号主义人工智能，一直讲到深度学习与Transformer时代。接下来介绍数学基础、主要的学习范式（监督学习、无监督学习、自监督学习和强化学习），以及主要的模型族，包括经典算法、神经网络、Transformer和生成模型。随后讨论训练方法、评估与泛化、数据实践、计算基础设施和应用，最后以社会问题和尚未解决的技术难题作结。"
    },
    {
      "heading": "定义与范围",
      "text": "机器学习是研究算法的学科，这类算法通过接触数据来提升其在某项任务上的表现，而不是依靠程序员为每种情况编写的指令。在基于规则的系统中，工程师直接编码决策逻辑：例如，垃圾邮件过滤器可能会拒绝包含一组固定短语的任何邮件。学习型系统则不同，它接收带标签的样本，并调整内部模型，从而能正确地对新邮件进行分类，因此其行为很大程度上取决于数据和学习过程。当规则过于繁多、微妙或多变而难以手工指定时，这种方法最为有用，例如语音识别或图像分类。\n\n三种学习范式\n\n主要的学习范式以反馈的形式和学习目标加以区分。在监督学习中，每个训练样本都将一个输入与一个目标输出配对，目标是对未见过的输入预测其输出。分类（指定离散标签）和回归（预测连续值）是典型问题。在无监督学习中，数据没有标签，任务是发现其中的结构，例如将样本分组为簇、估计生成这些数据的分布，或将其压缩到更少的维度。在强化学习中，智能体在环境中行动，接收可能有延迟的奖励信号，并学习能够使累积奖励最大化的策略。这里的反馈是评价性的，而非一份标准答案清单，问题属于序贯决策。\n\n这些类别并非泾渭分明。半监督方法将少量标签与大量无标签样本结合起来；自监督方法则从数据本身推导训练目标，例如预测句子中被遮盖的词。\n\n与统计学、数据挖掘和符号人工智能的关系\n\n机器学习与统计学共享大量数学基础，包括概率论、估计和回归，其许多方法本身就是由统计学家发展起来的。两个领域的区别主要在于侧重点。经典统计学通常从一个参数可解释的模型出发，并探讨能对这些参数作出何种推断，包括不确定性和假设检验。机器学习通常更重视在新数据上的预测准确性、参数非常多的灵活模型类别，以及能够扩展到大规模数据集的算法。\n\n数据挖掘更适合被理解为一种实践：在大型数据库中搜寻有用的模式，通常用于商业场景。它大量依赖机器学习算法，但其关注点还包括数据准备、数据库工程和商业应用。机器学习则是一套方法体系，用于构建能够从样本中泛化的预测器或策略。\n\n符号人工智能将知识显式地表示为逻辑语句、规则和搜索过程。20世纪70至80年代的专家系统是其中的突出例子。这类系统透明，并且可以进行形式化推理，但它们难以大规模获取知识，也难以处理有噪声的感知数据。机器学习通常将知识隐式地存储在从数据中估计出的数值参数里。两种传统已在神经符号方法中结合起来，因此二者之间的界限最好被视为程度上的差异。\n\n术语：模型、参数、超参数与推断\n\n模型是学习系统能够表示的函数族，连同将输入映射到输出的过程。对于写作 \\(\\hat{y} = f_\\theta(x)\\) 的预测器，向量 \\(\\theta\\) 收集了参数，例如线性回归的系数或神经网络的权重和偏置。它们的取值由数据确定。\n\n超参数是拟合过程不能直接学习的设置。例子包括学习率、决策树学习中树的深度、K近邻算法中近邻的个数 k，或正则化惩罚的强度。由于它们设定在拟合过程之外，其取值通常通过比较在留出数据上的表现来选择，留出数据通常是验证集。\n\n训练是指调整参数，以减小在训练数据上计算的损失函数值，例如最小化 \\(\\frac{1}{n}\\sum_{i=1}^{n} L(f_\\theta(x_i), y_i)\\)。在机器学习的用法中，推断指将训练好且固定的模型应用于新输入以产生预测。在统计学中，该词还有第二种含义，指根据数据对总体或其参数作出结论，包括贝叶斯后验计算，因此应根据上下文判断其所指。"
    },
    {
      "heading": "历史发展",
      "text": "机器学习的根源在于用数学方式描述神经系统的尝试。1943年，沃伦·麦卡洛克和沃尔特·皮茨提出了通常被视为第一个神经网络数学模型的理论，他们构想的理想化神经元，即麦卡洛克–皮茨单元，成为该领域的标准参考模型。他们的阈值单元按前馈方式连接成网络后，可以表示任意布尔函数，这一结果后来被视为分层网络表示能力的早期论述。\n\n\"机器学习\"一词通常归功于阿瑟·塞缪尔，他在1959年的一篇论文中首次使用了这一术语，论文讨论的是他在IBM开发的一个西洋跳棋程序。该程序既结合了对棋局的死记硬背，也采用了通过泛化进行的学习。在IBM 701上运行约八到十小时后，它达到了相当不错的水平。塞缪尔对目标的表述，即计算机应当能够在不被显式编程的情况下自我改进，是该领域最早被广泛引用的定义。1957年至1958年间，弗兰克·罗森布拉特提出了感知机，这是一种单层装置，其连接权重可以根据带标签的样例进行调整，从而将输入归入不同类别。\n\n随后，感知机的局限被正式地刻画出来。1969年，马文·明斯基与西摩·帕珀特合著出版了《感知机》一书，书中以数学分析表明，单层感知机只能实现线性可分的判定规则，异或函数是标准的例子。这些证明针对的是单层网络，但该书被广泛解读为神经网络存在根本性局限，尽管多层网络其实能够处理这类情形。明斯基此前已经指出需要多层模型，但当时并不知道实用的训练算法。对连接主义方法的资助和关注急剧下降，这一时期常被称为第一次人工智能寒冬。对其起止时间，各方说法不一：一种观点将其起始时间定在1970年代中期，与对人工智能的批评性报告和哲学批判同时出现，第一次寒冬与对雄心勃勃的符号主义及基于感知机的程序的批评性评价有关；另一种观点则将其时间划定为1969年至1982年，并强调美国国防高级研究计划局（DARPA）把资源转向了符号人工智能。\n\n1980年代，人们的兴趣重新回升。1986年，大卫·鲁梅尔哈特、杰弗里·辛顿和罗纳德·威廉姆斯证明，反向传播能够有效训练多层网络，从而消除了明斯基和帕珀特所指出的单层模型在实践中的障碍。同一十年间，ID3等决策树归纳方法以及基于统计的数据学习方法也有所发展。但热情并未持续：与1980年代末至1990年代初相关的第二次寒冬，紧随人工智能又一轮令人失望的期望而来。1990年代，支持向量机和其他基于核函数的间隔方法在许多基准测试中成为主流工具，而神经网络仍是少数派的研究方向。\n\n若干里程碑标志着该领域的公众进展。深蓝1997年战胜国际象棋世界冠军加里·卡斯帕罗夫，展示了基于搜索的博弈系统的实力，不过它主要依赖人工设计的评估函数，而非学习。2012年，AlexNet是由亚历克斯·克里热夫斯基、伊利亚·苏茨凯弗和杰弗里·辛顿在图形处理器上训练的深度卷积网络，它将ImageNet 数据集分类基准的前五错误率降至约15%，远低于亚军约26%的成绩，人们普遍将其视为现代深度学习时代的开端。2024年，诺贝尔物理学奖授予约翰·霍普菲尔德和杰弗里·辛顿，以表彰他们使人工神经网络学习成为可能的奠基性发现；诺贝尔化学奖则由德米斯·哈萨比斯和约翰·江珀因利用AlphaFold进行蛋白质结构预测，以及大卫·贝克因计算蛋白质设计而共同获得。"
    },
    {
      "heading": "数学基础",
      "text": "形式上，一个监督学习问题由以下要素确定：输入空间 \\(\\mathcal{X}\\)、输出空间 \\(\\mathcal{Y}\\)、定义在 \\(\\mathcal{X}\\times\\mathcal{Y}\\) 上的未知联合概率分布 \\(D\\)、由候选函数 \\(h:\\mathcal{X}\\to\\mathcal{Y}\\) 构成的假设空间 \\(\\mathcal{H}\\)，以及衡量预测值 \\(\\hat y\\) 与真实标签 \\(y\\) 之间差距的损失函数 \\(\\ell(\\hat y, y)\\)。学习器接收训练样本 \\(S=\\{(x_i,y_i)\\}_{i=1}^{n}\\)，并从 \\(\\mathcal{H}\\) 中返回一个函数。这正是学习与基于规则的系统之间的精确区别：设计者固定 \\(\\mathcal{H}\\) 和 \\(\\ell\\)，而数据决定最终选中哪一个函数。理想的目标是期望值，即真实风险，\n\n\\[R(h) = \\mathbb{E}_{(x,y)\\sim D}\\big[\\ell(h(x),y)\\big],\\]\n\n由于 \\(D\\) 未知，这一量无法直接计算。实际可用的替代量是经验风险，\n\n\\[\\hat R_S(h) = \\frac{1}{n}\\sum_{i=1}^{n}\\ell(h(x_i),y_i),\\]\n\n而经验风险最小化（ERM）选择 \\(\\hat h = \\arg\\min_{h\\in\\mathcal{H}}\\hat R_S(h)\\)。\n\n概率框架把每个训练样本对都视为从 \\(D\\) 中独立抽取的样本。对于任意固定的 \\(h\\)，大数定律保证 \\(\\hat R_S(h)\\) 随 \\(n\\) 增大而趋近于 \\(R(h)\\)。困难在于，ERM 是在看到数据之后才选择 \\(h\\)，因此被选中的函数可能恰好受益于样本特有的噪声。因此，真实风险与经验风险之间的差距必须在整个假设空间上一致地加以控制。对于有限的 \\(\\mathcal{H}\\)，且损失取值于 \\([0,1]\\) 区间，结合联合界的 Hoeffding 不等式给出：以至少 \\(1-\\delta\\) 的概率，\n\n\\[\\sup_{h\\in\\mathcal{H}} \\big|R(h)-\\hat R_S(h)\\big| \\le \\sqrt{\\frac{\\ln(2|\\mathcal{H}|/\\delta)}{2n}}.\\]\n\n这一差距以 \\(1/\\sqrt{n}\\) 的速率缩小，并且只随假设空间的大小呈对数增长。该界是针对概率分布陈述的，这也是为什么样本被视为随机变量而非固定值的原因。\n\n学习理论探讨的是这类保证在何种条件下才可能成立。由 Leslie Valiant 于 1984 年提出的可能近似正确（PAC）学习要求：对于每一个分布和每一个目标概念，算法都能以至少 \\(1-\\delta\\) 的概率输出一个误差至多为 \\(\\varepsilon\\) 的假设，并且所需样本数是 \\(1/\\varepsilon\\) 和 \\(1/\\delta\\) 的多项式。对于可实现设定下的有限假设类，任何一致学习器大约需要 \\(n \\ge \\frac{1}{\\varepsilon}\\big(\\ln|\\mathcal{H}| + \\ln(1/\\delta)\\big)\\) 个样本。对于无限假设类，Vapnik–Chervonenkis（VC）维以 \\(\\mathcal{H}\\) 能够以所有可能方式标注的最大点集大小来衡量其容量。例如，\\(\\mathbb{R}^d\\) 中的线性分类器的 VC 维为 \\(d+1\\)，样本复杂度的界与该量成比例增长。这些结果解释了数据需求如何随模型复杂度增长，但对于严重过参数化的神经网络，这些界往往较为宽松，界与实际观察到的行为之间的差距仍是一个开放问题。\n\n没有免费午餐定理由 David Wolpert 和 William Macready 在 20 世纪 90 年代证明，它为通用学习设定了一个限制。若在有限定义域上对所有可能的目标函数取均匀平均，那么每种学习算法在训练期间未见过的输入上都具有相同的期望误差。因此，没有任何一个学习器能在所有问题上都表现最佳。任何方法所显现的优势，都必须来自对问题类的假设，这些假设被形式化为归纳偏置。选择 \\(\\mathcal{H}\\)、损失函数或正则化项，正是这类偏置的数学表现形式。该定理并不意味着所有算法在实际任务上的表现都相同，因为现实世界的问题只是所有可能函数中一个小的、有结构的子集；它的含义是，一种方法的成功始终与其所预设的结构紧密相关。"
    },
    {
      "heading": "学习范式",
      "text": "学习范式通常根据学习器在训练过程中接收到的信号类型来区分。在监督学习中，每个训练样本都将一个输入与一个目标标签配对。学习器拟合一个从输入映射到标签的函数，使其能够对未见过的输入进行正确预测。当标签是离散的时，例如垃圾邮件过滤或手写数字识别，任务称为分类；当标签是连续的时，例如需求预测或房价估计，任务称为回归。最关键的标准是泛化能力：一个只能复现训练样本、却无法处理新输入的模型，并没有真正学会该任务。由于每个样本都需要标签，标注成本往往是监督学习项目的主要制约因素。\n\n无监督学习只处理输入本身，旨在发现其中的结构。其中最突出的三类方法如下。聚类将数据划分为由相似样本组成的若干组；例如，K均值算法会交替执行两步：将每个点分配给距离最近的 \\(k\\) 个质心之一，再重新计算这些质心。密度估计旨在对产生数据的分布 \\(p(x)\\) 进行建模，它支持诸如标记异常观测以及生成新样本等任务。降维将高维数据映射到较少的坐标上，同时尽可能保留其中的变化信息；主成分分析通过将数据线性投影到方差最大的方向上来实现这一点。由于没有提供正确答案，评估只能间接进行，依赖内部评价标准，或考察结果对后续任务的实用价值。\n\n**半监督学习**介于两者之间。少量带标签的样本与大量不带标签的样本并存，该方法在平滑性假设（即相近的点倾向于共享同一标签）或聚类假设（即决策边界应落在低密度区域）等前提下利用无标签数据。常见技术包括自训练，即模型为其最有把握的无标签样本打上标签，再用这些样本重新训练；以及标签传播，即把标签沿着连接相似点的图进行扩散。当标注成本高昂而原始数据丰富时，这种方法很有价值，不过错误的伪标签可能会放大模型自身的错误。\n\n**自监督学习**的训练信号直接来自数据本身。每个输入的一部分被隐藏起来，模型被训练去预测被隐藏的部分。像 BERT 语言模型这样的掩码语言模型，会预测句子中被移除的词元；而像生成式预训练变换器（GPT）这样的自回归模型，则根据前面的词元预测当前词元。掩码图像建模会预测缺失的图像块；对比学习方法则训练同一图像的两个增强视图映射到相近的向量，同时拉开不同图像视图之间的距离。这些预训练任务本身很少是最终目标。预训练模型随后通过微调进行适配，或在冻结的特征之上训练一个小型输出层。这正是自监督学习成为大多数大语言模型和基础模型基础的原因。\n\n**表征学习**是将上述各种范式联系在一起的核心思想。传统的处理流程依赖于人工设计的特征，例如视觉中的边缘检测算子或语音中的倒谱系数，这些特征的设计需要领域专业知识，而且往往难以在不同任务之间迁移。表征学习则将特征本身视为需要从数据中学习的参数。在一个基于照片训练的深度卷积神经网络中，浅层通常对边缘和纹理作出响应，中间层对局部部件和图案作出响应，而深层则对物体类别作出响应。由 Word2vec 等方法生成的词嵌入，将词语放置在一个向量空间中，其中的几何关系反映了词语的使用规律。从这个角度看，监督学习、无监督学习和自监督学习的主要区别在于训练信号的来源，而学到的中间表征则是可以在不同任务之间复用的共同成果。强化学习从序贯交互中获得的奖励中学习，它将在单独的章节中讨论。"
    },
    {
      "heading": "经典算法",
      "text": "在深度神经网络占据主导地位之前，一类\"经典\"算法构成了应用机器学习的核心。其中许多至今仍广泛用于表格数据，因为它们训练速度快、相对更易解释，而且往往能与规模大得多的模型相竞争。\n\n线性回归与逻辑回归\n\n线性模型计算输入特征的加权和，\\(f(\\mathbf{x}) = \\mathbf{w}^\\top \\mathbf{x} + b\\)。权重向量 \\(\\mathbf{w}\\) 决定每个特征对预测结果的推动强度，偏置 \\(b\\) 则使预测值整体平移。在线性回归中，该输出即为预测值本身，参数通常通过最小二乘法拟合，最小二乘可借助正规方程以闭式解求得。\n\n逻辑回归将同样的线性得分改造用于分类。它把得分输入逻辑（Sigmoid）函数 \\(\\sigma(z) = 1/(1+e^{-z})\\)，得到概率 \\(P(y=1 \\mid \\mathbf{x}) = \\sigma(\\mathbf{w}^\\top \\mathbf{x} + b)\\)。训练目标是最大化似然，这等价于最小化交叉熵损失，通常借助梯度下降求解。决策边界是满足 \\(\\mathbf{w}^\\top \\mathbf{x} + b = 0\\) 的点集，即一个超平面。每个权重的符号给出对应特征作用的方向；在特征经过标准化后，其绝对值则反映作用强度。由于决策边界是线性的，若不借助变换后的特征，这类模型无法表示异或（XOR）之类的问题。通常还会加入 L1 或 L2 正则化。\n\n决策树与树集成\n\n决策树递归地划分特征空间。在每个节点上，它选择能最好地分离标签的特征和阈值，衡量标准为基尼指数或熵（信息增益）等不纯度指标；当满足深度上限等停止规则时，分裂随之结束。经典变体包括 ID3、C4.5 和 CART。单棵深树易于理解，但方差很高，容易过拟合，因此剪枝或限制深度是标准做法。\n\n集成方法正是为了解决这种不稳定性。装袋法（Bagging，自助聚合）在训练数据的自助重采样（bootstrap）上训练每棵树，再通过平均或投票合并它们的预测，从而降低方差。随机森林在装袋的基础上，还限定每次分裂只能在随机选取的特征子集中进行，从而使各棵树之间去相关。提升法（Boosting）则采取不同的思路：学习器按顺序训练，每个学习器都着重修正前面学习器所犯的错误。梯度提升树将每棵新的小树拟合为当前预测处损失函数负梯度的近似，并乘以学习率进行缩放。这一框架把提升法推广到了任意可微的损失函数。这两类方法都属于更广泛的集成学习范畴，至今仍是结构化表格数据上最强的方法之一。\n\n基于间隔与基于实例的方法\n\n支持向量机（SVM）寻找使两类之间间隔最大的分隔超平面。对于线性可分的数据，硬间隔问题是在约束 \\(y_i(\\mathbf{w}^\\top \\mathbf{x}_i + b) \\ge 1\\) 下最小化 \\(\\tfrac12\\lVert \\mathbf{w}\\rVert^2\\)。实际数据通常需要软间隔，即用合页损失 \\(\\max(0,\\, 1 - y_i f(\\mathbf{x}_i))\\) 惩罚违反间隔的样本，并由一个正则化参数加权。这是一个凸优化问题，因此其解是全局最优的。核方法可将支持向量机扩展到非线性决策边界。该算法只需要内积 \\(K(\\mathbf{x},\\mathbf{x}') = \\phi(\\mathbf{x})^\\top \\phi(\\mathbf{x}')\\)，因此无需显式计算隐式特征映射 \\(\\phi\\)。常用的核函数包括多项式核和径向基函数核。\n\nk 近邻（k-NN）是一种基于实例的方法。它保存训练集，对新样本按所选距离度量找出其 \\(k\\) 个最近的训练样本，并通过多数投票（回归时则取平均值）进行预测。它没有真正的训练阶段，因此计算开销转移到了预测阶段，预测时需要在存储的数据中进行搜索。在高维空间中，距离的区分能力下降，其准确率随之降低，这是维数灾难的一种表现。特征缩放对其结果影响很大。\n\n概率分类器与聚类\n\n朴素贝叶斯分类器在假设特征在给定类别条件下相互独立的前提下应用贝叶斯定理：\n\n\\[P(y \\mid x_1,\\dots,x_n) \\propto P(y)\\prod_{i=1}^{n} P(x_i \\mid y).\\]\n\n尽管这一假设很强，该方法仍然速度快、所需数据相对较少，并且在垃圾邮件过滤等文本分类任务中表现良好，此类任务通常按类别对词频进行建模。即使其排序结果很有用，它给出的概率估计往往校准得不好。\n\nk-means 是一种无监督方法，通过最小化各簇内样本到质心的平方距离之和，将数据划分为 \\(k\\) 个簇：\n\n\\[\\min_{C_1,\\dots,C_k}\\ \\sum_{j=1}^{k}\\sum_{\\mathbf{x}\\in C_j}\\lVert \\mathbf{x}-\\boldsymbol{\\mu}_j\\rVert^2 .\\]\n\n标准的迭代过程交替进行两步：把每个点分配给最近的质心，再把每个质心重新计算为其所在簇的均值。该算法只能收敛到局部最优解，因此结果依赖于初始化，并且簇的数目 \\(k\\) 必须事先选定。"
    },
    {
      "heading": "优化与训练",
      "text": "梯度下降与小批量训练\n\n训练一个参数化模型，就是调整其参数，使训练数据上计算出的损失变小。基本方法是梯度下降：每一步，参数沿损失梯度的反方向移动一小段距离，移动的步长由学习率 \\(\\eta\\) 决定，即 \\(\\theta_{t+1} = \\theta_t - \\eta \\nabla L(\\theta_t)\\)。全批量梯度下降在整个数据集上计算这一梯度，当数据集很大时便不切实际。随机梯度下降（SGD）则用随机子集上的梯度估计代替完整梯度。严格来说，最初的表述每次更新只使用一个样本，但在现代用法中，\"SGD\"一词常被宽泛地用来指\"小批量梯度下降\"，即每次使用一小批训练数据的梯度下降变体。深度学习中常见的批量大小从几十到几千不等，有一份教程提到的常见取值为 32、64……1024。对一个批次取平均可以降低每次更新的噪声，而且这种计算很适合并行硬件，因此小批量梯度下降成为深度学习中的默认选择。\n\n反向传播与自动微分\n\n在分层网络中，损失通过一长串嵌套函数依赖于每个权重。反向传播只需一次前向传播和一次反向传播，就能计算损失对每个参数的梯度，它从输出层向输入层逐层应用链式法则。其计算代价仅为网络本身前向计算的一个小常数倍，这使得基于梯度训练超大规模模型成为可能。现代深度学习框架通过自动微分实现这一过程：框架记录前向计算中执行的运算，并机械地推导出相应的导数，因此从业者很少需要手写梯度代码。\n\n自适应优化器与超参数\n\n普通的 SGD 对所有参数使用同一个全局步长，当不同参数的梯度量级差异很大时，这种做法并不理想。Adam 优化器由 Diederik Kingma 和 Jimmy Ba 于 2014 年提出，它为每个参数维护其梯度的滑动平均（一阶矩 \\(m_t\\)）以及梯度平方的滑动平均（二阶矩 \\(v_t\\)），以此应对上述问题。这些平均值会针对其初始值偏向零的问题进行修正，得到如下更新公式：\n\n\\[\\theta_{t+1} = \\theta_t - \\frac{\\eta}{\\sqrt{\\hat v_t} + \\epsilon}\\,\\hat m_t, \\qquad \\hat m_t = \\frac{m_t}{1-\\beta_1^t}, \\quad \\hat v_t = \\frac{v_t}{1-\\beta_2^t}.\\]\n\n作者建议的默认值为：一阶矩衰减系数 0.9，二阶矩衰减系数 0.999，数值稳定常数 1e-8。Adam 将类似动量的项与逐参数缩放结合起来，通常无需太多调参就能快速训练。\n\n学习率以及其他控制优化过程的设置，例如批量大小、矩衰减率和任何学习率调度策略，都属于超参数：它们在训练前选定，而不是从数据中拟合得到，通常通过比较验证集上的结果来选择。其中学习率最为敏感：过高会导致振荡，过低则会导致停滞。因此从业者常使用预热阶段或衰减调度。优化器的选择还与泛化能力相互影响。据报道，普通 SGD 有时能找到更平坦的极小值，泛化效果更好，不过它通常需要更仔细地调整学习率及其调度策略。\n\n非凸曲面与收敛\n\n以凸损失训练的线性模型只有一个全局最小值，在标准条件下梯度方法可以达到它。神经网络的损失则是非凸的：它包含许多局部极小值、平坦的平台区以及鞍点，鞍点处梯度为零，但该点并非极小值。Dauphin 等人在 2014 年的工作强调，在高维问题中，鞍点是比糟糕的局部极小值更严重的障碍。梯度下降可能在鞍点附近停滞，而小批量带来的噪声有助于模型跳出浅层局部极小值和鞍点，这些点常常会困住全批量方法。总的来说，基于梯度的训练只能保证朝着驻点取得进展，而不能保证找到全局最优；采用随机更新时，损失会在真实最小值附近波动，而不是平稳地下降到它。\n\n达到较低的训练损失，也并不等同于在其他场景中取得良好表现。优化器最小化的是在有限数据上计算的经验目标，它找到的极小值可能拟合了该样本的特殊之处，这正是泛化与过拟合的核心问题。优化设置会影响最终找到的是哪个解：与小批量方法相比，大批量方法训练出的模型在样本外的表现往往更差。因此，训练好的模型在实践中的质量取决于优化器、其超参数与数据之间的相互作用，而不只取决于训练目标本身。"
    },
    {
      "heading": "神经网络与深度学习",
      "text": "神经网络是由多层单元构成的参数化函数。每个单元对其输入进行加权求和，再将结果通过一个非线性函数。在多层感知机中，每一层的每个单元都与下一层的每个单元相连，所有层一起训练。非线性至关重要：若没有它，多层堆叠就会退化为单一的线性映射，无法表达线性模型所遗漏的变量间相互作用。早期网络多使用逻辑斯谛函数（Sigmoid）或双曲正切函数，这两者的导数在大部分取值范围内都很小，因此误差信号在向后穿过多层时逐渐减弱。修正线性单元（ReLU）在许多设计中取代了它们，有助于缓解梯度消失问题。权重通过反向传播与梯度下降相结合的方式进行调整，相关内容见优化一节。\n\n卷积神经网络在结构中融入了两条关于图像的假设。局部感受野将每个单元限制在输入的一个小块区域内，使边缘和纹理无论出现在何处都能被检测到。权重共享则在每个位置应用同一个小型滤波器，这大幅减少了自由参数的数量，并使所检测到的特征对平移具有大致的不变性。通过堆叠卷积层和池化层，特征可以从边缘逐步过渡到部件，再到完整的物体。一个早期且广为人知的例子是 LeNet-5，它最初为手写数字识别而设计，是一个由卷积层、子采样层和全连接层组成的浅层结构。\n\n循环神经网络通过将隐状态从一个时间步传递到下一个时间步来处理序列，因此同一组权重可以处理任意长度的输入。使用沿时间反向传播（backpropagation through time）训练它们时，会暴露出一个根本性的困难：跨越许多时间步的梯度要么会以指数方式衰减至零，即梯度消失问题；要么会无限增长，即梯度爆炸问题。塞普·霍克莱特（Sepp Hochreiter）在其 1991 年的硕士论文中分析了梯度消失问题。1997 年，霍克莱特与于尔根·施密德胡伯（Jürgen Schmidhuber）提出了长短期记忆网络（LSTM）单元，旨在解决传统循环网络难以在较长时间跨度内保留信息的问题。LSTM 单元保留一条记忆通路，该通路主要通过加法进行更新；习得的输入门、遗忘门和输出门则分别控制信息的写入、保留和读取。霍克莱特和施密德胡伯将这条通路称为恒定误差传送带。LSTM 仍然逐个处理词元，这限制了并行训练，也使极长距离的依赖关系难以被捕捉。这些局限促成了后文讨论的基于注意力机制的架构。\n\n深层网络还依赖于稳定训练的技术。随机失活在训练过程中随机将一部分激活值置零。AlexNet 也引入了随机失活作为正则化方法，这是一种减轻过拟合的有效技术。批量归一化利用当前小批量数据的统计量对每一层的激活值进行标准化，随后再施加可学习的缩放和平移参数。它降低了网络对权重初始化的敏感性，并能承受更大的学习率。这两种方法都会与超参数的选择相互影响，因此通常需要在验证数据上调整其设置。\n\n深度学习的转折点通常被认为是 2012 年的 AlexNet。2012 年举办的年度 ImageNet 大规模视觉识别挑战赛，成为深度卷积神经网络在大规模图像分类中应用的转折点。该网络由亚历克斯·克里热夫斯基（Alex Krizhevsky）、伊利亚·苏茨克沃（Ilya Sutskever）和杰弗里·辛顿（Geoffrey Hinton）设计，共八层，其中五层为卷积层，三层为全连接层。它在 ImageNet 基准上的 top-5 错误率为 15.3%，而亚军的错误率为 26.2%。它的成功不仅依赖于网络结构，也依赖于数据和硬件。没有庞大的 ImageNet 数据集，就不会有 AlexNet。训练深度卷积神经网络的计算需求也极高，只有借助当今的现代图形处理器才可行，这使得图形处理器（GPU）成为该领域的核心。这一成果将研究重心从特征工程转向了自动化的深度学习架构设计，并为随后深度学习的快速发展奠定了基础。"
    },
    {
      "heading": "Transformer与大语言模型",
      "text": "Transformer架构于2017年由谷歌的一个团队提出。其作者提出了一种仅由注意力机制运算构成的网络，完全去掉了循环与卷积结构。早期的序列模型，如循环神经网络和LSTM，逐个处理词元，因此每一步都依赖前一步产生的隐藏状态。而在Transformer中，每个位置都可以通过自注意力直接与其他所有位置交互，并且各位置的计算是并行进行的。原论文报告称，其翻译模型具有更好的并行性，训练时间也明显更短。由于模型本身没有内置的顺序概念，它会将位置信息加入词元嵌入之中。多头注意力同时运行多组注意力运算，使不同的头能够捕捉词元之间不同类型的关系。\n\n预训练与微调\n\nTransformer使一种两阶段方法变得切实可行：先在大规模无标注文本上进行预训练，再将得到的模型适配到具体任务上。OpenAI于2018年发布的首个GPT模型堆叠了解码器模块，并以预测下一个词为训练目标，之后再将其适配到下游任务。GPT的原始论文首次成功地以无监督方式预训练了一个大型Transformer网络，再通过微调在NLP基准测试上达到了当时的最优水平。同年晚些时候，谷歌推出了BERT。它采用了架构中的编码器部分，并且能够同时双向读取上下文，而不是从左到右。BERT并不预测下一个词，而是通过遮蔽部分输入词元并尝试将其恢复来进行训练，其预训练语料包括BooksCorpus（8亿词）和英文维基百科（25亿词）。经过预训练的BERT表示，只需再增加一个输出层，即可针对许多任务进行微调。在模型读取文本之前，文本会通过分词与词元化程序切分为子词单元，这使得固定大小的词表也能表示罕见词和新词。这种预训练方法属于自监督学习和迁移学习的一种形式，由此得到的预训练模型通常被称为基础模型。\n\n缩放定律与涌现行为\n\n2020年，OpenAI的Kaplan及其同事报告称，损失与模型规模、数据集规模以及训练所用的算力量均呈幂律关系，其中部分趋势跨越了七个以上的数量级。他们还发现，网络宽度或深度等其他架构细节在较宽的范围内影响极小。这些缩放定律使人们能够根据较小规模的训练结果预测更大模型的损失。他们提出的算力最优方案倾向于使用极大的模型，并在相对有限的数据上训练。2022年，Hoffmann及其同事的后续研究（即所谓的Chinchilla定律）对这些发现作了修正，认为随着算力增加，参数量与训练词元数应大致按相同比例增长。规模还带来了在较小系统中并不明显的能力。其中讨论最多的是上下文学习，即模型无需改变权重，仅凭提示词中给出的示例即可完成新任务。GPT-3（2020年）是这一行为最具影响力的展示。研究者至今仍在争论，这类能力究竟是突然出现的，还是随着不同指标的衡量而逐渐显现的。\n\n对齐与外部知识\n\n仅经过文本预测训练的模型，未必会遵循指令或表现得乐于助人。基于人类反馈的强化学习（RLHF）分阶段解决了这一问题：先用人类示范数据进行有监督微调，再由人类对模型输出进行排序，以训练一个独立的奖励模型，最后用强化学习算法依据该奖励对语言模型进行优化。OpenAI于2022年发布的InstructGPT推广了这一方法。其效果在很大程度上取决于人类偏好数据的质量与一致性，而且奖励模型还可能被它所训练的策略所利用。\n\n检索增强生成（RAG）以另一种途径提升可靠性。检索器在外部文档集合中搜索与查询相关的段落，生成器在产生答案时以这些段落为条件。这使得回答能够利用训练数据中没有的信息，并且只需更新索引即可完成知识更新，无需重新训练模型。然而，RAG并不能消除人工智能幻觉：即便有检索结果，答案仍可能误述或忽略所引用的来源，而且检索质量也限制了生成器能够利用的信息。"
    },
    {
      "heading": "生成模型",
      "text": "生成模型学习的是数据本身的概率分布，而不只是从输入到标签的映射。判别式分类器估计 \\(p(y \\mid x)\\)，即给定输入时标签的概率；生成模型则估计 \\(p(x)\\)，若存在标签，则估计 \\(p(x, y)\\)。学到这一分布之后，模型就可以抽取与训练数据相似的新样本，因此该方法是图像、音频、视频和文本合成的核心。该领域主要有三大类方法：变分自编码器、生成对抗网络和扩散模型。它们各自以不同方式应对高维分布建模的难题。\n\n变分自编码器（VAE）引入隐变量 \\(z\\)，即一种紧凑的编码，假定观测数据由它生成。编码器网络输出近似后验 \\(q_\\phi(z \\mid x)\\) 的参数，解码器网络则定义 \\(p_\\theta(x \\mid z)\\)。由于真实后验难以计算，训练时最大化证据下界（ELBO）：\n\n\\[\\mathcal{L}(\\theta, \\phi; x) = \\mathbb{E}_{q_\\phi(z \\mid x)}\\left[\\log p_\\theta(x \\mid z)\\right] - D_{\\mathrm{KL}}\\left(q_\\phi(z \\mid x)\\,\\|\\,p(z)\\right)\\]\n\n第一项鼓励准确的重构，KL 散度项则使近似后验接近一个简单的先验分布，通常为标准高斯分布。借助重参数化技巧，采样过程变得可微分：将 \\(z\\) 写成编码器输出与独立噪声的确定性函数。由此得到的隐空间是连续的，因此在两个隐编码之间插值会使输出平滑过渡。一种常见的批评是，使用逐像素似然训练的 VAE 往往生成模糊的图像，因为对多种合理重构取平均，比生成清晰却可能错误的细节受到的惩罚更小。\n\n生成对抗网络（GAN）则完全避开了显式的似然。生成器 \\(G\\) 将随机噪声映射为样本，判别器 \\(D\\) 则试图区分真实数据与生成样本。训练过程是一个双人极小极大博弈：\n\n\\[\\min_G \\max_D \\; \\mathbb{E}_{x \\sim p_{\\text{data}}}[\\log D(x)] + \\mathbb{E}_{z \\sim p(z)}[\\log(1 - D(G(z)))]\\]\n\n理论上，博弈会达到一个均衡点，此时生成器的分布与数据分布一致。但在实践中，优化过程并不稳定。典型问题包括模式崩溃（生成器只产生少数几类输出），以及判别器过强时出现的梯度消失。后续工作，如深度卷积架构、Wasserstein 距离目标函数和渐进式风格生成器，主要旨在稳定训练并提高样本质量。在扩散方法于许多图像任务中占据主导地位之前，GAN 已经能够生成高度逼真的人脸图像。\n\n扩散模型通过逆转一个逐步加噪的过程来生成数据。在前向过程中，经过许多小步骤向数据样本添加高斯噪声，直至结果接近纯噪声。随后训练一个神经网络逐步进行逆向去噪，通常是预测每一步所添加的噪声。采样时，从随机噪声出发，反复应用学到的去噪步骤。与对抗博弈相比，其训练目标更简单、更稳定，样本质量也很高，但生成需要大量的网络前向计算，这使早期模型速度较慢。隐扩散方法在自编码器压缩后的隐空间中运行该过程，从而降低了成本；文本条件化则允许通过提示词引导输出。同一原理也已推广到视频生成，其中跨帧的时间一致性带来了更大的困难。\n\n评估生成系统比评估分类器更为困难，因为对于给定的输入并不存在唯一正确的输出。常用的定量指标，如 Inception Score 和弗雷歇 Inception 距离（FID），在预训练图像网络的特征空间中比较生成样本与真实样本的统计特征，但它们只能反映其中一部分重要方面。保真度与多样性之间可能相互制约；模型还可能通过复现训练样本而获得高分，这又引出了记忆化与隐私等独立问题。基于似然的分数可用于 VAE 和部分扩散模型，但并不总能反映人们感知到的质量。对于文本，最主要的生成系统输出流畅，但可能包含事实性错误，而幻觉很难自动衡量，因为需要将陈述与来源逐一核对。因此，许多评估仍依赖人工判断，但这种方式成本高昂，不同评分者之间的结论也不一致，并且对任务的表述方式十分敏感。"
    },
    {
      "heading": "强化学习",
      "text": "强化学习（RL）与监督学习的不同之处在于，学习者不会获得每个输入对应的正确输出。智能体在环境中行动，观察由此产生的状态，获得一个数值奖励，并必须找到一种行为策略，使其随时间累积的奖励最大化。标准的形式化模型是马尔可夫决策过程（MDP）。在每个离散时间步，智能体观察状态 \\(s_t\\)，依据策略 \\(\\pi\\) 选择动作 \\(a_t\\)，环境随后返回奖励 \\(r_{t+1}\\) 和新状态 \\(s_{t+1}\\)。在马尔可夫设定下，下一状态只取决于当前状态和动作。通常的优化目标是期望折扣回报\n\n\\[G_t = \\sum_{k=0}^{\\infty} \\gamma^{k} r_{t+k+1}, \\qquad 0 \\le \\gamma < 1\\]\n\n其中折扣因子 \\(\\gamma\\) 使近期奖励的权重更大，并保证在持续性任务中求和结果有限。由于动作既影响即时奖励，也影响未来状态，学习者必须把后期获得的奖励归因于更早的决策。这一信用分配问题正是强化学习区别于单步预测的关键所在。\n\n基于价值的方法估计状态或状态–动作对的好坏，然后根据这些估计贪心地选择动作。Q学习利用采样得到的状态转移，通过下式学习动作价值函数 \\(Q(s,a)\\)：\n\n\\[Q(s_t,a_t) \\leftarrow Q(s_t,a_t) + \\alpha \\left[ r_{t+1} + \\gamma \\max_{a} Q(s_{t+1},a) - Q(s_t,a_t) \\right]\\]\n\n其中 \\(\\alpha\\) 为学习率。在表格情形下，若学习率适当衰减且探索充分，这些值会收敛到最优值。对于大规模状态空间，表格会被神经网络取代。基于策略的方法则直接对策略进行参数化，并调整参数以提高期望回报。它们能更自然地处理连续动作空间和随机策略，并且常与价值估计结合，形成演员–评论家（actor–critic）架构。\n\n所有强化学习方法都面临探索与利用之间的权衡。若智能体总是选择当前认为最优的动作，可能永远发现不了更好的选择；而若无休止地探索，又会放弃本可获得的奖励。一种常见的折中方案是 ε-贪心规则：以概率 ε 随机选择动作，否则选择价值最高的动作，且 ε 通常在训练过程中逐渐减小。其他方法则为很少尝试的动作加入探索奖励，或使用置信上界。在更简单的多臂老虎机问题中，智能体只需在一个状态下行动，同样存在这种张力。\n\n标志性系统展示了强化学习如何与其他技术相结合。AlphaGo使用了部分通过强化学习训练的深度神经网络，并结合了蒙特卡洛树搜索，后者通过模拟推演来引导落子的搜索。2016年3月，它在首尔以4比1击败了李世石。其后继者AlphaZero主要通过自我对弈学会了国际象棋、将棋和围棋，而无需人类棋谱。这与深蓝形成对比：深蓝依赖人工设计的评估函数和暴力搜索，而非从经验中学习。\n\n强化学习还与语言模型的对齐问题相关。在基于人类反馈的强化学习中，首先根据人类对模型输出优劣的判断训练一个奖励模型，然后以该学得的奖励为目标优化语言模型，通常还会加入惩罚项，使其保持接近原始的预训练模型。这一方法展示了强化学习如何把难以书写的目标转化为可学习的信号，但也暴露出设定奖励函数的困难。奖励说明了期望的结果，却没有说明如何实现它；若奖励设计不佳，或只是对预期目标的不完善代理，智能体就可能钻空子加以利用。延迟或稀疏的奖励会使学习变慢，而强化学习总体上需要极多的交互次数，这也是大量训练都在模拟环境中进行的原因。"
    },
    {
      "heading": "泛化、评估与模型选择",
      "text": "训练、验证与测试数据\n\n监督学习的核心目标是泛化：模型应当在与训练数据同分布的新输入上表现良好。由于真实风险无法直接计算，实践者通常将带标签的数据划分为三部分。训练集用于拟合参数，通常通过梯度下降最小化损失函数来完成。验证集用于比较候选模型、选择超参数（如学习率或树的深度），并决定何时停止训练。测试集则被单独保留，用于估计最终性能。\n\n之所以需要留出数据，是因为训练集上的误差是对性能的乐观估计：拟合过程已经见过这些样本。如果同一份数据既用于调参又用于评估，报告的分数就会虚高。反复使用测试集进行模型选择也会产生同样的效果，因此测试集最好只使用一次。划分之间的数据泄漏（例如在全部数据上计算归一化统计量，或在两侧都出现近似重复的样本）会造成类似的虚高（参见数据泄漏（机器学习））。时间序列数据需要按时间顺序划分，因为随机划分会让模型“看到未来”。\n\n欠拟合、过拟合与偏差–方差权衡\n\n当模型过于简单、无法刻画数据结构时，就会欠拟合，此时训练样本和留出样本上的误差都很高。当模型拟合了训练样本特有的噪声时，就发生过拟合，表现为训练误差持续下降而验证误差上升。当模型参数数量相对于样本数量较多、标签含噪声，或训练持续过久以至于记住了数据时，过拟合的可能性更大。训练性能与留出性能之间的差距，是判断这两种问题的实际信号。\n\n对于平方误差回归，期望预测误差可分解为偏差平方、方差和不可约噪声三项。偏差衡量在所有可能训练集上的平均预测与真实函数之间的距离；方差衡量预测结果随所抽取样本变化的程度。低容量模型（例如用线性模型拟合强非线性问题）倾向于高偏差、低方差。高灵活度模型（例如很深的决策树，或训练误差为零的1近邻分类器）倾向于低偏差、高方差。模型选择就是寻找使这些项之和最小的容量水平。精确的分解只适用于平方损失，对于其他损失函数，其解释没有那么直接。\n\n正则化、早停与交叉验证\n\n正则化用于限制模型的有效容量。最常见的形式是在训练目标中加入惩罚项。L2惩罚项 \\(\\lambda \\lVert w \\rVert_2^2\\) 会把权重向零收缩（权重衰减），而L1惩罚项 \\(\\lambda \\lVert w \\rVert_1\\) 则倾向于将部分权重精确置零。强度 \\(\\lambda\\) 是一个在验证数据上选定的超参数。其他方法的作用方式有所不同：暂退法（dropout）在训练时随机移除部分神经元，数据增强则通过对样本进行变换来扩充训练集。\n\n早停法在训练过程中监控验证损失，一旦连续若干轮（即耐心值）没有改善便停止训练，并返回最佳检查点处的参数。它成本低廉，在神经网络中很常见，但它使停止决策依赖于验证集。\n\n当单次验证划分过小或噪声过大时，交叉验证可用于支持模型选择。在k折交叉验证中，数据被划分为k个折；每个折轮流充当验证集，模型在其余k−1个折上训练，最后对k个分数取平均。留一法是k等于样本数量的特例。如果同一批折既用于调超参数，又用于报告最终分数，估计结果同样会偏乐观，嵌套交叉验证可将这两个角色分开。分层折能保持各类别的比例，而时间序列数据则需要采用前向链式划分。\n\n性能指标\n\n没有任何单一数字适用于所有应用。对于二分类器，预测结果会被统计为真正例、假正例、真负例和假负例。准确率 \\(\\frac{TP+TN}{TP+TN+FP+FN}\\) 直观易懂，但在类别不平衡时具有误导性：若只有1%的案例是欺诈，一个从不标记欺诈的检测器仍能得到99%的准确率。精确率 \\(\\frac{TP}{TP+FP}\\) 衡量被标记的案例中有多少确实正确，召回率 \\(\\frac{TP}{TP+FN}\\) 衡量真实的正例中有多少被找到。提高决策阈值通常会提高精确率、降低召回率；F1分数则以二者的调和平均数对两者进行综合。\n\nROC曲线在所有阈值上绘制真正例率与假正例率的关系，曲线下面积则不依赖于任何单一阈值，概括了排序能力。在严重不平衡的情况下，精确率–召回率曲线往往更有参考价值，因为即使误报数量远超真实正例，假正例率看起来也可能很小。校准关注的是预测概率是否与观测频率相符：在预测概率接近0.8的案例中，大约应有80%为正例。校准可通过可靠性图以及布里尔分数（Brier score）等指标进行评估，在概率用于决策的场景中（如医疗风险估计）尤为重要。回归任务则使用均方误差或平均绝对误差等指标。如果一个指标忽略了不同错误的实际代价（例如在假阴性代价远高于假阳性时仍只优化准确率），最终得到的模型可能在纸面上表现很好，却在实际部署中失败。"
    },
    {
      "heading": "数据：收集、标注与质量",
      "text": "一个学习得到的模型，其可靠性不可能超过它所用训练样本的质量。训练集通常由网络爬取数据、传感器日志、交易记录、扫描文档、临床档案和众包标注拼凑而成，而每种来源都带有各自的选择偏差。对于监督学习而言，每个样本还需要一个标签，即模型被要求复现的答案。在许多领域，标签必须由具备专业知识的人提供，这使标注成为项目中最昂贵的环节之一。在深度学习出现之前，大量精力投入到特征工程中：从业者人工设计模型可以利用的测量指标，例如边缘数量、词频或传感器统计量。神经网络通过从原始输入中学习中间表示，减少了这类人工工作，但作为交换，它们通常需要多得多的经过整理的数据，因此成本只是转移，并未消失。\n\n原始数据很少能直接使用。量纲差异很大的数值变量通常会经过特征缩放进行重新标度，以免某一个数值很大的列在距离计算或梯度更新中占据主导。缺失值必须删除，或用中位数等汇总统计量进行填补，或者用一个指示变量标记该值缺失。类别字段被编码为数字，文本被切分为词元，图像被调整大小并归一化。一个隐蔽的风险在于，这些步骤都要从数据中估计均值、词表和填补值等量。如果它们在数据集划分之前就已计算，评估部分的信息就会渗入训练过程。标准的补救办法是只在每次划分的训练部分上拟合各个步骤，这也是交叉验证通常要以链式流水线实现的原因。\n\n当带标签的样本稀缺时，数据增强通过施加不应改变标签的变换来扩充训练集，例如裁剪或翻转图像、为音频添加背景噪声，或对句子进行改写。合成数据则更进一步，它借助模拟器、生成模型或人工规则生成新的样本。其优势在于能覆盖罕见事件，以及因隐私原因无法共享真实记录的场景。其风险在于，生成器自身的痕迹会成为训练信号的一部分，因此模型可能学会识别合成数据的模式，而不是真实的现象本身。数据增强通常只应用于训练数据；若将其用于评估数据，则会使测得的性能更难代表真实输入。\n\n标签并非真值。标注者之间会有分歧，指令可能含糊不清，众包工人也可能粗心或前后不一致。随机性的错误往往会减缓学习速度，而系统性的错误，例如某一类别始终被误认为与其相邻的类别，则会使模型朝着可预测的方向产生偏差。这类标签噪声并不仅限于仓促构建的语料库。在 2021 年的一项研究中，Northcutt、Athalye 和 Mueller 使用置信学习方法，在十个广泛使用的计算机视觉、语言和音频基准测试集中标记可疑标签；人工审核人员确认，错误率估计平均至少为 3.3%，其中 ImageNet 验证集约有 6% 存在错误。由于模型的排名取决于测试标签，这类错误可能改变哪一个系统看起来最好，因此报告的微小提升可能仅处于标签错误本身就可能造成的波动范围之内。通常比基准数据集更少经过整理的真实世界数据集，很可能受到更大程度的影响。\n\n还有其他几种失效模式会扭曲报告的性能。数据泄漏是指在预测时本不可获得的信息进入了训练或评估过程。常见途径包括：同一条记录同时出现在训练集和测试集中；在按时间排序的数据中混入了未来的数值；同一个人的多条记录分散在不同的折中，使模型得以识别个人而非学习任务本身。泄漏会虚增测得的准确率，而部署后的模型表现却更差。一项神经影像学研究报告其对年轻人自杀倾向的预测准确率达 91%，后来因其特征选择被发现存在泄漏风险而被撤稿。分布偏移则是另一个独立的问题：一个在与训练集同源的留出数据上验证通过的模型，可能会在医院更换扫描设备、传感器重新校准或产品上市后客户行为发生改变时失效。因此，除非划分方式能反映预期的部署环境，否则在单一验证集上的优异结果对新条件下的性能几乎说明不了什么。"
    },
    {
      "heading": "计算基础设施与部署",
      "text": "大多数机器学习任务最终都归结为大量的稠密线性代数运算，主要是矩阵乘法，用于这些运算的硬件也因此被塑造成现在的样子。GPU 最初是为图形渲染而设计的，但其大量并行核心恰好适合梯度计算中的批量算术运算，因此它们成为训练神经网络的默认引擎。NVIDIA 的数据中心 GPU 还加入了专用的张量核心，用于加速卷积层和 Transformer 层核心的小矩阵块运算。张量处理单元则采用了另一种设计。谷歌的专用芯片使用脉动阵列，数据在由乘法器组成的网格中流动，无需为每次运算都访问一次内存；Cloud TPU Pod 可以包含超过 1000 颗芯片。两者之间的选择取决于具体工作负载：TPU 适合大规模、规则的批处理作业，并且与谷歌云绑定；GPU 则支持更广泛的框架、动态架构和自定义内核。\n\n训练大型模型通常会超出单个加速器的内存或吞吐能力，因此计算需要分布到多个设备上。在分布式训练中，数据并行将不同的小批量数据分配给不同设备，并同步它们的梯度；模型并行则将网络的各层或张量划分到不同设备上。两者都依赖高速互连，而协调数千个加速器的工程投入是前沿模型工程成本的重要组成部分。能耗是与之相关的另一项约束。各方报告的数字差异很大：一项估计认为 GPT-3 的训练耗电约 1287 兆瓦时，而后续模型的估计则不太可靠，因为企业很少公布其能耗。学术界实测的运行也呈现出同样的规模化规律：一个 61 亿参数的模型在 256 块 NVIDIA A100 GPU 上训练完成，耗电量约为 100 兆瓦时量级。数据中心的制冷和用水也会增加总消耗，而设施的效率通常通过其电能使用效率（PUE）来报告。\n\n模型训练完成后，其运行阶段的资源消耗可能超过训练阶段。有估计认为，绝大部分 AI 计算量来自推理，即向用户反复提供预测结果；还有一项研究指出，一个被部署数百万次的热门模型，其使用过程产生的碳排放可能超过训练过程。因此，部署阶段会带来关于批量大小、硬件选择和模型规模的工程问题。语音识别、欺诈筛查或自动驾驶等实时应用对延迟有严格要求，这往往促使团队采用更小或经过蒸馏的模型、量化权重，或专为推理设计的加速器，其中包括可在功耗仅数瓦的设备上运行的边缘加速器。\n\n部署并不意味着工作的结束。由于模型接收到的数据会随时间变化，模型在生产环境中可能出现性能下降。监控通常分为两个层面：一是运行指标，如延迟、内存、CPU 和 GPU 使用率、可用时间和成本；二是模型层面的指标，如输入数据质量、数据漂移、概念漂移、预测漂移，以及与实际结果对比的校准情况。当监控发现性能下降时，团队会重新训练或更新模型，这就需要对模型、数据和代码进行版本追踪。也正是在这里，可复现性变得切实可行：只有记录下每个版本的训练数据、预处理步骤、超参数和软件环境，所报告的结果才可能被复现。组织和规范这些步骤的学科通常被称为MLOps。\n\n开源工具和云平台让这套基础设施得以广泛普及。TensorFlow、PyTorch 和 JAX 等框架提供自动微分和设备后端，而 Kubeflow、MLflow 和 Seldon Core 等部署项目则负责将模型打包以供服务调用。Prometheus、Grafana 和 Evidently AI 等监控工具可用于跟踪生产环境中的模型行为。云平台让机构可以按小时租用 GPU 和 TPU，而无需自行购买，这降低了大规模实验的入门门槛；不过，这也使得用于模型开发的大部分算力集中在少数服务商和数据中心手中。"
    },
    {
      "heading": "应用",
      "text": "机器学习的应用大致集中在几个领域，每个领域对流程的不同环节各有侧重：输入数据的类型、错误的代价，以及人在其中参与的程度各不相同。下面的例子用于说明，并非穷举。\n\n语言和语音是最为人所见的领域。自然语言处理涵盖机器翻译、文本分类和问答等任务，目前大多数系统是从超大规模文本语料中学习这些能力，而不是依靠人工编写的语法规则。语音识别把音频转换为文本，通常使用在成对录音与文字稿上训练的神经声学模型。\n\n视觉与机器人学把学习得到的模型延伸到物理世界。计算机视觉将卷积神经网络及相关架构应用于目标检测、图像分割和人脸识别。在机器人学和自主系统中，学习得到的感知能力与控制策略相结合，这些策略通常先在仿真环境中训练，再迁移到实际硬件上；强化学习是用于学习这些策略的方法之一。\n\n在科学与医学领域，最突出的例子是蛋白质结构预测。AlphaFold2是由DeepMind开发的基于机器学习的模型，于2020年12月在第14届蛋白质结构预测关键评估（CASP14）中夺得冠军。其预测结果在大多数情况下与实验测定的结构精度相当，并大幅领先其他方法。该系统内部利用多序列比对获取进化历史信息，并由专门的模块对残基之间的共进化模式建模，随后由结构模块生成最终的三维坐标。其影响后来延伸到一项公共资源：与EMBL-EBI合作发布了超过2亿种蛋白质的预测结构，几乎覆盖了已知的全部蛋白质。2024年诺贝尔化学奖表彰了这一系列工作。在医学诊断中，辅助诊断严重依赖图像分析。深度网络已被应用于器官分割、癌症检测、疾病分类和计算机辅助诊断，主要任务类别包括图像增强、配准、分割、分类、定位和检测。证据基础比这些说法显得更为审慎。一项系统综述与荟萃分析检索了截至2020年1月的Medline和EMBASE数据库，共识别出11,921篇研究，其中503篇被纳入系统综述。作者将深度学习的诊断准确性视为有待衡量的开放问题，而非已有定论的结果；在临床应用中，这类系统通常被视为在人类监督下的决策辅助工具。\n\n商业与金融构成了已部署系统中很大的商业份额。欺诈检测清楚地说明了为何评价指标的选择至关重要。在欺诈事件罕见的数据集中，一个简单的分类器也可能看起来表现优异：以10万个银行账户为例，其中只有100个是欺诈账户；一个把所有账户都判定为正常的模型，准确率可达99.9%，却一个欺诈都未能识别。因此，从业者通常会报告精确率、召回率和精确率-召回率曲线，而不只是准确率。常用方法包括梯度提升树等树集成模型，以及先建立正常行为基线、再标记偏离情况的异常检测方法。预测与推荐系统也遵循类似的模式，随着环境变化，模型会基于新数据重新训练。已部署系统的结果通常只以狭窄的方式报告；例如，一个结合历史行为与前瞻性行为的欺诈检测框架报告称，在线应用后，日均召回率提升了4%至5%。\n\n在这些领域中，实际问题很少是模型能否拟合历史数据，而是所选指标、部署时的数据分布以及错误的后果，是否与系统的使用场景相匹配。"
    },
    {
      "heading": "概率与贝叶斯视角",
      "text": "概率方法把学习看作是在给定观测数据的条件下对未知量进行推断。它们不只问哪一个函数最能拟合数据，还要问不同参数取值有多大的可能性，以及一个预测可以有多大把握。\n\n最大似然估计\n\n对于参数化模型 \\(p(x \\mid \\theta)\\) 和独立观测 \\(x_1, \\dots, x_n\\)，最大似然估计（MLE）会选择使观测数据出现概率最大的参数：\n\n\\[\\hat{\\theta}_{\\text{MLE}} = \\arg\\max_{\\theta} \\sum_{i=1}^{n} \\log p(x_i \\mid \\theta)\\]\n\n取对数可以把似然的乘积变为求和，且不改变最大值点，因此最大化对数似然等价于最小化负对数似然损失。许多常见的损失函数都是它的特例：平方误差对应方差固定的高斯噪声，交叉熵对应分类输出的分布。MLE 是一种拟合准则，而不是泛化的保证；样本较少或模型非常灵活时，最大值点可能出现过拟合。在似然上加一个惩罚项，就得到最大后验估计：L2 惩罚对应对权重施加高斯先验，L1 惩罚对应拉普拉斯先验。\n\n贝叶斯推断\n\n贝叶斯推断把参数视为具有先验分布 \\(p(\\theta)\\) 的随机变量。贝叶斯定理将先验与似然结合，得到后验：\n\n\\[p(\\theta \\mid \\mathcal{D}) = \\frac{p(\\mathcal{D} \\mid \\theta)\\,p(\\theta)}{p(\\mathcal{D})}, \\qquad p(\\mathcal{D}) = \\int p(\\mathcal{D} \\mid \\theta)\\,p(\\theta)\\,d\\theta\\]\n\n分母即证据或边缘似然，它用于对后验进行归一化，也支持比较不同的模型类别。预测时则对后验取平均，而不是只取一个参数值：\n\n\\[p(y \\mid x, \\mathcal{D}) = \\int p(y \\mid x, \\theta)\\, p(\\theta \\mid \\mathcal{D})\\, d\\theta\\]\n\n这个后验预测分布的离散程度量化了不确定性。用少量数据训练的模型给出的预测较宽，随着数据积累，分布会逐渐变窄。高斯过程和贝叶斯神经网络是标准的例子。对于实际模型，这些积分通常难以精确计算，这也促使人们使用下面介绍的近似方法。\n\n图模型与近似推断\n\n概率图模型用图来表示众多变量上的联合分布，图中的边表示条件依赖关系。贝叶斯网络等有向模型将联合分布分解为每个变量在其父节点条件下的概率；马尔可夫随机场等无向模型则使用定义在团上的因子。隐马尔可夫模型是链式结构的典型例子，长期以来是语音识别的核心技术。随着图的树宽增大，精确推断的代价迅速升高，因此需要近似方法。\n\n马尔可夫链蒙特卡洛构造一条马尔可夫链，使其平稳分布为目标后验，再用链上样本的平均值近似后验期望。Metropolis–Hastings 算法和吉布斯采样是常见的变体；采样链需要经过燃烧期（burn-in）并进行收敛性检验。变分推断则选择一个易于处理的分布族 \\(q(\\theta)\\)，并最小化 \\(\\mathrm{KL}(q \\,\\|\\, p)\\)，即KL散度，这等价于最大化证据下界。它通常比采样方法快，但往往会低估后验方差。\n\n期望最大化算法用于存在隐变量时的最大似然估计，例如高斯混合模型中的成分分配。E 步在当前参数下计算隐变量的后验概率，M 步则在参数上最大化完全数据对数似然的期望。每次迭代都不会使观测数据的似然下降，但收敛结果只能保证是局部最优。K均值可以看作该方案在硬分配下的极限情形。\n\n预测关联与因果推断\n\n预测效果好的模型学到的是关联，即 \\(P(y \\mid x)\\)。若通过干预而非观察来设定 \\(X\\)，得到的则是另一种分布 \\(P(y \\mid \\mathrm{do}(x))\\)。当第三个变量 \\(Z\\) 同时影响 \\(X\\) 和 \\(Y\\) 时，混杂会使两者的分布出现偏差。例如，接受某种治疗的患者通常病情更重，那么基于观察性记录拟合的模型可能显示该治疗有害，即使它实际上有效。对已测量的混杂因素进行调整以及随机对照实验，是估计干预效应的标准途径；因果推断框架则规定了在什么条件下这些效应可以从数据中识别。仅在观察性相关性上训练的预测器，并不能保证在数据生成过程因干预而改变后依然有效。"
    },
    {
      "heading": "社会影响、治理与伦理",
      "text": "公平性与偏见\n\n模型会学习训练数据中包含的任何规律，其中也包括历史上的不平等、不均衡的抽样以及不一致的标注。因此，一个平均误差很低的系统，对于在数据中占比较少或标注较为粗略的群体，可能会频繁出错得多。审计人员通过以下方式衡量这些差距：分别报告各群体的错误率，比较假阳性率与假阴性率，并检查预测概率在不同群体之间是否具有相同的含义。2016年和2017年发表的研究表明，当各群体的基础比率存在差异时，其中几项标准无法同时满足，因此选择何种公平性指标是一项规范性决策，单靠统计学无法解决。干预措施可以在训练前实施（对样本重新加权或收集更具代表性的数据），也可以在训练过程中实施（在目标函数中加入约束），还可以在训练后实施（为每个群体调整决策阈值）。每种方法通常都是在一种性质与另一种性质之间进行权衡。\n\n隐私与记忆化\n\n大型神经网络模型可能保留训练语料的片段，而不仅仅是一般性规律。早期针对GPT-2的研究表明，通过普通的查询就能还原出完整的训练序列。当提示内容与个人信息相似时，模型可能会以电子邮件地址、电话号码和地理位置来补全文本。提取成功率往往随规模增大而提高，因为此类提取的成功率会随模型规模和复杂度的增加而上升。一种相关的攻击方式是成员推断攻击，它提出的是另一个问题：某条特定记录是否根本属于训练集。当训练数据涉及医疗或其他敏感信息时，此类攻击的危害最为严重。因此，关于数据隐私的研究旨在构建既能捕捉一般语言或统计结构、又能避免存储敏感个人记录的模型，并使用可在不同系统之间进行比较的指标来衡量信息泄露程度。\n\n著作权与知识产权\n\n训练流程会复制并转换大量受保护的作品，美国法院已开始区分允许与不允许的使用方式。在2025年Bartz诉Anthropic一案的裁决中，法院认为，使用合法获取的书籍进行训练可能具有转换性，但保留盗版副本则不在此类保护范围之内。该纠纷随后以约15亿美元的和解方案告终，估计每部作品的赔付金额约为3000美元。另有一起案件涉及Ross Intelligence的平台，该平台并非生成式AI模型，而是一款由AI驱动的案例检索工具，该裁决得到了美国上诉法院的支持。美国版权局于2025年5月发布的报告认为，训练生成式系统去产出与原作品竞争的表达性内容，超出了合理使用的范围。重大案件仍在审理之中：《纽约时报》指控OpenAI使用其数百万篇文章训练ChatGPT；2026年7月，出版商和作者对谷歌提起集体诉讼，指控其训练Gemini模型。评论人士指出，Anthropic案与Meta案的法院在评估各类市场损害时采取了截然不同的方法，因此相关法律原则仍未确定。有关知识产权和著作权的问题因此是通过逐案裁决来解决的，而非依据单一规则。\n\n监管与标准\n\n欧盟的《人工智能法案》于2024年8月1日生效，其义务分阶段在数年内逐步落实：禁止性行为与AI素养义务于2025年2月2日起可强制执行；通用人工智能（GPAI）提供者的义务随后于2025年8月2日生效。高风险系统的时间表此后已作调整。此次推迟将独立高风险AI系统（附件三）的合规期限从2026年8月2日延后至2027年12月2日，将已受欧盟产品安全法律约束的产品中嵌入的AI（附件一）的合规期限延后至2028年8月2日。根据所查阅的资料，该修正条例已于2026年7月24日发布在《欧盟官方公报》上，而透明度义务并未推迟：要求披露AI交互的第50条透明度义务仍按原定的2026年8月2日时间表生效。官方将此次推迟归因于履行这些义务所需的监管基础设施未能按期到位。除成文法之外，有关安全、文档记录和透明度的行业标准仍在制定之中，其内容和采用情况因司法管辖区和行业而异。"
    },
    {
      "heading": "开放问题与局限",
      "text": "机器学习发展迅速，但仍有若干基础问题尚未解决。一些问题涉及方法为何有效，另一些则涉及系统离开实验室和基准测试之后的行为方式。\n\n最突出的理论空白与严重过参数化的模型有关。这类模型的参数数量可能超过训练样本数，并能够精确拟合训练数据。基于偏差-方差权衡的经典推理预测：当模型复杂度超出数据所能支撑的程度时，测试误差会上升。然而在实践中，当模型容量在达到完美拟合之后继续增长时，误差可能再次下降，这种现象通常被称为双下降（double descent）。基于 Rademacher 复杂度或 VC 维的最坏情形界无法解释这一现象，因为这类模型同样可以拟合随机标签。因此，目前的解释更多指向架构、优化器以及隐式正则化（例如随机梯度下降训练中的隐式正则化）的综合作用，而非仅仅取决于模型规模。理论目前尚未给出既紧致又适用于实际使用网络的界，而关于学到的解具有哪些性质才使其能够泛化，这一问题依然没有定论。更广泛的框架参见泛化词条。\n\n鲁棒性是第二个难点。对输入进行的微小而经过精心设计的扰动，往往人眼难以察觉，却可能改变模型的输出，相关研究见对抗样本。当部署时遇到的数据与训练分布不同时，性能也会下降，这一问题被称为分布偏移（distribution-shift）。模型在分布外输入上可能失效，却仍给出高置信度的预测，使得此类失效难以事先发现。数据增强和域适应等方法能够减少其中一部分失效，但尚未找到通用的解决方案，模型在与训练数据不同的输入上的行为往往难以预测。\n\n样本效率是第三个局限。当代系统通常需要规模非常大的数据集和大量计算。经验性的神经网络缩放律表明，性能的进一步提升往往需要更多的数据和算力，而人类却能够从少得多的样本中学会许多概念。自监督学习、迁移学习和表示学习等研究方向力图在不同任务之间复用已习得的结构，但仍不清楚这一差距能否通过更好的归纳偏置、更好的学习算法，或仅仅通过扩大规模来弥合。这种方法所需的能源和资金成本，也限制了能够开展此类研究的主体范围。\n\n可解释性是第四个待解决的问题。大型模型包含数十亿个参数，其内部表示是分布式的，因此单个单元很少与某个人类可以理解的概念一一对应。归因方法、探测分类器以及其他可解释人工智能技术能提供部分视角，但它们可能无法忠实反映模型实际的计算过程。大型模型的内部表示能否被可靠地解释，解释能否与模型真实的运作机制相互核对，目前仍是一个活跃且存在争议的问题。\n\n可复现性，以及基准测试与现实之间的关系，构成了第五组问题。已报告的性能提升往往依赖于随机种子、超参数选择、未公开的预处理步骤和实现细节。2018 年一项关于深度强化学习的研究表明，标准环境中的非确定性可能使某些已发表的比较在统计上无法解释。多项研究反复使用同一测试集，也可能夸大报告的分数，因为测试集会在长期使用中被间接调优；对 ImageNet 和 CIFAR-10 测试集的重新构建显示，已发表的模型存在系统性的准确率下降。基准测试还可能趋于饱和，领先系统的得分几乎相同，使其无法再区分优秀的方法与仅仅经过调参的方法。数据泄漏，以及不能反映部署条件的测试集，也会进一步影响其结果。在精心策划的数据集上得分很高的模型，在面对不同的硬件、人群或工作流程时仍可能表现不佳，这也是可复现性和外部验证成为该领域核心关切的原因。\n\n这些局限彼此关联：在分布偏移下泛化能力较差的模型，更难被解释、验证和复现；而高估了现实世界性能的基准结果，则使其他问题更难被发现。"
    }
  ],
  "links": [
    "artificial-intelligence",
    "training-data",
    "statistics",
    "linear-algebra",
    "calculus",
    "mathematical-optimization",
    "linear-regression",
    "large-language-model",
    "natural-language-processing",
    "computer-vision",
    "alphafold",
    "artificial-neural-network",
    "transformer-architecture",
    "generalization",
    "data-mining",
    "symbolic-artificial-intelligence",
    "learning-rate",
    "decision-tree-learning",
    "k-nearest-neighbors-algorithm",
    "validation-set",
    "loss-function",
    "warren-mcculloch",
    "walter-pitts",
    "arthur-samuel",
    "frank-rosenblatt",
    "perceptron",
    "marvin-minsky",
    "ai-winter",
    "backpropagation",
    "support-vector-machine",
    "deep-blue",
    "alexnet",
    "imagenet",
    "deep-learning",
    "nobel-prize-in-physics",
    "nobel-prize-in-chemistry",
    "expected-value",
    "empirical-risk-minimization",
    "probability-distribution",
    "pac-learning",
    "vc-dimension",
    "supervised-learning",
    "cluster-analysis",
    "k-means-clustering",
    "anomaly-detection",
    "dimensionality-reduction",
    "principal-component-analysis",
    "semi-supervised-learning",
    "self-supervised-learning",
    "bert",
    "generative-pre-trained-transformer",
    "fine-tuning",
    "foundation-model",
    "representation-learning",
    "feature-engineering",
    "convolutional-neural-network",
    "word2vec",
    "word-embedding",
    "reinforcement-learning",
    "logistic-regression",
    "cross-entropy",
    "gradient-descent",
    "regularization",
    "overfitting",
    "random-forest",
    "gradient-boosting",
    "ensemble-learning",
    "convex-optimization",
    "curse-of-dimensionality",
    "naive-bayes-classifier",
    "bayes-theorem",
    "stochastic-gradient-descent",
    "chain-rule",
    "automatic-differentiation",
    "adam-optimizer",
    "hyperparameter",
    "multilayer-perceptron",
    "recurrent-neural-network",
    "long-short-term-memory",
    "dropout",
    "batch-normalization",
    "graphics-processing-unit",
    "attention-mechanism",
    "tokenization",
    "transfer-learning",
    "neural-scaling-law",
    "in-context-learning",
    "reinforcement-learning-from-human-feedback",
    "retrieval-augmented-generation",
    "ai-hallucination",
    "markov-decision-process",
    "q-learning",
    "alphago",
    "monte-carlo-tree-search",
    "test-set",
    "data-leakage",
    "data-augmentation",
    "mean-squared-error",
    "feature-scaling",
    "cross-validation",
    "distribution-shift",
    "tensor-processing-unit",
    "distributed-computing",
    "reproducibility",
    "mlops",
    "tensorflow",
    "speech-recognition",
    "robotics",
    "diagnosis",
    "maximum-likelihood-estimation",
    "maximum-a-posteriori-estimation",
    "probabilistic-graphical-model",
    "markov-chain-monte-carlo",
    "gibbs-sampling",
    "variational-inference",
    "kullback-leibler-divergence",
    "expectation-maximization-algorithm",
    "gaussian-mixture-model",
    "confounding",
    "causal-inference",
    "data-privacy",
    "intellectual-property",
    "copyright",
    "european-union",
    "bias-variance-tradeoff",
    "adversarial-example",
    "explainable-artificial-intelligence"
  ],
  "sources": [
    {
      "title": "Perceptrons: An Introduction to Computational Geometry",
      "url": "https://www.researchgate.net/publication/330332337_Perceptrons_An_Introduction_to_Computational_Geometry"
    },
    {
      "title": "Walter Pitts",
      "url": "https://en.wikipedia.org/wiki/Walter_Pitts"
    },
    {
      "title": "Scientists in silico?",
      "url": "https://arxiv.org/pdf/1711.00678"
    },
    {
      "title": "Checkers at the origins of AI and Machine Learning",
      "url": "https://www.digitaltribune.com/checkers-at-the-orgins-of-ai-and-machine-learning/"
    },
    {
      "title": "70th Anniversary of Publication: Warren McCulloch & Walter Pitts - A Logical Calculus of the Ideas Immanent in Nervous Activity",
      "url": "https://link.springer.com/chapter/10.1007/978-3-319-10783-7_1"
    },
    {
      "title": "RcTorch: a PyTorch Reservoir Computing Package with Automated Hyper-Parameter Optimization",
      "url": "https://arxiv.org/pdf/2207.05870"
    },
    {
      "title": "Chapter 9: Minsky and Papert’s Analysis — Classical Foundations of Artificial Neural Networks",
      "url": "https://bnaskrecki.faculty.wmi.amu.edu.pl/nnets/_build/html/part3_limitations/ch09_minsky_papert.html"
    },
    {
      "title": "History of the AI Winters: AI History Guide",
      "url": "https://aitimeline.world/history/history-of-ai-winters"
    },
    {
      "title": "What is stochastic gradient descent?",
      "url": "https://www.ibm.com/think/topics/stochastic-gradient-descent"
    },
    {
      "title": "Deep Learning: A Tutorial",
      "url": "https://arxiv.org/pdf/2310.06251"
    },
    {
      "title": "Gradient Descent, Stochastic Optimization, and Other Tales",
      "url": "https://arxiv.org/pdf/2205.00832"
    },
    {
      "title": "Stochastic Gradient Descent in Deep Learning Explained",
      "url": "https://www.guvi.in/blog/stochastic-gradient-descent-in-deep-learning/"
    },
    {
      "title": "Stochastic Gradient Descent (SGD) and Variants",
      "url": "https://apxml.com/courses/introduction-to-neural-networks/chapter-4-backpropagation-gradient-descent/sgd-variants"
    },
    {
      "title": "[PDF] Adam: A Method for Stochastic Optimization",
      "url": "https://www.semanticscholar.org/paper/Adam:-A-Method-for-Stochastic-Optimization-Kingma-Ba/a6cb366736791bcccc5c8639de5a8f9636bf87e8"
    },
    {
      "title": "Energy Considerations for Large Pretrained Neural Networks",
      "url": "https://arxiv.org/pdf/2506.01311"
    },
    {
      "title": "ImageNet Classification with Deep Convolutional Neural Networks",
      "url": "https://www.researchgate.net/publication/319770183_Imagenet_classification_with_deep_convolutional_neural_networks"
    },
    {
      "title": "Long short-term memory - Learn AI",
      "url": "https://ai.miraheze.org/wiki/Long_short-term_memory"
    },
    {
      "title": "How LSTMs Solve the Vanishing Gradient Problem",
      "url": "https://letsdatascience.com/blog/mastering-lstms-for-time-series-when-deep-learning-beats-statistics"
    },
    {
      "title": "1D Convolutional Neural Networks and Applications: A Survey",
      "url": "https://arxiv.org/pdf/1905.03554"
    },
    {
      "title": "AlexNet and ImageNet: The Birth of Deep Learning",
      "url": "https://www.pinecone.io/learn/series/image-search/imagenet/"
    },
    {
      "title": "The Story of AlexNet: A Historical Milestone in Deep Learning",
      "url": "https://medium.com/@fahey_james/the-story-of-alexnet-a-historical-milestone-in-deep-learning-79878a707dd5"
    },
    {
      "title": "A Critical Review of Recurrent Neural Networks for Sequence Learning",
      "url": "https://arxiv.org/pdf/1506.00019"
    },
    {
      "title": "huggingface.co",
      "url": "https://huggingface.co/papers/1706.03762"
    },
    {
      "title": "Paper summary — BERT: Bidirectional Transformers for Language Understanding",
      "url": "https://medium.com/analytics-vidhya/paper-summary-bert-pre-training-of-deep-bidirectional-transformers-for-language-understanding-861456fed1f9"
    },
    {
      "title": "FinBERT-QA: Financial Question Answering with pre-trained BERT Language Models",
      "url": "https://arxiv.org/pdf/2505.00725"
    },
    {
      "title": "BERT: Pre-training of Deep Bidirectional Transformers for",
      "url": "https://eecs.csuohio.edu/~sschung/CIS660/BERTGoogle2018.pdf"
    },
    {
      "title": "(Open Access) Scaling Laws for Neural Language Models (2020)",
      "url": "https://scispace.com/papers/scaling-laws-for-neural-language-models-3kyibt389h"
    },
    {
      "title": "Position: Enough of Scaling LLMs! Lets Focus on Downscaling",
      "url": "https://arxiv.org/pdf/2505.00985"
    },
    {
      "title": "Reinforcement Learning - Markov Decision Processes",
      "url": "https://opencourse.inf.ed.ac.uk/sites/default/files/https/opencourse.inf.ed.ac.uk/rl/2024/rl3markovdecisionprocesses.pdf"
    },
    {
      "title": "Stochastic Approximation with Markov Noise: Analysis and applications in reinforcement learning",
      "url": "https://arxiv.org/pdf/2012.00805"
    },
    {
      "title": "A Survey of Learning in Multiagent Environments: Dealing with Non-Stationarity",
      "url": "https://arxiv.org/pdf/1707.09183"
    },
    {
      "title": "Introducing Q-Learning · Hugging Face",
      "url": "https://huggingface.co/learn/deep-rl-course/unit2/q-learning"
    },
    {
      "title": "Machine learning-based decentralized TDMA for VLC IoT networks",
      "url": "https://arxiv.org/pdf/2311.14078"
    },
    {
      "title": "ALPHAGO AND MONTE CARLO TREE SEARCH",
      "url": "https://www.informs-sim.org/wsc16papers/059.pdf"
    },
    {
      "title": "(PDF) Mastering the game of Go with deep neural networks and tree search",
      "url": "https://www.researchgate.net/publication/292074166_Mastering_the_game_of_Go_with_deep_neural_networks_and_tree_search"
    },
    {
      "title": "Pervasive Label Errors in Test SetsDestabilize Machine Learning Benchmarks",
      "url": "https://arxiv.org/html/2103.14749v4"
    },
    {
      "title": "Machine learning benchmarks revealed to contain ‘pervasive’ labeling errors",
      "url": "https://aibusiness.com/ml/machine-learning-benchmarks-revealed-to-contain-pervasive-labeling-errors"
    },
    {
      "title": "On Leakage in Machine Learning Pipelines",
      "url": "https://arxiv.org/pdf/2311.04179"
    },
    {
      "title": "Don't Push the Button! Exploring Data Leakage Risks in Machine Learning and Transfer Learning",
      "url": "https://arxiv.org/pdf/2401.13796"
    },
    {
      "title": "Data Leakage in Machine Learning Models - Shelf.io",
      "url": "https://shelf.io/blog/preventing-data-leakage-in-machine-learning-models/"
    },
    {
      "title": "How to prevent Data Leakage while evaluating the performance of a Machine Learning model",
      "url": "https://towardsdatascience.com/how-to-avoid-data-leakage-while-evaluating-the-performance-of-a-machine-learning-model-ac30f2bb8586/"
    },
    {
      "title": "Hardware Acceleration of Explainable Machine Learning using Tensor Processing Units",
      "url": "https://arxiv.org/pdf/2103.11927"
    },
    {
      "title": "TPU vs GPU: Choosing the Right Hardware for Your AI Projects",
      "url": "https://www.digitalocean.com/resources/articles/tpu-vs-gpu"
    },
    {
      "title": "TPU vs GPU Compared for AI Training and Inference",
      "url": "https://telnyx.com/resources/tpu-vs-gpu"
    },
    {
      "title": "What is a Tensor Processing Unit (TPU)?",
      "url": "https://www.ultralytics.com/glossary/tpu-tensor-processing-unit"
    },
    {
      "title": "Machine Learning in High Energy Physics Community White Paper",
      "url": "https://arxiv.org/pdf/1807.02876"
    },
    {
      "title": "Hardware Accelerators for Artificial Intelligence",
      "url": "https://arxiv.org/pdf/2411.13717"
    },
    {
      "title": "Deep Learning and Machine Learning with GPGPU and CUDA: Unlocking the Power of Parallel Computing",
      "url": "https://arxiv.org/pdf/2410.05686"
    },
    {
      "title": "Measuring the Carbon Intensity of AI in Cloud Instances",
      "url": "https://arxiv.org/pdf/2206.05229"
    },
    {
      "title": "AI Energy Consumption Statistics",
      "url": "https://aimultiple.com/ai-energy-consumption"
    },
    {
      "title": "The Hidden Cost of AI Energy Consumption - Knowledge at Wharton",
      "url": "https://knowledge.wharton.upenn.edu/article/the-hidden-cost-of-ai-energy-consumption/"
    },
    {
      "title": "How much energy does AI actually consume?",
      "url": "https://knowledge.energyinst.org/new-energy-world/article?id=139859"
    },
    {
      "title": "A Guide to Monitoring Machine Learning Models in Production",
      "url": "https://developer.nvidia.com/blog/a-guide-to-monitoring-machine-learning-models-in-production/"
    },
    {
      "title": "Machine Learning Model Monitoring: What to Do In Production",
      "url": "https://www.heavybit.com/library/article/machine-learning-model-monitoring"
    },
    {
      "title": "Monitoring and explainability of models in production",
      "url": "https://arxiv.org/pdf/2007.06299"
    },
    {
      "title": "Model Monitoring: Best Practices for Tracking ML Performance - WitnessAI",
      "url": "https://witness.ai/blog/model-monitoring/"
    },
    {
      "title": "AlphaFold2 and its applications in the fields of biology and medicine",
      "url": "https://www.nature.com/articles/s41392-023-01381-z"
    },
    {
      "title": "Highly accurate protein structure prediction with AlphaFold",
      "url": "https://www.nature.com/articles/s41586-021-03819-2"
    },
    {
      "title": "Predicting a Protein's Stability under a Million Mutations",
      "url": "https://arxiv.org/pdf/2310.12979"
    },
    {
      "title": "A Review Paper about Deep Learning for Medical Image Analysis",
      "url": "https://www.ncbi.nlm.nih.gov/pmc/articles/PMC10241570/"
    },
    {
      "title": "Diagnostic accuracy of deep learning in medical imaging: a systematic review and meta-analysis",
      "url": "https://www.nature.com/articles/s41746-021-00438-z"
    },
    {
      "title": "Financial fraud detection using machine learning",
      "url": "https://www.alloy.com/blog/data-and-machine-learning-in-financial-fraud-prevention"
    },
    {
      "title": "Fraud Detection framework integrating recommendation mechanisms for future representation augmentation",
      "url": "https://link.springer.com/article/10.1007/s11280-026-01421-y"
    },
    {
      "title": "Machine Learning in Finance: Use Cases, Benefits & Trends",
      "url": "https://www.intellectsoft.net/blog/machine-learning-in-financial-fraud-detection/"
    },
    {
      "title": "A Survey on Model Extraction Attacks and Defenses for Large Language Models",
      "url": "https://arxiv.org/pdf/2506.22521"
    },
    {
      "title": "Privacy in Large Language Models: Attacks, Defenses and Future Directions",
      "url": "https://arxiv.org/pdf/2310.10383"
    },
    {
      "title": "AI in litigation series: An update on AI copyright cases in 2026",
      "url": "https://www.nortonrosefulbright.com/en/knowledge/publications/ce8eaa5f/ai-in-litigation-series-an-update-on-ai-copyright-cases-in-2026"
    },
    {
      "title": "Court Finds That Using Copyrighted Material as AI Training Data Is Not Fair Use",
      "url": "https://futurism.com/artificial-intelligence/court-finds-copyrighted-material-training-data-fair-use"
    },
    {
      "title": "AI Training on Copyrighted Data: Is It Fair Use? (2026 Ruling Guide)",
      "url": "https://aicopyrightlegal.com/blog/ai-training-fair-use-law-2026"
    },
    {
      "title": "A New Look at Fair Use: Anthropic, Meta, and Copyright in AI Training",
      "url": "https://www.reedsmith.com/articles/a-new-look-fair-use-anthropic-meta-copyright-ai-training/"
    },
    {
      "title": "EU AI Act’s High-Risk Deadline: Deferred, Not Cancelled",
      "url": "https://labs.cloudsecurityalliance.org/research/csa-research-note-eu-ai-act-high-risk-deadline-omnibus-20260/"
    },
    {
      "title": "EU AI Act High-Risk Deadline Pushed to December 2027",
      "url": "https://labs.cloudsecurityalliance.org/research/csa-research-note-eu-ai-act-omnibus-vii-deadline-delay-20260/"
    },
    {
      "title": "EU AI Act Omnibus Agreement — Postponed High-Risk Deadlines and Other Key Changes - Gibson Dunn",
      "url": "https://www.gibsondunn.com/eu-ai-act-omnibus-agreement-postponed-high-risk-deadlines-and-other-key-changes/"
    },
    {
      "title": "AI Training Data Lawsuits 2026: What the Google and Anthropic Cases Mean for Your Company",
      "url": "https://www.wittliffcutter.com/news-insights/ai-training-data-litigation-google-anthropic-2026"
    },
    {
      "title": "Privacy Issues in Large Language Models: A Survey",
      "url": "https://arxiv.org/pdf/2312.06717"
    },
    {
      "title": "What Does it Mean for a Language Model to Preserve Privacy?",
      "url": "https://arxiv.org/pdf/2202.05520"
    },
    {
      "title": "Implicit Regularization and Generalization in Overparameterized Neural Networks",
      "url": "https://arxiv.org/pdf/2604.07603"
    },
    {
      "title": "Generalization for multiclass classification with overparameterized linear models",
      "url": "https://arxiv.org/pdf/2206.01399"
    },
    {
      "title": "Neural Feature Geometry Evolves as Discrete Ricci Flow",
      "url": "https://arxiv.org/pdf/2509.22362"
    },
    {
      "title": "AI Has a Paper Problem: The Publish-or-Perish Crisis in Machine Learning",
      "url": "https://medium.com/@urwashanza99/ai-has-a-paper-problem-the-publish-or-perish-crisis-in-machine-learning-95751ab9bee5"
    },
    {
      "title": "Machine Learning's Reproducibility Crisis: NeurIPS Checklist And Code-Release Reforms",
      "url": "https://atticusli.com/replication-crisis/machine-learning-reproducibility/"
    },
    {
      "title": "Improving the Reproducibility of Deep Learning Software: An Initial Investigation through a Case Study Analysis",
      "url": "https://arxiv.org/html/2505.03165v1"
    },
    {
      "title": "RecourseBench: A Modular Framework for Reproducible Algorithmic Recourse Evaluation",
      "url": "https://arxiv.org/pdf/2606.16113"
    }
  ],
  "license": "https://creativecommons.org/licenses/by/4.0/"
}