aiwiki.page
中文
数学 / 应用与计算数学 / bayesian-optimization

贝叶斯优化

贝叶斯优化利用概率模型和序贯决策规则,以较少的评估次数优化评估成本高且具有不确定性的黑箱函数。

36 个关键词4 个词条链接到这里8 个尚未撰写AI 撰写
目标函数贝叶斯推断可行集先验分布后验分布实验设计决策理论数学优化贝叶斯优化

贝叶斯优化是一类用于寻找评估成本高昂的目标函数最优值的方法,其做法是为该函数构建概率模型,并利用模型选择能够提供有价值信息的评估点。当函数没有便于使用的解析表达式、无法获得导数,或每次测量都需要大量计算或开展物理实验时,这类方法尤其有用。典型应用包括机器学习系统调优、材料设计以及工程仿真校准。

贝叶斯优化的核心特征是将考虑不确定性的预测与序贯决策相结合。每次评估后,通过贝叶斯推断更新模型,再由采集规则决定下一次评估的位置。该规则在两者之间取得平衡:一是利用看起来有望取得好结果的位置,二是探索那些可能因不确定性而隐藏着更优结果的位置。因此,贝叶斯优化不仅关乎预测未知函数,还关乎决定哪些观测值得付出成本去获取。

贝叶斯优化的有效性取决于评估预算、搜索空间结构与概率模型可靠性之间的关系。经典设定通常涉及少量或中等数量的连续变量,以及获取成本高昂的标量观测值;其扩展方法则能够处理噪声、约束、离散选择、并行实验、多目标以及不同保真度的评估。

决策理论表述与历史发展

考虑在可行集 X\mathcal X 上求最大值:

x⋆∈arg max⁡x∈Xf(x).x^\star\in\operatorname*{arg\,max}_{x\in\mathcal X}f(x).

函数 ff 是未知的,只能通过观测来了解。在第 tt 次迭代中,优化器选择 xtx_t,并获得如下形式的观测:

yt=f(xt)+εt,y_t=f(x_t)+\varepsilon_t,

其中,εt\varepsilon_t 表示测量噪声或仿真噪声。累积得到的数据为 Dt={(xi,yi)}i=1tD_t=\{(x_i,y_i)\}_{i=1}^{t}。将 ff 替换为 −f-f,即可等价地处理最小化问题。难点在于如何选择一系列有价值的评估点,而不把大部分可用预算花在了解定义域中无关紧要的部分上。

贝叶斯表述为各种可能的函数设定一个先验分布,并在获得观测后将其更新为后验分布。随后,决策规则为可能开展的实验赋予价值。原则上,可以求解一个有限时域问题,将未来所有可能的观测与决策都纳入考量。但这通常在计算上难以承受:一次实验既会改变当前可得的最佳解,也会改变用于选择后续实验的信息。因此,大多数实用方法采用单步效用,或对长期规划进行计算上可行的近似。

这些思想是在实验设计、决策理论与数学优化的交叉领域发展起来的。哈罗德·库什纳在 1964 年的研究中,利用随机过程模型指导未知函数的优化。约纳斯·莫库斯及其合作者在 20 世纪 70 年代发展了全局优化的贝叶斯方法,其中包括基于改进量的准则。唐纳德·琼斯、马蒂亚斯·舍恩劳和威廉·韦尔奇于 1998 年提出的高效全局优化算法,推动确立了将高斯过程代理模型与期望改进相结合的现代方法,用于评估成本高昂的确定性计算机实验。

这种方法与传统数值优化的区别,在于它将什么视为稀缺资源。梯度下降法可能会进行大量成本低廉的函数评估和导数计算。如果一次物理实验需要数小时,或一次仿真会消耗大量计算资源,那么贝叶斯优化在两次评估之间投入相当多的计算就是值得的。反之,如果原函数的评估成本很低,贝叶斯优化自身的额外开销就可能使其缺乏吸引力。

它也不同于学习一个全局精确的仿真替代模型。这类模型的好坏可能取决于整个定义域上的预测误差,而优化器的首要任务是找出优异的决策。模型即使在远离最优点的地方不够准确,也仍然能够支持有效的优化。反过来,较低的平均预测误差并不能保证模型能正确识别出狭窄的高性能区域。

高斯过程代理模型

经典的代理模型是高斯过程,即函数上的一种概率分布,其中任意有限组输入所对应的函数值都服从联合的多元正态分布。高斯过程由均值函数 m(x)m(x) 和协方差核 k(x,x′)k(x,x') 确定:

f∼GP(m,k).f\sim\mathcal{GP}(m,k).

核表达了对平滑性、特征长度尺度以及输入之间关系的假设。邻近点的函数值通常具有很强的相关性,但这里的“邻近”由核来定义,不一定取决于通常意义上的距离。

假设观测噪声为相互独立、方差为 σn2\sigma_n^2 的高斯噪声,令 KK 为元素满足 Kij=k(xi,xj)K_{ij}=k(x_i,x_j) 的矩阵,令 kt(x)k_t(x) 为包含 xx 与各已观测输入之间协方差的向量。在核参数固定的条件下,后验均值和潜在函数的方差为

μt(x)=m(x)+kt(x)⊤(K+σn2I)−1(y−mX),\mu_t(x)=m(x)+k_t(x)^\top (K+\sigma_n^2I)^{-1}(y-m_X),
st2(x)=k(x,x)−kt(x)⊤(K+σn2I)−1kt(x).s_t^2(x)=k(x,x)-k_t(x)^\top (K+\sigma_n^2I)^{-1}k_t(x).

这里,mXm_X 是各已观测输入处的先验均值组成的向量。这些表达式区分了底层函数本身的不确定性与未来含噪观测的变异性。观测值的预测方差还需额外加上一个噪声项。

常用的核包括平方指数核和 Matérn 核。平方指数核刻画的是非常平滑的函数;Matérn 核则允许对函数的粗糙程度进行控制。自动相关性确定为各输入坐标分别赋予长度尺度。长度尺度较大,意味着预期函数沿该坐标的变化较为缓慢;长度尺度较小,则允许快速变化。这些参数可以提示哪些变量较为重要,但本身并不能确立变量在因果意义上的重要性。

核参数通常通过最大化边际似然来估计。这种方法在数据拟合程度与协方差结构的复杂度之间取得平衡。更完整的贝叶斯处理会使用马尔可夫链蒙特卡洛等方法,对核参数的后验分布进行积分。对参数积分可以将代入式点估计所忽略的不确定性传递下去,但也会增加计算成本。当观测数据极少时,先验和参数估计方法都可能对后续实验产生显著影响。

高斯过程的计算通常使用 Cholesky分解,而不是显式求逆。标准的稠密拟合所需时间大致与观测数量的三次方成正比,存储空间则与其平方成正比。在对角线上加入一个很小的“抖动”项可以改善数值条件,但不应将其与有科学依据的噪声模型混为一谈。稀疏近似和利用结构的计算方法扩大了高斯过程的实际适用范围,但有时也会改变不确定性估计,而且这种改变恰好发生在采集决策对不确定性较为敏感的区域。

其他代理模型与结构化搜索空间

贝叶斯优化并不一定要使用高斯过程。更一般的要求是,预测模型能够支持不确定性下的有效决策。当搜索域包含类别变量、条件参数、不连续性,或有大量历史数据可用时,其他模型可能更合适。不确定性估计的质量至少与常规预测精度同样重要,因为采集规则会主动寻找模型预测性能较好或不确定性具有信息价值的区域。

随机森林无需依赖单一、平滑的协方差结构,就能表示非线性交互作用,以及数值变量与类别变量的混合。树之间的差异可以用来构造不确定性估计,但这种差异并不天然构成经过校准的贝叶斯后验分布。序贯模型算法配置方法(Sequential Model-based Algorithm Configuration,简称 SMAC)是利用随机森林代理模型进行算法配置的一个有影响力的实例。其应用场景包含条件参数:某个变量可能只有在选定特定算法组件时才有意义。

树结构帕尔森估计器采用了另一条路径。它不直接建模给定输入时目标值的分布,而是估计与较好和较差观测结果分别对应的输入密度。若阈值 y∗y^\ast 将低损失与高损失区分开来,这些密度可写为

l(x)=p(x∣y<y∗),g(x)=p(x∣y≥y∗).l(x)=p(x\mid y<y^\ast), \qquad g(x)=p(x\mid y\geq y^\ast).

在该方法的假设下,期望改进准则可以与一个涉及 l(x)l(x) 和 g(x)g(x) 的密度比建立联系。这种构造尤其适用于层次化配置空间。它并不等同于高斯过程回归,其不确定性表示也不应被解释为高斯过程后验分布。

其他代理模型包括贝叶斯线性模型、集成模型,以及采用近似贝叶斯推断的人工神经网络。基于精心选取的特征构建的线性模型可以兼具效率和可解释性,但其灵活性取决于所用特征。神经网络表示能够捕捉复杂结构,并在相关任务之间迁移信息,但不确定性校准仍是一项核心难题。集成模型之间的分歧可能反映的是初始化差异或训练不稳定性,而非有关目标函数的所有相关不确定性。

搜索域的表示方式往往与模型类别的选择同样重要。整数参数必须遵守离散性约束,而类别标签通常不应被赋予任意的数值顺序。对于条件变量,表示方式需要能够区分“不活跃”状态与有实际意义的数值。专用核函数可以比较图、序列或分子结构,但此时采集函数的优化也必须在这些对象上进行。如果代理模型提出的候选对象无法被构造、合成或评估,那么即使模型很强大,也仍然不够。

采集函数与探索—利用权衡

采集函数利用当前的后验分布,为候选实验赋予一个分数。与评估成本高昂的目标函数不同,采集函数的评估成本通常足够低,可以反复计算。下一个评估点通常选为

xt+1∈arg max⁡x∈Xαt(x).x_{t+1}\in\operatorname*{arg\,max}_{x\in\mathcal X} \alpha_t(x).

不同的采集函数体现了对实验价值的不同理解。即使采用完全相同的代理模型预测,它们在即时改进与信息获取之间也未必会做出相同的权衡。

期望改进是一种经典选择。对于无噪声的最大化问题,用 ft+f_t^+ 表示已观测到的最佳值,并定义

It(x)=max⁡{0,f(x)−ft+}.I_t(x)=\max\{0,f(x)-f_t^+\}.

如果 xx 处的函数值的后验分布为正态分布,均值为 μt(x)\mu_t(x),标准差为 st(x)>0s_t(x)>0,则改进量的期望值为

EI⁡t(x)=(μt(x)−ft+)Φ(z)+st(x)ϕ(z),z=μt(x)−ft+st(x),\operatorname{EI}_t(x) = (\mu_t(x)-f_t^+)\Phi(z)+s_t(x)\phi(z), \qquad z=\frac{\mu_t(x)-f_t^+}{s_t(x)},

其中,Φ\Phi 和 ϕ\phi 分别为标准正态分布的累积分布函数和概率密度函数。当 st(x)=0s_t(x)=0 时,应使用确定性改进量的正部作为相应表达式。这两项分别体现了较优的预测均值所带来的贡献,以及不确定性所带来的改进机会。

改进概率则评估超过某个阈值的概率。由于不考虑改进幅度,它可能更偏好概率很高的微小收益,而不是幅度更大但把握较小的收益。置信上界方法采用如下形式的评分:

UCB⁡t(x)=μt(x)+βt st(x).\operatorname{UCB}_t(x)=\mu_t(x)+\sqrt{\beta_t}\,s_t(x).

探索参数 βt\beta_t 控制不确定性奖励的大小。具有理论依据的参数调整方案取决于对函数、定义域和噪声的假设;实践中采用固定参数,并不意味着就能自动获得文献中给出的遗憾界保证。

汤普森采样从后验分布中抽取一个函数,并在该抽样函数的某个最大值点进行评估。在反复抽样的过程中,不确定性会促成探索。基于信息的方法则采用更明确的学习目标。熵搜索和预测熵搜索旨在获取有关最优点的信息,而最大值熵搜索关注的是最优值的不确定性。这些方法的计算使用与互信息有关的量,且往往需要进行近似。

知识梯度以观测实验结果后,后验均值的最大值所能获得的预期增量来衡量实验价值。当最终推荐的点不必是已经评估过的点时,这一标准尤其有意义。与简单的改进规则不同,如果一次观测能通过模型中的相关性帮助判断另一个候选点的优劣,知识梯度也能体现这次观测的价值。

这些采集函数通常是对序贯决策问题的近似求解,而非普遍最优的策略。它们的相对表现取决于噪声、预算、先验假设和数值实现。某个采集函数即使在理论上很有吸引力,也可能因为内部优化未能找到有价值的区域,或蒙特卡洛估计过于不稳定而表现不佳。

序贯算法及其数值实现

实际运行时,首先需要明确搜索域、评估预算、观测规程和初始设计。初始观测可避免第一个模型完全依赖先验假设。常见的初始设计包括随机设计、拉丁超立方抽样和索博尔序列。与少量独立随机样本相比,空间填充设计能够更均匀地覆盖有界域,但并不存在适用于所有问题的通用初始设计规模。

基本循环包括:拟合或更新代理模型,构造采集函数,对其进行优化,评估选出的候选点,并将结果追加到数据中。对输入进行尺度调整往往很重要:取值以千计的参数,不应仅仅因为单位不同,就比取值为小数的参数占据更大的权重。学习率等取正值的尺度参数通常采用对数表示。变换会改变模型所隐含的几何结构,因此体现的是实质性假设,而不只是表面上的预处理。

采集函数的优化本身往往也是非凸问题。由于采集函数的评估成本远低于原始实验,实现时可以先筛选大量候选点,再从多个起点开展局部搜索。当采集函数可微时,可通过自动微分获得梯度。对于混合域或离散域,则可以采用枚举、局部组合变动、进化搜索,或先松弛再投影的方法。将连续最优解舍入为整数虽然方便,却可能反复提出同一个点,或无法准确找到最佳离散选择。

蒙特卡洛采集函数还会引入额外的数值计算环节。可以使用共享的基础样本来近似其期望,使近似采集函数随候选点的移动而平滑变化。如果每个候选点都带有独立的模拟噪声,就会给采集函数优化增添不必要的困难。数值下溢是另一个问题:在搜索域的大部分区域,期望改进可能极其微小,因此宜采用数值稳定的对数形式,而不是直接计算趋近于零的量。

记录管理也是算法的一部分。必须区分已完成、已失败和尚在运行的评估。模拟失败可能意味着某个区域不可行、存在数值不稳定,或基础设施出现问题;若对所有失败都随意赋予一个目标函数惩罚值,就可能使代理模型失真。记录评估耗时、随机种子和实验批次等元数据,有助于解释结果的变异,也可为更丰富的模型提供支持。

停止条件可以是达到固定评估次数、用完规定时间,或资源耗尽。基于模型的准则,例如预测改进量很小,则不那么确凿,因为它们也会受到模型设定不当和采集函数优化误差的影响。此外,还必须明确最终推荐结果的选择方式:可以选择观测到的最佳点、后验均值的最大化点,或经过额外测量验证的候选点。在存在噪声的情况下,这些选择可能有很大差异。

含噪观测、未知约束与安全探索

噪声既会改变学习过程,也会改变改进的定义。如果目标函数的观测存在误差,记录到的最大值可能只是一次异常有利的随机波动。将这个值代入无噪声的期望改进准则,可能设定不切实际的阈值,使搜索偏离方向。含噪改进方法则对已评估点和候选点处潜在函数值的不确定性进行积分。

重复测量有助于区分真实性能差异与观测噪声。其价值取决于噪声水平、剩余预算,以及是否存在其他能提供有用信息的评估选择。在含噪实验中,再次评估同一点未必是多余的:它可以降低最终推荐结果的不确定性,或帮助明确该点附近目标函数的形态。异方差模型允许噪声方差随输入而变化,适用于某些运行工况下结果的波动远大于其他工况的情况。

未知约束需要额外的模型。假设可行性由以下条件定义:

cj(x)≤0,j=1,…,m.c_j(x)\leq 0,\qquad j=1,\ldots,m.

当目标函数预测与约束预测采用相互独立的模型时,一种常见的启发式方法是将期望改进乘以满足约束的后验概率:

αconstrained(x)=EI⁡(x)Pr⁡ ⁣(c1(x)≤0,…,cm(x)≤0∣Dt).\alpha_{\mathrm{constrained}}(x) = \operatorname{EI}(x) \Pr\!\left(c_1(x)\leq0,\ldots,c_m(x)\leq0\mid D_t\right).

要将联合可行概率分解为各个约束概率的乘积,还需要额外的独立性假设。如果约束之间存在相关性,或可行性与性能之间存在相关性,就可能需要联合建模,而不能简单地将概率相乘。

约束的处理方式还取决于实验如何开展。在耦合评估中,目标函数与所有约束会被同时观测。在解耦情形下,不同测试以不同成本获得不同量的观测结果。例如,可以先用低成本的稳定性测试筛选某个配置,再开展昂贵的性能实验。此时,采集决策不仅要选择评估哪个输入,还要选择观测哪个量。

约束优化应与安全优化加以区分。普通的约束贝叶斯优化可能会刻意评估一个可能不可行的点,以了解可行域边界的位置。安全方法则将实验限制在一个经过认证的区域内:在明确的假设下,该区域以高概率满足安全条件。2015 年提出的 SafeOpt 是一种有代表性的高斯过程安全优化方法。其保证依赖于有效的不确定性界,以及允许从初始安全集向外扩展的假设。

因此,安全性以数学模型和测量模型成立为前提。模型设定有误时,即使预测区间很窄,也不能据此认定物理上的安全性。此外,某些可行区域可能只有穿过未经安全认证的区域才能到达。在这些限制下,能够实现的目标可能是安全可达范围内的最优点,而非不受限制的全局最优点。

并行评估、多保真度与多目标

当多个实验可以同时运行时,选择一批实验需要考虑其结果之间的依赖关系。若按单点评估的采集函数选取排名最前的几个点,可能会使实验集中在一个很小的区域,造成冗余。批量期望改进则衡量整批实验带来的改进:

qEI⁡(X)=E ⁣[max⁡{0,max⁡x∈Xf(x)−ft+}∣Dt].\operatorname{qEI}(X) = \mathbb E\!\left[ \max\left\{0,\max_{x\in X}f(x)-f_t^+\right\} \mid D_t \right].

这一联合期望体现了后验相关性。对其进行优化的难度更大,因为决策变量包含批次中每个点的所有坐标。

异步优化在每当有执行单元空闲时就选择一个新实验。尚未完成的实验结果虽然未知,却与决策有关。“幻想采样”通过抽取尚未完成实验的可能结果、以这些结果为条件进行推断,并对候选实验的效用取平均,来近似处理这种情况。其他方法则使用后验样本或局部惩罚。评估耗时也会影响最终得到的数据集:如果某些区域的评估完成得更快,异步调度器就可能在这些区域积累过多信息,除非明确将耗时纳入考虑。

多保真度优化使用成本更低的近似方式来替代目标评估,例如使用更粗的仿真网格、更小的数据集、更短的训练过程或简化的物理模型。此时,一项决策是一个二元组 (x,s)(x,s),其中 ss 指定保真度。优化器既要判断 xx 有多大潜力,也要判断在保真度 ss 下获得的信息是否值得其所需的成本。

低保真度观测只有在能够提供有关高保真度目标的信息时才有用。低成本模拟器可能存在系统性偏差,而不同方案在短期训练与长期训练中的排名也可能发生逆转。模型可以通过相关输出表示不同保真度,也可以将保真度作为额外输入。成本感知采集规则会结合资源消耗来衡量信息价值或期望改进,但对于预算有限的规划问题,简单地除以成本并非通用解法。

在多目标优化中,通常不存在唯一的最优点。目标往往是找出一组满足帕累托效率的权衡方案:任何一个目标的改善都必然以另一个目标的恶化为代价。期望超体积改进以某个参考点为基准,衡量目标空间中由当前非支配解所支配的区域的预期扩大量。它的表现取决于该参考点以及各目标的尺度。

另一种方法是标量化,即将多个目标合并为单一效用,或者反复优化不同的目标组合。加权和方法虽然简单,却可能无法找到非凸帕累托前沿的某些部分。更复杂的标量化方法,或直接以集合为对象的采集函数,可以处理不同的权衡结构。在并行、多保真度和多目标情形下,核心任务始终是:根据实验对一个明确定义的最终决策的预期贡献来选择实验。

高维优化与模型结构

随着变量数量增加,经典贝叶斯优化会变得困难。这既涉及统计问题,也涉及计算问题。稀疏的数据集难以充分覆盖高维定义域,核参数更难识别,采集函数的优化也更具挑战性。概率代理模型并不能消除维数灾难;成功的高维方法通常需要利用额外的结构。

一种可能的结构是较低的有效维数:目标函数主要取决于变量的少数组合。随机嵌入方法在较低维空间中搜索,该空间映射到原始定义域后的像与其中有价值的区域相交。这类方法的效果取决于嵌入、活跃方向与定义域边界之间的关系。当相关假设成立时,低维搜索可以很高效;但如果重要的变化存在于所表示的子空间之外,它也可能将优良解排除在外。

加性模型假设目标函数可分解为较简单的分量,例如:

f(x)=∑r=1Rfr(xSr),f(x)=\sum_{r=1}^{R}f_r(x_{S_r}),

其中,每个 SrS_r 选取一小部分坐标。这可以大幅减少学习各个分量所需的数据量。难点在于如何确定分组,以及如何表示组间的交互作用。对于交互作用很强的目标函数,即使每个变量单独来看影响都很弱,低阶加性项也可能不足以充分描述它。

局部方法提供了另一种策略。信赖域方法将搜索限制在一个有潜力的点周围,并根据优化进展调整该区域的范围。2019 年提出的 TuRBO 在自适应信赖域内使用局部高斯过程模型,并且可以同时维护多个区域。局部建模无需用单一的平稳模型来解释整个复杂定义域。不过,局部搜索的成功并不意味着获得了全局保证,因此,重启机制以及在各区域之间分配资源的机制仍然十分重要。

通过学习得到的表示可以利用以往的实验、相关任务或结构化输入。例如,神经网络嵌入可以将庞大的配置描述映射到一个较小的空间,再在该空间上构建高斯过程。这将贝叶斯优化与降维和迁移学习联系起来。这种表示必须保留对优化至关重要的差异,而不能仅仅善于重构输入或预测平均结果。在目标任务数据极少的情况下,同时学习表示与不确定性尤其困难。

不存在一个普适的维数阈值,使得贝叶斯优化一旦超过该阈值就不再有效。具有很强局部性或稀疏性的百变量问题,可能比包含狭窄的不连续区域且缺乏可供预测利用的结构的十变量问题更容易处理。评估成本同样重要:成本高昂的实验可能值得采用复杂的结构模型,而评估成本低的目标函数则可能更适合搜索范围更广的直接搜索策略。与单纯的坐标数量相比,有效维数、交互结构、噪声和可用的先验信息更具参考价值。

收敛性、遗憾与理论保证的局限

理论分析通常通过遗憾来衡量性能。对于最大化问题,经过 TT 次评估后的累积遗憾为

RT=∑t=1T[f(x⋆)−f(xt)].R_T=\sum_{t=1}^{T}\bigl[f(x^\star)-f(x_t)\bigr].

这一准则会惩罚每一次表现不佳的评估,因此,当每次实际执行的决策都会产生即时后果时,采用这一准则很自然。相比之下,简单遗憾衡量的是最终推荐方案的质量:

rT=f(x⋆)−f(x^T).r_T=f(x^\star)-f(\widehat x_T).

这一区别对实验优化很重要。一次信息量很大但表现不佳的实验,可能改善最终结果,却同时增加累积遗憾。

贝叶斯优化与多臂老虎机问题密切相关。在臂空间连续的情形下,候选决策之间存在相关性,因此在某一点获得的观测也能提供有关其他点的信息。高斯过程置信上界方法的分析,尤其是 Niranjan Srinivas 及其合作者于 2010 年发表的工作,将遗憾与在所选核下能够从观测中获取的信息联系起来。这有助于解释核的结构如何影响可学习性,而不是将所有搜索空间视为同样困难。

一种典型的复杂度度量是最大信息增益,

γT=max⁡A: ∣A∣=TI(yA;fA),\gamma_T= \max_{A:\,|A|=T} I(y_A;f_A),

其中,II 表示互信息,AA 表示允许选取的一组评估位置。在适当的假设下,遗憾界的概括性形式涉及

RT=O ⁣(TβTγT),R_T=O\!\left(\sqrt{T\beta_T\gamma_T}\right),

具体结果还可能包含额外的常数或对数因子。次线性的累积遗憾意味着平均遗憾趋于零。这一表达式并不是对所有高斯过程优化算法的普遍保证;它概括的是一系列基于特定假设的分析。

这些假设可能要求目标函数服从给定的高斯过程先验,或要求其在相应的再生核希尔伯特空间中的范数有界。噪声条件、定义域的正则性、核参数,以及采集函数最大化的精度也都很重要。平滑性假设限制了尚未发现的最优值附近区域能够有多狭窄或多不规则。如果没有这类结构性约束,有限次观测就无法排除尚未访问的区域中存在任意高峰值的可能性。

实际实现通常会估计核参数、采用近似后验分布,并且只对采集函数进行近似优化。针对固定且已知的核所证明的定理,并不会自动涵盖这些调整。同样,渐近收敛本身也无法充分说明,在进行了二十次或五十次昂贵实验后,算法究竟表现如何。有限预算下的表现,在很大程度上取决于常数、初始化方式,以及模型假设与真实目标函数的吻合程度。

模型误设仍然是一个核心局限。过于平滑的核可能会抹平突变,而过度自信的不确定性估计可能会阻碍对被忽略区域的探索。重尾噪声、非平稳性,以及实验条件中未被察觉的变化,都可能使名义上的不确定性界失效。稳健建模和诊断检查能够揭示其中一些问题,但理论保证始终只是针对明确数学条件所作的陈述,而不是全局最优性的无条件证明。

应用、基准测试与结果解读

贝叶斯优化的一项主要应用是机器学习中的超参数优化。输入可以指定正则化强度、学习率、架构选择或数据处理设置,而目标则是训练后的验证分数。贾斯珀·斯诺克、雨果·拉罗谢尔和瑞安·亚当斯在 2012 年的工作,推动了基于高斯过程的贝叶斯优化在这一领域的普及。这类问题天然兼具评估代价高、结果含噪声,以及参数的有效取值范围跨越多个数量级等特点。

必须谨慎解读所优化的目标。在反复使用的验证集上的表现,并不等同于在新数据上的表现。搜索大量配置可能导致对验证指标的过拟合,而训练过程中的随机性也可能掩盖细微差异。交叉验证、独立的最终评估,以及明确考虑使用不同随机种子重复运行的结果,分别应对这一问题的不同方面。贝叶斯优化改善的是搜索资源的分配方式,并不能消除最终性能结论中的统计不确定性。

在工程领域,候选方案可以是通过有限元仿真、计算流体力学或其他数值模型进行评估的设计。相关约束可能涉及应力、重量、效率和制造可行性。当一次评估需要数小时时,基于代理模型的优化很有吸引力,但其结果仍以仿真模型的保真度为前提。针对数值近似进行优化的设计,可能会利用该近似本身引入的假象,因此,高保真度验证是有别于优化过程本身的环节。

实验室应用包括反应条件选择、配方开发和材料发现。候选方案可以编码组成、温度、处理时间或仪器设置。在这些应用中,观测噪声可能包括批次效应、样本差异和漂移。自动化平台可以在模型拟合与实体实验之间形成闭环,但要使提出的实验能够实际执行,就必须将操作限制纳入建模,例如可用试剂、准备成本和允许的实验顺序。

基准测试不能只比较图中哪条曲线表现最好。相关基线应包括随机搜索、适当的空间填充设计,以及适合该领域的成熟优化方法。比较时应说明初始数据、评估预算、并行资源、采集函数的计算开销和失败处理方式。各次评估成本相近时,统计评估次数是合适的;成本不同时,实际耗时或经济成本更有参考价值。多次独立运行可以揭示结果对初始化和随机性的敏感程度。

最后,所报告的成功程度取决于如何衡量当前最优解。在含噪声的任务中,最佳观测分数是经过择优选取得到的,因此存在乐观偏差;相比之下,独立重新评估所得的性能更能直接估计推荐方案的质量。人工构造的基准测试函数可以单独考察数学行为,但未必能再现真实噪声、条件参数或实验失败。使用历史实验日志时也需要谨慎:新的优化器可能选择日志中未曾出现的点,因此,仅回放已有记录中的观测结果,通常无法确定该优化器在实际前瞻性运行中会有怎样的表现。