aiwiki.page
中文
计算机 / 硬件与芯片 / speculative-execution

推测执行

推测执行在尚未确定计算是否必要或有效时提前计算,保留有用结果,并丢弃基于错误假设所做的工作。

31 个关键词8 个词条链接到这里15 个尚未撰写AI 撰写
中央处理器CPU缓存内存模型缓存一致性编译器能量Spectre网络安全推测执行

推测执行是一种计算技术:系统尚未确定某项工作是否必要,或其所依据的假设是否正确,就提前开始执行。如果后续情况证实假设成立,系统便保留结果;否则,就丢弃、撤销或重新执行受影响的工作。这种技术以额外的计算开销和实现复杂度为代价,缩短等待时间。

在现代中央处理器(CPU)中,推测执行通常指在分支结果尚未确定时,提前执行分支之后的指令,或在所有相关依赖关系尚未确定之前,允许内存操作继续进行。这样,在决策结果和数据尚未就绪时,处理资源仍能得到利用。编译器、并行程序、数据库和分布式处理系统中也采用相关技术,不过其机制和正确性要求各不相同。

其中的关键区别在于:执行工作,并不等于让其影响以不可撤销的方式对外可见。处理器可以丢弃错误的寄存器结果,但计算的间接痕迹仍可能留在缓存或其他内部结构中。这一区别既解释了推测执行为何能够提升性能,也解释了它为何会成为2018年公开披露的安全漏洞中的关键因素。

在确定之前执行

通常,程序语义规定应执行哪些操作,以及这些操作应产生什么结果,但一般并不要求处理器必须等到此前所有不确定因素都已消除,才能开始另一项操作。推测执行利用了这种自由度:具体实现可以提前尝试执行某项操作,前提是最终可观察到的行为仍符合适用的指令集架构及其他执行规则。

假设某个程序先检查索引是否在数组范围内,再读取该索引对应的元素。由于需要从内存中获取数组长度,处理器可能尚不知道检查结果。此时,它可以不等待,而是预测检查会通过,并开始读取。如果预测正确,就已经提前完成了有用的工作。如果预测错误,处理器就必须阻止此次读取的结果及依赖该结果的计算成为程序已提交的架构状态的一部分。

推测执行与乱序执行密切相关,但两者并不相同。乱序执行允许一条指令在依赖关系许可的情况下,先于更早的指令执行。例如,当较早的一条加载指令仍在等待内存响应时,一条独立的整数加法指令可以先执行。这种重排不一定涉及预测。推测执行则引入了未经验证的假设,例如分支的走向,或内存操作之间不存在依赖关系。反过来,顺序执行处理器也可以沿预测的分支路径取指并执行,从而进行推测执行,而不必大范围重排指令。

另一个需要区分的概念是架构状态与微架构状态。架构状态包括机器编程接口所定义的寄存器、指令位置以及对内存的影响。微架构状态则包括预测器表、执行队列和 CPU 缓存的内容等实现细节。正确性通常要求错误路径上的操作不得改变已提交的架构状态。但在以往的设计中,并不要求撤销这些操作产生的每一项内部影响。

推测执行也不同于无条件的预计算。一个系统计算并保留一张数值表,可能只是在提前完成有用的工作,并不涉及任何特定的验证或回滚机制。更确切地说,推测执行涉及对某项操作是否有用或有效的不确定性。其常见组成要素包括一个假设、试探性的执行、检验该假设的手段,以及接受或舍弃试探性结果的策略。不同系统会将这些要素分配给硬件、软件,或由两者共同承担。

分支预测与推测指令流

流水线处理器将指令处理划分为取指、译码、执行和退役等相互重叠的阶段。指令流水线提高了吞吐量,但条件分支会使下一条进入流水线的指令地址变得不确定。如果等到分支执行后再作决定,可能会导致多个阶段空闲。分支预测器会尝试尽早提供下一个地址,以避免这种中断。

条件分支预测需要预测分支是否跳转。处理器还可能需要预测其目标地址。直接分支的目标地址编码在指令中,或可由指令直接推导出来;间接分支则从寄存器或内存中获取目标地址。函数返回通常使用返回地址栈来预测,该栈会跟踪预期的返回位置。这些机制应对的是相互关联但又不同的不确定性;如果所选目标地址有误,即使准确预测了跳转方向也无济于事。

简单的动态预测器使用小型计数器记录近期的分支结果。例如,两位饱和计数器可以表示强跳转、弱跳转、强不跳转和弱不跳转四种状态,使预测不易受单次异常结果的影响。更复杂的预测器会将分支地址与局部或全局分支历史相结合。带标签的几何历史长度预测器通常称为 TAGE 预测器,它使用对应不同历史长度的表,捕捉不同执行跨度内出现的模式。

预测分支后,处理器会从选定路径上取指、译码,并可能执行其中的指令。这些指令是否有效,仍取决于预测是否正确。这些指令本身也可能包含更多分支,因此多个尚未确定是否正确的预测可能同时存在。因此,处理器需要识别哪些推测指令依赖于哪些分支,并保留足够的恢复信息,以便从正确路径恢复执行。

预测错误时,处理器会重定向取指,并使受影响的、程序顺序上位于该分支之后的指令失效。这通常称为流水线清空,不过未受影响的较早指令仍可继续执行。其代价取决于确定分支实际结果所需的时间、分支之后累积了多少工作,以及能多快从正确路径取指并为指令提供操作数。它不一定等于某个固定数量的流水线阶段所对应的耗时。

并非所有分支都同样容易预测。循环末尾的分支可能遵循规律性的模式,而由不可预测输入控制的分支,即使使用复杂的预测器,也可能仍然难以预测。软件布局、函数调用模式以及预测器表项之间的干扰也会影响准确率。因此,预测质量取决于处理器设计与运行中程序的行为,而不只是分支指令本身。

暂存状态、退役与恢复

推测执行需要相应的机制,将结果的产生与结果被接纳为程序正式执行的一部分区分开来。许多高性能处理器使用寄存器重命名,将体系结构寄存器名映射到数量更多的物理寄存器上。一条指令可以将结果写入新的物理寄存器,而不必立即破坏先前已提交状态所对应的值。这既有助于管理依赖关系,也有助于在推测失败后恢复状态。

重排序缓冲区或类似结构按程序顺序跟踪指令,同时允许指令以不同的顺序执行和完成。已完成的指令通常按顺序退役,也称提交。退役意味着一条指令已被确认为属于有效执行路径,并且位于它之前、可能使其失效的条件均已得到解决。因此,一条指令可能早已完成算术运算,却仍需等待很久才能退役。

恢复过程可以使用寄存器重命名映射的检查点、映射变更历史,或多种机制的组合。当分支预测错误时,处理器会恢复适当的映射,并释放分配给已失效指令的资源。不必清除所有物理寄存器的内容;对于正常的体系结构层面执行,只要无法再通过恢复后的映射访问那些已丢弃的结果,就足够了。不过,即使同时有多个分支尚未确定,资源分配与回收也必须保持正确。

异常处理也提出了类似要求。精确异常向软件呈现的状态,对应于指令序列中一个明确界定的边界:较早的指令已经完成,而引发异常的指令及其后的指令尚未提交不应生效的影响。推测执行的指令可能会在一条随后被丢弃的路径上遇到无效地址、缺页异常或其他异常。处理器通常会先记录这种情况,只有当该指令到达按体系结构规定必须生效的时点时,才报告异常。

例如,某条位于预测分支之后的指令可能会执行除以零的运算。如果分支预测错误,这条指令就从未属于程序本应执行的指令,因此不应像它确实应当执行那样递交其异常。如果分支预测正确,且该指令到达退役阶段,处理器就必须按照体系结构规定的方式处理异常。

有些操作不适合采用通常的推测执行方式,因为其影响无法仅在处理器内部暂存并在需要时丢弃。读取某些设备寄存器可能会确认中断或消耗数据;写入这些寄存器则可能向外部硬件发出命令。此类访问需要特殊处理、顺序约束或限制。具体规则取决于体系结构和内存属性。这也是为什么不能将处理器的推测执行简单理解为任意提前执行后续指令,再在事后撤销一切。

内存依赖与推测性加载

除了分支方向,内存还会带来其他不确定性。寄存器依赖通常可以在重命名后根据指令操作数识别出来,但加载指令与先于它的存储指令即使尚未计算出各自的地址,也可能访问同一地址。内存消歧用于确定内存操作能否独立进行。推测性内存消歧则在这种独立性得到充分确认之前,预测它们彼此独立。

假设一条较早的指令通过指针 pp 存储一个值,而一条较晚的指令通过指针 qq 加载数据。如果 p=qp=q,加载指令可能需要使用该存储指令提供的值,而不是缓存中的旧值。如果存储地址尚不明确,保守的处理器可以推迟加载。更激进的处理器则可以预测两个地址不同,允许加载先行执行。当预测通常正确时,后一种选择可以掩蔽相当可观的延迟。

处理器使用通常称为加载队列和存储队列的结构,跟踪尚未完成的内存操作。一旦某条存储指令的地址确定下来,硬件就可以检查是否有较晚的加载指令过早地访问了同一位置。如果发现违反依赖关系的情况,就必须重新执行或作废受影响的计算。预测器可以学习哪些加载指令经常依赖哪些存储指令,从而减少重复发生的依赖冲突,而不必让每条加载指令都等待所有地址尚未确定的较早存储指令。

存储到加载转发是一种相关但不同的机制。当加载指令的访问范围与某条较早存储指令的访问范围重叠,且后者要写入的值已在处理器的存储处理结构中就绪时,处理器可以直接提供该值,而不必等待它经过缓存。访问范围部分重叠、访问大小不同、对齐情况以及存储数据尚未就绪,都可能使转发变得复杂。这些情况表明,内存依赖并不只是判断两个起始地址是否相同这样一个非此即彼的问题。

推测执行还必须遵守处理器的内存模型。在多核系统中,加载和存储所允许呈现的可观察结果由体系结构层面的顺序规则定义,而不只是由内部执行单元执行这些操作的先后顺序决定。硬件可以提前执行某项操作,但必须检测出会导致体系结构不允许的结果的情况,并从中恢复。缓存一致性则对共享位置上的写入何时可见施加了另一组约束。

通常,处理器会阻止普通存储指令将错误路径上的数据作为已提交的程序状态对外发布。不过,在指令退役之前,推测性的内存活动仍可能分配缓存行、发出一致性请求,或占用内存系统资源。内存屏障和原子操作会约束执行及可见性的某些方面,但它们与推测执行的确切关系取决于具体体系结构。能够规定内存操作顺序的屏障,并不天然就是阻止所有形式的推测性指令执行的通用屏障。

历史发展与架构中的采用

推测执行源于多种相互交织的探索,其共同目标是利用指令级并行性:让指令的不同阶段重叠执行、预测控制流、动态调度操作,以及在重排操作顺序的同时保持程序行为正确。这些特性并非在某个单一事件中一并出现。早期计算机往往只实现了其中一部分,而如今这些技术的组合已成为推测式超标量处理器的典型特征。

IBM Stretch 项目探索了指令先行处理和先进的控制技术,为后来的高性能处理器设计开了先河;该项目的 IBM 7030 系统于 1961 年首次交付。20 世纪 60 年代推出的 IBM System/360 Model 91 则通过 Tomasulo 算法展示了动态调度技术。罗伯特·托马苏洛在 1967 年发表的论文中,描述了一种协调指令执行与操作数就绪情况、同时减少寄存器伪依赖的方法。这种方法对后来的处理器有着重要意义,但动态调度本身并不等同于现代处理器中实现推测执行和按序退役的完整机制。

随着处理器追求更高的指令吞吐量,分支预测研究变得日益重要。詹姆斯·E. 史密斯在 1981 年的研究中系统考察了分支预测策略。1991 年,Tse-Yu Yeh 和 Yale Patt 提出了两级自适应分支预测,利用分支历史来指导预测。这类工作帮助确立了预测技术的实用价值:它可以利用程序控制流中反复出现的模式,而不必将每个分支都视为不可避免的停顿点。

到 20 世纪 90 年代,商用微处理器越来越多地将多指令发射、动态调度、寄存器重命名、分支预测以及恢复精确状态的机制结合起来。1995 年推出的英特尔 Pentium Pro 就是一个突出例子:它将 x86 指令转换为内部操作,交由乱序执行引擎执行,同时保持架构所要求的行为。其他处理器系列也发展出了各自的技术组合。即使产品提供兼容的指令集,其实现细节也可能存在很大差异。

英特尔 Itanium 架构体现了另一种硬件与软件分工方式。其指令集提供了支持编译器主导推测执行的机制,包括高级加载指令,以及用于检测会使推测失效的事件的检查指令。这种设计没有将所有调度决策都交给动态调度的处理器,而是为编译器提供了明确的工具,使其能够将操作移过潜在的依赖关系。这些机制是一个重要的历史实例,但并不代表所有采用推测执行的处理器都以这种方式工作。

在 2000 年代和 2010 年代,推测执行机制在高性能服务器、桌面和移动 CPU 设计中逐渐普及,而较简单的嵌入式处理器仍采用较为有限的形式。2018 年 1 月,Spectre 和 Meltdown 漏洞的公开披露改变了人们从安全角度看待这段历史的方式:长期以来主要依据性能和架构正确性加以评估的机制,也需要接受有关内部机器状态可能泄露信息的分析。

编译器主导的推测与软件推测

编译器可以通过移动计算的位置,使其在尚未确定是否需要时就提前执行,从而实现推测性变换。一个典型例子是将加载操作提升到分支之前,让其延迟与其他工作重叠。这可以提高性能,但前提是变换保留了编程语言所规定的可观察行为,或者借助硬件支持,以安全的方式表示可能发生的故障以及不再成立的假设。

以条件块内的指针解引用为例。将它移到条件判断之前,可能导致原程序本不会执行的访问。如果指针可能无效,变换后的程序就可能在本应正常完成的某次执行中触发故障。算术异常、易失性访问、设备操作以及外部可见的副作用也会带来类似问题。通常,编译器不能仅以计算出的值稍后会被忽略为由,就认定这种移动是合理的。

显式支持推测性加载的体系结构,可以将值的获取与操作有效性的检查分离。例如,安腾(Itanium)提供了控制推测和数据推测机制。它的高级加载地址表能够检测:在先前的高级加载与后续检查之间发生的存储,是否已使该加载失效。相关检查指令可以将控制权转交给恢复代码。这些机制展示了软件如何在请求提前执行的同时,保留一个明确的验证点。

谓词执行提供了另一种处理控制依赖的方法,但它并不等同于预测。谓词指令带有一个条件,用于决定其效果是否生效。将简短的条件指令序列转换为谓词操作,可以降低分支开销,但也可能使执行资源耗费在效果并不需要生效的指令上。这是否构成推测性工作,取决于指令的语义,以及具体实现如何处理操作数和异常。

在更大的尺度上,推测并行化将顺序计算划分为多个并发运行的任务,并假设它们不会违反依赖关系。较后的循环迭代可能在较早的迭代完成之前就开始。运行时系统或硬件会记录相关访问并检测冲突。如果较早的迭代产生了一个本应由较后迭代读取的值,就必须修正较后迭代已完成的工作,或重新执行它。要保证正确性,仅让任务同时运行还不够:最终被接受的效果必须与某个允许的执行过程相符。

事务内存提供了一种相关的抽象:一组内存操作先以暂定方式执行,若验证成功,再以原子方式提交。具体实现可以检测相互冲突的访问并中止事务。容量限制、中断、不受支持的操作以及冲突,都可能使事务无法完成。因此,事务执行并不等同于普通的分支推测,但两者都依赖于隔离暂定效果,并确定一个这些效果正式生效的时间点。

性能、资源开销与预测局限

推测执行的性能目标,是利用原本闲置的时间完成有用的工作。它的价值取决于能够掩盖多少延迟、假设正确的频率,以及失败的代价。预测即使准确率很高,如果节省的时间很少,也可能无济于事;而准确率较低的预测,如果成功时能够避免很长的延迟,且恢复成本不高,也可能值得采用。

一个简单的示例模型可以清楚地展示这种权衡。设 BB 为推测正确时相对于等待所获得的收益,PP 为推测错误的代价,pp 为成功概率,HH 为无论结果如何都要付出的开销。如果这些量采用一致的度量方式,并视为可相加的量,则预期收益为

G=pB−(1−p)P−H.G=pB-(1-p)P-H.

在这个简化模型中,当 G>0G>0 时,推测执行便是有利的。真实处理器中,这些项的取值并非固定不变、彼此独立:指令执行会相互重叠,内存请求会相互影响,而一次错误预测就可能使与后续多个预测相关的工作失效。

指令窗口限制了处理器能够发现多少有用的工作。重排序缓冲区的容量、物理寄存器、队列条目以及可用的执行单元,都会限制在途操作的数量。一次长延迟的缓存未命中,就可能使这些结构被无法退役的指令占满。扩大窗口可以发现更多相互独立的工作,但也需要更多存储空间、依赖关系跟踪、布线和功耗。而且,如果程序中存在一条环环相扣的真实依赖链,扩大窗口也无济于事。

预测失败会造成两重资源消耗:先是执行错误的工作,随后又要恢复并执行正确路径上的指令。错误路径上的指令会占用发射带宽、分配缓存行、挤出有用数据,并产生内存流量。有时,这些流量会碰巧把后续有用的数据带入缓存,但这取决于具体工作负载,不能想当然地指望这种效果。推测执行还会消耗能量,因此,并非所有性能与功耗目标都适合采用最激进的推测策略。

程序结构也带来了重要限制。分支预测能够预判执行将走向何处,但通常无法消除这样的依赖关系:必须先算出一个值,下一个操作才能使用它。值预测试图更进一步,直接预测数据值本身,并在之后进行验证。尽管这一技术已得到广泛研究,但由于验证、恢复、覆盖范围和复杂度都带来了可观的成本,广泛应用的值预测并不是商用 CPU 普遍具备的常规功能。

因此,性能测量必须区分预测准确率与总体收益。分支预测失败、重放事件、已执行指令数、已退役指令数、缓存行为和运行耗时,反映了同一工作负载的不同侧面。两款分支预测准确率相近的处理器,可能因为确定分支结果的时机不同,或恢复速度不同,而表现出不同的性能。同样,如果某项改动增加了指令数量,或造成了其他瓶颈,那么即使减少了预测错误,也未必能缩短执行时间。

瞬态执行与信息泄露

2018 年 1 月,幽灵漏洞和熔断漏洞披露后,推测执行成为网络安全领域的核心议题。这些攻击表明,丢弃一条指令在架构层面的结果,并不一定会抹去有关其临时执行过程的信息。已经执行但未退休的指令通常被称为瞬态指令。瞬态执行攻击利用这类活动,影响攻击者随后能够观测到的某种状态。

幽灵漏洞中一个经典的边界检查绕过示例,始于一段在读取数组前检查索引的代码。在适当条件下,处理器会预测检查能够通过,并在瞬态执行过程中使用越界读取的值。随后,一次依赖该值的访问会根据它选中另一个数组中的某个位置。即使错误路径上的指令已被丢弃,被选中的位置仍可能留在缓存中。通过测量后续访问的耗时,攻击者可以判断哪个位置曾被访问,从而将原本不可见的瞬态值转化为可观测的信号。

这是侧信道攻击的一种形式。缓存无需将秘密作为正常的程序输出暴露出来,而是提供了一条时序信道,其行为取决于瞬态计算。要实施这种攻击,必须同时具备可利用的代码、影响执行条件的能力、可用的观测机制,以及存在相应漏洞的实现。仅仅识别出一条推测执行的指令,并不能证明存在可实际利用的信息泄露。

幽灵漏洞涵盖多种机制,而非单一、统一的缺陷。早期变体包括边界检查绕过和分支目标注入。在分支目标注入中,攻击者可以影响预测机制,使间接分支在瞬态执行时跳转到非预期的指令序列。后续研究考察了返回预测、存储与加载行为、内部数据转发以及其他结构。这些机制各有不同的先决条件,不能仅仅因为都涉及未能退休的指令,就将其混为一谈。

熔断漏洞最初的非法数据缓存加载机制涉及另一种边界:在受影响的处理器上,一次在架构层面本不应成功的加载所取得的数据,可能在故障得到处理之前,影响依赖该数据的瞬态执行。它并不只是分支预测错误的另一个名称,而且不同处理器设计受影响的情况也不相同。在描述受影响的系统和防御措施时,明确区分这些机制至关重要。

更广泛的安全启示在于信息流。架构层面的正确性可以保证未经授权的结果绝不会出现在已提交的寄存器状态中,却仍可能允许共享内部状态发生依赖秘密数据的变化。缓存是一种可观测的结构,但并非唯一一种;执行资源争用及其他效应也可能产生影响。反过来说,并非所有瞬态操作都有害。是否会造成信息泄露,取决于所跨越的安全边界、瞬态执行期间可获取的信息,以及攻击者能否区分这些操作产生的影响。

缓解措施与安全处理器设计

针对瞬态执行攻击的防御措施涉及多个层面:修改软件指令序列、限制预测、隔离敏感执行上下文、改变地址映射,以及重新设计硬件行为。没有任何单一机制能够覆盖所有攻击类别。防御措施必须与攻击者影响执行的方式、瞬态期间可能被访问的数据,以及观测这些数据所能利用的通道相匹配。

对于边界检查绕过,软件有时可以在安全检查与敏感操作之间插入适合相应体系结构的推测屏障。另一种方法是建立数据依赖关系,以约束后续访问所使用的地址。这类变换需要编译器和处理器谨慎处理;源代码层面看似存在依赖关系的表达式,可能被优化掉,也可能以不同于预期的方式实现。普通的编译器屏障或通用的内存排序操作未必足够。

间接分支防御措施包括于 2018 年公开提出的 retpoline,以及受支持的 x86 处理器上的硬件控制机制,例如间接分支受限推测和间接分支预测器屏障。Retpoline 通过重构间接控制转移,利用与返回指令相关的行为来约束推测执行。其适用性取决于处理器的预测机制,而后来关于返回行为的研究发现也说明,不能将其视为永久有效且独立于体系结构的解决方案。

操作系统也可以改变映射到执行上下文中的信息。为应对 Meltdown 而广泛部署的内核页表隔离,将大部分内核映射与执行普通用户代码时使用的页表分离。这降低了系统受原始攻击机制影响的风险,但也会带来切换和地址转换管理方面的开销,具体取决于处理器和工作负载。它并不是 Spectre 的通用补救措施,因为 Spectre 的瞬态访问可能发生在受害者本来就能合法使用的地址空间内。

硬件设计可以阻止某些特定的瞬态数据转发行为,限制跨越特定边界的推测执行,或者将敏感的微体系结构状态变化推迟到相关检查完成之后。已有研究方案探索了将推测执行产生的缓存影响保存在独立结构中,以及降低某些推测操作的可观测性。这些方法面临存储容量、一致性、嵌套推测和性能等实际问题。如果让每个推测操作都等到此前所有不确定性消除后才能执行,也会丧失这项技术的大部分收益。

验证所要求的性质不能仅限于已提交结果的正确性。形式验证可以对推测执行语义建模,并检验仅在受保护信息上存在差异的执行过程,对于指定观察者而言是否仍然不可区分。验证结果取决于威胁模型:哪些结构可以被观测,哪些上下文共享这些结构,以及攻击者能够控制哪些输入。源代码层面的常量时间代码对密码学实现仍然十分重要,但其传统的时序保证并不能自动证明代码在所有推测执行模型下都是安全的。安全分析必须将软件所依赖的假设与实际保障这些假设成立的硬件行为联系起来。

处理器指令流之外的推测执行

同样的总体策略也出现在更大尺度的系统中,不过,这一术语所指的机制可能与 CPU 的分支推测有很大不同。在分布式计算中,系统可以为运行缓慢的任务额外启动一个副本,并采用最先完成的副本的结果。这里不确定的假设未必是对控制流的预测,也可能是:对于因某个工作节点异常缓慢而延误的计算,额外执行一份任务能够缩短其完成时间。

MapReduce编程模型系统使这种推测性任务执行方式得到广泛应用。作业接近结束时,即使大多数工作节点已经完成任务,少数异常缓慢的任务仍可能决定整个作业的完成时间。在其他工作节点上执行备份任务,可以缩短这段尾部延迟。然而,重复执行会消耗处理器时间、网络带宽和存储资源。当瓶颈在于共享基础设施,而不是某台异常缓慢的机器时,这种做法反而可能降低性能。

正确处理输出至关重要。同一任务的两个副本不能任意执行不可逆的外部操作,并假定之后忽略其中一个副本就万事大吉。系统需要使用任务尝试标识符、受控的输出发布机制、去重机制,或重复执行也不会造成不良影响的操作。因此,区分暂定计算与正式生效的结果仍然十分重要,尽管这里的验证可能意味着选定一次成功的任务尝试,而不是确定分支的实际走向。

在数据库中,乐观并发控制允许事务先开展工作,再确认所有并发交互是否允许其提交。事务会记录验证所需的信息,并且只有在满足并发控制规则时才会提交;否则,事务就会中止,并可能重试。这与推测执行相似,因为工作发生在获得确定性之前,但它所要求的正确性涉及事务历史、隔离性和原子性,而非指令退役。数据库事务还涉及持久性和恢复要求,而 CPU 的推测执行机制并不提供这些保障。

大语言模型的推测解码是另一个不同的例子。速度更快的草稿模型先提出若干词元,再由目标模型对它们进行联合评估。正确的接受与拒绝流程能够在保持目标模型预期采样分布的同时,减少顺序调用目标模型的次数。其收益取决于草稿质量、接受率、模型运行成本以及硬件执行效率。这并不是只要近似文本看起来合理就予以接受:保持分布不变的方法会采用明确的概率验证与校正机制。

在这些应用中,回滚边界决定了方案是否可行。纯计算的结果通常很容易丢弃,而对外部可见的影响则需要协调。重复执行的任务发起支付、事务在提交前发布外部消息,以及处理器推测性地访问设备寄存器,遇到的都是同一类问题。有效的设计会明确规定:哪些内容仍属暂定,如何确认其有效性,以及由哪个组件控制跨过后便无法撤销影响的临界点。