预测编码是一种计算策略:系统预测即将到来的信号,并表征预测与实际接收信号之间的差异。这种差异称为预测误差或残差,承载着预测尚未涵盖的信息。在工程领域,这一策略有助于高效传输和存储具有相关性的信号。在神经科学中,预测编码指一组假说,用于解释大脑如何解读感觉输入、学习环境中的规律,以及协调知觉与行动。
神经科学中的核心主张是,神经系统维持着关于感觉输入成因的模型。由这些模型得出的预测会与传入的神经活动进行比较,两者之间的偏差则用于更新模型。层级式预测编码为自上而下的预测和自下而上的预测误差赋予了不同作用。这为知觉为何依赖情境和既往经验,而非对刺激的被动重建,提供了一种可能的解释。
预测编码并不是一种具有统一明确界定的单一理论。工程实现可以得到精确定义并接受直接评估,而生物学领域的各种假说在方程、神经回路和实验预测上各不相同。因此,厘清预测编码与预测加工、贝叶斯推断及主动推断之间的关系十分重要:这些概念虽有重叠,却不能相互替代。
起源与概念范围
预测编码在工程上的依据源于冗余。语音中相邻的采样点、图像中相邻的像素以及视频中连续的帧,往往彼此相关。如果接收端能够根据已有信息,对下一个采样值作出有效预测,发送端就不必单独传输完整的采样值。只要残差的统计分布更为集中,传输残差所需的比特数就可能更少。这种方法的收益既取决于预测器的质量,也取决于对预测误差进行编码的方法。
这一原理属于信息论和数据压缩的范畴,但将其应用于神经系统时,还会引出其他问题。通信系统通常具有明确的发送端、接收端和编码目标。大脑则必须在推断世界中存在什么的同时,学习使其输入变得可预测的统计关系。因此,神经系统中的预测编码不仅关乎通信的经济性,也关乎内部表征的构建与修正。
一个重要的先驱思想,是赫尔曼·冯·亥姆霍兹在十九世纪提出的观点:感知是一种无意识推理。亥姆霍兹认为,仅凭感官刺激不足以唯一确定其外部成因,因此感知依赖于习得的假设。这还不是预测编码的神经回路模型。后来的研究提出了更明确的计算机制。1982年,曼迪亚姆·斯里尼瓦桑、西蒙·劳克林和安德烈亚斯·杜布斯研究了视网膜功能中的预测编码,将神经反应与视觉输入中的统计冗余联系起来。
戴维·芒福德在1992年的研究中提出了皮层区域间双向连接可能承担的计算功能,推动了从层级角度理解皮层信息处理的思路。1999年,拉杰什·拉奥和达纳·巴拉德提出了一个影响深远的模型:较高视觉层级预测较低层级的活动,而残余误差则向上传递。他们的模拟将这一架构与视觉反应中的情境效应联系起来。卡尔·弗里斯顿随后的研究,包括2005年对皮层反应的论述,进一步阐明了层级推断、预测误差与概率模型之间的联系。
应当将这些进展与范围更广的高效编码假说区分开来。高效编码关注的是,在带宽有限、存在噪声或受代谢成本限制等条件下,神经表征如何利用环境的统计特征。预测编码是实现这种高效性的一种可能策略,但高效的表征也可以通过去相关、稀疏编码或其他变换形成。同样,一个系统可以运用预测,却不采用层级预测编码模型所提出的特定消息传递架构来表征误差。因此,历史上的延续性并不意味着这些理论描述的都是同一种机制。
数学表述与层级推断
一个简单的预测编码器以观测信号 、预测值 和误差为基础,其中误差为
在时间预测器中, 可以是先前样本的加权和。在层级知觉模型中,它则可以由更高层的表征生成。例如,推断出的物体可以预测图像特定位置应出现的边缘模式。因此,“预测”不一定指对未来的预报,也可以指对当前已获取、但尚未得到解释的感觉信息的预期。
一种常见的概率表述采用生成模型,规定隐含原因如何产生观测结果。若以 表示感觉数据,以 表示隐含原因,贝叶斯推断就将后验分布与似然及先验联系起来:
似然描述某个假定原因对数据的解释程度;先验则表达在考虑这些数据之前的预期。预测编码的动态过程可以通过迭代调整表征、减小适当的目标函数值来近似实现推断。
对于一个层级结构,令 ,并令映射 根据第 层的活动预测第 层的活动。各层的误差为
在协方差矩阵固定的高斯假设下,目标函数可以写成
其中, 是协方差的逆,即精度矩阵。随后,表征可通过梯度下降演化:
对于中间层,这一更新同时受到两方面的驱动:既要解释下层的活动,又要与上层给出的预测保持一致。
精度决定误差对推断的影响有多强。同样大小的偏差,如果来自可靠信号,就会比来自噪声的偏差获得更大的权重。因此,目标函数关注的是加权后的不一致程度,而不只是原始残差的总大小。如果精度本身也需要推断,那么涉及协方差行列式的归一化项同样重要;省略这些项可能导致学习目标不完整。
这些方程展示的是一类重要模型,而非普遍适用的定义。非高斯似然、离散隐状态、时间动态以及不同的近似方法,都会产生不同的更新规则。有些模型只估计最可能的隐状态,另一些模型则通过变分推断近似刻画不确定性。因此,在特定假设下,预测编码与贝叶斯推理相容,但一个最小化平方误差的网络并不会自动成为精确的贝叶斯推断系统。
提出的神经回路
层级预测编码为大脑皮层中的双向连接赋予了计算功能。较高层级的皮层区域对较低层级区域的活动生成预测,而较低层级区域则向上传递尚未被较高层级区域解释的偏差信息。这种架构的依据,是解剖学上广泛存在的上行连接和下行连接。这些连接的存在已得到充分证实;但将其对应于特定的数学信息,仍是一种需要独立证据支持的假说。
一种受到广泛讨论的回路方案区分了表征单元与误差单元。表征单元编码对潜在原因的估计。误差单元将传入活动与预测进行比较,并传递残差。下行通路可能通过调动抑制性回路来减去预测输入,而上行通路则可能传递剩余的误差。单个神经元不一定要独自执行真正的算术减法:兴奋、抑制与神经元增益变化的共同作用,也能产生类似减法的效果。
一些典型微回路模型将浅层锥体细胞群与上行误差联系起来,将深层锥体细胞群与下行预测联系起来。这一方案的部分依据,是皮层投射的起始层和终止层。然而,不同区域的皮层组织结构有所差异,各类投射也无法与某一个计算标签一一对应。反馈可以使某些细胞兴奋、抑制另一些细胞,也可以改变细胞对同时到达的输入的敏感性。主要起调节反应作用的连接,与直接驱动反应的连接,可能实现的是不同的运算。
如何表征带符号的误差是另一个难题。数学上的残差可正可负,但放电频率不能低于零。提出的解决方案包括:分别用不同的细胞群表征正误差和负误差,以高于或低于基线的偏离来表示误差,或者通过群体编码,以细胞群的联合活动表征带符号的量。每种方案都会产生不同的实验预期。例如,预期刺激未出现时,可能优先招募某一细胞群;而刺激强度意外偏高时,则可能招募另一细胞群。
活动的时序与节律还可能提供额外的约束。一些研究将前馈通信与相对高频的活动联系起来,将反馈与较低频的活动联系起来,但频段并不能唯一标识预测或误差。信号的含义取决于其来源、去向、行为情境,以及它与其他竞争性解释变量的关系。测量突触、树突活动或动作电位时,也应保持同样的谨慎:某种反应可以与惊异程度相关,却未必就是某一特定模型所要求的误差项。
因此,要使模型具有生物学上的解释力,仅仅解释反馈的存在还不够。模型必须明确:哪些细胞在比较哪些量,不确定性如何改变这些细胞的影响力,以及局部回路如何产生模型预测的动态变化。解剖学上的合理性是预测编码必须满足的约束条件,但其本身并不能证明这一机制。
感觉证据:情境、偏差与遗漏
视觉加工提供了几个颇具影响力的例子。神经元的感受野是指能够影响其活动的区域或刺激配置,但神经元的反应也取决于周围情境。在视觉皮层中,一条线段如果构成可预测的延伸轮廓的一部分,其诱发的活动可能弱于它出现在较不符合预期的排列中时所诱发的活动。Rao 和 Ballard 于 1999 年提出的模型展示了:当高层对低层输入作出解释时,情境抑制和某些经典感受野之外的效应如何由此产生。
这些发现与预测编码相符,但并不能据此唯一确定预测编码就是其机制。周边抑制也可能通过归一化、侧向相互作用以及其他神经回路机制产生。此外,熟悉或符合预期的刺激也可能因感觉适应而诱发较弱的活动,而不依赖于明确的预测。因此,实验需要区分概率、重复、注意以及刺激物理特征差异的影响,而不能将反应减弱直接视为预测成功的指标。
听觉偏差检测在这方面尤为重要。在 oddball(偏差刺激)实验中,频繁出现的标准声音之间会插入较少出现的偏差声音。人类脑电图检查往往能记录到失匹配负波,这是一种负向的事件相关电位成分,通常在变化发生后约 100–250 毫秒出现,具体时间取决于刺激和实验条件。预测理论将这种反应的一部分解读为听觉系统已经学会规律、并对违反规律的情况发出信号的证据。适应以及刺激特异性的反应特性也有贡献,因此,仅凭常规 oddball 实验中的对比尚无法确定其机制。
对照设计有助于更好地区分不同解释。在等概率序列中,同一种声音的出现频率可以与它作为偏差刺激时相同,但序列中并不存在占主导地位、反复出现的标准声音。另一些设计则在控制紧邻重复的同时操纵高阶序列。对违反关系规则的刺激所产生的反应尤其值得关注,例如,一对音调之间的音高变化方向出现意外改变,因为这类规则不能简化为某一种物理声音的出现频率。
遗漏实验检验的是一种互补情形:预测中的事件并未发生。在预期时刻出现的神经活动,可能表明系统表征了一个实际上并未呈现的事件。2012 年,Georg Keller 及其同事报告称,在小鼠运动过程中,若视觉流意外停止,一些视觉皮层神经元会作出反应。这些视觉—运动失匹配反应,为系统将运动相关预期与感觉输入进行比较提供了证据。不过,遗漏、唤醒、运动以及行为相关性之间可能存在相互作用。最有力的解释应来自能够预测各受控条件下反应模式的模型,而不是将每一种异常反应都标记为预测误差。
精度、注意与知觉解释
预测误差的可靠性各不相同。清晰视觉场景中的微小偏差,可能比浓雾中的巨大偏差更值得重视。在统计学中,对于标量高斯变量,精度是方差的倒数;在多变量情形下,精度则是协方差矩阵的逆矩阵。精度加权使预测编码系统能够区分有信息价值的不一致与很可能只是噪声的波动。
一个简单的线索整合例子可以具体说明这一点。假设两个相互独立的高斯线索估计同一个位置,均值分别为 ,精度分别为 。当先验分布足够宽时,整合后的估计为
可靠性更高的线索获得更大的权重。预测编码网络可以通过施加于误差信号的增益来近似实现相关计算。这是在计算层面对如何依据可靠性进行推断的解释;仅仅观察到这类行为,并不能证明某一种特定的神经实现机制。
一种颇具影响力的观点认为,注意就是对预期精度的选择性增强。将注意投向某个位置、特征或感觉模态,会增强来自该来源的误差的影响。这有助于解释:为什么预期会降低神经反应,而注意却能增强神经反应。一个得到准确预测的刺激,可能只产生很小的未加权误差,但如果相应信号被赋予很高的精度,其残余偏差仍可能产生显著影响。
不过,预期与注意仍是不同的实验变量。一个刺激可能出现概率很高,却与任务无关;也可能出现概率很低,却极为重要。行为目标、奖赏和感觉信号的质量可以通过不同方式改变加工过程。试图用精度解释所有这些效应的模型,必须说明精度如何估计,以及由哪些神经过程实现对精度的调节。否则,精度就有可能沦为一种可任意调整、在观察到结果后才贴上的标签。
当输入含糊不清或质量下降时,先验预期也会影响知觉内容。熟悉的结构可能有助于识别被遮挡的物体,而不恰当的预期则可能使解释产生偏差。预测编码将其表述为不同层级上的误差之间的竞争:一种解释既必须说明感觉证据,也必须满足习得结构所施加的约束。先验很强,并不意味着无论感觉数据多么可靠,知觉都可以将其置之不理。
在这里,区分推断出的内容与测量到的活动至关重要。更强的知觉表征可以与误差信号神经元群体活动的减弱同时存在。反过来,活动增强可能意味着尚未消除的偏差,而不是更强的知觉。因此,要解释实验结果,就必须明确说明所记录的神经元群体表征什么,以及在分别独立操纵可靠性、预期和任务要求时,其活动应当如何变化。
动作、感觉运动预测与主动推断
运动会以可预测的方式改变感觉输入。转头会改变视网膜上的图像,移动肢体会产生本体感觉反馈,说话则会带来预期的听觉后果。预测计算有助于区分哪些变化由生物体自身的动作引起,哪些变化源于其他因素。运动相关信号的副本通常称为传出副本或伴随放电,它们提供的信息可用于计算预期的感觉后果。
前向模型预测运动指令所产生的感觉结果。将这一预测与随后的反馈进行比较,有助于估计状态和纠正误差。例如,伸手时遇到意外阻力,会导致预期运动与实际观测到的运动之间出现偏差。这类感觉运动计算与预测编码密切相关,但并不要求认定所有上行感觉活动都由预测误差构成。运动系统可以结合使用预测性机制与非预测性机制。
主动推断扩展了这一推断框架:动作可以改变观测,使其符合预测或偏好结果。知觉推断改变的是对感觉信号成因的估计;动作改变的则是感觉信号本身。在一些表述中,下行的本体感觉预测通过脊髓和脑干的反射机制得到实现。这不同于将下行信号仅仅视为明确的运动指令,不过,所提出的计算变量与生物运动通路之间的对应关系仍有待研究。
自由能原理提供了一个更广泛的数学框架,常与这些模型联系在一起。变分自由能的一个标准表达式为
它可以改写为
其中, 衡量近似后验分布与精确后验分布之间的散度。对 最小化 ,可以改善对后验分布的近似。尽管使用了相同的术语,这一变分量并不等同于热力学中的吉布斯自由能或亥姆霍兹自由能。
在适当的假设下,预测编码可以实现此类推断的一种受限形式,但自由能原理并不必然要求采用某一种特定的预测编码回路。同样,主动推断通常使用期望自由能来评估可能采取的动作,而期望自由能并不等同于当前的感觉误差目标函数。一些表述会在偏好结果与动作预期能够提供的信息之间进行权衡。
一个显而易见的难题是,仅仅减少预测误差,可能会使系统偏向缺乏信息、恒定不变的刺激。主动推断理论通过生物体的模型、先验偏好、时间预期以及信息寻求策略来应对这一问题。这些补充要素都必须得到明确规定。主动推断与模型预测控制及最优控制有着实质性的联系,但共同使用预测,并不意味着它们的目标或生物学解释相同。
学习、可塑性与人工神经网络
预测编码在概念上将推断与学习区分开来。在推断过程中,内部活动发生变化,以解释某个特定观测,而模型参数则保持大致不变。在学习过程中,参数本身发生变化,以便更准确地预测未来的观测。生物系统未必会将这两个过程划分为离散的阶段,但这种区分有助于阐明:短暂的意外与预期的持久改变为何是不同的现象。
对于参数为 的预测 ,平方误差目标所产生的参数更新涉及残差以及预测对这些参数的敏感度:
对于线性映射 ,上式简化为
这一更新将误差信号与突触前活动结合起来。它表面上具有局部性,这是预测编码作为神经可塑性的一种可能解释而受到关注的原因之一。不过,要将每个数学因子对应到生物系统中实际可用的信号,仍需进一步研究。
学习也会改变对不确定性的估计。反复表现出可靠性的感觉关系可能被赋予更高的精确度,而不稳定的关系则可能获得较低的权重。层级模型能够区分普通的观测噪声与底层环境的变化。因此,较大的偏差既可能只引起轻微的知觉修正,因为该观测被视为噪声较大;也可能引发模型的大幅修订,因为先前稳定的规律似乎发生了变化。这些结果取决于模型对变异性与变化所作的假设。
在机器学习中,预测编码网络为人工神经网络的传统训练流程提供了替代方案。一些架构并不是在一次明确独立的反向传播过程中计算所有误差导数,而是迭代调整多个层的活动,再利用局部量更新权重。预测编码与反向传播之间的相似性已在若干模型中得到形式化描述。Whittington 和 Bogacz 于 2017 年展示了在特定条件下,预测编码网络如何能够近似实现误差反向传播学习。
这些关联是有条件的,而非普遍成立。其近似的准确程度取决于活动是否收敛、初始化方式、反馈权重以及扰动幅度等因素。有些架构在每次参数更新前都需要进行大量迭代,这可能增加计算成本。另一些架构放宽了假设,但也改变了学习规则或相应的理论保证。如果看似局部的更新依赖于精确协调的全局阶段,或依赖于生物系统无法获取的权重信息,那么这种局部性并不能自动证明其具有生物学合理性。
预测学习也不同于强化学习。感觉预测误差涉及观测或表征之间的不匹配;奖励预测误差则涉及实际获得与预期的奖励相关量之间的差异。两者可以在同一个智能体中相互作用,但不应混淆它们的目标、学习信号与计算作用。
工程实现与相关估计器
在信号处理中,预测编码是一类具体的方法,而不是关于生物系统组织方式的假说。一种基本实现方式是在编码器和解码器两端使用相同的预测器。编码器从输入中减去预测值,并将残差编码后传输。解码器则将重建的残差加到相同的预测值上。如果计入预测器参数及其他额外开销后,残差仍比原始信号更容易编码,压缩就是有效的。
差分脉冲编码调制体现了这一原理。为了使有损编码器与解码器保持同步,编码器通常根据先前重建的样本进行预测,而不是使用解码器无法获得的原始样本。如果用 表示残差量化,则有
两端使用相同的历史重建样本来生成后续预测。否则,量化差异可能使两端预测器的输出逐渐偏离。量化器和预测器的选择会影响失真、比特率和误差传播。
线性预测编码在语音分析与编码中尤为重要。一个语音样本可以用先前样本的线性组合来近似:
这些系数刻画了一个与声道共振相关的全极点模型,而滤波器预测未能解释的部分则由激励或残差来表示。实际的语音编码器还需要其他组成部分来表示激励、清浊音特征和时变特性;仅仅减去线性预测值,并不足以描述整个系统。
图像和视频压缩在空间和时间维度上采用了类似的思路。图像块可以根据已重建的相邻样本进行预测,视频块则可以根据先前帧或其他参考帧中的区域进行预测。当物体或摄像机移动时,运动补偿可以改善预测效果。H.264/AVC 和 HEVC 等标准将预测与变换编码、量化以及残差信息的熵编码结合起来。它们的性能取决于完整的编码系统,而不只是预测本身。
状态估计中的卡尔曼滤波器提供了一个有用的比较对象。它先预测隐状态,再利用新息来修正这一预测;新息就是观测值与其预测值之间的差异。修正量通过卡尔曼增益,依据不确定性进行加权。对于线性高斯状态空间模型,在其假设成立时,该滤波器能够给出精确的递归推断。这与精度加权的预测更新相似,但具有相同的新息结构,并不意味着每个卡尔曼滤波器都是层级神经预测编码模型。
工程上的成功表明,基于残差的表征可以兼具效率与效果。但这并不能证明神经系统采用相同的编码、优化相同的目标,或以相同的物理通道将预测与误差分开传递。
检验、竞争性解释与未解问题
一个核心难题是,如何将预测编码与“大脑会利用规律”这一宽泛观察区分开来。几乎任何具有适应能力的知觉系统,都会对熟悉事件和陌生事件作出不同反应。因此,有力的检验需要一个明确的模型,预测哪些神经元群承载表征、哪些承载误差,这些信号如何随不确定性变化,以及它们在何时相互作用。如果不作出这些明确限定,就可以通过改变对某个未观测变量的解释,来容纳许多不同的结果。
预期抑制现象就说明了这一问题。对可预测刺激的反应减弱,既符合预测编码,也可能源于重复依赖的适应、注意的变化、表征的锐化,或加工需求的改变。反过来,如果测量主要反映表征单元的活动或与精度有关的增益,那么对预期刺激的反应增强,也不一定能否定所有预测编码模型。只有当模型明确指出相关神经元群,并在实验前预测反应变化的方向时,这种灵活性才具有科学价值。
与简单的平均值对比相比,神经元群记录和因果干预能提供更强的约束。一项有启发性的实验可以独立操纵刺激的出现概率与可靠性,记录大脑皮层不同层的活动,并干扰一条候选反馈通路。神经回路模型不应只预测总体活动的变化,还应预测哪些误差反应会消失、哪些表征会保留,以及行为会如何改变。对照实验还必须确定,干预是否改变了感觉驱动、运动、唤醒水平或整体任务投入程度。
测量尺度同样重要。功能性磁共振成像反映的是神经活动引起的总体血流动力学变化,无法直接区分预测单元与误差单元。电信号和磁信号记录能提供更精细的时间信息,但会混合多个来源的信号。单细胞记录和细胞成像方法具有更高的特异性,但所采样的神经元群未必能揭示完整的计算过程。当行为、记录、扰动实验和定量模型的结果相互印证时,结论最为有力。
另一个尚未解决的问题是,这种架构的适用范围究竟有多广。有些感觉回路可能会高效地抑制可预测成分,而另一些则保留细致的表征,或突出对行为有用的特征。大脑包含循环通路、并行加工通路、神经调质的影响,以及多样的学习机制。预测编码理论必须解释其提出的变量如何与这种组织结构共存,而不能假定每一种反应都服务于同一种普遍的误差最小化功能。
因此,模型比较需要明确的假设、相当的复杂度,以及使用未参与模型选择的数据进行检验。相关的替代理论包括适应模型、归一化回路、前馈识别网络、循环动力系统,以及其他概率推断方案。决定性的问题在于能否识别具体机制:能否将预测内容与残余误差分别测量,可靠性的变化是否会按模型规定的方式改变二者的耦合,以及干扰模型所提出的比较过程,是否会阻止其预测的计算过程。