相关函数是描述在不同时刻、位置或其他索引参数下取值的量之间统计关系的函数。其最常见的形式是,为每一对参数指定两个量的乘积的期望值;有时会先减去各自的均值,或对其大小进行归一化。它将一对变量之间的相关关系推广到一整组测量,从而能够描述时间上的记忆、空间上的组织结构以及集体涨落。
相关函数是概率论、信号分析、统计力学和量子理论中的基本工具。时间相关函数可以量化涨落信号遗忘其过去状态的速度;空间相关函数可以揭示材料中的特征距离;量子相关函数则可以表征测量结果的概率及其动力学性质。相关函数的数学性质使其与半正定核、谱测度和傅里叶分析建立了联系。
不同学科对这一术语的用法有所不同。“相关函数”可能指未经中心化的乘积平均值、协方差函数、归一化的相关系数,也可能指涉及多个量的高阶期望。因此,在比较不同领域的公式之前,必须明确其定义、参数的排列顺序以及归一化方式。
定义与约定
设 为实值或复值随机过程,其中 属于索引集 。索引可以表示时间、空间中的一点,也可以表示更一般的参数。假设二阶矩有限,未中心化的自相关函数通常定义为
这里, 表示期望值,上横线表示复共轭。对于实值过程,取共轭不改变其值。“自”表示两个量来自同一个过程。对于两个过程 和 ,则可将互相关函数定义为
不同的工程和数学文献可能会交换两个自变量的顺序,或对第一个因子取共轭。这些约定会改变时滞或频率的符号,但不会改变其所包含的统计信息。
记 ,则协方差函数为
因此,。该函数将协方差推广到带索引的随机变量族。其对角值 就是 处的方差。减去均值在物理和统计上都很重要:即使不同自变量处的涨落相互独立,非零的恒定背景也可能使未中心化的相关函数非零。
当两个方差均为正时,归一化协方差为
对于实值过程,它介于 与 之间;对于复值过程,其绝对值不超过 。归一化消除了物理单位的影响,并将线性关联的强弱与涨落幅度区分开来。如果某个变量的方差为零,这一归一化表达式就没有定义,但其协方差仍有明确定义。
相关与相依之间的关系需要谨慎对待。协方差为零意味着中心化后的变量在二阶矩意义下正交,并不意味着它们一般而言相互独立。例如,若 服从标准正态分布,则 与 的协方差为零,但二者并不独立。只要所需的矩存在,统计独立性就蕴含协方差为零;其逆命题对联合高斯变量成立,但对任意分布并不成立。
一些确定性信号也有相关函数,但它们通过时间积分而非概率期望来定义。对于能量有限的函数,一种常见定义是 。这在数学上与随机过程的相关函数有关,但其存在条件、归一化方式和解释有所不同。
半正定性与容许核
协方差函数不能是任意的二元函数。它必须满足的基本约束是半正定性:对于任意有限组 和任意一组复系数 ,都有
这个不等式成立,是因为左端等于中心化变量的某个线性组合的绝对值平方的期望。因此,以 为元素的矩阵是半正定的协方差矩阵。在核的术语中,“正定”往往也包含这种非严格的情形;而在矩阵术语中,正定通常意味着对于每个非零系数向量,相应的二次型都严格大于零。
协方差函数还满足厄米对称性,
并且由柯西—施瓦茨不等式可得
这些约束解释了为什么归一化实值自相关函数的绝对值不会超过一。它们还表明,如果某个参数处的方差为零,那么该处与其他任意参数处之间的协方差也必为零。对于实值过程,厄米对称性就化为通常的对称性。
反过来,一个实对称半正定核连同一个给定的实值均值函数,就能确定一个高斯过程的有限维分布。对于每一组有限个参数,令对应的随机向量服从以该均值向量和协方差矩阵为参数的多元正态分布。这些分布的相容性使我们可以通过柯尔莫哥洛夫扩张定理构造出一个过程。这一存在性结果本身并不保证样本路径连续;路径的正则性还需要额外条件。
核也可以从几何角度来理解。具有有限二阶矩的中心化随机变量,在以期望定义的内积下构成一个希尔伯特空间。因此,它们的协方差矩阵就是格拉姆矩阵。这一观点解释了为什么协方差核的非负系数线性组合仍然是有效的协方差核,为什么有效的标量核的乘积仍然有效,以及为什么可以通过坐标变换将有效的核拉回到新的索引集上。这些封闭性质广泛用于构造具有多个特征尺度的模型。
核的正则性决定了过程的某些均方性质。对于实值过程,
如果当 趋近于 时,这个表达式趋于零,那么中心化过程就是均方连续的。类似的差商可以将协方差的导数与过程的均方导数联系起来。均方连续性弱于样本路径的几乎必然连续性,因此这两个概念不能混用。
平稳性、时间记忆与基本模型
如果一个过程的均值恒定,且协方差仅取决于自变量之差,就称其为弱平稳过程或二阶平稳过程。对于连续时间过程,可以记为
此时,相关的变量是时滞 ,而非绝对时间 。平稳过程中的严格平稳过程,其联合分布在时间平移下保持不变;当二阶矩存在时,严格平稳性蕴含弱平稳性。反之一般不成立,但对高斯过程成立。
对于实值平稳过程,。协方差为正,表示在给定间隔下,相对于均值的偏差倾向于同号;协方差为负,则表示这些偏差倾向于异号。振荡的协方差可能揭示反复出现的动力学行为,而单调衰减通常反映弛豫过程。但这两种形态都不能唯一确定其背后的机制:不同的随机模型可能具有完全相同的二阶相关函数。
离散白噪声是最简单的例子。如果 的方差恒为 ,且不同指标处的值互不相关,那么
独立性比仅有零时滞协方差条件更强。在连续时间中,理想白噪声在分布理论中用狄拉克 δ 型协方差 表示。它并不是具有有限方差、在每个时刻都有普通随机变量取值的过程。
一阶自回归模型
若其新息相互独立、均值为零、方差为 ,则其平稳协方差为
当 为正时,相关性会持续存在;当 为负时,相关性的符号交替变化。连续时间的奥恩斯坦–乌伦贝克过程由方程 描述,其中 ,其平稳协方差为
其中 是维纳过程。该过程的弛豫时间为 。
并非所有协方差形式简单的过程都是平稳的。对于从零出发的标准布朗运动,在非负时间范围内有 。虽然它的增量是平稳的,但其方差随时间增长。解释经验相关函数时,这一区别十分重要:变化的均值、趋势或随时间变化的方差,都可能造成类似持续相关的表象,而这种表象并不能用平稳协方差来描述。
长记忆是指相关性衰减得足够缓慢,以至于在相隔许多时滞后仍有重要影响。例如,若协方差具有正的渐近行为 ,其中 ,则协方差之和发散。这会改变平均值的标度规律,并可能使基于依赖关系快速衰减这一假设的不确定性公式失效。
谱表示与傅里叶对偶性
相关性与频率成分之间的联系由维纳–辛钦定理给出。在满足可积性假设时,连续时间平稳过程的协方差函数及其功率谱密度构成一对傅里叶变换。采用角频率的一种约定为
谱密度是非负的。特别地,
因此,总谱权重等于方差。若采用以单位时间内的周期数表示频率的约定,则需将 替换为 ,并相应调整 因子的位置。
更一般的表述使用谱测度,而非普通的密度函数。博赫纳定理指出,实数轴上的连续正定函数是某个有限正测度的傅里叶变换:
当 时,即可得到上述密度公式。离散谱成分由测度的原子表示。例如,相位服从均匀分布的随机相位正弦波,其协方差函数正比于 ,谱测度则集中在 和 两处。因此,平稳过程的协方差函数不一定随滞后增大而衰减,也不一定具有可积的谱密度。
对于离散时间平稳过程,频谱是角频率的周期函数。当协方差序列绝对可和时,
这一表示是时间序列频域分析的基础。它还揭示,协方差的快速衰减对应于宽频谱,而缓慢衰减或呈振荡形式的协方差则可能产生高度集中的谱特征。
线性滤波使这种关系能够用于实际计算。若平稳输入通过一个适当的线性时不变滤波器,其冲激响应为 ,则输出可表示为卷积,且输出频谱满足 。相应的输出协方差可通过对输入协方差的两个自变量分别进行滤波得到。例如,指数型协方差函数变换后得到洛伦兹型频谱,其正比于 。
这些理论的历史基础奠定于二十世纪初的随机分析与调和分析研究。诺伯特·维纳于1930年发展了广义调和分析,亚历山大·辛钦则于1934年确立了关于平稳过程相关性的一个核心结果。谱测度表述明确区分了宽带涨落、窄谱峰和严格的离散谱线。
高阶相关函数与连通相关函数
两点相关函数只能刻画一般概率分布的部分信息。高阶相关函数考察三个或更多自变量处的取值之积,例如,对于实值随机过程,有
这类量能够揭示仅凭两两协方差无法推断的不对称性、非高斯依赖关系,以及多个观测值之间的相互作用。对于复值量或算符值场,还必须另行明确共轭方式与排列顺序。
矩与连通相关之间的区别可通过累积量加以形式化。对于有限维随机向量,若其矩母函数在原点附近存在,则对矩母函数的对数求导即可得到联合累积量。一阶累积量是均值,二阶累积量是协方差,三阶累积量则衡量某种联合不对称性。当相关的矩存在时,也可以通过对集合划分求和,直接由矩定义累积量,而无须假定矩母函数存在。
对于四个零均值变量,四阶连通相关为
这些减项去除了可分解为两点函数乘积的贡献。对于均值非零的情形,一般的累积量表达式还包含其他项。只要连通相关所涉及的变量能够分成两个非空且统计独立的组,该连通相关就为零。不过,某一个连通函数为零并不足以证明独立性。
高斯过程具有特殊地位,因为其均值和协方差决定了全部有限维分布。对于均值为零的联合高斯变量族,所有奇数阶矩均为零,而每个偶数阶矩都可表示为对所有配对方式的求和。四阶情形为
因此,高斯分布的所有二阶以上累积量均为零。这一恒等式在概率论中称为伊瑟利斯定理,发表于1918年,与场论中的威克定理密切相关。因此,非零的高阶连通相关表明,精确的高斯描述并不适用。
然而,两两关系的信息仍可能遗漏很强的约束。设 和 是相互独立的变量,均以相等概率取值 和 ,并定义 。 中任意两个变量都相互独立,三对变量的协方差也均为零。但 恒成立,因此这三个变量并不相互独立。它们的三阶乘积揭示了所有两点协方差都无法反映的依赖关系。
对高阶平稳相关函数进行傅里叶变换,可得到多谱,包括双谱和三谱。它们描述多个频率之间的关系,而不只是各个频率上的功率。多谱有助于检测非高斯信号和相位关系,不过,估计多谱通常比估计两点函数需要多得多的数据。
根据有限观测进行估计
理论上的相关函数是系综期望,而观测通常只能提供一个有限长度的实现。用沿观测记录求得的平均值代替系综平均,需要对平稳性和遍历性作出假设。仅有平稳性并不足够:一个在所有时刻都等于同一个随机常数的过程是平稳的,但其时间平均无法揭示该常数的系综分布。因此,有限记录之所以能提供有关相关函数的信息,依赖于对重复观测与底层系综之间关系的假设。
对于样本均值为 的观测值 ,滞后 处的一种常用估计量为
另一种惯例是以 为分母。当均值已知时,后者可以消除各滞后处因可用观测对减少而产生的偏差;但当均值也需要估计时,它通常并非无偏估计。以 为分母则有另一项优势:完整的滞后序列可以视为一个补零有限序列的自相关,其谱变换为非负。因此,分母的选择并不只是形式上的调整。
滞后越大,可用的重叠观测对就越少,因而越难估计。此外,相邻滞后处的相关性估计值本身也具有统计依赖性。在独立白噪声的零假设模型下,若满足适当的矩条件,则对于固定的正滞后,样本自相关渐近服从正态分布,方差约为 。这便是常见的宽度为 的近似界限的依据,但这些界限并不是普遍适用的置信区间。如果估计过模型参数、数据存在依赖性,或同时考察多个滞后,就需要对这些界限进行调整。
序列相关性对平均值的影响可由一个精确恒等式给出。对于方差为 、归一化自相关为 的实值平稳序列,
若相关性衰减足够快,方括号内的量便趋近于 。将其倒数乘以 ,就得到一种常用的有效样本量定义。持续的正相关通常会减少有效信息量;相较于独立观测,负相关则可能增加有效信息量。这项计算是马尔可夫链蒙特卡洛方法中不确定性评估的核心。
在计算上,可以通过快速傅里叶变换求得所有滞后处的相关函数值:先对数据进行变换,再计算变换结果的模平方,最后进行逆变换。必须进行充分的补零,以免将普通相关计算变成循环相关计算。观测缺失、不规则采样、测量噪声和非平稳性都需要额外建模。独立的加性测量噪声会增大零滞后协方差,而不改变非零滞后协方差,因此可能使归一化相关性显得更弱。去趋势和平滑处理也会改变估计得到的函数,并可能造成或消除表观上的长程结构。
空间关联与点模式
对于以空间位置为索引的随机场 ,协方差最初是两个位置的函数。均匀性使其简化为两者位移的函数 ;各向同性又使其进一步简化为距离的函数 ,其中 。这两个假设彼此不同。材料可以是均匀的,但在方向上呈现各向异性,例如层状介质的涨落在平行于层面和垂直于层面的方向上具有不同的关联范围。
在地质统计学中,空间依赖性常用变异函数来描述。对于具有平稳增量的实值场,半变异函数为
对于均值恒定的二阶平稳场,
即使不存在平稳协方差,变异函数也可能存在。它所满足的有效性条件也不同:有效的变异函数具有条件半负定性,而不是协方差核所具有的半正定性。变异函数用于克里金插值:在给定模型下,将空间观测值线性组合,得到预测误差方差最小的线性预测。
常见的平稳协方差模型包括指数协方差函数、平方指数协方差函数和Matérn协方差函数。平方指数核极为光滑,由它得到的随机场具有任意阶均方导数。Matérn函数族包含一个控制光滑度的参数,因此能够描述更粗糙、也往往更符合实际的随机场。一个函数即使对直线上的位置是正定的,也未必对所有空间维数都有效;索引空间本身也是判定有效性时需要考虑的因素。
对于点模式,相关的量往往是对关联函数,而不是普通场在各点取值的协方差。在数密度为 的均匀各向同性点过程中,对关联函数 的定义如下:以一个典型点的存在为条件,在半径为 、厚度为 的三维球壳中,其他点的期望数量为
对于均匀泊松过程,。小于一的值表示在该间距处,点对数量少于泊松基准;大于一的值则表示点对数量更多。硬核排斥使得间距小于排斥距离时 。
在满足适当的均匀性和收敛性假设时,总关联函数 将实空间中的点对结构与结构因子联系起来:
其中常数项表示自关联贡献。这一关系将测得的散射强度与流体及无序材料中的空间组织联系起来。估计时需要校正有限观测窗口、无法观测到的间距以及非均匀采样的影响,否则可能会将边界效应误认为物理关联。
平衡涨落、临界行为与输运
在统计力学中,关联函数定量描述微观涨落如何共同形成宏观行为。对于可观测量 和 ,平衡态连通关联函数为
尖括号表示平衡系综平均。减去均值的作用,是将真正的涨落关联与平衡均值的乘积区分开来。视具体系统而定,可观测量可以是粒子密度、自旋分量、速度或流。
一个基本例子是 伊辛模型,其中的格点自旋 取值为 或 。其连通两点函数为
在铁磁相变温度以上,关联通常在远距离处衰减,并具有特征性的关联长度 。在连续相变附近,关联函数具有如下标度形式:
其中,, 是空间维数, 和 是临界指数。在临界点, 的发散使无标度关联能够延伸到越来越远的距离。对于零场下的二维正方晶格伊辛模型,,,因此临界自旋关联按 衰减。
对关联函数求和可以确定响应系数。如果磁场以 的形式进入能量表达式,则每个自旋的磁化率满足
因此,远距离关联的增强可以产生很大的宏观响应。这是涨落耗散定理在平衡态下的一个实例;该定理将自发涨落与线性响应联系起来。具体的系数取决于可观测量和外加场的定义中是否包含磁矩或其他有量纲常数。
时间关联也决定输运性质。对于 维各向同性经典流体,自扩散系数为
前提是该积分收敛,且长时间运动表现为扩散。这是一条格林—久保关系。类似的表达式将剪切应力关联与黏度、热流关联与热导率联系起来。这一理论框架源于梅尔维尔·格林和久保亮五在20世纪50年代的研究。
关联的衰减不一定是纯指数形式。守恒律和流体力学模态可以产生按幂律衰减的长时间尾部;临界系统的弛豫时间可能不断增长,这称为临界慢化。这些特征既影响物理输运系数,也影响数值模拟。截断关联积分可能会遗漏相当可观的尾部贡献,而有限的模拟盒则限制了所能考察的最大波长和关联长度。
量子关联函数与算符排序
在量子力学中,可观测量是算符,其乘积通常取决于算符的次序。给定密度算符 ,双时关联可写为
其中,海森堡绘景中的算符为
由于 不一定等于 ,因此会出现若干种不等价的关联函数。即使两个可观测量都是厄米算符,量子关联也可能是复数。
对称化的连通关联为
相比之下,线性响应由对易子决定。若引入微扰 ,则在平衡态下,采用此处的符号约定, 的响应由下式支配:
阶跃函数保证了因果性:微扰发生之前,响应为零。对称化涨落与耗散响应之间通过量子涨落—耗散关系相联系,其中包含依赖于温度和频率的因子。
在量子场论中, 点函数是各时空点处场算符乘积的期望值。编时两点函数将时间较晚的算符置于左侧,并由此定义费曼传播子,具体表达式可能因约定而相差一些因子。这类对象通常称为格林函数,但并非所有关联函数都是某个微分算符的格林函数,也并非所有格林函数都是概率意义上的协方差。相对论性场是算符值分布,因此其关联函数在时空点重合时可能存在奇异性,必须通过涂抹或正则化来加以解释。
量子光学根据场算符的排序方式区分关联函数。对于湮灭算符为 的单个模式,当分母非零时,归一化的等时强度关联为
相干态满足 ,理想单模热态满足 ,而单光子数态满足 。这些数值分别表征了泊松光子统计、热光的聚束,以及同时探测事件受到抑制的情形。
1956 年具有里程碑意义的光学实验证实了汉伯里·布朗—特威斯效应,使强度关联成为一种实用的测量工具。如今,关联测量广泛用于光子计数、中子散射、磁谱学以及多体量子实验。实际测得的对象取决于探测器的耦合方式和算符排序,因此,在报告一个“关联函数”时,必须明确其可观测量、量子态、排序约定和归一化方式。