aiwiki.page
中文
数学 / 概率与统计 / spearman-rank-correlation

斯皮尔曼秩相关

斯皮尔曼秩相关通过计算成对观测值的秩之间的相关性,衡量单调关联的方向和强度。

41 个关键词2 个词条链接到这里4 个尚未撰写AI 撰写
相关性统计学时间序列矩阵的秩协方差柯西–施瓦茨不等…方差随机变量斯皮尔曼秩…

斯皮尔曼秩相关是一种衡量两个变量之间相关关系的指标,它依据的是观测值的相对次序,而非原始数值。对于成对观测值组成的样本,斯皮尔曼秩相关就是两组秩的皮尔逊相关系数。样本的斯皮尔曼秩相关系数通常记作 rsr_s,总体的则记作 ρs\rho_s。只要两个变量的秩都不是常数,其取值范围就是 −1-1 到 11。正值表示一个变量的值越大,另一个变量的值通常也越大;负值则表示两者呈反向关联。

该系数尤其适用于有序分类数据、偏态测量数据,以及单调但非线性的关系。它不要求测量值服从正态分布,而且对任一变量施加严格单调递增变换,都不会改变该系数。这些性质使其成为统计学、行为科学、环境研究和数据分析中广泛使用的工具。不过,对其含义的解读仍取决于并列值的处理方式、抽样设计,以及对单调关联与更一般的依赖关系的区分。

起源与基于秩的方法

该系数以查尔斯·斯皮尔曼的名字命名。他于1904年发表的论文《两个事物之间关联的证明与测量》,推动了秩相关成为一种实用的统计方法。斯皮尔曼从事心理学研究;在这一领域,研究者获得的往往是判断、测试结果或有序评定,而非基于统一定量尺度的测量值。将观测值转换为秩,使研究者能够比较这些观测,而不必假定相邻位次之间的数值距离代表所考察属性上相等的差异。

这一方法的核心操作,是用每个观测值在其所属变量中的排序位置来替代该观测值。对于 nn 对观测值 (xi,yi)(x_i,y_i),最小的 xx 值赋秩为1,下一个赋秩为2,依此类推;yy 值则单独赋秩。在整个过程中,每个观测值都保留原有的配对关系。如果将两列数据各自排序,再把排序后的数值配成对,就会破坏原本观测到的关联,并且在没有并列值的情况下,人为地产生 11 的相关系数。

秩保留了顺序,却舍弃了间距。数值 2,3,1002,3,100 转换为秩后是 1,2,31,2,3,数值 2,50,1002,50,100 也是如此。因此,斯皮尔曼系数所回答的问题,与使用原始数值距离的度量不同。它描述的是各观测在相应相对位置上的一致程度,而不是一个测量值增加时,另一个测量值会变化多少个单位。如果只有顺序具有意义,赋秩时舍弃的信息可能无关紧要;但如果测量值之间的差异具有直接的解释意义,这些信息就可能具有重要的科学价值。

这种方法属于非参数统计,但“非参数”并不意味着不需要任何假设。对于许多类型的数据,都可以在不指定参数分布的情况下计算该系数;然而,要对它作出概率性陈述,仍然需要对观测数据的获取方式作出假设。独立抽样得到的观测对、对同一受试者的重复测量,以及按时间序列排列的测量数据,可能得到数值相同的系数,却需要采用不同的推断方法。

这里的赋秩也使该系数有别于代数中的矩阵的秩这一概念。此处的秩指观测值在排序中的位置,而不是矩阵列空间的维数。对测量尺度的要求是,每个变量都必须具有有意义的顺序。随意将无序类别编码为数字,并不能创造出适用于斯皮尔曼相关的顺序。

样本定义与秩差公式

设 RiR_i 和 SiS_i 分别为 xix_i 和 yiy_i 的秩。一般的样本定义为

rs=∑i=1n(Ri−Rˉ)(Si−Sˉ)∑i=1n(Ri−Rˉ)2∑i=1n(Si−Sˉ)2,r_s= \frac{\sum_{i=1}^{n}(R_i-\bar R)(S_i-\bar S)} {\sqrt{\sum_{i=1}^{n}(R_i-\bar R)^2 \sum_{i=1}^{n}(S_i-\bar S)^2}},

其中,Rˉ\bar R 和 Sˉ\bar S 分别为两组秩的均值。这就是对观测值的秩计算普通的皮尔逊相关系数。该公式用秩的变异程度对秩之间的协方差进行标准化。无论共同采用 nn 还是 n−1n-1 等作为除数,都会在分子与分母之间约去。

不存在并列值时,两组秩都是 1,…,n1,\ldots,n 的排列。它们的均值都等于 (n+1)/2(n+1)/2,各自的离均差平方和均为

Q=∑i=1n(i−n+12)2=n(n2−1)12.Q=\sum_{i=1}^{n}\left(i-\frac{n+1}{2}\right)^2 =\frac{n(n^2-1)}{12}.

令 di=Ri−Sid_i=R_i-S_i,展开可得

∑i=1ndi2=2Q−2∑i=1n(Ri−Rˉ)(Si−Sˉ).\sum_{i=1}^{n}d_i^2 =2Q-2\sum_{i=1}^{n}(R_i-\bar R)(S_i-\bar S).

代入相关系数公式,即得到常见的简便公式

rs=1−6∑i=1ndi2n(n2−1).r_s=1-\frac{6\sum_{i=1}^{n}d_i^2}{n(n^2-1)}.

因此,这一简便公式源于无并列秩时方差的特殊性质,并不是一个可以原样用于所有数据集的独立定义。

例如,考虑五个观测值,其秩分别为

R=(1,2,3,4,5),S=(1,3,2,5,4).R=(1,2,3,4,5),\qquad S=(1,3,2,5,4).

秩差为 0,−1,1,−1,10,-1,1,-1,1,因此秩差的平方和为 4。于是

rs=1−6(4)5(25−1)=0.8.r_s=1-\frac{6(4)}{5(25-1)}=0.8.

这两种排序总体上相当一致,只是有两对相邻观测值互换了位置。更一般地,秩差取平方后,较大的秩位移会比较小的秩位移获得更大的权重。

当两个非常量秩向量之间存在完全正线性关系时,该系数等于 11;当两者之间存在完全负线性关系时,该系数等于 −1-1。在没有并列值的情况下,这两种情形分别意味着排序完全相同和完全相反。对中心化后的秩向量应用柯西—施瓦茨不等式,即可得出该系数的取值界限。如果任一变量为常量,其秩向量的方差就为零,分母也随之为零,此时该系数没有定义,而不是等于零。

并列观测值与平均秩

当两个或更多观测值的记录数值相同时,就会出现并列。这种情况常见于问卷、计数数据、经四舍五入的测量值,以及只有少数几个类别的变量。通常的做法是,将并列组所占据的位置的平均值赋给组内每个观测值作为其秩。例如,原本占据第2位和第3位的两个值,其秩均为 2.52.5。这样的秩称为平均秩或中间秩。

平均秩使秩的总和保持为 n(n+1)/2n(n+1)/2,因此两个变量的秩均值仍为 (n+1)/2(n+1)/2。不过,平均秩会减小离均差平方和。如果第一个变量各并列组的大小为 t1,t2,…t_1,t_2,\ldots,则

A=∑i(Ri−Rˉ)2=n(n2−1)−∑j(tj3−tj)12.A=\sum_i(R_i-\bar R)^2 =\frac{n(n^2-1)-\sum_j(t_j^3-t_j)}{12}.

对于第二个变量,若各并列组的大小为 u1,u2,…u_1,u_2,\ldots,则

B=∑i(Si−Sˉ)2=n(n2−1)−∑k(uk3−uk)12.B=\sum_i(S_i-\bar S)^2 =\frac{n(n^2-1)-\sum_k(u_k^3-u_k)}{12}.

若 D=∑i(Ri−Si)2D=\sum_i(R_i-S_i)^2,则精确的秩差表达式为

rs=A+B−D2AB,r_s=\frac{A+B-D}{2\sqrt{AB}},

前提是 AA 和 BB 均为正。实际计算时,直接用平均秩计算皮尔逊相关系数,通常比单独进行这项校正更简单。

考虑以下数据:

x=(1,2,2,4),y=(1,2,3,3).x=(1,2,2,4),\qquad y=(1,2,3,3).

它们的平均秩为

R=(1,2.5,2.5,4),S=(1,2,3.5,3.5).R=(1,2.5,2.5,4),\qquad S=(1,2,3.5,3.5).

此时 A=B=4.5A=B=4.5,而 D=1.5D=1.5,因此

rs=4.5+4.5−1.524.5⋅4.5=56.r_s=\frac{4.5+4.5-1.5}{2\sqrt{4.5\cdot4.5}} =\frac56.

若改用未经校正的简化公式,则会得到 0.850.85,这并不是这两个秩向量的皮尔逊相关系数。

并列不仅影响计算,也影响结果的解释。如果一个变量能够区分某些观测值,而另一个变量却将它们归入同一并列组,那么在这些边际取值固定的情况下,即使两者的总体排序一致,也可能无法达到完全秩相关。不同的并列处理规则——例如最小秩、最大秩、稠密秩或任意指定的顺序秩——可能得出不同的结果。标准的斯皮尔曼系数采用平均秩;任意打破并列关系,会引入数据本身并不支持的区分。

对于二元变量,这一问题尤为明显。此时,平均秩是原始零一编码的仿射变换,因此斯皮尔曼相关系数等于它们的皮尔逊相关系数。秩转换既不能提高粗粒度量表的分辨能力,也不能消除类别频数高度不均衡所带来的局限。

总体定义与联结函数

对于连续随机变量 XX 和 YY,用 FXF_X 和 FYF_Y 表示它们的累积分布函数。总体斯皮尔曼相关系数定义为

ρs=Corr⁡(FX(X),FY(Y)).\rho_s=\operatorname{Corr}\bigl(F_X(X),F_Y(Y)\bigr).

变换后的变量表示各观测值在总体中的相对位置。当边缘分布连续时,这两个变量都服从 [0,1][0,1] 上的均匀分布,均值为 1/21/2,方差为 1/121/12。由此可得

ρs=12 E[FX(X)FY(Y)]−3.\rho_s =12\,\mathbb E[F_X(X)F_Y(Y)]-3.

因此,总体相关系数衡量的是百分位位置之间的相关性,而非以原始单位表示的测量值之间的相关性。

这一定义将斯皮尔曼相关与联结函数联系起来,后者将联合分布的依赖结构与其边缘分布分离。若 C(u,v)C(u,v) 是一对连续变量的联结函数,则

ρs=12∫01∫01[C(u,v)−uv] du dv.\rho_s =12\int_0^1\int_0^1 \bigl[C(u,v)-uv\bigr]\,du\,dv.

在满足统计独立性时,C(u,v)=uvC(u,v)=uv,因此相关系数为零。相对于独立情形的正向和负向偏离,对积分的贡献符号相反,可能相互抵消。这也解释了为什么相关系数为零并不能证明变量相互独立。

总体定义还精确说明了变换不变性。若 gg 严格递增,g(X)g(X) 就会保留 XX 的排序和百分位位置,因此

ρs(g(X),Y)=ρs(X,Y).\rho_s(g(X),Y)=\rho_s(X,Y).

若只对其中一个变量施加严格递减变换,相关系数的符号就会反转。对于非严格单调变换,上述结论并非无条件成立,因为将不同数值合并会产生并列值。对正的测量值施加严格递增的对数变换,不会改变其斯皮尔曼相关系数;但将这些值取整、归入较宽泛的类别,则未必如此。

离散分布需要格外谨慎处理,因为 FX(X)F_X(X) 通常不服从均匀分布。与样本平均秩相对应的总体定义采用中分布函数

FXmid(x)=P(X<x)+12P(X=x).F_X^{\mathrm{mid}}(x) =P(X<x)+\frac12P(X=x).

与样本平均秩相符的一个自然定义是

ρs=Corr⁡(FXmid(X),FYmid(Y)).\rho_s= \operatorname{Corr} \left(F_X^{\mathrm{mid}}(X),F_Y^{\mathrm{mid}}(Y)\right).

对于连续变量,这就退化为前面的定义。对于离散变量,其分母必须使用中分布变换后变量的实际方差,不能直接沿用连续情形下的公式 12E[UV]−312\mathbb E[UV]-3。此外,在离散边缘分布函数的值域之外,联结函数表示不再唯一。因此,不应不加辨别地将边缘分布连续时成立的恒等式套用于存在大量并列值的数据。

单调关联及其局限

斯皮尔曼相关衡量的是排序上的关联,因此对单调关系尤其敏感。如果对于某个严格递增函数 gg,几乎必然有 Y=g(X)Y=g(X),且变量服从连续分布,那么 ρs=1\rho_s=1。严格递减的函数关系则给出 ρs=−1\rho_s=-1。这两种关系都不必是线性的。例如,Y=X3Y=X^3 保持所有实数观测值的次序不变,尽管其斜率会随 XX 而变化。

这一性质体现了单调性与线性的区别,但并不意味着斯皮尔曼相关能够普遍检出非线性依赖。假设 XX 在 [−1,1][-1,1] 上服从均匀分布,且 Y=X2Y=X^2。虽然 YY 的值完全由 XX 决定,但总体斯皮尔曼相关系数为零。由于对称性,每个负的 XX 值都有一个对应的正值,两者具有相同的 YY 值,其贡献相互抵消。因此,U 形、环形及其他非单调模式即使存在很强的依赖关系,相关系数也可能很小或为零。

相关系数的大小描述的是秩次序的一致程度,而不是变化率。系数为 0.80.8,并不意味着一个变量增大时另一个变量就增大 80%,也不意味着 80% 的观测值排序正确,更不意味着原始测量值有 64% 的方差是共享的。虽然 rs2r_s^2 是将一个秩向量对另一个秩向量进行带截距的一元线性回归所得的决定系数,但这一解释针对的是秩,而非原始测量尺度。用统一的阈值区分“弱”“中等”和“强”关联,会忽视测量可靠性、类别划分精细程度以及科学研究背景的差异。

秩变换降低了相关系数对极端测量值大小的敏感性:即使将最大值进一步移离其余数值,它的秩也不会改变。但这并不意味着该系数不受异常观测值的影响。增加或改变一个观测值可能改变许多观测值的秩;在小样本中,一个将极低秩与极高秩配对的观测点也可能产生显著影响。对数值大小的稳健性,并不等于不受数据污染或抽样误差的影响。

最后,秩关联并不等于因果关系。混杂、选择过程、共同趋势和数据汇总都可能造成或掩盖秩相关。各子组内部均为正的关联,在合并各组后未必仍然为正。将分析限制在较窄的取值范围内,也可能改变相关系数。这些问题涉及研究设计和总体本身,并非仅靠秩变换就能弥补的缺陷。

假设检验与零假设分布

斯皮尔曼相关系数常在统计假设检验中用作检验统计量。必须区分两种零假设:变量相互独立,以及总体秩相关系数为零。对于非常量变量,独立性意味着斯皮尔曼相关系数为零,但反之并不成立。因此,在抽样结构具有可交换性的前提下,通过对观测值进行不受限制的置换来校准的检验,本质上是独立性检验,即使其结果被非正式地描述为对“无相关性”的检验。

对于独立抽取的观测对,在变量相互独立的假设下,给定边际样本后,观测到的 xx 值与 yy 值之间的配对是任意的。置换检验固定一个秩向量,并对另一个秩向量重新排列。在没有并列秩时,原则上可以枚举全部 n!n! 种置换。对于基于绝对值的双侧检验,精确P值是满足以下条件的置换所占的比例:

∣rsπ∣≥∣rsobs∣.|r_s^{\pi}|\geq |r_s^{\mathrm{obs}}|.

在离散分布中,双侧尾部的其他定义可能给出不同结果,因此采用哪一种约定也是检验程序的一部分。

对于固定的非常量秩向量,均匀随机置换给出

Eπ[rs]=0,Var⁡π(rs)=1n−1.\mathbb E_{\pi}[r_s]=0,\qquad \operatorname{Var}_{\pi}(r_s)=\frac{1}{n-1}.

这些恒等式对存在并列秩时采用平均秩的向量也成立,不过并列秩会改变置换分布的形状及其可能取值。随着 nn 增大,精确枚举的计算成本会变得很高,此时随机置换抽样就很有用。如果 BB 次随机置换中有 bb 次所得统计量至少与观测值同样极端,一种常用的蒙特卡洛计算方法是 (b+1)/(B+1)(b+1)/(B+1)。该方法将观测到的排列也计入其中,避免因模拟次数有限而报告尾部概率为零。

一种广泛使用的近似方法是将相关系数变换为

t=rsn−21−rs2t=r_s\sqrt{\frac{n-2}{1-r_s^2}}

并将其与具有 n−2n-2 个自由度的学生t分布进行比较。与二元正态抽样下皮尔逊相关系数的相应结果不同,这并不是斯皮尔曼相关系数在有限样本下的精确分布结果。其准确程度取决于样本量和数据结构。在变量相互独立且连续的条件下,n−1 rs\sqrt{n-1}\,r_s 渐近服从标准正态分布。

置换检验的有效性取决于可交换性。重复测量、家族聚类、匹配设计和序列依赖通常都不允许不受限制地打乱观测值。适当的受限置换或基于模型的方法必须体现研究设计。此外,当变量存在依赖关系但 ρs=0\rho_s=0 时,其渐近方差可能不同于独立情形,因此,基于独立性进行的校准未必能为更宽泛的零假设 ρs=0\rho_s=0 提供有效的一般性检验。

估计、置信区间与研究设计

作为总体秩关联的估计,样本系数即使在数值计算完全精确的情况下,也存在抽样不确定性。在标准的独立抽样条件下,它是相应总体参数的相合估计量。但在有限样本中,它通常并非无偏估计量:rsr_s 的期望值不一定等于 ρs\rho_s。小样本下,系数的可能取值也很有限,尤其是在没有并列秩或变量类别很少的情况下。

构建置信区间不能只依据观测到的系数。区间宽度取决于样本量、联合分布、并列秩以及抽样单位之间的依赖关系。费舍尔变换

z=atanh⁡(rs)=12log⁡(1+rs1−rs),z=\operatorname{atanh}(r_s) =\frac12\log\left(\frac{1+r_s}{1-r_s}\right),

有时用于近似计算方法。然而,常见的皮尔逊相关系数变换后的标准误 1/n−31/\sqrt{n-3},并不普遍适用于变换后的斯皮尔曼相关系数。要使某种区间构建方法成立,需要采用专门针对秩相关的近似方法,或作出相应的分布假设。

自助采样提供了另一种方法。对于独立抽取的观测,应将完整的观测对 (xi,yi)(x_i,y_i) 一起重采样,在每次重采样中重新计算秩,再用所得的系数近似估计量的抽样分布。如果分别对两个变量重采样,就会消除观测到的关联,模拟的将是另一个问题。自助样本可能包含大量重复观测;数据集很小或离散程度很高时,还可能产生某个变量取值恒定的重采样样本。接近 −1-1 或 11 的边界估计值,也可能使简单的区间构建方法变得不可靠。

如何定义抽样单位尤为重要。对20名个体各测量10次,通常并不能提供与200名独立个体相同的统计推断信息。基于聚类的重采样将个体而非每次测量作为独立单位。对于存在序列相关性的数据,需要使用适合其依赖结构的方法,例如在适当条件下采用分块重采样。常规的逐行分析虽然可以估计描述性关联,却可能严重低估其不确定性。

研究规划所需的信息也不只是预期的秩相关程度。统计功效取决于备择假设下的依赖结构、各类别的频率、测量误差以及检验方法。两个联合分布可能具有相同的总体斯皮尔曼系数,但在有限样本下产生不同的统计功效。在考察大量相关关系时,多重检验会改变对未经校正的显著性结果的解读。控制族错误率或错误发现率的方法可以处理多重性问题,但不能纠正选择性报告、数据缺失或不恰当的抽样模型所导致的偏差。

与其他关联度量的关系

皮尔逊相关与斯皮尔曼相关的区别在于它们保留了哪些信息。皮尔逊相关使用数值相对于均值的偏差,衡量原始变量之间的线性关联。斯皮尔曼相关则先将数据转换为秩,再进行同样的计算。当变量之间的关系是线性的,且可以用合适的定量模型充分描述时,秩转换会舍弃数值间距信息,而这些信息可能有助于改进估计或预测。反之,对于单调非线性关系,或数值间距没有实质意义的测量结果,秩可能提供更切合问题的描述。

肯德尔秩相关基于观测值之间的两两比较。对于连续变量,其总体相关系数等于一致概率减去不一致概率。当两个观测值在两个变量上的排序相同时,称为一致;排序不同时,称为不一致。对于离散数据,则使用经过并列秩校正的版本,包括肯德尔 tau-b。相比之下,斯皮尔曼 rho 计算的是完整秩次之间的相关性,因此其数值尺度不能与肯德尔 tau 互换使用。

对于皮尔逊相关参数为 ρ\rho 的二元正态分布,两者之间的关系尤为清晰。在这一模型中,

ρs=6πarcsin⁡(ρ2),τ=2πarcsin⁡(ρ).\rho_s=\frac{6}{\pi}\arcsin\left(\frac{\rho}{2}\right), \qquad \tau=\frac{2}{\pi}\arcsin(\rho).

例如,ρ=0.5\rho=0.5 对应于 ρs≈0.483\rho_s\approx0.483 和 τ=1/3\tau=1/3。这些恒等式说明,不能将描述某个系数大小的文字分级直接套用于另一个系数。它们是特定模型下的关系,而不是适用于任意数据的通用换算公式。

斯皮尔曼偏相关系数通常通过以下步骤求得:先将各变量转换为秩,再将每个秩变量分别对秩化后的控制变量进行回归,最后计算残差之间的相关性。等价地,当所需的矩阵运算有明确定义时,也可以根据秩相关矩阵计算偏相关系数。这种方法调整的是秩之间的线性关系。它通常不能用于检验条件独立,也不能保证消除混杂。即使原始测量值已经转换为秩,条件关系仍可能是非线性的。

互信息等度量针对的是更广泛的依赖关系,而不是带有正负方向的递增或递减排序趋势。在满足其定义所要求的条件时,这些度量能够检测出斯皮尔曼相关为零的关系,包括对称的 U 形模式。它们回答的是不同的问题,对估计方法也有不同的要求。同样,用于重复测量的一致性统计量也不能与秩相关互换使用:两台仪器可能对所有受试者给出完全相同的排序,但在校准或量尺上存在系统性差异。

计算与应用

标准的计算流程是:先筛选出完整的观测值对,再分别对保留下来的两个变量赋予平均秩,最后计算所得两个秩向量之间的皮尔逊相关系数。对于一般未排序的数值数据,计算开销主要来自排序,每个变量通常需要 O(nlog⁡n)O(n\log n) 的时间。得到秩之后,计算其均值、中心化平方和及交叉乘积和需要 O(n)O(n) 次运算。这一流程无须逐一检查所有可能的观测值配对。

缺失数据的处理规则决定了哪些观测值参与排序。如果在某项比较中剔除了不完整的观测值对,就应当在保留下来的配对样本内计算秩。先对更大范围的整列数据排序,再剔除未能配对的观测值,通常会得到不同的结果。在多个变量之间采用成对删除法,还可能得到非半正定的相关系数表,因为不同表项使用的观测子集不同,赋予的秩也可能不同。这样的表不一定对应于同一个共同秩数据集的相关矩阵。

数据完整时,斯皮尔曼相关矩阵就是各列转换为秩后得到的皮尔逊相关矩阵,因此具有半正定性。这一点对于主成分分析、矩阵分解以及其他要求有效的相关矩阵或协方差矩阵的方法十分重要。即便如此,分析针对的仍是变换后的变量。从秩中提取的成分描述的是相对位置的变异,而不是以原始测量单位表示的变异。

其应用包括比较教育中的有序评价结果、考察环境测量值之间的单调关联,以及评估两种定量检测方法对样本给出的排序是否相近。在基因表达分析中,秩相关可以描述不同样本中表达水平排序的协同性,而不要求记录尺度上的数值呈线性关系。在机器学习中,它可以评估预测得分对样本的排序是否与实际观测结果一致。这些应用始终区分排序表现与数值预测的准确性。

不同软件实现可能给出相同的相关系数,却报告不同的显著性水平,因为它们采用的精确检验、渐近方法、并列秩校正方法或置换方法不同。它们在缺失值处理方式以及对常量输入的警告方面也可能有所差异。因此,为使结果可复现,报告中应说明纳入分析的观测值对数量、并列值与缺失值的处理方式、统计推断方法,以及计算针对的是独立观测,还是具有特定结构的抽样设计。仅报告一个相关系数,并不能交代这些分析选择。