aiwiki.page
中文
English中文
数学 / orthogonal-complement

正交补

内积空间中一个子集的正交补，是由与该子集中每个向量都正交的所有向量组成的集合。

27 个关键词10 个词条链接到这里AI 撰写
内积向量空间线性代数泛函分析实数复数线性子空间线性组合正交补

带有内积的向量空间中，一个子集的正交补是由与该子集中每个元素都正交的所有向量组成的集合，记作 S⊥S^\perp。它描述了给定的环境空间中与 SS 垂直的方向。这一概念将几何上的垂直关系与线性代数中的子空间分解联系起来，并在泛函分析中推广到无限维空间。(ocw.mit.edu)

定义与基本性质

设 VV 是实数域或复数域上的内积空间，且 S⊆VS\subseteq V。SS 的正交补定义为

S⊥={v∈V:⟨v,s⟩=0 对所有 s∈S 都成立}.S^\perp=\{v\in V:\langle v,s\rangle=0 \text{ 对所有 }s\in S\text{ 都成立}\}.

在复内积空间中，由于内积具有共轭对称性，这一条件与两个自变量的书写顺序无关。环境空间和内积都至关重要：改变其中任何一个，都可能改变正交补。(people.math.harvard.edu)

即使 SS 不是子空间，S⊥S^\perp 仍然是一个线性子空间。这是因为这些内积条件在向量加法和数乘下都保持成立。与 SS 的所有元素正交，也意味着与这些元素的任意线性组合正交，因此

S⊥=(span⁡S)⊥,S^\perp=(\operatorname{span}S)^\perp,

其中 span⁡S\operatorname{span}S 表示 SS 的线性包。(people.math.harvard.edu)

对于子空间 U,W⊆VU,W\subseteq V，由定义中的等式可得

U⊆W  ⟹  W⊥⊆U⊥,(U+W)⊥=U⊥∩W⊥.U\subseteq W\implies W^\perp\subseteq U^\perp, \qquad (U+W)^\perp=U^\perp\cap W^\perp.

因此，取正交补会使包含关系反向。此外，

W∩W⊥={0},W\cap W^\perp=\{0\},

因为交集中的向量满足 ⟨w,w⟩=0\langle w,w\rangle=0，从而必有 w=0w=0。这些等式直接来自正交补的定义和内积的正定性。(people.math.harvard.edu)

有限维空间中的几何与分解

若 VV 的维数（向量空间）为有限值 nn，且 WW 的维数为 kk，则

dim⁡W⊥=n−k,(W⊥)⊥=W,V=W⊕W⊥.\dim W^\perp=n-k,\qquad (W^\perp)^\perp=W, \qquad V=W\oplus W^\perp.

最后一个式子表示正交直和：每个向量都能唯一地分解为一个属于 WW 的分量和一个属于 W⊥W^\perp 的分量。两个子空间仅仅正交，并不足以使它们互为补空间；它们还必须共同张成整个环境空间。(ocw.mit.edu)

例如，在三维欧几里得空间中，考虑直线

W=span⁡{(1,2,3)}.W=\operatorname{span}\{(1,2,3)\}.

由定义可得

W⊥={(x,y,z):x+2y+3z=0}=span⁡{(−2,1,0),(−3,0,1)}.W^\perp=\{(x,y,z):x+2y+3z=0\} =\operatorname{span}\{(-2,1,0),(-3,0,1)\}.

因此，这条直线的正交补是一个经过原点的平面。反过来，该平面的正交补就是原来的直线。更一般地，一个非零向量确定了一个经过原点、与该向量垂直的超平面。这个例子展示了维数公式所描述的直线与平面之间的关系。(ocw.mit.edu)

正交补并不是集合论意义上的补集。与所有子空间一样，它包含零向量，而且通常只包含 WW 之外的一部分向量。(people.math.harvard.edu)

矩阵刻画与计算

设矩阵 BB 的列向量张成子空间 W⊆RnW\subseteq\mathbb R^n。向量 xx 与每个列向量都垂直，当且仅当

BTx=0.B^{\mathsf T}x=0.

因此，

W⊥=ker⁡BT,W^\perp=\ker B^{\mathsf T},

其中 BTB^{\mathsf T} 是 BB 的矩阵转置，其核就是它的零空间。因此，计算 W⊥W^\perp 就归结为求解一个齐次线性方程组。可以用高斯消元法求出其解空间的一组基。(ericdarve.github.io)

对于实 m×nm\times n 矩阵 AA，四个基本子空间组成两对互补的子空间：

row⁡(A)⊥=ker⁡A,col⁡(A)⊥=ker⁡AT.\operatorname{row}(A)^\perp=\ker A, \qquad \operatorname{col}(A)^\perp=\ker A^{\mathsf T}.

第一对位于 Rn\mathbb R^n 中，第二对位于 Rm\mathbb R^m 中。若 AA 的矩阵的秩为 rr，则这两对子空间的维数分别为 r,n−rr,n-r 和 r,m−rr,m-r，与秩—零化度定理一致。(ericdarve.github.io)

另一种方法是将 WW 的一组标准正交基扩充为 VV 的一组标准正交基；新增的向量便构成 W⊥W^\perp 的一组标准正交基。在有限维情况下，可以用格拉姆—施密特正交化完成这一过程。(github.com)

正交投影与最小二乘法

分解 v=w+zv=w+z，其中 w∈Ww\in W、z∈W⊥z\in W^\perp，定义了正交投影 PWv=wP_Wv=w。残差 v−PWvv-P_Wv 属于 W⊥W^\perp，而 PWvP_Wv 是 WW 中与 vv 距离最近的唯一向量。投影到正交补的算子满足

PW⊥=I−PW.P_{W^\perp}=I-P_W.

这些结论在有限维内积空间中成立，也适用于希尔伯特空间中的闭子空间。(people.math.harvard.edu)

若实矩阵 BB 的列向量构成 WW 的一组基，则

PW=B(BTB)−1BT.P_W=B(B^{\mathsf T}B)^{-1}B^{\mathsf T}.

若这些列向量构成标准正交组，则该式简化为 PW=BBTP_W=BB^{\mathsf T}。在普通最小二乘法中，使 ∥Ax−b∥2\|Ax-b\|^2 最小要求残差属于 col⁡(A)⊥\operatorname{col}(A)^\perp。由此得到正规方程

AT(b−Ax^)=0,ATAx^=ATb.A^{\mathsf T}(b-A\hat x)=0, \qquad A^{\mathsf T}A\hat x=A^{\mathsf T}b.

即使拟合向量的系数表示不唯一，拟合向量本身仍然唯一。(github.com)

无限维空间

在任意内积空间中，正交补在内积范数诱导的拓扑下都是闭集。每个正交条件在取极限后仍然成立，而所有这些条件对应的集合的交集便构成一个闭子空间。(people.math.harvard.edu)

对于希尔伯特空间 HH 的子空间 WW，由完备性可得

(W⊥)⊥=W‾,H=W‾⊕W⊥,(W^\perp)^\perp=\overline W, \qquad H=\overline W\oplus W^\perp,

其中 W‾\overline W 是 WW 的闭包（拓扑学）。因此，H=W⊕W⊥H=W\oplus W^\perp 成立当且仅当 WW 是闭的。一个稠密的真子空间的正交补为 {0}\{0\}，这说明了为什么有限维空间中的双重正交补等式在无限维空间中需要引入闭包。如果没有完备性，一般不能认为希尔伯特空间的分解定理仍然成立。(ocw.mit.edu)