对角矩阵是主对角线以外的元素均为零的方形矩阵。其对角元素可以任意取值,包括零。对角矩阵在线性代数中具有基础性地位,因为它所表示的变换分别独立作用于各个坐标方向,而且当矩阵表示为对角形式时,许多矩阵计算都会变得十分简单。
定义与记号
域(数学) F 上的一个 n×n 矩阵 D=(dij) 称为对角矩阵,如果
dij=0whenever i=j.
通常记作
D=diag(d1,…,dn)=d10⋮00d2⋮0⋯⋯⋱⋯00⋮dn.
例如,
3000−20000
是对角矩阵。对角线上出现零并不影响它成为对角矩阵;定义中的限制仅针对非对角元素。
重要的特殊情形包括:
- 零矩阵:所有元素均为零。
- 单位矩阵 In=diag(1,…,1)。
- 数量矩阵 cIn:所有对角元素都相等。
每个对角矩阵既是上三角矩阵,也是下三角矩阵。反过来,任何既是上三角矩阵又是下三角矩阵的方阵都是对角矩阵。
在某些语境中,也允许使用矩形对角矩阵:如果一个 m×n 矩阵在 i=j 时,其 (i,j) 元均为零,就称其为对角矩阵。这一约定在奇异值分解中特别有用。除非另有说明,“对角矩阵”通常指方阵。
作为线性变换的解释
对角矩阵作用于坐标向量时,有
Dx1⋮xn=d1x1⋮dnxn.
每个输出坐标只取决于相应的输入坐标,各坐标方向之间不会相互混合。
在实数范围内,乘以 di 会使第 i 个坐标按比例缩放。负值会使其方向反转,零值则会消去该分量。
更一般地,有限维向量空间上的线性映射 T 关于一组基(线性代数) v1,…,vn 的矩阵为对角矩阵,当且仅当对每个 i 都有
T(vi)=divi
成立。因此,每个基向量都是特征向量,对应的特征值为 di。
所以,矩阵是否为对角矩阵取决于所选的基。同一个变换在一组基下的矩阵可能是对角矩阵,而在另一组基下则不是。
算术运算与代数性质
设
D=diag(d1,…,dn),E=diag(e1,…,en).
加法和矩阵乘法可化为逐坐标运算:
D+E=diag(d1+e1,…,dn+en),
DE=diag(d1e1,…,dnen).
因此,同阶对角矩阵的乘法满足交换律:
这些运算连同数量乘法,使全体 n×n 对角矩阵构成一个交换代数,它与配备逐坐标乘法的 Fn 自然同构。
对角矩阵不一定与任意矩阵可交换。对于 A=(aij),有
(DA)ij=diaij,(AD)ij=aijdj.
因此,左乘 D 会对各行进行缩放,右乘则会对各列进行缩放。此外,
DA=AD⟺(di−dj)aij=0for all i,j.
如果所有 di 两两不同,那么与 D 可交换的每个矩阵本身都必须是对角矩阵。如果存在重复的对角元素,则相应坐标块内可以出现额外的非零元素。
逆矩阵与幂
对角矩阵可逆,当且仅当每个对角元素都非零。此时,它的逆矩阵为
D−1=diag(d1−1,…,dn−1).
对于每个正整数 k,都有
Dk=diag(d1k,…,dnk),
并且 D0=In。当 D 可逆时,还可以定义负整数次幂。
行列式、迹与秩
主要的数值不变量可以直接得到:
detD=i=1∏ndi,trD=i=1∑ndi.
它们分别是 D 的行列式和矩阵的迹。其矩阵的秩等于非零对角元素的个数。
其零空间由零对角元素所对应的坐标向量张成,其像空间则由非零对角元素所对应的坐标向量张成。
特征值与对角化
D 的特征值与特征向量可直接由其对角形式看出:按代数重数计,特征值恰好就是各个对角元素。采用 χD(t)=det(tIn−D) 的约定,其特征多项式为
χD(t)=i=1∏n(t−di).
对于特征值 λ,其特征空间由所有满足以下条件的向量组成:非零坐标只能出现在满足 di=λ 的下标位置。因此,该特征空间的维数等于 λ 在对角线上出现的次数。
对角矩阵与可对角化矩阵
如果存在可逆矩阵 P,使得
其中 D 为对角矩阵,就称矩阵 A 在 F 上可对角化。P 的各列构成由 A 的特征向量组成的一组基。这是一种矩阵相似变换,这一过程称为矩阵对角化。
对角矩阵在给定基下已经是对角形式,而可对角化矩阵则不一定如此。并非每个矩阵都可对角化。例如,
(1011)
只有一个线性无关的特征向量,无法通过相似变换化为对角矩阵。
可对角化性还取决于所讨论的域。一个实矩阵可能在复数域上可对角化,却在实数域上不可对角化。
谱定理给出了重要的充分条件:
- 每个实对称矩阵都有一组由实特征向量组成的标准正交基,并且可以写成 A=QDQT,其中 Q 是正交矩阵。
- 每个复埃尔米特矩阵都具有对角化表示 A=UDU∗,其中 U 是酉矩阵,D 是实对角矩阵。
- 更一般地,每个复正规矩阵都可以酉对角化,但其特征值不一定是实数。
转置、正定性与矩阵函数
每个对角矩阵都等于其矩阵转置:
DT=D.
不过,对于复数元素,其共轭转置为
D∗=diag(d1,…,dn).
因此,复对角矩阵是埃尔米特矩阵,当且仅当其所有对角元素都是实数。每个复对角矩阵都是正规矩阵。
实对角矩阵是正定矩阵,当且仅当所有 di>0,因为
xTDx=i=1∑ndixi2.
它是半正定矩阵,当且仅当所有 di≥0。
对于多项式 p,有
p(D)=diag(p(d1),…,p(dn)).
对于由收敛幂级数定义的函数,在相应级数收敛的范围内,同样适用这一逐坐标计算规则。例如,
eD=diag(ed1,…,edn).
这使得对角形式在计算矩阵的幂、指数及其他矩阵函数时特别有用。当 A=PDP−1 时,多项式求值得到
p(A)=Pp(D)P−1.
计算与应用
存储对角矩阵时,只需存储其 n 个对角元素,而不必存储 n2 个元素。此时,矩阵与向量相乘只需要 O(n) 次算术运算。因此,对角矩阵是稀疏矩阵的一类重要特例。
对于线性方程组 Dx=b,若每个 di=0,其解直接为
xi=dibi.
若 di=0,则对应的方程只有在 bi=0 时才有解;此时,xi 可以任意取值。
在欧几里得算子范数下,非奇异的实或复对角矩阵的条件数为
κ2(D)=mini∣di∣maxi∣di∣.
因此,运算简单并不意味着数值条件良好:如果某些对角元素的绝对值相对于最大的绝对值非常小,对角方程组就可能对扰动十分敏感。
其他重要用途包括:
- 微分方程。 将常系数矩阵对角化,可以把相互耦合的线性微分方程组分解为彼此独立的标量方程。
- 统计学。 对角协方差矩阵表明,不同分量之间的两两协方差为零。一般而言,这并不意味着统计独立。
- 矩阵分解。 奇异值分解利用正交矩阵或酉矩阵因子,以及一个由非负奇异值组成、可能为矩形的对角矩阵,来表示实矩阵或复矩阵。与相似对角化不同,它适用于所有矩阵。
- 坐标缩放。 对角矩阵可以实现逐坐标加权和尺度变换,包括在数值算法中对变量重新缩放。