线性方程是指未知量仅以一次幂出现、分别乘以固定系数后相加所构成的方程。对于含有限个标量未知量的情形,其标准形式为
其中,系数 和右端项 均已给定。通常要求至少有一个系数不为零。在实数范围内,二元线性方程表示一条直线,三元线性方程表示一个平面,而在更高维空间中,线性方程表示一个超平面。
线性方程将初等代数与几何学、计算和数学建模联系起来。借助向量空间的结构,可以精确刻画线性方程的解;由大量线性方程组成的方程组,也可以用矩阵方法系统地求解。线性方程既可以表示精确的定律,例如某些平衡关系,也可以作为更复杂关系的近似表示。区分单个方程、方程组以及以未知函数为对象的线性方程十分重要:它们都体现了线性这一共同原理,但需要在不同的数学框架下研究。
定义、系数与线性的含义
对于标量未知量 ,线性方程具有如下形式:
这些标量通常属于某个域,最常见的是实数域或复数域。域中可以进行加法、减法、乘法,以及以任意非零元素为除数的除法。借助这些运算,可以将系数非零的未知量单独解出。对于所讨论的某个特定方程,系数是固定的,即使用字母而非数值常量来表示也是如此。
等式左边的表达式是未知量的线性组合。、 和 这样的项对于其中的未知量而言都不是线性的。因此, 关于 和 是线性的,而 和 则不是。线性与否取决于将哪些符号视为未知量。当 是固定参数时,方程 关于 是线性的;但若将 一并视为未知量,它就不是线性的,因为 是两个未知量的乘积。
用多项式的术语来说,非退化线性方程是将所有项移到等式一边后,总次数为一的多项式方程。“总”字在这里很重要: 对每个变量单独而言的次数都是一,但总次数为二。含有看似非线性表达式的方程,也可能化简为线性方程,前提是化简过程不改变原方程的定义域。反过来,与线性方程具有相同的解集,并不意味着一个表达式就是线性的: 和 的实数解相同,但代数次数不同。
线性方程与线性函数也有所区别。映射
是线性映射,因为它保持加法和标量乘法。即使 ,方程 仍称为线性方程。但此时函数 是仿射映射,而非严格意义上的线性映射。同样,中小学所说的“一次函数”通常包括 这种形式,而在线性代数中,只有 时才称其为线性函数。
若允许所有系数均为零,就会出现两种有用的退化情形。如果 ,方程就是恒等式,未知量的任意一组可能取值都满足它。如果 ,方程则不相容,即无解。尽管这两种情形都不属于次数为一的多项式方程,但它们会在方程的化简或组合过程中自然出现。
求解单个方程与保持等价性
一元线性方程可以写成
在域上,若 ,它恰有一个解:
若 ,则根据 还是 ,方程分别以所有标量为解或无解。这种分类给出了解那些形式看似更复杂的一次方程的基本思路:不断化简,直到未知数的系数和常数项明确呈现出来。
例如,
化为 ,进而得到 ,解得 。每一步都保持解集不变。在等式两边加上同一个表达式是可逆的,在两边乘以某个确定的非零标量也是如此。这些都是等价变换。乘以零则不可逆,因为它会把任何方程都变成 ,使原有的约束丧失。
当除数含有参数时,除法需要格外谨慎。考虑
当 时,唯一解为
当 时,方程变为 ,因此无解。如果直接相除得到公式,却没有注明条件 ,就会遗漏问题的一个关键部分。在其他含参方程中,某些参数取值可能使两边同时为零,此时方程有无穷多个解,而不是无解。
当方程含有未知数出现在分母中的分式时,函数的定义域也很重要。方程
仅在 时有定义。在这个定义域上,它可化简为 ,得到候选解 。由于原表达式已排除了这个值,原方程无解。因此,化简后的线性关系必须附带原有的限制条件;约分并不能让表达式在原本无定义的点上重新有定义。
一个含有多个未知数的非退化线性方程通常会留下自由选择的余地。若 ,则
每一组 的取值都恰好确定一个 。例如, 的解可用参数表示为
在实数范围内,参数 可以取任意实数。然而,如果要求解为整数,就并非每个实数参数值都符合要求。求解代数关系和指明允许的取值范围,是描述其解的两个不同环节。
几何解释与坐标形式
在实数坐标平面中,每个方程
都定义一条直线。若 ,则可将其改写为斜截式:
斜率 表示 每变化一个单位时 的变化量, 则是纵截距。若 ,这条直线便是竖直直线,其方程为 ,无法表示为单值函数 的图像。因此,一般式所能描述的直线比仅用斜截式所能描述的更多。
系数还包含方向信息。若直线上两点之间的位移为 ,将两点所满足的方程相减可得
因此, 与沿直线的任意位移都垂直。它是这条直线的一个法向量,而 则是一个方向向量。将 同乘一个非零标量,既不会改变解集,也不会改变这条直线。这些系数描述了一个几何对象,但并不是该对象唯一的数值表示。
在三维欧几里得空间中,系数向量非零的方程
定义一个平面,其法向量为 。更一般地,在 中,一个非退化线性方程的解集是维数为 的超平面。利用欧几里得内积,可将其写为
对于点 ,它到这个超平面的垂直距离为
其中 。分子衡量的是点 处方程两边的偏差;除以范数进行归一化后,所得距离便不受方程整体缩放的影响。
当 时,超平面经过原点,是一个线性子空间。当 时,它是线性子空间平移后的结果,也是仿射空间的一个例子。这一区别解释了为什么将经过原点的直线上的两个点相加,所得的点仍在该直线上,而将一般直线上的两个点相加,所得的点却未必仍在该直线上。系数之和为一的仿射组合则对这两类直线都成立:由直线上的点作仿射组合,所得的点仍在该直线上。
这种几何解释也可以推广到不等式。将等式替换为 ,便选定了一个以该超平面为边界的半空间。有限个这样的区域相交形成多面体。这一关系是线性规划的基础;线性规划是在满足线性不等式和等式约束的条件下,优化一个线性目标函数。等式规定精确的几何约束,而不等式则允许取边界面一侧的区域。
线性方程组与消元法
线性方程组要求多个线性方程同时成立。含有 个方程和 个未知量的方程组可表示为
其中, 是一个 矩阵, 是由未知量组成的列向量, 是方程右端项组成的列向量。 的每一行给出一个方程的系数。方程组的解必须满足每一行所对应的方程;从几何上看,它属于所有相应超平面的交集。
高斯消元法通过将这类方程组化为更简单的等价方程组来求解。其初等行变换包括交换两个方程、将一个方程乘以非零标量,以及将一个方程的倍数加到另一个方程上。这些变换不会改变方程组的公共解集。对增广矩阵 施行这些变换,可得到阶梯形矩阵,其中各行的首个非零元素称为主元,其位置逐行向右移动。随后通过回代,将主元对应的变量表示为其余自由变量的函数。
例如,
可以通过从第一个方程中减去第二个方程的两倍来求解,得到 。因此 ,进而得到 。下面的方程组则呈现出另一种情形:
第二个方程没有增加任何约束,消元后得到 。若将其右端项改为 ,消元后则得到 ,表明方程组不相容。这两种结果分别对应两条重合的直线和两条平行但不重合的直线。
一般的相容性判据用矩阵的秩来表述:
如果这个共同的秩为 ,那么相容方程组就有 个自由参数。特别地,方程组有唯一解当且仅当 。在无限域上,至少含有一个自由参数的相容方程组有无穷多个解。仅比较方程个数与未知量个数并不足以判断解的情况:方程可能是冗余的,也可能因右端项不一致而相互矛盾。
对于方阵,任意右端项都对应唯一解,等价于其行列式非零。克拉默法则将解的各个分量表示为行列式之比,而系数矩阵可逆的方程组在形式上可写为 。这些表述对于理论研究和小规模符号运算示例很有价值。实际计算通常更适合采用消元法和矩阵分解,尤其是在未知量很多时。特别是,求解方程组并不一定需要显式构造逆矩阵。
齐次方程与全体解的结构
当线性方程或方程组的右端为零时,称其为齐次方程或方程组:
零向量始终是这类方程组的解。更重要的是,由线性性可知,若 和 都是解,那么它们的任意线性组合 也都是解:
因此,齐次方程组的解集是一个向量空间,具体来说,就是 的零空间。这种封闭性正是叠加原理的代数表述。
这一解空间的维数由秩—零化度定理确定:
其中, 是 的列数。因此,当齐次方程组的方程个数少于未知数个数时,它必定有非零解。更确切地说,若其秩为 ,则它有 个线性无关的解方向。选取零空间的一组基,就可以用参数描述解集:若这组基为 ,则每个解都能唯一地写成
有解的非齐次方程组的解集可以通过平移得到。若 是 的一个特解,则
事实上,将方程 与 相减,就得到 。对于方程 ,一个特解是 ,其全体解为
特解决定平面的位置,齐次方程的解则描述平面的方向。
方程组有解的条件也可以用 所表示的线性映射的像来表述:当且仅当 属于这个像,也就是列空间时,方程组有解。在实数范围内,一个等价的判定条件是
这样的向量 给出方程组各行的一组线性组合,使左端各未知数的系数全部相消。要使方程组有解,右端按同样方式组合后也必须相消。这就解释了为什么方程左端之间的线性相关关系可能揭示右端的矛盾。
齐次方程组还将线性方程与特征值与特征向量联系起来。特征值为 的特征向量满足
对于方阵,当且仅当 时,才存在这样的非零解。因此,求特征值需要求解关于 的多项式方程,而求相应的特征向量则归结为求解齐次线性方程组。
精确计算、数值方法与敏感性
当系数为整数或有理数时,可以使用有理数运算精确求解线性方程。即使原始元素很小,消元过程中产生的分数也可能变得很大。因此,符号计算会采用控制中间表达式膨胀的技术,包括无分数消元法,以及先进行模素数运算、再重构精确答案的方法。精确运算能够保持代数恒等关系,但其计算成本不仅取决于矩阵的维数,还取决于所涉及数值的大小。
大多数科学计算则使用浮点运算,其中存储的数值和算术运算的结果都要经过舍入。对于一个 阶稠密方阵对应的方程组,消元所需的算术运算次数约为 量级。LU分解将这一过程组织为下三角矩阵与上三角矩阵的乘积分解,通常还伴有行置换。完成分解后,对于右端项不同的多个方程组,就可以通过成本相对较低的三角回代求解。
选主元对于数值稳定性至关重要。考虑一个方程组,其第一个方程以 开头,第二个方程则以 开头。若以 为第一个主元消去 ,就需要使用 的乘数,这可能放大中间计算中的舍入影响。交换两个方程即可得到一个大得多的主元。部分选主元法从当前主元列中可供选择的元素里,选取绝对值最大的一个。这种方法在许多情况下都很有效,但数值稳定性与问题本身固有的敏感性仍是两个不同的问题。
敏感性可用条件数衡量。对于可逆矩阵及相容的矩阵范数,
若只有右端项受到扰动,则对于非零的 ,有如下标准界:
条件数很大意味着,无论求解过程多么谨慎,数据的微小变化都可能导致解发生显著变化。因此,仅凭残差 很小,并不能保证近似解 接近精确解。
大型方程组往往还具有额外的结构。稀疏矩阵中的绝大多数元素为零,合适的算法会避免将所有位置都当作非零元素来处理。迭代法利用矩阵与向量的运算逐步构造近似解,有时甚至无须显式存储整个矩阵。对于矩形系数矩阵的方程组和最小二乘问题,QR分解和奇异值分解是核心工具。这些方法能够区分精确可解与近似求解的情形,并揭示数据对未知量约束较弱的方向。
整数、有限域和环上的方程
线性方程的常用运算规则取决于允许使用的标量范围。在有理数、实数或复数范围内,任何非零系数都可以通过除法消去。因此,含有 个未知量的单个非退化方程总有解,并且可以自由选取 个标量。将未知量限制为整数后,问题就不同了:除法可能使结果超出允许的范围,而在实数范围内有解的方程,在整数范围内可能无解。
设 为整数,且 和 不全为零,则方程
有整数解,当且仅当 整除 。这一判据可由最大公约数的性质和裴蜀等式推出。例如, 没有整数解,因为左边的值总能被 整除。而方程 则有整数解。记 ,从任意一个解 出发,可以得到全部解:
这样,实数解构成的直线就被限制为一组离散的格点。
在模算术中,形如
的方程所求的是剩余类,而不是不受限制的数。它有解,当且仅当 整除 ;有解时,模 意义下恰有 个不同的解。例如, 有两个解: 和 。如果仅将两边同时除以 ,却保持模数不变,就会错误地丢掉一部分解。
在含有 个元素的有限域上,标准的向量空间理论仍然完全适用,但解集是有限的。一个含有 个未知量、秩为 的相容方程组恰有
个解。在二元域上,加法等同于异或运算,方程描述的是奇偶校验约束。这类方程组用于编码理论和离散计算,其中的未知量表示二进制符号,而非连续量。
在一般的环中,未必能除以非零元素。有些非零元素可能是零因子,另一些则可能只是没有乘法逆元。因此,在域上将解集划分为唯一解或可由自由参数表示的仿射空间,这种分类不能原封不动地套用到环上。环上的线性方程自然适合用模来研究。因此,标量的取值范围是方程数学定义的一部分,而不只是关于答案书写方式的约定。
建模、近似与以函数为未知量的方程
线性方程常用来表达守恒或平衡关系。在稳态流动网络中,流入内部节点的总流量等于流出的总流量。为各条边上的流量指定正负号后,就可以得到如下方程:
汇集所有节点的条件,就得到一个矩阵方程组,其中的矩阵元素通常为 、 和 。这些方程描述了网络的连接关系;要确定流量如何依赖于压力、电压或其他驱动量,还需要补充关系式。这些补充关系既可能是线性的,也可能是非线性的。
测量模型需要区分精确方程与近似方程。在线性回归中,观测数据通常表示为
其中, 是已知的设计矩阵, 是未知的系数向量, 表示模型未能解释的变异。由于测量数据并不完全符合模型,方程组 往往无解。普通最小二乘法则通过最小化 ,得到正规方程组
这里的“线性”是针对未知系数而言的:即使模型以 为已知预测变量,它对于这些变量的系数仍然是线性的。
非线性问题在局部也会产生线性方程。对于可微的向量值函数 ,有
来求得修正量,再用 替换 。原方程 仍然是非线性的;每次迭代求解的都是一个线性近似问题。这一区别在工程仿真和优化中至关重要,因为一次非线性计算的背后可能需要依次求解一系列大型线性方程组。
这一概念不仅适用于标量未知量,也适用于未知函数。当未知函数及其导数通过线性微分算子出现在方程中时,这个微分方程就是线性的。例如,
对于 是线性的,即使给定的系数函数 和 很复杂也是如此。相比之下, 和 会引入非线性。只要算子及其定义域构成适当的线性框架,解就同样具有“齐次解加特解”的结构。
离散化将这些无限维问题重新与矩阵方程联系起来。有限差分法用邻近位置的函数值的组合代替导数,而有限元法则在有限维空间中近似函数。这样,线性边值问题通常会转化为以离散系数为未知量的方程组 。计算精度不仅取决于该方程组的求解,还取决于推导方程组时所用的近似、边界条件的处理方式,以及原问题解的正则性。
历史发展与数学体系的形成
如今用线性方程表示的问题,早在符号代数出现之前就已存在。古埃及数学文献中,已有涉及某个未知量及其指定分数倍的计算。书吏阿赫摩斯于公元前1650年左右抄写的《莱因德数学纸草书》,包含一些通常被视为一次方程问题的例子。其中一些问题采用如今称为试位法的方法求解:先选取一个便于计算的试值,算出由此得到的总量,再按比例调整试值,使总量符合题目要求。由于相关数量按比例变化,这种方法可以直接奏效。
中国古代数学发展出了处理联立关系的系统方法。《九章算术》历经长期编纂,至公元初几个世纪时已基本成书,其中有一章名为“方程”。这一章中的问题将数值数据在筹算平面上排列成矩形阵列,并通过相互配合的运算消去未知量。这些算法是矩阵消元法的重要历史先驱,尽管其记数方式、实际排列形式和数学解释都与现代矩阵代数有所不同。
九世纪,花拉子米在一部论述“还原”(al-jabr)与“对消”(al-muqabala)的著作中,系统阐述了方程的解法。他将一次方程与二次方程一同分类讨论,并用文字而非现代符号描述运算。后来,符号记法逐渐发展,使人们更容易抽象地处理系数和未知量。十六世纪末,弗朗索瓦·韦达的工作对于确立用字母系统表示已知量和未知量的做法尤为重要。
十七世纪的解析几何在方程与空间图形之间建立了持久的联系。勒内·笛卡尔于1637年发表的《几何学》,以及皮埃尔·德·费马关于轨迹的研究,推动了坐标方法的确立,使人们能够用代数关系描述曲线。在这一框架下,一次方程成为直线的代数表达。随着坐标观点推广到更多变量,超平面和高维方程组最终成为自然的数学对象,而不再仅仅是未知量的形式化集合。
十八至十九世纪,消元法、行列式和矩阵方法日益系统化。加布里埃尔·克拉默于1750年发表了后来以其姓氏命名的行列式公式。卡尔·弗里德里希·高斯将消元法用于天文与大地测量计算,并为最小二乘法的发展作出了贡献。詹姆斯·约瑟夫·西尔维斯特于1850年引入“矩阵”一词,阿瑟·凯莱则在1858年的一篇论文中系统发展了矩阵代数。此后,二十世纪的抽象线性代数和数字计算,将存在性、维数等结构性问题与速度、存储、舍入误差等算法问题区分开来;这些区分至今仍是研究和求解线性方程的核心。