线性代数是数学的一个分支，研究向量空间、线性映射及其矩阵表示。它探讨其中的对象可以进行加法和标量乘法的结构，以及保持这些运算的变换。其核心问题包括求解线性方程、描述相互独立的方向，以及通过不变性质理解变换。线性代数将抽象推理与计算方法相结合，把代数公式与几何解释联系起来。(linear.axler.net)
向量空间与坐标
向量空间由向量以及满足特定公理的加法和标量乘法运算构成。标量属于某个域（数学），通常为实数域或复数域。常见的例子包括坐标向量，但多项式以及适当的函数集合也能构成向量空间。因此，向量不一定是物理空间中的箭头；其本质特征在于能够参与这些代数运算。(linear.axler.net)
线性组合具有如下形式： [ a_1v_1+\cdots+a_kv_k. ] 一组向量的线性包由它们的所有线性组合构成。线性无关是指，只有当所有系数都为零时，线性组合才等于零。基（线性代数）是一组线性无关且线性包为整个空间的向量；每个向量相对于这组基都有唯一的坐标表示。有限维空间中基向量的个数就是该空间的维数（向量空间）。坐标取决于所选的基，而向量本身和空间的维数则不随基的选择而改变。(linear.axler.net)
线性映射与矩阵
若映射 (T:V\to W) 对所有向量 (u,v) 和标量 (a,b) 都满足 [ T(au+bv)=aT(u)+bT(v), ] 则称其为线性映射。为有限维的定义域和陪域分别选定基后，就可以用一个矩阵表示该映射。矩阵的各列是定义域各基向量的像在陪域所选基下的坐标。矩阵乘法对应于线性映射的复合；更换基会改变表示矩阵，但不会改变映射本身。(linear.axler.net)
线性子空间是一个子集，它在沿用原空间运算的情况下本身也构成向量空间。与映射相关的两个重要子空间是核与像：核由映射到零的向量组成，像则由所有可能的输出组成。对于矩阵，其像就是列空间，列空间的维数就是矩阵的秩。秩—零化度定理指出，核与像的维数之和等于定义域的维数。(github.com)
线性方程与可逆性
线性方程组可以写成 [ Ax=b, ] 其中 (A) 包含各个系数，(x) 包含各个未知量，(b) 包含给定值。当且仅当 (b) 属于 (A) 的列空间时，方程组有解。如果 (x_0) 是一个解，那么所有解都可写成 (x_0+z)，其中 (Az=0)。这种表示将解的存在性问题与唯一性问题区分开来。(github.com)
高斯消元法通过初等行变换将矩阵化为阶梯形，从而揭示主元、自由变量以及不相容的方程。方阵可逆，当且仅当它的秩等于它的阶数；等价地，其核仅包含零向量。此时，它的逆矩阵给出唯一解 (x=A^{-1}b)，不过实际计算通常直接求解方程组，而不显式计算逆矩阵。(web.mit.edu)
行列式为每个方阵赋予一个标量，当且仅当矩阵奇异时，其行列式为零。对于作用于欧几里得空间的实矩阵，行列式的绝对值表示体积的缩放倍数，符号则表明变换是保持还是反转空间的定向。因此，行列式将可解性与几何联系起来。(web.mit.edu)
正交性与逼近
内积引入了长度、夹角和正交等概念。在实坐标空间中，标准内积为 (u^{T}v)。标准正交基的向量长度均为一，且两两垂直，因此能够简化计算。正交投影确定子空间中距离给定向量最近的向量，并为最小二乘逼近提供几何基础。(ocw.mit.edu)
当 (Ax=b) 无解时，最小二乘法通过最小化 (|Ax-b|_2^2) 来寻找近似解。在使该表达式达到最小值的解处，残差与 (A) 的每一列都正交，由此得到正规方程 (A^{T}Ax=A^{T}b)。这是统计建模中普通最小二乘法的基础。QR 分解和奇异值分解提供了其他求解方法，与直接构造正规方程相比，它们在数值计算上更有优势。(arxiv.org)
特征值与分解
特征值与特征向量描述满足 (Av=\lambda v) 的非零向量及其对应标量：变换对这样的向量所起的作用就是标量乘法。如果一个方阵具有一组由特征向量构成的基，便可通过矩阵对角化将其表示为 (A=PDP^{-1})，其中 (D) 为对角矩阵。这能简化矩阵幂的计算以及对反复施加的变换的分析。并非所有方阵都可以对角化。(linear.axler.net)
谱定理保证实对称矩阵存在一组标准正交的特征向量基；在复数空间中，正规矩阵也具有这样的基。奇异值分解的适用范围更广，任何实数或复数的矩形矩阵都可以分解为： [ A=U\Sigma V^{*}, ] 其中 (U,V) 为酉矩阵，(\Sigma) 包含非负的奇异值。这种分解能够揭示矩阵的秩，并用于低秩逼近和求取最小范数最小二乘解。(linear.axler.net)
计算与应用
数值线性代数研究有限精度算术下的算法，关注输入扰动的敏感性、舍入误差以及高效的矩阵分解。对于病态问题，数学上成立的公式在实际计算中可能并不可靠。(arxiv.org)
线性代数的应用包括统计学中的模型拟合、主成分分析以及其他形式的机器学习。它还用于分析微分方程组、网络和马尔可夫链。在这些场景中，相同的结构性问题反复出现：哪些输出能够达到，哪些方向相互独立，以及变换在迭代过程中如何表现。(arxiv.org)