内积是实或复向量空间上的一种运算,为每一对向量指定一个标量,并满足线性、对称性和正定性条件。它推广了熟悉的坐标向量点积,使我们能够为函数、序列等对象定义长度、垂直关系及其他几何关系。配备了内积的向量空间称为内积空间。这一概念将线性代数与几何学和分析学联系起来。(wiki.math.ntnu.no)
定义与约定
设 (V) 是域 (\mathbb F) 上的向量空间,其中 (\mathbb F) 为实数域或复数域。采用对第二个变量线性的约定,内积是一个映射 [ \langle\cdot,\cdot\rangle:V\times V\longrightarrow\mathbb F, ] 它对向量 (u,v,w) 和标量 (a,b) 满足以下条件:
- 对第二个变量线性: [ \langle u,av+bw\rangle =a\langle u,v\rangle+b\langle u,w\rangle. ]
- 共轭对称性: [ \langle u,v\rangle=\overline{\langle v,u\rangle}. ]
- 正定性: (\langle v,v\rangle) 是非负实数,且当且仅当 (v=0) 时等于零。
这些性质蕴含内积对第一个变量共轭线性: [ \langle au+bv,w\rangle =\overline a\langle u,w\rangle+\overline b\langle v,w\rangle. ] 在实数域上,共轭运算不改变数值,因此内积是对称的,且对两个变量都线性。(ocw.mit.edu)
许多数学教材采用另一种约定,即对第一个变量线性、对第二个变量共轭线性。这两种约定描述的是同一种结构,但使用公式时必须作一致的调整。因此,在复向量空间中,内积是半双线性的,而不是双线性的。(linear.axler.net)
坐标形式的例子
在 (\mathbb R^n) 上,标准点积为 [ \langle x,y\rangle=\sum_{j=1}^{n}x_jy_j. ] 在 (\mathbb C^n) 上,采用对第二个变量线性的约定,相应的公式为 [ \langle x,y\rangle=\sum_{j=1}^{n}\overline{x_j}y_j. ] 共轭运算保证了 (\langle x,x\rangle=\sum_j|x_j|^2)。 如果不取共轭,非零复向量与自身的乘积也可能为零或负数,从而违反正定性。(wiki.math.ntnu.no)
内积不必赋予所有坐标相同的权重。对于埃尔米特正定矩阵 (A),可以定义 [ \langle x,y\rangle_A=x^Ay, ] 其中 (x^) 表示共轭转置。相对于选定的一组基,每个有限维内积都具有这种形式。表示该内积的矩阵由基向量两两之间的内积组成,即这些基向量的格拉姆矩阵。改变内积可以改变长度和垂直关系,而不改变向量加法或标量乘法。(math.brown.edu)
长度、夹角与正交性
内积可以诱导一个范数: [ |v|=\sqrt{\langle v,v\rangle}. ] 相应的距离为 (d(u,v)=|u-v|),使该空间既是度量空间,也是赋范向量空间。柯西–施瓦茨不等式 [ |\langle u,v\rangle|\leq|u||v| ] 给出了内积绝对值的上界。当且仅当两个向量线性相关时,等号成立。由这一不等式还可以推导出所诱导范数的三角不等式。(math.brown.edu)
对于实内积空间中的非零向量,其夹角 (\theta\in[0,\pi]) 定义为 [ \cos\theta=\frac{\langle u,v\rangle}{|u||v|}. ] 当两个向量的内积为零时,称它们正交。正交向量满足推广的勾股定理: [ |u+v|^2=|u|^2+|v|^2. ] 在复向量空间中,内积可能不是实数,因此上述实向量夹角公式不能原样适用。(math.brown.edu)
标准正交基与投影
标准正交基由彼此正交的单位向量组成。格拉姆–施密特正交化过程通过逐次减去投影并归一化,将有限个线性无关向量组成的向量组转化为具有相同张成空间的标准正交向量组。在标准正交基下,向量的坐标和长度具有特别简单的形式。(ocw.mit.edu)
若 (e_1,\ldots,e_m) 构成有限维线性子空间 (W) 的一组标准正交基,则到 (W) 上的正交投影为 [ P_Wv=\sum_{j=1}^{m}\langle e_j,v\rangle e_j. ] 残差 (v-P_Wv) 与 (W) 中的每个向量都正交,而 (P_Wv) 是 (W) 中与 (v) 距离最小的唯一元素。这是普通最小二乘法的几何基础:在矩阵的列空间中寻找目标向量的近似。(linear.axler.net)
函数空间与完备性
对于测度空间上的平方可积复值函数,可以定义内积 [ \langle f,g\rangle=\int\overline{f(x)}g(x),d\mu(x). ] 这里,积分取代了坐标求和。将几乎处处相等的函数视为同一个元素,可以保证范数为零的元素就是零元素。由此得到的 (L^2) 空间是一个希尔伯特空间,即相对于其诱导范数完备的内积空间。完备性意味着每个柯西序列都收敛于该空间中的某个元素。有限维内积空间总是完备的,无限维内积空间则未必如此。(ocw.mit.edu)
包括傅里叶级数在内的正交函数展开,利用内积求出展开系数。在量子力学中,复内积决定了量子态之间的重叠。根据玻恩规则,对于归一化的态,(|\langle\phi,\psi\rangle|^2) 给出投影到 (\phi) 上所对应的概率。(ocw.mit.edu)
通过范数刻画内积
并非每个范数都来自内积。实或复向量空间上的范数由内积诱导,当且仅当它满足平行四边形恒等式: [ |u+v|^2+|u-v|^2 =2|u|^2+2|v|^2. ] 诱导该范数的内积是唯一的。在实数情形下,极化恒等式可将内积恢复为 [ \langle u,v\rangle =\frac{|u+v|^2-|u-v|^2}{4}. ] 因此,由内积诱导的范数不仅包含向量长度的信息,还包含整个内积运算的信息。(linear.axler.net)