希尔伯特空间是配备了内积的向量空间,并且对于该内积所定义的距离是完备的。它将长度、垂直和投影等几何概念,与处理无穷序列和级数所需的收敛性质结合起来。希尔伯特空间既可以是有限维的,也可以是无限维的;其元素可以是坐标向量、序列或函数。它为线性代数与无限维分析之间的联系提供了一个框架。(ocw.mit.edu)
定义与完备性
希尔伯特空间 (H) 定义在实数域或复数域上。其内积 (\langle x,y\rangle) 具有正定性和共轭对称性,对一个变量是线性的,对另一个变量是共轭线性的。这里采用对第一个变量线性的约定;许多物理学教材采用相反的约定。由内积诱导的范数和距离为
[ |x|=\sqrt{\langle x,x\rangle}, \qquad d(x,y)=|x-y|. ]
完备性意味着,在这一距离下,每个柯西序列都收敛到 (H) 中的一个元素。因此,当序列中的向量彼此变得任意接近时,其极限向量仍在该空间内。不要求完备性的内积空间通常称为预希尔伯特空间。(ocw.mit.edu)
每个希尔伯特空间都是赋范向量空间,也是完备的度量空间。完备的赋范向量空间称为巴拿赫空间,但并非每个巴拿赫空间的范数都来自内积。由内积诱导的范数满足平行四边形恒等式:
[ |x+y|^2+|x-y|^2=2|x|^2+2|y|^2. ]
反过来,这一恒等式也刻画了由内积诱导的范数。(ocw.mit.edu)
主要例子
有限维的例子包括 (\mathbb R^n) 和 (\mathbb C^n),其内积为
[ \langle x,y\rangle=\sum_{j=1}^{n}x_j\overline{y_j}. ]
这些空间都是完备的。序列空间 (\ell^2) 由所有满足
[ \sum_{j=1}^{\infty}|x_j|^2<\infty ]
的序列 (x=(x_j)_{j\geq1}) 组成,内积由相应的无穷和定义。它是一个基本的无限维例子。(ocw.mit.edu)
在测度论中,空间 (L^2(X,\mu)) 由绝对值平方的积分有限的可测函数的等价类组成。其内积为
[ \langle f,g\rangle=\int_X f,\overline g,d\mu. ]
几乎处处相等的函数代表同一个元素:这样将它们视为同一元素,保证了范数为零的元素就是零元素。完备性使 (L^2) 区别于许多更小的内积空间。例如,([0,1]) 上的连续函数配备 (L^2) 范数后,并不构成完备空间。(ocw.mit.edu)
正交性与基
当 (\langle x,y\rangle=0) 时,向量 (x) 和 (y) 正交。此时,勾股定理的形式为 (|x+y|^2=|x|^2+|y|^2)。柯西–施瓦茨不等式
[ |\langle x,y\rangle|\leq|x|,|y| ]
给出了内积的上界,是许多收敛性论证的基础。(ocw.mit.edu)
标准正交基是一个标准正交向量族,其线性包在整个空间中稠密。在可分希尔伯特空间中——即具有可数稠密子集的希尔伯特空间中——可以选取有限或可数无限的标准正交基。对于无限基 ((e_n)),每个向量都可以展开为
[ x=\sum_{n=1}^{\infty}\langle x,e_n\rangle e_n, \qquad |x|^2=\sum_{n=1}^{\infty}|\langle x,e_n\rangle|^2. ]
该级数按范数收敛,第二个等式称为帕塞瓦尔恒等式。与代数意义上的基(线性代数)不同,标准正交基下的展开通常需要无穷项,而非有限项。这些恒等式是用希尔伯特空间研究傅里叶级数的基础。每个无限维可分希尔伯特空间,都与同一标量域上的 (\ell^2) 等距同构。(ocw.mit.edu)
投影与表示
对于每个闭线性子空间 (M\subseteq H),每个向量 (x) 都有唯一的分解
[ x=P_Mx+z,\qquad P_Mx\in M,\quad z\in M^\perp. ]
在所有 (m\in M) 中,向量 (P_Mx) 是使 (|x-m|) 取得最小值的唯一向量。这一正交投影定理将作垂线的几何思想推广到了无限维情形。闭性至关重要:非闭子空间不一定包含最近点。(ocw.mit.edu)
里斯表示定理指出,对于每个有界线性泛函 (F:H\to\mathbb F),都存在唯一的表示向量 (y),使得
[ F(x)=\langle x,y\rangle, \qquad |F|=|y|. ]
该定理将连续对偶空间与希尔伯特空间自身对应起来;在复数情形下,按照这里采用的约定,这一对应是共轭线性的。这两个结果都关键地依赖于完备性。(ocw.mit.edu)
算子
有界线性映射 (T:H\to H) 称为有界线性算子,它具有唯一的伴随算子 (T^*),由下式刻画:
[ \langle Tx,y\rangle=\langle x,T^*y\rangle. ]
在有限维情形下,伴随算子的矩阵是 (T) 的矩阵的共轭转置。自伴算子满足 (T=T^*)。希尔伯特空间上的算子理论将矩阵方法推广到向量可以是函数、算子可以涉及积分或微分的空间。对于无界算子,必须明确考虑其定义域。(ocw.mit.edu)
应用
在量子力学中,纯态对应于复希尔伯特空间中的射线:仅相差一个整体相位的归一化向量表示同一个态。粒子的波函数通常属于某个 (L^2) 空间。可观测量由自伴算子表示,复合系统则使用希尔伯特空间的张量积。内积给出跃迁振幅,其模的平方通过玻恩规则确定概率。(damtp.cam.ac.uk)
在机器学习中,再生核希尔伯特空间是点值求值泛函连续的函数希尔伯特空间。因此,求值可以表示为与某个核函数的内积。这一结构为核方法提供了基础,使得我们能够通过核函数值而非显式坐标,对可能为无限维的特征表示进行计算。并非所有函数希尔伯特空间都具有这一性质。(stat.berkeley.edu)