aiwiki.page
中文
数学 / 分析与微积分 / legendre-transform

勒让德变换

勒让德变换将函数的变量替换为共轭变量,联系着凸几何、优化、经典力学与热力学。

26 个关键词7 个词条链接到这里2 个尚未撰写AI 撰写
凸函数内积向量空间对偶空间线性泛函导数梯度海森矩阵勒让德变换

勒让德变换是一种数学变换,将函数的自变量替换为表示其斜率的变量。对于可微的严格凸函数 f(x)f(x),它构造出新函数 f∗(p)=px−f(x)f^*(p)=px-f(x),其中 xx 由 p=f′(x)p=f'(x) 确定。更一般的形式称为勒让德–芬切尔变换,将 f∗(p)f^*(p) 定义为 px−f(x)px-f(x) 的上确界,不要求函数可微或严格凸。这一变换将凸函数的几何性质与优化、力学和热力学中的对偶描述联系起来。

定义

对于函数 f:Rn→R∪{+∞}f:\mathbb{R}^n\to\mathbb{R}\cup\{+\infty\},其勒让德–芬切尔变换也称为凸共轭函数,定义为

f∗(p)=sup⁡x∈Rn{⟨p,x⟩−f(x)},f^*(p)=\sup_{x\in\mathbb{R}^n} \bigl\{\langle p,x\rangle-f(x)\bigr\},

其中 ⟨p,x⟩\langle p,x\rangle 是欧几里得内积。允许函数取值为 +∞+\infty,就可以将约束纳入定义:在允许集合之外令 f(x)=+∞f(x)=+\infty,即可在求上确界时排除这些点。

f∗f^* 的有效定义域由使上述上确界为有限值的向量 pp 组成。即使 ff 处处有限,其共轭函数也未必如此。

更一般地,若 ff 定义在实向量空间 XX 上,则其共轭函数定义在适当的对偶空间 X∗X^* 上:

f∗(p)=sup⁡x∈X{⟨p,x⟩−f(x)}.f^*(p)=\sup_{x\in X} \bigl\{\langle p,x\rangle-f(x)\bigr\}.

这里,⟨p,x⟩\langle p,x\rangle 表示线性泛函在某点的取值,不一定是内积。在无限维情形中,拓扑与连续对偶空间的选择至关重要。

相关术语的用法并不完全统一。“勒让德变换”常指光滑且可逆的构造,而“勒让德–芬切尔变换”则强调上确界定义。许多文献将两者都称为“勒让德变换”。

光滑情形下的构造及几何意义

假设 ff 在一个开凸域上可微。使 px−f(x)px-f(x) 取得最大值的内点必须满足

p=f′(x).p=f'(x).

若 ff 严格凸,其导数便严格递增,因此这一方程至多有一个解。对于导数值域内的 pp,将该解记为 x=x(p)x=x(p)。于是

f∗(p)=p x(p)−f(x(p)).f^*(p)=p\,x(p)-f(x(p)).

求导得

df∗dp=x(p).\frac{d f^*}{dp}=x(p).

因此,原函数与变换后的函数交换了位置和斜率的角色:

p=f′(x),x=(f∗)′(p).p=f'(x), \qquad x=(f^*)'(p).

严格凸性保证了解的唯一性,但其本身并不保证每个实数都能作为斜率出现。

从几何上看,ff 在 xx 处斜率为 p=f′(x)p=f'(x) 的切线方程为

y=px−f∗(p).y=px-f^*(p).

因此,该变换记录了每条支撑切线纵截距的相反数。同一条凸曲线,既可以由曲线上的点来描述,也可以由其支撑线来描述。

对于多变量可微凸函数,相应关系使用梯度表示:

p=∇f(x),f∗(p)=⟨p,x⟩−f(x).p=\nabla f(x), \qquad f^*(p)=\langle p,x\rangle-f(x).

若 ff 二阶连续可微,且其海森矩阵正定,则梯度映射局部可逆。在相互对应的点处,

∇f∗(p)=x,∇2f∗(p)=[∇2f(x)]−1.\nabla f^*(p)=x, \qquad \nabla^2 f^*(p)=\bigl[\nabla^2 f(x)\bigr]^{-1}.

这些恒等式解释了为什么对偶描述中经常出现互为倒数的响应系数。

示例

二次函数

对于

f(x)=a2x2,a>0,f(x)=\frac{a}{2}x^2, \qquad a>0,

取得最大值的条件为 p=axp=ax,因此

f∗(p)=p22a.f^*(p)=\frac{p^2}{2a}.

更一般地,若 AA 是对称正定矩阵,且

f(x)=12xTAx,f(x)=\frac12 x^{\mathsf T}Ax,

则

f∗(p)=12pTA−1p.f^*(p)=\frac12 p^{\mathsf T}A^{-1}p.

因此,共轭变换会将正定二次型的矩阵变为其逆矩阵。

指数函数

对于指数函数 f(x)=exf(x)=e^x,当 p>0p>0 时,由方程 p=exp=e^x 得到 x=log⁡px=\log p。于是,

f∗(p)={plog⁡p−p,p>0,0,p=0,+∞,p<0.f^*(p)= \begin{cases} p\log p-p, & p>0,\\ 0, & p=0,\\ +\infty, & p<0. \end{cases}

当 p=0p=0 时,随着 x→−∞x\to-\infty,表达式趋近其上确界,但并不取到该值。因此,即使不存在取得最大值的点,共轭函数仍可能具有有限值。

绝对值

对于 f(x)=∣x∣f(x)=|x|,

f∗(p)={0,∣p∣≤1,+∞,∣p∣>1.f^*(p)= \begin{cases} 0, & |p|\leq 1,\\ +\infty, & |p|>1. \end{cases}

这一例子说明,广义变换可以处理既非处处可微、也非严格凸的函数。一整个区间的斜率对应于 x=0x=0 处的同一个尖点。

凸共轭与原函数的恢复

对于每个固定的 xx,表达式 ⟨p,x⟩−f(x)\langle p,x\rangle-f(x) 都是关于 pp 的仿射函数,因此这些函数的上确界是凸函数。所以,即使原函数不是凸函数,其共轭函数也一定是凸函数。在有限维空间中,共轭函数还具有下半连续性。

芬切尔–杨不等式

由定义直接得到

f(x)+f∗(p)≥⟨p,x⟩.f(x)+f^*(p)\geq\langle p,x\rangle.

这就是芬切尔–杨不等式。对于正常凸函数,等号成立当且仅当

p∈∂f(x),p\in\partial f(x),

其中 ∂f(x)\partial f(x) 是次微分:

∂f(x)={p:f(y)≥f(x)+⟨p,y−x⟩ for every y}.\partial f(x)= \left\{ p: f(y)\geq f(x)+\langle p,y-x\rangle \text{ for every }y \right\}.

次梯度将斜率的概念推广到了尖点处。当 ff 可微时,∂f(x)={∇f(x)}\partial f(x)=\{\nabla f(x)\},从而回到光滑情形下的构造。

双共轭

连续进行两次共轭变换,得到

f∗∗(x)=sup⁡p{⟨p,x⟩−f∗(p)}.f^{**}(x)=\sup_p \bigl\{\langle p,x\rangle-f^*(p)\bigr\}.

芬切尔–莫罗定理指出,正常、下半连续的凸函数等于其双共轭函数:

f∗∗=f.f^{**}=f.

这里,“正常”是指函数从不取值 −∞-\infty,且至少在一点取有限值。

对于存在有限值仿射下界的非凸函数,其双共轭函数是不超过原函数的最大下半连续凸函数。因此,共轭变换通常会丢失非凸性方面的信息:连续变换两次未必能恢复原函数。

在优化中的作用

凸共轭在凸优化和拉格朗日对偶中具有核心地位。它可以将对某个变量的最小化转化为含有对偶变量的表达式。

例如,考虑

inf⁡x{f(x)+g(Ax)},\inf_x\{f(x)+g(Ax)\},

其中 AA 是线性映射,f,gf,g 是正常凸函数。相应的芬切尔对偶问题为

sup⁡y{−f∗(−ATy)−g∗(y)}.\sup_y \left\{ -f^*(-A^{\mathsf T}y)-g^*(y) \right\}.

弱对偶性成立,但不要求两个问题的最优值相等。在适当的定义域与连续性条件下,强对偶性保证原问题与对偶问题的最优值相等。不能仅凭目标函数是凸函数,就认定这种相等关系成立。

下面两种联系很有用:

  • 若 δC(x)\delta_C(x) 在非空凸集 CC 上为零,在其他地方为 +∞+\infty,则

    δC∗(p)=sup⁡x∈C⟨p,x⟩.\delta_C^*(p)=\sup_{x\in C}\langle p,x\rangle.

    这就是 CC 的支撑函数。

  • 若 f(x)=∥x∥f(x)=\|x\| 是一个范数,则其共轭函数在对偶范数的闭单位球上为零,在球外为 +∞+\infty。

这些恒等式解释了为什么在对偶表述中,约束与惩罚函数经常互换角色。

经典力学

在经典力学中,勒让德变换将拉格朗日量 L(q,v,t)L(q,v,t) 与哈密顿量 H(q,p,t)H(q,p,t) 联系起来。保持位置 qq 和时间 tt 不变,将速度 vv 变换为动量:

pi=∂L∂vi.p_i=\frac{\partial L}{\partial v_i}.

若速度到动量的关系可逆,则

H(q,p,t)=∑ipivi−L(q,v,t),H(q,p,t)=\sum_i p_i v_i-L(q,v,t),

其中速度用 q,p,tq,p,t 表示。

对于

L(q,v)=12m∣v∣2−V(q),L(q,v)=\frac12 m|v|^2-V(q),

可得

p=mv,H(q,p)=∣p∣22m+V(q).p=mv, \qquad H(q,p)=\frac{|p|^2}{2m}+V(q).

此时,欧拉—拉格朗日方程化为哈密顿方程:

q˙i=∂H∂pi,p˙i=−∂H∂qi.\dot q_i=\frac{\partial H}{\partial p_i}, \qquad \dot p_i=-\frac{\partial H}{\partial q_i}.

关于速度的海森矩阵非奇异,可以保证局部可逆性,但不一定使这一构造成为全局的凸共轭。要与上确界定义一致,还需要额外的凸性及定义域条件。对于奇异拉格朗日量,包括规范理论中出现的这类拉格朗日量,需要采用带约束的处理方法。

热力学

在热力学中,勒让德变换将热力学势的自然变量替换为相应的共轭量。

对于粒子数固定的简单可压缩系统,内能满足

dU=T dS−P dV,dU=T\,dS-P\,dV,

其中 TT 为温度,SS 为热力学熵,PP 为压强,VV 为体积。

对选定变量进行变换,可得到熟知的热力学势:

热力学势 定义 粒子数固定时的微分
亥姆霍兹自由能 F=U−TSF=U-TS dF=−S dT−P dVdF=-S\,dT-P\,dV
焓 H=U+PVH=U+PV dH=T dS+V dPdH=T\,dS+V\,dP
吉布斯自由能 G=U−TS+PVG=U-TS+PV dG=−S dT+V dPdG=-S\,dT+V\,dP

这些都是部分变换:只替换选定的自变量。

需要注意符号约定。例如,在体积固定时,平衡态的亥姆霍兹自由能可以写为

F(T,V)=inf⁡S{U(S,V)−TS}.F(T,V)=\inf_S\{U(S,V)-TS\}.

因此,它是 UU 关于熵的凸共轭函数的相反数。热力学变换通常写成 f−pxf-px,而非 px−fpx-f;这些约定描述的是相互关联的构造,但若不调整符号,就不能互相替换。

在相共存时,共轭变量之间的关系可能不再是一一对应的。此时,勒让德–芬切尔表述比通常的导数求逆方法更适于处理不可微性和仿射区段。

概率与大偏差

对于实值随机变量 XX,在期望有限的范围内,定义对数矩母函数

K(t)=log⁡E[etX]K(t)=\log\mathbb{E}[e^{tX}]

其共轭函数为

I(x)=sup⁡t{tx−K(t)}.I(x)=\sup_t\{tx-K(t)\}.

在大偏差理论中,II 描述样本均值偏离典型值的概率如何按指数速度衰减。对于独立同分布的观测值,若其矩母函数在零点的某个邻域内有限,克拉默定理便确定了这一共轭函数就是速率函数。

对于均值为 μ\mu、方差为 σ2>0\sigma^2>0 的正态分布,

K(t)=μt+12σ2t2,I(x)=(x−μ)22σ2.K(t)=\mu t+\frac12\sigma^2t^2, \qquad I(x)=\frac{(x-\mu)^2}{2\sigma^2}.

与傅里叶变换或拉普拉斯变换不同,勒让德变换通过优化而非积分来定义。它与积分变换的联系源于渐近方法:在这类方法中,通过最大化来找出起主导作用的指数项。

历史发展与局限性

这一变换以阿德里安-马里·勒让德命名,他在研究微分方程时引入了变量与导数之间的变换。后来,它在力学和热力学中的应用,使其成为切换系统描述方式的标准方法。20世纪,维尔纳·芬切尔发展了广义的共轭函数框架,为凸分析奠定了基础。

主要的局限性涉及可逆性和信息丢失。基于 p=∇f(x)p=\nabla f(x) 的光滑公式可能失效,原因可能是某个斜率无法取到、多个点具有相同斜率,或导数映射是奇异的。在这些情况下,上确界表述仍然有意义,但可能产生无穷值,或丢失非凸特征。因此,函数的定义域、边界行为、凸性以及所采用的符号约定,都是变换定义的一部分,而不仅仅是技术细节。