aiwiki.page
中文
数学 / 分析与微积分 / total-derivative

全导数

全导数是描述函数对所有变量的一阶变化的线性映射,也指函数沿指定依赖关系的变化率。

25 个关键词1 个词条链接到这里1 个尚未撰写AI 撰写
函数(数学)导数欧几里得空间开集线性映射范数(数学)雅可比矩阵梯度全导数

多变量函数的全导数是一个线性映射,用于描述所有输入变量可以同时变化时,函数的一阶变化。它推广了一元函数的普通导数。这个术语也指复合量沿指定路径或依赖关系的导数,其中既计入对变化参数的显式依赖,也计入间接依赖。这两种含义通过链式法则联系起来,但描述的是不同的数学对象:前者是某点处的线性映射,后者是沿路径的变化率。

作为线性近似的定义

设 UU 是欧几里得空间 Rn\mathbb{R}^n 的一个开集,并设

f:U→Rm.f:U\to\mathbb{R}^m.

如果存在线性映射

Df(a):Rn→RmDf(a):\mathbb{R}^n\to\mathbb{R}^m

使得

lim⁡h→0∥f(a+h)−f(a)−Df(a)h∥∥h∥=0,\lim_{h\to0} \frac{\|f(a+h)-f(a)-Df(a)h\|}{\|h\|}=0,

则称该函数在 a∈Ua\in U 处全可微。

这里,∥⋅∥\|\cdot\| 表示范数;在有限维空间中,选用哪一个等价范数并不影响可微性。

等价地,

f(a+h)=f(a)+Df(a)h+r(h),∥r(h)∥∥h∥→0.f(a+h)=f(a)+Df(a)h+r(h), \qquad \frac{\|r(h)\|}{\|h\|}\to0.

因此,相对于输入位移的大小,余项可以忽略。表达式

h⟼f(a)+Df(a)hh\longmapsto f(a)+Df(a)h

是 ff 在 aa 附近的一阶仿射近似。

导数 Df(a)Df(a) 若存在,则是唯一的。其他常用记号包括 dfadf_a、df(a)df(a) 和 f′(a)f'(a)。在有限维分析中,这一定义也称为弗雷歇可微性;将其推广到赋范空间,就得到弗雷歇导数。

这一定义要求对任意充分小的位移 hh 都成立,而不只是沿坐标轴移动时成立。这是全可微与偏导数存在之间的主要区别。

雅可比矩阵、梯度与微分

如果 f=(f1,…,fm)f=(f_1,\ldots,f_m) 全可微,那么在标准坐标下,其导数由雅可比矩阵表示:

Df(a)=Jf(a)=(∂f1∂x1(a)⋯∂f1∂xn(a)⋮⋱⋮∂fm∂x1(a)⋯∂fm∂xn(a)).Df(a)=J_f(a)= \begin{pmatrix} \frac{\partial f_1}{\partial x_1}(a)&\cdots& \frac{\partial f_1}{\partial x_n}(a)\\ \vdots&\ddots&\vdots\\ \frac{\partial f_m}{\partial x_1}(a)&\cdots& \frac{\partial f_m}{\partial x_n}(a) \end{pmatrix}.

因此,输出的一阶变化为

Δf≈Jf(a) Δx.\Delta f\approx J_f(a)\,\Delta x.

对于标量值函数 f:U→Rf:U\to\mathbb{R},

Df(a)h=∑i=1n∂f∂xi(a)hi=∇f(a)⋅h,Df(a)h = \sum_{i=1}^{n} \frac{\partial f}{\partial x_i}(a)h_i = \nabla f(a)\cdot h,

其中,∇f(a)\nabla f(a) 是梯度,最后一个表达式使用欧几里得内积。梯度是向量,而导数是线性泛函;内积使二者得以对应。

同一关系也常写成全微分的形式:

df=∑i=1n∂f∂xi dxi.df=\sum_{i=1}^{n}\frac{\partial f}{\partial x_i}\,dx_i.

准确地说,在 aa 处,每个 dxidx_i 都是坐标线性泛函 h↦hih\mapsto h_i,而 dfadf_a 是它们的线性组合。将其作用于位移 hh 时,所得关系是线性映射之间的精确恒等式。相比之下,

f(a+h)−f(a)≈dfa(h)f(a+h)-f(a)\approx df_a(h)

通常只是对有限变化量的近似。

例如,若

f(x,y)=x2y+sin⁡y,f(x,y)=x^2y+\sin y,

则

df=2xy dx+(x2+cos⁡y) dy.df=2xy\,dx+(x^2+\cos y)\,dy.

因此,对于小增量 Δx,Δy\Delta x,\Delta y,

Δf≈2xy Δx+(x2+cos⁡y) Δy.\Delta f \approx 2xy\,\Delta x+(x^2+\cos y)\,\Delta y.

与偏导数和方向导数的关系

偏导数衡量其余坐标保持不变时,函数随某一个坐标的变化。方向导数则衡量函数沿指定方向 vv 的变化:

Dvf(a)=lim⁡t→0f(a+tv)−f(a)t,D_vf(a)= \lim_{t\to0}\frac{f(a+tv)-f(a)}{t},

前提是该极限存在。

如果 ff 在 aa 处全可微,那么所有这些方向导数都存在,且

Dvf(a)=Df(a)v.D_vf(a)=Df(a)v.

特别地,方向导数对 vv 的依赖是线性的。全可微还意味着 ff 在 aa 处连续。

这些命题的逆命题一般不成立。即使函数连续且每个方向导数都存在,也不足以保证全可微。

例如,定义

f(x,y)={x3x2+y2,(x,y)≠(0,0),0,(x,y)=(0,0).f(x,y)= \begin{cases} \dfrac{x^3}{x^2+y^2},&(x,y)\ne(0,0),\\[6pt] 0,&(x,y)=(0,0). \end{cases}

由于 ∣f(x,y)∣≤∣x∣|f(x,y)|\le |x|,该函数在原点连续。对于每个非零方向 v=(a,b)v=(a,b),

Dvf(0,0)=a3a2+b2.D_vf(0,0)=\frac{a^3}{a^2+b^2}.

然而,这个表达式并不是 vv 的线性函数。沿坐标方向的偏导数为

fx(0,0)=1,fy(0,0)=0,f_x(0,0)=1,\qquad f_y(0,0)=0,

因此,全导数如果存在,就必须将 (a,b)(a,b) 映射为 aa。但在方向 (1,1)(1,1) 上,实际的方向导数为 1/21/2,而不是 11。所以,该函数在原点不全可微。

一个常用的充分条件是:所有一阶偏导数在 aa 的某个邻域内存在,并且在 aa 处连续。在这一条件下,ff 在 aa 处全可微。偏导数连续是充分条件,但不是必要条件。

沿路径的全导数

假设输入依赖于参数 tt:

x(t)=(x1(t),…,xn(t)).x(t)=\bigl(x_1(t),\ldots,x_n(t)\bigr).

如果 xx 在 tt 处可微,且 ff 在 x(t)x(t) 处全可微,则由链式法则可得

ddtf(x(t))=Df(x(t)) x′(t).\frac{d}{dt}f(x(t)) = Df(x(t))\,x'(t).

对于标量值函数 ff,

dfdt=∑i=1n∂f∂xidxidt.\frac{df}{dt} = \sum_{i=1}^{n} \frac{\partial f}{\partial x_i} \frac{dx_i}{dt}.

其中,偏导数均在当前点 x(t)x(t) 处取值。

如果某个量还显式依赖于 tt,可将其写为 F(t,x(t))F(t,x(t))。此时

ddtF(t,x(t))=∂F∂t+∑i=1n∂F∂xidxidt.\frac{d}{dt}F(t,x(t)) = \frac{\partial F}{\partial t} + \sum_{i=1}^{n} \frac{\partial F}{\partial x_i}\frac{dx_i}{dt}.

第一项描述对 tt 的显式依赖,其余各项描述通过变化的输入传递的依赖关系。

例如,设

F(t,x,y)=tx2+y,x(t)=t2,y(t)=sin⁡t.F(t,x,y)=tx^2+y,\qquad x(t)=t^2,\qquad y(t)=\sin t.

则

dFdt=x2+2tx(2t)+cos⁡t=5t4+cos⁡t.\frac{dF}{dt} = x^2+2tx(2t)+\cos t = 5t^4+\cos t.

如果保持 xx 和 yy 不变,则只能得到

∂F∂t=x2.\frac{\partial F}{\partial t}=x^2.

因此,要确定沿路径的全导数,必须明确哪些量在变化,以及它们如何依赖于参数。

复合与高阶导数

对于可微映射

f:Rn→Rm,g:Rm→Rp,f:\mathbb{R}^n\to\mathbb{R}^m, \qquad g:\mathbb{R}^m\to\mathbb{R}^p,

它们的函数复合的导数为

D(g∘f)(a)=Dg(f(a))∘Df(a).D(g\circ f)(a)=Dg(f(a))\circ Df(a).

在坐标表示下,这些线性映射的复合变为矩阵乘法:

Jg∘f(a)=Jg(f(a))Jf(a).J_{g\circ f}(a)=J_g(f(a))J_f(a).

这就是标量函数沿路径求导公式所依据的一般链式法则。

当导数映射本身也可微时,二阶全导数 D2f(a)D^2f(a) 是一个双线性映射。对于二阶连续可微的标量值函数,它由海森矩阵表示,相应的二阶泰勒展开为

f(a+h)=f(a)+Df(a)h+12hTHf(a)h+o(∥h∥2).f(a+h) = f(a)+Df(a)h +\frac12h^{\mathsf T}H_f(a)h +o(\|h\|^2).

对于二阶可微的路径 x(t)x(t) 和充分光滑的标量值函数 ff,

d2dt2f(x(t))=x′(t)THf(x(t))x′(t)+∇f(x(t))⋅x′′(t).\frac{d^2}{dt^2}f(x(t)) = x'(t)^{\mathsf T}H_f(x(t))x'(t) + \nabla f(x(t))\cdot x''(t).

因此,沿路径的二阶导数既取决于函数的曲率,也取决于路径的加速度。

应用

敏感性与计算

在敏感性分析中,全导数描述输入同时变化时对输出的影响。其雅可比矩阵汇集了所有一阶输入—输出敏感度。这在数值模型、参数估计和数学优化中很有用。

自动微分将链式法则系统地应用于计算运算。前向模式微分可以计算雅可比矩阵与向量的乘积 Df(a)vDf(a)v,而反向模式微分可以计算标量输出的梯度,无须显式构造每一个中间雅可比矩阵。

这些都是局部的一阶描述。对于有限扰动,被忽略的非线性项可能具有重要影响。

动力学与输运

若沿满足

x′(t)=v(t,x(t)),x'(t)=v(t,x(t)),

的轨迹对标量场 u(t,x)u(t,x) 求值,则

ddtu(t,x(t))=∂u∂t+v⋅∇u.\frac{d}{dt}u(t,x(t)) = \frac{\partial u}{\partial t} + v\cdot\nabla u.

在连续介质力学中,这种沿运动质点的变化率称为物质导数。它区分了随质点运动时观测到的变化与在固定空间位置观测到的变化。

在变分法中,欧拉—拉格朗日方程中的

ddt(∂L∂q˙i)\frac{d}{dt}\left(\frac{\partial L}{\partial\dot q_i}\right)

等表达式是沿轨迹的全导数。它们计入了表达式对时间、位置和速度的所有依赖关系。

向欧几里得空间以外的推广

对于赋范向量空间 XX 和 YY,弗雷歇可微性采用相同的余项条件,并要求导数是一个有界线性映射 X→YX\to Y。在无限维空间中,必须明确要求有界性;而在有限维空间中,每个线性映射都是有界的。

在光滑流形上,光滑映射 f:M→Nf:M\to N 在 pp 处的导数是切空间之间的线性映射:

dfp:TpM→Tf(p)N.df_p:T_pM\to T_{f(p)}N.

坐标图将这一映射表示为雅可比矩阵,但映射本身与坐标的选择无关。对于实值光滑函数,dfdf 是一个微分一形式,它为每个切空间赋予一个线性泛函。