可微函数是指在某点附近的变化可以用线性映射来近似的函数,且近似误差相对于位移大小可忽略不计。对于一元实值函数,这等价于存在有限的导数。对于多元函数,可微性要求存在同一个线性近似,对所有方向的位移都适用,而不只是沿各坐标轴的变化率分别存在。
可微性是微积分和数学分析的核心概念。它为瞬时速度、切线斜率、局部敏感性和一阶近似等概念赋予了精确含义。由此可推导出复合函数的求导法则、极值判别准则、局部逆映射定理以及方程求解方法。这一概念从欧几里得空间上的函数推广到无限维空间之间的映射以及光滑流形之间的映射;而较弱的微分概念则使人们能够处理具有尖角、奇点或正则性有限的函数。
一元实函数的可微性
存在且为有限实数,则称函数在 处可微。这个差商衡量自变量变化 时函数的平均变化率,其极限则给出瞬时变化率。要求极限为有限值,意味着无穷大的斜率不属于通常实函数可微性的范畴。例如, 在零点处有一条竖直切线,但在上述意义下,它在该点不可微。
一种等价且更便于推广的表述是
余项记作 ,这是一种与大O记号相关的渐近记号。这一表达式表明,可微性等价于一阶线性近似的存在。作为 的函数,近似函数 实际上是仿射函数而非线性函数,除非 ;其中随变量变化的部分 才是线性的。
例如,若 ,则
余项 满足 ,因此 。更一般地,任何多项式都处处可微。有理函数在分母不为零的所有点处都可微,指数函数、对数函数和三角函数则在各自的开定义域上可微。
从几何上说,可微意味着函数图像有一条切线,其方程为
切线不必只与函数图像相交于一点,也不必完全位于图像的上方或下方。局部近似才是切线的本质特征。对于 ,原点处的切线是水平的,尽管图像会穿过这条切线。
可微性首先是函数在某一点处的性质。如果函数在一个开集的每一点处都可微,就称它在该开集上可微。在区间的端点处,通常使用单侧导数,即将 限制为正值或负值。因此,“在闭区间上可微”通常是指在区间内部可微,并在端点处存在相应的单侧导数。能否将函数可微地延拓到一个开邻域,是另一个条件,不应不加说明地默认这一条件成立。
连续性、折角与不规则的导数
函数在一点可微,意味着它在该点是连续函数。事实上,展开式
表明,函数值的变化量随 趋于零而趋于零。反之则不成立。函数 处处连续,但它在零点的差商在 为正时等于 ,在 为负时等于 。因此,它在零点的折角使导数无法存在。
快速振荡也会导致不可微。定义 ,且当 时,。由估计式 可知,该函数在零点连续,但
没有极限。这种情形与绝对值函数的折角不同:这里并不存在两个稳定的单侧斜率,而是在越来越小的尺度上出现无穷多次振荡。
可微函数的导数未必连续。对于函数
它在零点的导数为 ,而当 时,
其导数不断振荡,并不趋于零。将定义式中的 替换为 ,就能得到一个可微函数,其导数在零点的任意邻域内都无界。因此,仅凭逐点可微,并不能保证局部变化率具有统一的界。
不过,导数的行为也并非毫无限制。达布定理(分析)指出,每个导数都具有介值性质:若 ,且函数在包含 、 的某个区间上可微,则在 与 之间必有一点满足 。因此,导数虽然可能因振荡而不连续,却不可能出现跳跃间断。在局部,导数也是一列连续差商函数的逐点极限,这进一步限制了导数可能具有的不规则性。
仅要求连续,则允许出现极端得多的行为。处处不可微函数是连续的,但在定义域内任何一点都不存在有限导数。经典构造表明,连续性与切线存在性之间那种看似合理的联系其实并不成立。这些例子并非仅由少数孤立折角造成的例外:不可微性可以出现在每一个尺度、每一个点上。这类函数的存在帮助人们确立了这样的认识:连续、可微以及导数连续,确实是不同层次的正则性。
代数运算法则与导数所支配的定理
可微函数在基本代数运算下具有封闭性。如果 和 在 处可微,那么它们的和与积也在该点可微,且有
如果 ,则由连续性可知,商在 的某个邻域内有定义,且
将一阶展开式代入,并验证含有余项的乘积相对于 仍可忽略不计,即可得到这些法则。
链式法则给出了函数复合的求导规律。如果 在 处可微,且 在 处可微,那么
这一法则不只是一个方便的符号恒等式:它表达的是局部线性近似的复合。借助这一法则,可以将输入的变化沿着相继的依赖关系逐层传递,物理测量模型和计算图就是这样的例子。
中值定理将各点处的导数与整个区间上的函数变化联系起来。如果 在 上连续,并在 上可微,则存在 ,使得
由此可知,如果一个函数在某区间内处处导数为零,那么它在该区间上为常数。导数非负意味着函数单调不减,而导数严格为正则意味着函数严格递增。这些结论依赖于定义域是一个区间;如果定义域是不连通的开集,那么导数处处为零的函数在不同的连通分支上可能取不同的常数值。
导数的界还可以定量地控制连续性。如果在某区间上有 ,那么
因此, 满足常数为 的利普希茨连续性。连续可微函数具有局部利普希茨连续性,因为它的导数局部有界。仅有可微性则不足以保证这一点,导数在局部无界的函数便说明了这一点。
那么 。反过来,如果 可微,且 在 上黎曼可积,那么
这里的可积性条件十分重要:仅有可微性并不能保证导数有界或黎曼可积。更一般的版本采用绝对连续性与勒贝格积分,并通过相应的假设确保积分能够还原函数的全部变化。
多元函数的全可微性
设函数 的定义域 是欧几里得空间 中的开集。函数在 处可微,是指存在一个线性映射 ,满足
映射 一旦存在便是唯一的,记作 。这一定义通常称为全可微性或弗雷歇可微性。它要求当 沿任意路径趋于零时,这一近似都成立,而不仅仅是沿各条直线趋于零时成立。
在标准坐标下, 由雅可比矩阵表示:
对于标量值函数,这是一个行矩阵。也可以将其各个系数组成梯度向量,从而得到
微分本身是一个线性泛函;将其与梯度向量对应起来,依赖于欧几里得内积。这一区别在非欧几何和无限维空间中尤为重要。
函数在某点的所有偏导数都存在,并不意味着它在该点可微,甚至不意味着它在该点连续。例如,令
由于函数在两条坐标轴上恒为零,它在原点处关于两个坐标的偏导数均为零。然而,在直线 上,除原点外的函数值均为 ,因此它在原点处不连续。
即使所有方向导数都存在,也仍然不足以保证可微。定义
对于非零方向 ,函数在原点处的方向导数为
这个表达式对 的依赖不是线性的,因此不存在能够表示这些方向导数的全导数。此外,即使方向导数与方向之间呈线性关系,仅凭这些方向导数的存在,一般也无法得到全可微性所要求的一致误差估计。
一个标准的充分条件是:所有一阶偏导数都在 的某个邻域内存在,且在 处连续。此时, 在 处可微。偏导数的连续性是充分条件,而非必要条件。一旦确立了全可微性,多元函数的链式法则便可简洁地写成
在坐标表示下,这对应于相应雅可比矩阵的乘法。
高阶导数与光滑程度
可微性可以逐阶定义。如果一个函数的一阶导数本身可微,就称该函数二阶可微;更高阶可微性的定义与此类似。记号 表示直到 阶的所有导数都存在,且在 上连续。 类由连续函数组成,而 类则由各有限阶导数均连续的光滑函数组成。
这些函数类构成一个层级,每一种更高的正则性条件都施加了额外的限制。可微函数未必属于 ,而 函数也未必二阶可微。例如,
的导数为 ,其中也包括 。因此,它属于 ,但其一阶导数在零点处有一个尖角,所以 不存在。利用幂函数和绝对值,可以构造许多具体例子,展示相邻正则性类之间的区别。
在多元情形下,二阶导数是一个双线性映射。对于标量值函数,它可由 海森矩阵表示:
在二阶偏导数于该点附近连续这一通常的假设下,混合偏导数相等,因此海森矩阵是对称的。如果缺乏适当的正则性,以两种不同次序求混合偏导数可能得到不同的值。高阶导数自然地由多重线性映射表示,而不能仅用向量或矩阵来表示。
泰勒定理通过导数描述函数的局部行为。如果 在 附近属于 ,则
如果再高一阶的导数存在,并满足适当的有界性条件,就可以得到更明确的余项估计。对于多元 标量值函数,
一阶项给出切向近似;二阶项描述曲率,并且常常决定局部稳定性或临界点的类型。
光滑性并不意味着函数可以由收敛的泰勒级数表示。函数
属于 ,而且在零点处的各阶导数都为零。它在该点的泰勒级数恒为零,尽管函数在每个非零实数处的值都为正。相比之下,解析函数在局部与某个收敛幂级数相等。光滑正则性与解析正则性之间的这一区别,在微分方程、逼近论和几何学中具有根本意义。
局部求逆、约束与优化
可逆的导数能使非线性映射在局部表现得像可逆线性映射。反函数定理指出,若 是 的,且 可逆,则 在 附近存在连续可微的局部反函数。其导数满足
这一定理是局部性的:它并不保证 在整个 上都是一一映射。例如, 在每个非零点的导数都可逆,但它在整条实数轴上并不是一一映射。
隐函数定理处理的是某些变量由方程间接确定的情形。设 ,其中 有 个分量,且 。若 是 的,,且偏导数 可逆,则该方程在局部确定了 ,并且
对于圆 ,在任何满足 的点附近,都可以将 局部表示为 的函数。在 处,选择 作为因变量的这种表示方式不再适用,但可以反过来将 表示为 的光滑函数。
可微性也为数学优化提供了必要条件。若可微的标量值函数在内点 处取得局部最大值或局部最小值,则
将函数限制在经过 的任意直线上,即可得到这一结论。该条件并不充分: 在零点的导数为零,却并不在该点取得局部极值。边界上的极值需要另行处理,因为并非所有方向都可供考察。
二阶导数可以进一步判别驻点的类型。在 函数的驻点处,若海森矩阵正定,则该点为严格局部极小值点;若海森矩阵负定,则为严格局部极大值点;若海森矩阵不定,则为鞍点。若海森矩阵奇异或仅为半定,则可能无法作出判定。函数 、 和 在零点的一阶、二阶导数均为零,但它们在该点附近的局部行为各不相同。
对于定义在开凸域上的可微凸函数,一阶不等式
在整个定义域内成立。因此,驻点就是全局最小值点。可微性也是牛顿法等数值算法的基础;这类算法反复用非线性方程的局部线性近似来替代原方程。这些方法的精度与收敛性并非仅取决于导数是否存在:连续性、非奇异性以及导数变化的界限,共同决定了这些近似能否保持可靠。
复可微性与解析刚性
对于函数 ,其中 是复数域中的开集,在 处复可微意味着极限
存在。增量 可以沿平面内的任意方向趋于零。如果一个函数在某个开集的每一点都复可微,就称它在该开集上全纯。从实标量换成复标量,看似只是一个小小的变化,却带来了强大得多的理论。
令 、,则复可微性蕴含柯西—黎曼方程
如果 和 在某一点实可微,那么这些方程也是函数在该点复可微的充分条件。它们要求实导数矩阵具有如下形式:
这恰好是表示乘以复数 这一运算的矩阵。因此,实线性近似必须与复数乘法相容,而不仅仅是与实数加法及实数数乘相容。
复共轭运算说明了两者的区别。函数 是从 到自身的光滑映射,但
在 为实数时等于 ,在 为纯虚数时等于 。因此,它处处都不复可微。另一方面,仅在一个孤立的点可微是很弱的条件: 在原点的复导数为零,但在原点的任何邻域上都不全纯。
决定性的刚性来自开集上的可微性。复分析的基本结果表明,每个全纯函数都具有任意阶导数,并且在局部可展开为收敛的幂级数。具体而言,在每一点 周围足够小的圆盘内,都有
成立。与实数情形不同,全纯性与局部复解析性并无区别。
这种刚性带来了重要的结论。在连通区域上,如果两个全纯函数在某个集合上相等,且该集合在区域内部有聚点,那么它们在整个区域上都相等。全纯函数的实部和虚部都是调和函数,而非常数全纯函数的模不可能在内点取得局部最大值。这些性质说明,复可微性并非仅仅是用复数记号写出的实可微性:它对函数的局部和整体行为都施加了很强的约束。
赋范空间与流形上的微分
线性近似的定义可以推广到赋范向量空间之间的映射。设 和 为这样的空间, 为开集,且 。在 处的弗雷歇导数是满足下式的有界线性算子 :
有限维赋范空间之间的线性映射自动满足有界性,但在无限维情形下并非如此。有界性保证了所给出的一阶近似本身是连续的。
一种较弱的做法是逐个考察各个方向。对于每个固定的 ,方向极限
都可能存在。当这些极限定义了一个线性算子时,就得到了通常所称的伽托导数,不过,不同约定对于是否要求该算子连续并不一致。弗雷歇可微性蕴含相应的方向导数存在。反过来通常不成立,因为当方向变化时,各个方向上的极限未必能一致地控制近似误差。
这些区别在泛函分析中至关重要,因为其中的变量本身就可能是函数。例如,在实希尔伯特空间上,
的导数为
余项为 ,相对于 可以忽略不计。该导数是一个有界线性泛函,而内积使它可以由向量 来表示,这个向量就是 的梯度。这一框架是变分表述的基础,在这类表述中,未知量可以是整条曲线、整个场或整个状态函数。
在光滑流形上,相近两点之间的相减运算通常没有内蕴定义。因此,可微性要借助坐标图来描述。如果一个映射的坐标表达式是欧氏空间开集之间的 映射,就称该映射为 映射。坐标图之间的光滑相容性保证了这一性质不依赖于坐标的选择。在标准的光滑范畴中,。
光滑映射 在 处的导数是切空间之间的内蕴线性映射:
坐标变换会改变它的矩阵表示,但不会改变映射本身。链式法则依然成立,使得微分运算与流形之间映射的复合相容。对于实值函数, 自然是一个余向量;要将它转化为梯度向量,则需要选定一个度量。这一区别在微分几何中至关重要,因为不同的度量可以为同一个微分赋予不同的梯度。
几乎处处可微性与弱可微性
经典意义下的可微性要求函数在每一点都具有线性近似,但许多有用的函数在某些例外集合上并不满足这一条件。拉德马赫定理指出,从 的开子集到 的局部利普希茨映射几乎处处可微,也就是说,除一个勒贝格测度为零的集合之外,处处可微。因此,利普希茨函数可以存在尖角,但在几乎每一点都有明确定义的一阶行为。
这一结论并不意味着任意连续函数都几乎处处可微,也不意味着所有奇异点集在任何问题中都无关紧要。即使只有一个不可微点,也可能使经典的最优化条件无法在极小值点处适用。不过,几乎处处可微性已足以支撑许多积分恒等式和变分论证。它也解释了为什么分段线性函数尽管存在尖角,仍能建立起相当丰富的微分理论。
另一种推广是弱导数,它通过积分而非逐点差商来定义。若 和 在开集 上局部可积,那么,当对每个支集紧含于 的光滑试验函数 ,都有
时,就称 为弱导数 。这一恒等式把求导运算从可能不规则的函数 转移到光滑的试验函数上,其形式正是不含边界项的分部积分公式。
对于 ,其一阶弱导数是符号函数,而符号函数在零点的取值不影响上述积分恒等式。这个函数在零点处并非经典可微,却具有局部有界的弱导数。相比之下,单位阶跃函数的分布导数是一个狄拉克点质量,无法用普通的局部可积函数表示。因此,分布求导的适用范围比用函数表示的弱导数更广。
空间 称为索伯列夫空间,由直至 阶的各阶弱导数都属于相应 空间的函数组成。这些空间在偏微分方程中具有基础性作用,因为方程的解可能自然地只具有弱正则性。仅有弱可微性并不能保证处处经典可微;它能在多大程度上保证函数存在连续或更光滑的代表元,取决于维数、导数阶数和可积性指数。
在一维情形中,绝对连续性为两者提供了尤为精确的联系。定义在 上的绝对连续函数几乎处处可微,其导数勒贝格可积,并且
仅有连续性和几乎处处可微性,并不能保证这一表示成立。例如,康托函数连续,且其导数几乎处处为零,却仍从零增加到一。绝对连续性排除了这种变化集中在零测集上的情形。
历史发展与计算实现
可微性的概念源于切线、运动和极值问题。17 世纪,皮埃尔·德·费马、艾萨克·牛顿和戈特弗里德·威廉·莱布尼茨等人提出的方法,在现代极限定义尚未完全确立之前,就已给出了计算变化率的步骤。牛顿的流数法将量视为随时间变化的对象,而莱布尼茨的微分记号则着重体现无穷小变化之间的关系。他们的方法有助于将此前分别处理的问题统一起来。
19 世纪,以极限为基础的分析学使直观上的光滑性与数学上定义的可微性之间的区别更加清晰。奥古斯丁-路易·柯西对极限、连续性和导数给出了影响深远的表述。后来,卡尔·魏尔斯特拉斯等人的工作强调严密的极限论证,并揭示了几何直觉的局限。魏尔斯特拉斯于 1872 年提出了一个处处连续却处处不可微的函数例子。达布在 1875 年证明的定理则从另一个方向表明,导数即使不连续,也仍具有介值性质。
20 世纪泛函分析的发展,以及莫里斯·弗雷歇和勒内·伽托等人的工作,将微分推广到了函数空间。这使得能量、轨迹以及微分方程的解本身都可以作为变量来研究。测度论方法和分布方法进一步区分了逐点可微性与积分及微分方程中所需的各种可微性。由此形成的框架包含若干相互关联的概念,而非单一的普适定义。
在计算实践中,需要区分符号微分、数值微分和自动微分。符号微分将数学表达式转换为其导数的表达式。数值微分则根据函数值估计导数,例如使用
对于足够光滑的函数,这种前向差分的截断误差通常为 。中心差分
在满足适当的高阶导数条件时,误差通常为 。减小 并不总能提高精度,因为相减时的消去现象和浮点运算会引入与截断误差相互制约的其他误差。
自动微分则对程序中的基本运算应用链式法则。前向模式传播方向导数;反向模式将灵敏度从输出反向传播至输入。当一个标量输出依赖许多输入时,反向模式能够以相当于执行原始计算少数几次的成本求出完整梯度,具体的倍数因子取决于实现方式。这使得可微性能够在大规模科学计算和机器学习中付诸计算实践。
不过,程序仍可能包含不可微的运算或分支。例如,整流线性函数 在零点不可微,尽管软件通常会出于计算目的,在该点约定一个取值。这种约定并不会使经典意义下的导数存在。对实际执行的分支上的运算求导,也必须与证明整个输入—输出映射的可微性区分开来,尤其是在所考察的点发生分支切换或出现不连续时。