符号微分是按照求导法则变换数学表达式,从而计算导数的过程。其输入是函数的符号表示、求导变量以及相关假设;输出则是表示导数的另一个表达式。与根据采样所得的函数值估计导数不同,符号微分保留变量和参数,能够给出在适当定义域内处处成立的精确公式。它是计算机代数系统的一项基本操作。
数学基础
符号微分将微积分的法则实现为表达式变换。若用 表示对 求导,则基本法则包括
其中 与 无关;以及线性法则:
其中 和 也与 无关。
乘积和商分别按以下法则处理:
链式法则是对嵌套表达式求导的基础:
求导系统将这些结构性法则与一组已知函数的导数公式相结合。例如,指数函数和三角函数的求导法则包括
幂函数求导法则
适用于 与 无关,且幂及其导数均有适当定义的情形。如果底数和指数都随变量变化,那么在底数为正时,常用的实值求导公式为
底数为正这一假设很重要:在复数范围内使用相应表达式时,需要注意对数的分支及定义域。
表达式表示与算法
符号求导器处理的是表达式的结构,而不只是其书写形式。一种典型的表示方式是抽象语法树:叶节点表示常量或变量,内部节点表示加法、乘法或函数调用等运算。
例如,
对应一个乘法节点,其子节点分别表示 和 。递归算法识别出这一乘积,对两个子节点分别求导,然后构造出
对于如下嵌套表达式,
同样的过程会先应用链式法则:
再化简内层导数,得到
实际实现通常包括几个阶段:
- **解析:**将输入的数学记法转换为结构化表达式。
- **依赖分析:**确定哪些符号依赖于求导变量。
- **应用法则:**递归地构造导数。
- **化简:**去除冗余项、合并常量或对表达式作因式分解。
- **生成输出:**显示结果,或将其转换为可执行代码。
表达式也可以表示为有向无环图,让重复出现的子表达式共享同一份表示。这样可以避免重复存储和重复计算。
变量、参数与未知函数
符号的含义取决于所提供的依赖关系信息。如果将 视为与 无关的参数,则
如果 ,导数则变为
未知函数并不一定会妨碍求导。系统可以用符号形式保留其导数:
这样的输出虽然不完全由初等函数表示,但仍然是导数的精确表示。
化简与表达式增长
求导法则相对直接,但要得到实用的最终表达式,可能更为困难。两个数学上等价的答案,在大小、可读性和求值成本上可能相差甚远。
例如,反复应用乘积求导法则可得
如果把每个因子都复制到每一项中,所得表达式就可能远大于输入表达式。反复求导或高阶求导还可能加剧这种增长。这种现象通常称为表达式膨胀。
在所有 均不为零的地方,导数也可以写成
这种形式较为紧凑,却引入了除法运算:在某个因子为零的位置,即使原乘积在该处可导,这些除法也没有定义。因此,不能脱离定义域的有效性,单独考虑表达式是否紧凑。
系统通过因式分解、共享子表达式、缓存中间导数,以及有选择地展开而非一律展开等方式,控制表达式增长。不存在普遍最优的最终形式:因式分解形式可能更适合分析,而另一种表示可能更适合数值求值。
定义域与正确性
符号导数只有在支持其推导的假设下才有意义。这些假设包括函数的定义域、各符号的依赖关系,以及构成表达式的各项运算的可导性。
对于实数 ,
若没有额外的符号假设,就不能将其写成 。因此,
且在 处导数不存在。
同样,将 化简为 时,不能抹去原来对 的排除。原表达式的导数在其定义域内为零,但除非明确引入延拓,原函数在零点处仍然没有定义。
在复分析中,分支的选择会影响幂、根式和对数。对于固定的主分支,以下这类恒等式通常并不成立:
系统必须保留相关限制,而不能不加区分地套用实变量恒等式。
分段函数还带来另一个问题:对每一段分别求导,可以确定各段内部的导数,但仅凭这一点无法确定分段边界处是否可导。普通求导还必须与分布理论中的求导相区分;在分布理论中,一些非光滑函数的导数涉及分布,而不是普通函数。
与其他求导方法的比较
数值微分
数值微分根据函数值近似计算导数,例如使用中心差分:
这类近似会产生截断误差,以及与浮点运算有关的误差。在适当的光滑性假设下,减小 可以降低截断误差,却可能加剧相消和舍入的影响。
只要变换是精确的,符号微分就不会引入有限差分的截断误差。不过,随后对输出表达式进行数值求值时,仍可能出现舍入误差或较差的数值稳定性。精确公式并不意味着相应的数值求值过程一定具有良好的条件性或稳定性。
自动微分
自动微分也应用求导法则和链式法则,但通常是在计算过程中传播导数信息,从而求出指定输入处的导数。相比之下,符号微分通常以构造导数表达式为主要输出。
两者的区别并不只是“精确”与“近似”:这两种方法本身都不使用有限差分。当涉及数值运算时,两者计算的导数都可能带有浮点误差。
两者的界限也不是绝对的。自动微分可以把程序转换为计算导数的程序,而符号微分也可以保留共享计算并生成可执行代码。重要差别在于表示方式、执行策略、化简方式,以及预期的结果形式。
扩展与应用
反复进行符号微分可以得到高阶导数。对于多变量函数,将其余独立变量视为固定值,就得到偏导数。这些导数可以组成梯度、雅可比矩阵和海森矩阵。
符号微分也支持处理隐式关系。若
则由链式法则可得
在满足所需可导性条件且 的地方,
主要用途包括:
符号微分还可以验证候选原函数:对其求导,再将结果与被积函数比较。不过,要确定所得表达式是否等价,仍可能需要较复杂的化简。
历史发展与局限
符号微分所依据的数学法则,随着十七世纪微分学的发展而形成。戈特弗里德·威廉·莱布尼茨所创立的记号,有助于将求导表达为一种系统性的符号运算。后来,电子计算使这些法则得以用于自动化表达式处理,求导也成为通用计算机代数系统的标准功能。
对于由具有已知求导法则的运算构成的有限表达式,通常可以按系统化步骤构造形式导数。这与符号积分形成对比:即便输入是相对简单的初等表达式,也未必存在初等原函数。
主要的实际局限包括表达式增长、化简成本高、定义域信息不完整,以及对非光滑函数或系统不熟悉的函数的处理。当没有可用法则时,系统可以保留未求值的导数,这仍可能是正确的处理方式。系统也可能生成正确却冗长难用的表达式,或者其数值求值效率不如保留原程序结构的导数计算。