链式法则
liàn shì fǎ zé
链式法则通过把外层函数的导数乘以内层函数的导数,来对复合函数求导。
Formula
\frac{d}{dx}[f(g(x))] = f'(g(x)) \cdot g'(x)
Definition
链式法则处理函数套函数的情形：先对外层函数求导（内层保持不变），再乘以内层函数的导数。若 $y = f(u)$ 且 $u = g(x)$，则 $dy/dx = (dy/du)(du/dx) = f'(g(x)) \cdot g'(x)$，在莱布尼茨记法中，$du$ 这种"约分"式的写法使这条法则用起来很直观。更一般地，对于 $f: \mathbb{R}^m \to \mathbb{R}^k$ 和 $g: \mathbb{R}^n \to \mathbb{R}^m$，有 $D(f \circ g)(x) = Df(g(x)) \cdot Dg(x)$，其中 $D$ 表示雅可比矩阵，当 $m = n = k = 1$ 时退化为标量情形的法则。
Example
对 $d/dx[\sin(x^2)]$：外层是 $\sin(\ )$，求导得到 $\cos(x^2)$，再乘以内层 $x^2$ 的导数 $2x$，所以答案是 $2x\cos(x^2)$。对于 $f(x) = (3x^2 + 1)^5$，令 $u = 3x^2 + 1$；则 $dy/dx = 5u^4 \cdot 6x = 30x(3x^2 + 1)^4$。神经网络中的反向传播正是多元链式法则的直接应用，从输出到输入逐层计算梯度。
Key Insight
可以把它想成一条链条：外层在变化，所以你还必须考虑内层变化的速度，几乎每一个非平凡的导数都需要用到这条法则，因此识别"内层"与"外层"函数是关键技巧。链式法则是深度学习中自动微分和反向模式自动求导的计算核心，是应用数学中最具实用威力的定理之一。