临界点
lín jiè diǎn
临界点是函数上导数为零或没有定义的位置,通常对应峰值、谷值或平台。
Formula
f'(c) = 0 \text{ or } f'(c) \text{ undefined}
Definition
临界点是曲线上斜率恰好为零（平坦）或斜率突然不存在的位置，是峰值或谷值的候选点。严格地说，若 $f'(c) = 0$ 或 $f'(c)$ 不存在，则 $c$ 是 $f$ 的临界点；每一个局部极值都必定出现在临界点处，但并非每一个临界点都是极值。在多元微积分中，$f: \mathbb{R}^n \to \mathbb{R}$ 的临界点是梯度 $\nabla f = 0$ 或梯度不存在之处，分类时使用海森矩阵：正定表示局部极小值，负定表示局部极大值，不定表示鞍点。
Example
在一座山丘上，山顶在斜率再次下降之前会有片刻平坦，那个平坦之处就是临界点。对于 $f(x) = x^3$：$f'(x) = 3x^2 = 0$ 在 $x = 0$ 处成立，但 $x = 0$ 既不是极大值也不是极小值，而是带有水平切线的拐点。对于 $f(x,y) = x^2 - y^2$：$\nabla f = (2x, -2y) = 0$ 在原点处成立，海森矩阵 $\begin{bmatrix} 2 & 0 \\ 0 & -2 \end{bmatrix}$ 不定，证实 $(0,0)$ 是鞍点。
Key Insight
寻找临界点是定位函数最高值和最低值的第一步，但你必须使用一阶或二阶导数判别法来确定每一个临界点究竟是极大值、极小值，还是都不是。临界点是机器学习中最优化方法的支柱：梯度下降在高维损失曲面中远离鞍点、趋向局部极小值。