正态分布
zhèng tài fēn bù
正态分布是一种对称的钟形概率分布，用来描述许多自然现象。
Formula
f(x) = \dfrac{1}{\sigma\sqrt{2\pi}} e^{-(x-\mu)^2/(2\sigma^2)}
Definition
正态分布是一条钟形曲线，大多数值聚集在均值附近，离均值越远，值出现的频率越低；它是完全对称的。形式上，$N(\mu, \sigma^2)$ 是一种对称、单峰的连续概率分布，完全由其均值 $\mu$ 和标准差 $\sigma$ 决定，概率密度函数为 $f(x) = \frac{1}{\sigma\sqrt{2\pi}} \exp\left(-\frac{(x-\mu)^2}{2\sigma^2}\right)$；对于给定的均值和方差，它是最大熵分布。多元正态分布 $N(\mu, \Sigma)$ 将其推广为均值向量 $\mu$ 和协方差矩阵 $\Sigma$，概率密度函数为 $f(x) = (2\pi)^{-k/2}|\Sigma|^{-1/2}\exp\left(-\tfrac{1}{2}(x-\mu)^T\Sigma^{-1}(x-\mu)\right)$。
Example
成年人的身高、标准化考试分数以及测量误差都倾向于服从正态分布，大多数人聚集在平均值附近，非常高或非常矮的人则较为罕见。智商分数被设计成 $N(100, 15^2)$：约 $68\%$ 的人得分在 $85$ 到 $115$ 之间，约 $95\%$ 在 $70$ 到 $130$ 之间，只有约 $0.3\%$ 低于 $55$ 或高于 $145$。$N(\mu, \sigma^2)$ 的矩生成函数为 $M(t) = \exp(\mu t + \sigma^2 t^2/2)$，它完全刻画了这个分布，其对数是关于 $t$ 的二次函数，这一性质在所有具有有限矩的分布中是正态分布独有的。
Key Insight
正态分布之所以被称为"钟形曲线"，是因为它的形状；自然界经常产生这种分布，因为许多事物都是大量微小随机效应之和的结果，经验法则指出约 $68\%$ 的数据落在均值 $1$ 个标准差以内，$95\%$ 落在 $2$ 个标准差以内，$99.7\%$ 落在 $3$ 个标准差以内。中心极限定理（CLT）指出，若 $X_1, \ldots, X_n$ 是均值为 $\mu$、方差为 $\sigma^2$ 的独立同分布变量，那么 $\sqrt{n}(\bar{x}-\mu)/\sigma$ 依分布收敛到 $N(0,1)$，这是基于正态分布进行推断的数学基础，也是正态分布在统计实践中无处不在的原因。