相关系数

统计与概率

xiāng guān xì shù

相关系数(r)是一个介于 -1 和 1 之间的数值,用来量化两个变量之间线性关系的强弱和方向。

Formula

r = \dfrac{\sum (x_i-\bar{x})(y_i-\bar{y})}{\sqrt{\sum (x_i-\bar{x})^2 \sum (y_i-\bar{y})^2}}

Definition

相关系数是一个从 -1 到 +1 的数值,用来衡量两个变量之间关系的强弱:接近 +1 表示强正相关,接近 -1 表示强负相关,接近 0 表示几乎没有关系。皮尔逊相关系数 $r$ 衡量两个定量变量之间线性关系的强弱和方向,$r^2$(决定系数)表示 $y$ 的方差中能被 $x$ 解释的比例。形式上,$r = \text{Cov}(X,Y)/(s_X s_Y)$,由样本数据计算得出;在原假设 $H_0: \rho = 0$ 下,统计量 $t = r\sqrt{n-2}/\sqrt{1-r^2} \sim t(n-2)$,费舍尔 z 变换 $z = 0.5\ln\left(\frac{1+r}{1-r}\right)$ 将 $r$ 转换为近似正态的统计量,从而支持对 $\rho$ 构造置信区间。

Example

$r = 0.9$ 表示非常强的正相关关系(几乎是一条向上的直线);$r = -0.6$ 表示中等程度的负相关关系;$r = 0.1$ 表示几乎没有关系。对于 $10$ 名学生的学习时间($x$)和测验分数($y$),如果 $r = 0.85$,则 $r^2 = 0.72$:学习时间解释了测验分数 $72\%$ 的变异。费舍尔 z 区间对 $\rho$ 的表达为 $z_r \pm z_{\alpha/2}/\sqrt{n-3}$,然后再反变换回来;对于 $r=0.7$,$n=50$:$z_r = 0.867$,在 z 空间中的 $95\%$ 置信区间为 $0.867 \pm 1.96/\sqrt{47} = (0.581, 1.153)$,反变换后得到 $\rho$ 的置信区间为 $(0.524, 0.818)$。

Key Insight

可以把相关系数看作一个"关系得分":越接近 1 或 -1,关系越紧密,越接近 0,关系越弱;一种常见的解释是 $|r| < 0.3$ 为弱,$0.3$-$0.7$ 为中等,$> 0.7$ 为强,不过这些阈值会因具体情境而异。相关系数对异常值敏感,且只捕捉线性关系;斯皮尔曼秩相关 $r_s$ 和肯德尔 $\tau$ 是非参数替代方案,能衡量单调关系,对异常值和非正态性更为稳健。