正相关

统计与概率

zhèng xiāng guān

正相关是指当一个变量增大时,另一个变量也倾向于增大。

Visualization

Definition

正相关意味着两个事物倾向于朝相同方向变化:当一个上升时,另一个也倾向于上升。当相关系数 r 介于 0 和 +1 之间时存在正相关,接近 +1 的值表示强正线性关系,接近 0 表示弱正线性关系;在散点图上,正相关的数据形成从左到右向上倾斜的点云。形式上,正相关对应于正的协方差:$\text{Cov}(X,Y) = E[XY] - E[X]E[Y] > 0$;对于联合正态的 $(X,Y)$,这意味着已知 $X > \mu_X$ 会使 $Y$ 的条件期望高于 $\mu_Y$,而偏相关衡量在控制一个或多个其他变量的影响后,两个变量之间的正向关联。

Example

学习的时间越多,测验分数往往越高,这是学习时间与测验分数之间的正相关,在散点图上看起来像点从左到右向上漂移,就像一座小山。成年男性的身高和体重呈强正相关($r \approx 0.7$),可以用一条斜率为正的最佳拟合线来概括:身材更高的男性往往体重更重。在多元回归中,两个预测变量彼此可能呈正相关($r = 0.8$),且都与响应变量呈正相关,而在控制另一个变量后,每个预测变量与响应变量之间的偏相关揭示了它们各自独特的贡献,这可能与边际相关性不同。

Key Insight

强度和方向同样重要:$r = 0.3$ 是正相关但较弱,而 $r = 0.9$ 是正相关且非常强,因此应始终报告具体数值,而不仅仅是方向。回归中的多重共线性发生在预测变量之间高度正相关(或负相关)时,会使标准误膨胀,让单个系数估计变得不稳定;方差膨胀因子(VIF)可以量化这一问题。