最佳拟合线

统计与概率

zuì jiā nǐ hé xiàn

最佳拟合线是最贴合散点图中数据点分布规律的直线,使总体误差最小。

Formula

\hat{y} = b_0 + b_1 x
Visualization

Definition

最佳拟合线是穿过散点图、尽可能接近所有数据点的直线,概括了数据的总体趋势。形式上,它是最小化残差平方和 $\sum (y_i - \hat{y}_i)^2$ 的最小二乘回归线 $\hat{y} = b_0 + b_1 x$,斜率 $b_1 = r(s_y/s_x)$,截距 $b_0 = \bar{y} - b_1\bar{x}$;这条线总是经过点 $(\bar{x}, \bar{y})$。它是通过求解正规方程 $(X^TX)\beta = X^TY$ 得到的;拟合值位于这条线上,残差与所有预测变量向量正交,这是投影到 $X$ 的列空间上的一个几何性质。

Example

在学习时间与测验分数的散点图上,最佳拟合线穿过点云的中间,展示了总体的上升趋势,尽管它不必经过任何一个单独的数据点。对于 $\bar{x}=5$,$\bar{y}=80$,$s_x=2$,$s_y=10$,$r=0.8$ 的数据:$b_1 = 0.8(10/2) = 4$,$b_0 = 80 - 4(5) = 60$,得到直线 $\hat{y} = 60 + 4x$,当 $x=7$ 时预测 $\hat{y} = 88$。从几何上看,OLS 将响应向量 $Y$ 投影到 $X$ 的列空间上:拟合值 $\hat{Y} = HY$,其中 $H = X(X^TX)^{-1}X^T$ 是帽子(投影)矩阵,残差 $e = Y - \hat{Y} = (I-H)Y$ 位于 $X$ 列空间的正交补空间中。

Key Insight

最佳拟合线的位置使其自身与所有数据点之间的总体距离最小,且它只适用于内插(在构建它所用的 x 值范围内进行预测);远远超出数据范围进行外推是不可靠的,因为线性关系可能并不成立。帽子矩阵 $H$ 的对角元素(杠杆值 $h_{ii}$)衡量每个观测值对其自身拟合值的影响程度;具有高杠杆值且残差较大的点影响最大,可用库克距离来诊断。