向量的模
xiàng liàng de mó
向量的模就是它的长度,通过对各分量的平方和取平方根计算得出。
Formula
|v| = \sqrt{v_1^2 + v_2^2 + \ldots + v_n^2}
Definition
向量的模就是它的长度,总是一个非负的数,通过对各分量应用勾股定理求出。对于 $\mathbb{R}^n$ 中的 $v = (v_1, v_2, \ldots, v_n)$:$|v| = \sqrt{v_1^2 + v_2^2 + \ldots + v_n^2}$,即欧几里得范数,满足 $|v| \ge 0$(等号当且仅当 $v=0$ 时成立)、$|cv| = |c| \cdot |v|$,以及三角不等式 $|u + v| \le |u| + |v|$。更一般地,欧几里得范数由内积导出,$\|v\| = \sqrt{\langle v,v \rangle}$;范数必须满足正定性、绝对齐次性和三角不等式,其他范数还包括 $L^1$ 范数(各 $|v_i|$ 之和)和 $L^\infty$ 范数($|v_i|$ 的最大值),在有限维空间上它们都是等价的。
Example
对于 $v = (3, 4)$:模 $= \sqrt{3^2 + 4^2} = \sqrt{25} = 5$,一个向右 $3$ 个单位、向上 $4$ 个单位的向量长度为 $5$。单位向量的模为 $1$,通过把一个向量除以它自身的模得到;对于 $v = (1, 2, 2)$:$|v| = 3$,单位向量 $v/|v| = (1/3, 2/3, 2/3)$ 满足 $(1/3)^2 + (2/3)^2 + (2/3)^2 = 1$。不同的范数对同一个向量给出不同的值:$\|(3,4)\|_{L^2} = 5$,$\|(3,4)\|_{L^1} = 7$,$\|(3,4)\|_{L^\infty} = 4$,在机器学习中,$L^1$ 和 $L^2$ 正则化正是利用这些范数来惩罚模型权重。
Key Insight
模去除了方向,只留下大小,而点积给出了一条捷径,$|v|^2 = v \cdot v$,把模和内积联系起来,这正是公式 $u \cdot v = |u||v|\cos(\theta)$ 得以成立的原因。范数的选择决定了几何形状:$L^1$ 单位球是菱形,$L^2$ 是圆形,$L^\infty$ 是正方形,在最优化中,$L^1$ 正则化(Lasso)能促进稀疏性,因为 $L^1$ 球的角恰好与坐标轴对齐。