独立事件
dú lì shì jiàn
独立事件是指一个事件的结果不会影响另一个事件发生概率的事件。
Formula
P(A \text{ and } B) = P(A) \times P(B) \quad [\text{when } A \text{ and } B \text{ are independent}]
Definition
独立事件是彼此不影响的事件:知道其中一个发生了,并不能告诉你关于另一个是否发生的任何信息。如果 $P(A \text{ and } B) = P(A)P(B)$,则事件 $A$ 和 $B$ 是独立的,等价地 $P(A|B) = P(A)$,意味着知道 $B$ 发生并不会改变 $A$ 的概率;独立性必须从问题背景中加以验证,或通过数学方法检验,而不能仅凭假设。形式上,对于一个集合 $\{A_1, \ldots, A_n\}$,相互独立要求对所有子集都满足 $P(A_{i_1} \cap \ldots \cap A_{i_k}) = \prod P(A_{i_j})$,成对独立并不能推出相互独立。
Example
抛硬币和掷骰子是独立的:得到正面并不会改变掷出 $4$ 的机会,因此 $P(\text{heads AND rolling } 4) = 1/2 \times 1/6 = 1/12$。抽一张牌,放回,再抽一张,这样的事件保持独立(牌堆重置了),而不放回地抽牌则使事件变得相依(第二次抽取受第一次影响)。一个成对独立但非相互独立的经典例子:抛两枚均匀硬币($X_1, X_2$),定义 $X_3 = X_1 \oplus X_2$;那么 $X_1$、$X_2$、$X_3$ 是成对独立的,但 $P(X_1=H, X_2=H, X_3=H) = 0 \neq P(X_1=H)P(X_2=H)P(X_3=H) = 1/8$,因此它们并非相互独立。
Key Insight
独立性意味着你可以直接相乘概率:如果两件事是独立的,"且"的概率就是两个各自概率的乘积,但独立性是一种建模假设,而不是在单次试验中可以观察到的东西,必须由实验的结构来证明其合理性(例如有放回的随机抽样)。独立同分布(i.i.d.)假设是中心极限定理、大数定律以及大多数估计量性质的基础;对独立性的检验,类别变量用卡方检验,连续变量用基于相关性的检验。