Ley de los Grandes Números
La ley de los grandes números establece que, a medida que aumenta el número de ensayos, la probabilidad experimental se acerca cada vez más a la probabilidad teórica.
Definition
La ley de los grandes números dice que cuantas más veces repitas un experimento, más se acercarán tus resultados a lo que esperabas; los experimentos pequeños son impredecibles, los grandes son confiables. A medida que aumenta el número de ensayos $n$, la media muestral $\bar{x}$ converge a la media poblacional $\mu$ para variables aleatorias i.i.d. con media finita, explicando por qué la probabilidad experimental se aproxima a la probabilidad teórica con más ensayos. Formalmente, la LGN débil establece que $\bar{x}$ converge en probabilidad a $\mu$: para cualquier $\epsilon > 0$, $P(|\bar{x}-\mu| > \epsilon) \to 0$ cuando $n \to \infty$; la LGN fuerte establece que $\bar{x}$ converge casi seguramente a $\mu$, $P(\lim \bar{x} = \mu) = 1$, una afirmación más fuerte que se cumple bajo la condición más débil $E[|X|] < \infty$.
Example
Lanza una moneda $10$ veces y podrías obtener $7$ caras ($70\%$); lanza $10{,}000$ veces y casi con seguridad obtendrás algo muy cercano a $50\%$ de caras. Al lanzar un dado repetidamente, la media muestral podría ser $4.2$ después de $10$ lanzamientos, $3.7$ después de $100$, y casi con seguridad muy cercana a $3.5$ (la media teórica) después de $10{,}000$. El teorema ergódico generaliza esto: para un proceso ergódico estacionario, el promedio temporal converge al promedio del conjunto casi seguramente, conectando la LGN con la mecánica estadística y el análisis de series de tiempo, donde una sola serie de tiempo larga sustituye a muchas realizaciones independientes.
Key Insight
Por esto los casinos siempre ganan a largo plazo: cada jugador individual es impredecible, pero con miles de jugadores, los resultados reales del casino convergen al resultado esperado (rentable). La ley de los grandes números no se trata de rachas a corto plazo; si sacas cara $10$ veces seguidas, el siguiente lanzamiento sigue siendo $50/50$ (la falacia del jugador es un malentendido de esto), ya que la ley promedia sobre infinitos ensayos, no corrige rachas a corto plazo, y la tasa precisa de convergencia la da el teorema del límite central (error estándar $= \sigma/\sqrt{n}$).