17.1.7. Variabili casuali indipendenti e identicamente distribuite, iid.#

Due variabili stochastiche \(X\), \(Y\) sono

  • statisticamente indipendenti se la loro probabilità congiunta è uguale al prodotto delle probabilità marginali,

    \[p_{XY}(x,y) = p_X(x) \, p_Y(y) \ ,\]
  • identicamente distribuite se hanno la stessa densità di probabilità,

    \[p_X(x) = p_Y(x)\]

17.1.7.1. Teoremi sulle variabili casuali i.i.d.#

Dato un insieme di \(N\) variabili casuali iid \(\{ X_n \}_{n=1:N}\), con valore atteso \(\mathbb{E}[X_n] = \mu\) e varianza \(\mathbb{E}[(X_n - \mu)^2] = \sigma\), allora la sua media campionaria

\[\bar{X}_N = \frac{1}{N} \sum_{n=1}^N X_n \ \]
  • per il teorema dei grandi numeri, converge al valore atteso \(\mu\) della distribuzione di probabilità.

  • per il teorema del limite centrale, è una variabile casuale che converge in distribuzione a una variabile casuale gaussiana con valore atteso \(\mu\) e varianza \(\frac{\sigma^2}{n}\),

    \[\bar{X}_N \rightarrow \mathscr{N}\left(\mu, \frac{\sigma^2}{N} \right) \qquad , \qquad \text{as $N \rightarrow \infty$}\]

17.1.7.1.1. Convergenza in statistica, todo#

  • quasi certamente. Esempio: teorema dei grandi numeri in forma forte. Il limite della media campionaria è diverso da una variabile casuale \(\mu\) (todo controllare!) solo nel caso di eventi di probabilità nulla,

    \[P\left( \lim_{N \rightarrow \infty} \bar{X}_N = \mu \right) = 1 \ .\]
  • in probabilità. Esempio: teorema dei grandi numeri in forma debole. Per ogni valore di \(\varepsilon > 0\),

    \[P\left( \left|\lim_{N \rightarrow \infty} \bar{X}_N - \mu \right| < \varepsilon \right) = 1 \ .\]
  • convergenza in distribuzione. Esempio: teorema del limite centrale…