Probabilités de l'ingénieur : algorithmes stochastiques et simulation/Introduction et rappels

Début de la boite de navigation du chapitre

fin de la boite de navigation du chapitre

Théorèmes utiles

Loi des grands nombres

Cette loi est une propriété fondamentale dans la théorie des probabilités, qui dit qu’il est possible, à partir d'un grand échantillon de variables aléatoires de même loi, de retrouver les propriétés de cette loi.

La loi des grands nombres existe sous deux formes : la faible et la forte.

Début d’un théorème

Loi faible des grands nombres

Soit $(X_{n})_{n\in \mathbb {N} ^{*}}$ une suite de variables aléatoires indépendantes définies sur un même espace probabilisé, ayant même espérance $\mathbb {E} (X)$ et même variance finie $V(X)$. Alors : $\forall \varepsilon >0,\quad \lim _{n\to +\infty }\mathbb {P} \left(\left|{\frac {X_{1}+X_{2}+\cdots +X_{n}}{n}}-\mathbb {E} (X)\right|\geqslant \varepsilon \right)=0$

Fin du théorème

Démonstration

Par l'inégalité de Bienaymé-Tchebychev, on a : $\mathbb {P} (|Y-\mathbb {E} (Y)|\geqslant \varepsilon )\leqslant {\frac {V(Y)}{\varepsilon ^{2}}}$ .

On remarque que la variable aléatoire $Y_{n}={\frac {X_{1}+X_{2}+\cdots +X_{n}}{n}}$ a pour espérance $\mathbb {E} (X)$ et pour variance ${\frac {V(X)}{n}}$. Ainsi, pour tout n :

$\mathbb {P} \left(\left|{\frac {X_{1}+X_{2}+\cdots +X_{n}}{n}}-\mathbb {E} (X)\right|\geqslant \varepsilon \right)\leqslant {\frac {V(X)}{n\,\varepsilon ^{2}}}$.

 

Ainsi, on dit qu’il y a convergence en probabilité de la moyenne des variables aléatoires (la variable Y) vers leur espérance $\mathbb {E} (X)$.

La loi forte des grands nombres permet, à partir d'hypothèses moindres sur les variables aléatoires, d'obtenir un résultat de convergence plus fort :

Début d’un théorème

Loi forte des grands nombres

Soit $(X_{n})_{n\in \mathbb {N} }$ une suite de variables aléatoires indépendantes définies sur un même espace probabilisé, intégrables ($\mathbb {E} (|X_{1}|)<+\infty$). Alors : $\mathbb {P} \left(\lim _{n\to +\infty }{\frac {X_{1}+X_{2}+\cdots +X_{n}}{n}}=\mathbb {E} (X_{0})\right)=1$

Fin du théorème

Ainsi, on dit qu’il y a convergence presque sûre de la moyenne des variables aléatoires vers leur espérance $\mathbb {E} (X)$.

Il existe plusieurs démonstrations de la loi forte, notamment par Kolmogorov.

Théorème de la limite centrale

Le théorème de la limite centrale est un grand résultat des probabilités, qui permet d'approcher la loi de probabilité de la somme d'un grand nombre de variables aléatoires par une loi normale.

Deux remarques avant le théorème :

Variable aléatoire centrée réduite

Soit X une variable aléatoire d'espérance $\mu$ et d'écart-type $\sigma$.

Alors : $\mathbb {E} \left({\frac {X-\mu }{\sigma }}\right)=0$ et $V\left({\frac {X-\mu }{\sigma }}\right)=1$

Espérance et écart-type d'une somme de variables aléatoires

Soit $X_{1},\ldots ,X_{n}$ un ensemble de n variables aléatoires définies sur le même espace de probabilité,
suivant la même loi et indépendantes, d'espérance $\mu$ et l'écart-type $\sigma$ finies ($\sigma \neq 0$).

Alors : $\mathbb {E} \left(\sum _{k=1}^{n}X_{k}\right)=n\mu$ et $\sigma \left(\sum _{k=1}^{n}X_{k}\right)=\sigma {\sqrt {n}}$

Début d’un théorème

Théorème de la limite centrale

Soit $(X_{n})_{n\in \mathbb {N} }$ une suite de variables aléatoires définies sur le même espace de probabilité,
suivant la même loi et indépendantes, d'espérance $\mu$ et l'écart-type $\sigma$ finies ($\sigma \neq 0$).

Soit la somme $S_{n}=X_{1}+X_{2}+\cdots +X_{n}$, et posons : $Z_{n}={\frac {S_{n}-n\mu }{\sigma {\sqrt {n}}}}.$

Alors la loi de $Z_{n}$ converge vers la loi normale centrée réduite ${\mathcal {N}}(0,1)$ quand n tend vers l'infini.

Fin du théorème