Statistique à deux variables/Ajustement affine par les moindres carrés

Début de la boite de navigation du chapitre

fin de la boite de navigation du chapitre

Ajustement par la méthode des moindres carrés

La forme d'un nuage de points invite à retenir pour l'ajuster des modèles de fonctions familières :

• soit le modèle affine $y=ax+b$
• soit le modèle exponentiel $y=a\times b^{x}$
• soit le modèle puissance $y=a\times x^{b}$
• ...

Pour ajuster une série à un modèle, il faut un critère : dans la méthode des moindres carrés, on retient le critère suivant : la somme des carrés des écarts verticaux entre les valeurs $y_{i}$ observés et celles $f(x_{i})$ données par le modèle doit être minimale :

Sur la figure ci-dessous, cela représente la somme des carrés des longueurs vertes :

Définition

Effectuer un ajustement par la méthode des moindres carrées consiste à trouver une fonction $f$ du modèle retenu qui minimise l’expression :

$\sum _{i=1}^{n}[y_{i}-f(x_{i})]^{2}$.

Ajustement affine par la méthode des moindres carrés

Lorsque le nuage est de forme allongée, on peut tenter un ajustement affine en utilisant le théorème suivant :

Début d’un théorème

Théorème

La droite d'ajustement affine par la méthode des moindres carrés a pour coefficient directeur :

$a={\frac {\sum _{i=1}^{n}(x_{i}-{\bar {x}})(y_{i}-{\bar {y}})}{\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}}$

et passe par le point moyen $G({\bar {x}};{\bar {y}})$ du nuage.

Autrement dit, une équation de la droite est :

$y=a(x-{\bar {x}})+{\bar {y}}$.

Fin du théorème

Remarque 1 : on appelle parfois cette droite droite de régression de y en x.

Remarque 2 : une démonstration de ce théorème est donnée dans la leçon Trace et transposée de matrice.

Interpolation et extrapolation

Pour une valeur $x_{0}$ de la variable $X$, la connaissance de $f$ permet de prévoir approximativement la valeur correspondante de $Y$. Pour cela, on calcule $f(x_{0})$.

• Si $x_{0}$ appartient à l'intervalle d'observation des valeurs de $X$, on dit qu'on fait une interpolation.
• Si $x_{0}$ est à l'extérieur de l'intervalle d'observation, on parle d'extrapolation.

Cela suppose de faire l'hypothèse que le modèle reste plausible à l'extérieur de l'intervalle.