Méthode des moindres carrés ordinaires
Fiche de révision compacte sur l’estimation linéaire par moindres carrés
1
Modèle de régression simple
Schéma du modèle
Repères essentiels
Le modèle étudie une relation linéaire entre une variable expliquée et une variable explicative.
- Y est la variable expliquée.
- X est la variable explicative.
2
Droite des moindres carrés
Principe de choix
La droite des moindres carrés est celle qui minimise la somme des carrés des résidus.
À retenir
==MCO = Minimiser les Carrés des Oubliés==. On choisit la droite qui laisse le moins d’erreurs quadratiques.
3
Résidus et ajustement
Définition des écarts
Résidu positif
- Observation au-dessus de la droite.
- Prévision trop faible.
Résidu négatif
- Observation en dessous de la droite.
- Prévision trop forte.
Mesure d’erreur
- Les résidus sont les écarts observation-prévision.
- La somme des carrés des résidus est l’objectif minimisé.
4
Estimateur et coefficients
Calcul et lecture
| Objet | Sens |
|---|---|
| a chapeau | Valeur prédite pour X = 0. |
| b chapeau | Variation moyenne estimée de Y quand X augmente |
| estimateur MCO | Valeurs calculées à partir de l’échantillon. |
Propriétés sous hypothèses
- Sous hypothèses, l’estimateur est sans biais.
- Il est de variance minimale parmi les estimateurs linéaires.
5
Qualité et prévision
Rôle de R²
Le coefficient de détermination mesure la part de variance expliquée par la régression.
Interpréter et prévoir
On estime Y = a + bX et on obtient b chapeau positif. Que dit le modèle si X augmente, puis si on prédit Y pour une valeur donnée de X ?
- b chapeau positif signifie que Y augmente en moyenne avec X.
- Pour prévoir, on remplace X par la valeur observée ou choisie.
- L’interprétation reste valable dans le domaine pertinent des données.
Le modèle indique une relation moyenne croissante et permet une prévision locale.
6
À vérifier avant de conclure
Pièges fréquents
- La droite des moindres carrés passe toujours par tous les points.
- R² proche de 1 indique un ajustement fort.
- Une bonne régression prouve une causalité.
Synthèse express
- Le MCO choisit la droite qui minimise les carrés des résidus.
- Les coefficients se lisent comme niveau et effet moyen.