Modèle linéaire généralisé
classe de modèles statistiques
From Wikipedia, the free encyclopedia
En statistiques, le modèle linéaire généralisé (MLG ou GLM pour generalized linear model en anglais), est une généralisation souple de la régression linéaire. Le GLM généralise la régression linéaire en permettant au modèle linéaire d'être relié à la variable réponse via une fonction lien et en autorisant l'amplitude de la variance de chaque mesure d'être une fonction de sa valeur prévue, en fonction de la loi choisie.
| Type | |
|---|---|
| Sigle |
GLM |
| Inventeurs |
John Nelder, Robert Wedderburn (en) |
Historique
La théorie des modèles linéaires généralisés a été formulée par John Nelder et Robert Wedderburn (en) comme un moyen d'unifier les autres modèles statistiques y compris la régression linéaire, la régression logistique et la régression de Poisson[1]. Ils proposent une méthode itérative dénommée méthode des moindres carrés repondérés itérativement (en) pour l'estimation du maximum de vraisemblance des paramètres du modèle. L'estimation du maximum de vraisemblance reste populaire et est la méthode par défaut dans de nombreux logiciels de calculs statistiques. D'autres approches incluant les statistiques bayésiennes et la méthode des moindres carrés convenant aux réponses à variance stabilisées, ont été développées.
Présentation formelle
Le modèle
Soit
où est l'espérance mathématique de conditionnelle à ; est le prédicteur linéaire, c'est-à-dire une combinaison linéaire des variables explicatives, et où est une fonction monotone appelée fonction de lien.
De plus
où est appelée fonction variance, qui dépend la loi (au sein de la famille exponentielle)
La fonction de lien
La fonction de lien est la fonction qui permet de passer du prédicteur linéaire à la moyenne de la distribution . L'objectif est de passer d'une distribution non normale, non distribuée sur , à une fonction qui l'est et qui peut donc être analysé comme tout modèle linéaire. Pour les distributions les plus courantes, les fonctions canoniques sont résumées dans le tableau suivant :
| Distribution | Domaine | Usages | Nom de la fonction | Fonction de lien, | Fonction de la moyenne |
|---|---|---|---|---|---|
| Normale | Réel : | Identité | |||
| Laplace | |||||
| Exponentielle | Réel : | Inverse négative | |||
| Gamma | |||||
| Inverse-gaussienne | Réel : | Inverse carré | |||
| Poisson | Entiers : | Log | |||
| Bernoulli | Entiers : | Logit | |||
| Binomiale | Entiers : | ||||
| Multinomiale | K-vecteur d'entiers : |