Correction de Bessel

Estimation corrigée de l’écart-type

Bien que la variance de l'échantillon corrigée par la méthode de Bessel soit un estimateur sans biais de la variance de la population, sa racine carrée, c’est-à-dire l'écart-type de l'échantillon, est lui un estimateur biaisé de l'écart-type de la population. En effet, la racine carrée étant une fonction concave, elle introduit nécessairement un biais négatif, d'après l'inégalité de Jensen. Il n'existe pas de formule générale pour un estimateur sans biais de l'écart-type de la population, mais des facteurs de correction existent pour certaines distributions, comme la distribution normale ; voir Écart type — Estimation pour plus de détails. Une approximation du facteur de correction exact pour la distribution normale est donnée par n − 1,5 dans la formule : le biais décroît de manière quadratique (plutôt que linéaire, comme dans la forme non-corrigée et la forme corrigée de Bessel).

Erreur quadratique moyenne

L'estimateur sans biais ne minimise pas l'erreur quadratique moyenne (EQM) et présente généralement une EQM plus élevée que l'estimateur non corrigé (ceci varie en fonction du kurtosis excédentaire). L'EQM peut être minimisée en utilisant un facteur différent. La valeur optimale dépend du kurtosis excédentaire, comme expliqué dans la section « Erreur quadratique moyenne : variance » ; pour la distribution normale, cette valeur est optimisée en divisant par n + 1 (au lieu de n − 1 ou n).

Nécessité de la correction

La correction de Bessel n'est nécessaire que lorsque la moyenne de la population est inconnue et que l'on estime à la fois la moyenne et la variance de la population à partir d'un échantillon donné, en utilisant la moyenne de l'échantillon pour estimer la moyenne de la population. Dans ce cas, il y a n degrés de liberté dans un échantillon de n points, et l'estimation simultanée de la moyenne et de la variance signifie qu'un degré de liberté est attribué à la moyenne de l'échantillon et les n - 1 degrés restants (les résidus) sont attribués à la variance de l'échantillon. Cependant, si la moyenne de la population est connue, les écarts des observations par rapport à cette moyenne possèdent n degrés de liberté (car la moyenne n'est pas estimée ; les écarts ne sont pas des résidus mais des erreurs) et la correction de Bessel n'est pas applicable.

Approche par la moyenne

Pour comprendre le biais à corriger, qui est lié à la moyenne, prenons un cas extrême en considérant une petite population.

Supposons que la population soit (0,0,0,1,2,9), avec une moyenne de 2 et une variance de ${\displaystyle 62/6=10,333}$. Pour référence, la variance corrigée par Bessel vaut 12,4 : c’est une valeur surestimée car il n’est pas pertinent d’appliquer la correction à la population entière, mais gardons-la en mémoire.

On prélève tout d’abord un échantillon de taille n = 1, et il s'avère que ${\displaystyle x_{1}=0.}$ La meilleure estimation de la moyenne de la population à partir de cet échantillon est ${\displaystyle {\bar {x}}=x_{1}/n=0/1=0}$ ce qui est évidemment très peu représentatif de la valeur réelle 2. Si nous utilisons ensuite la formule non-corrigée pour estimer la variance, on a ${\displaystyle (x_{1}-{\bar {x}})^{2}/n=(0-0)^{2}/1=0}$. Cette estimation est nulle, et elle l’est en fait pour toute population et tout échantillon de taille n = 1. Le problème est que le calcul de la moyenne de l'échantillon conduit à une estimation de la moyenne très proche de la valeur échantillonnée – et en fait, carrément identique pour n = 1. Aussi, dans le cas où n = 1, la variance ne peut tout simplement pas être estimée, car l'échantillon ne présente aucune variabilité, donc aucune dispersion qui serait significative et lissée.

Considérons maintenant le cas où n = 2. Supposons que l'échantillon soit (0, 2). Alors ${\displaystyle {\bar {x}}=1}$ et ${\displaystyle \left[(x_{1}-{\bar {x}})^{2}+(x_{2}-{\bar {x}})^{2}\right]/n=(1+1)/2=1}$ ce qui est loin de la valeur réelle 10,333. Quand on applique cette méthode de calcul à tous les échantillons possibles de taille n = 2, on trouve les variances suivantes : 0, 0, 0,25, 1, 20,25, 0, 0,25, 1, 20,25, 0,25, 1, 20,25, 0,25, 16, 12,25. La moyenne de ces estimations vaut 6,2 soit une valeur très éloignée de la variance réelle de la population, qui vaut 10,333.

Mais avec la correction de Bessel, ${\displaystyle \left[(x_{1}-{\bar {x}})^{2}+(x_{2}-{\bar {x}})^{2}\right]/(n-1)=(1+1)/1=2}$. Cette estimation de la variance est toujours loin de la valeur réelle, mais par construction, elle est moins sous-estimée : c’est une estimation sans biais de la variance réelle. Quand on applique cette méthode de calcul (correction de Bessel) à tous les échantillons possibles de taille n = 2, on trouve les estimations de variance suivantes : 0, 0, 0,5, 2, 40,5, 0, 0,5, 2, 40,5, 0,5, 2, 40,5, 0,5, 32, 24,5. La moyenne de ces estimations vaut 12,4, soit la même que la variance de l'échantillon avec la correction de Bessel.

C’est là l’intérêt de la correction de Bessel : elle produit une estimation de la variance stable, quelle que soit la taille de l’échantillon. Comme dans cet exemple, la population a un cardinal de seulement 6, la correction de Bessel produit une estimation de la variance légèrement surestimée (12,4 contre 10,333 en réel). Mais à mesure que la taille de la population augmente, le facteur de proportionnalité entre les deux modes de calcul, n-1/n, s’amenuise (il tend vers 1 quand n tend vers l’infini) : la correction de Bessel appliqué aux échantillons produit une estimation de la variance réaliste, et contre-carre le biais introduit par le fait que la moyenne de l’échantillon n’est qu’une estimation de la moyenne de la population.

Pour un échantillon ${\displaystyle X_{1},...,X_{n}}$ issu d’une population de moyenne réelle μ, la variance non corrigée est :

${\displaystyle \sigma ^{2}={\frac {1}{N}}\sum _{i=1}^{N}(X_{i}-\mu )^{2}}$

avec la moyenne réelle :

${\displaystyle \mu ={\frac {1}{N}}\sum _{i=1}^{N}X_{i}}$

Mais la variance non corrigée d’un échantillon de taille n est :

${\displaystyle {\hat {\sigma }}_{\text{non corrigée}}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}}$

avec la moyenne calculée sur l’échantillon seulement :

${\displaystyle {\bar {X}}={\frac {1}{n}}\sum _{i=1}^{n}X_{i}}$

Le biais vient du fait que ${\displaystyle {\bar {X}}}$ est une estimation nécessairement sous-estimée de μ, car :

1. les valeurs de l’échantillon sont par principe un sous-ensemble, en cardinal et en somme, des valeurs possibles de la population ;
2. donc, leur moyenne ${\displaystyle {\bar {X}}}$ est par conséquent forcément plus proche des valeurs de l’échantillon que la vraie moyenne μ ;
3. donc, les écarts ${\displaystyle (X_{i}-{\bar {X}})}$ sont en moyenne plus petits que ${\displaystyle (X_{i}-\mu )}$ ;
4. donc, quand on calcule ${\displaystyle {\frac {1}{n}}\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}}$, on sous-estime nécessairement la vraie variance, car les écarts à la moyenne sont artificiellement « contractés » par le fait que la moyenne est calculée à partir de ces mêmes données échantillonnées.

En d’autres termes, l’échantillon « s’auto-rapproche » autour de sa propre moyenne, ce qui réduit artificiellement les écarts. La correction de Bessel, en multipliant la variance non corrigée de l’échantillon par un facteur ${\displaystyle n/n-1}$ :

${\displaystyle s^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}(X_{i}-{\bar {X}})^{2}}$

tend à amplifier les écarts, compensant le fait que ${\displaystyle {\bar {X}}}$ a « raboté » les distances par rapport à μ. La moyenne de tous les échantillons corrigés par Bessel converge exactement vers la vraie variance de la population. Plus l’échantillon est grand, plus ${\displaystyle {\bar {X}}\approx \mu }$ (car ${\displaystyle n/n-1}$ tend vers 1), ce qui rend la correction de Bessel de moins en moins nécessaire. En pratique, on l’applique toujours, car on travaille sur des échantillons de cardinal faible devant celui de la population vers laquelle on veut inférer des résultats statistiques.

Approche par développement algébrique

Pour mieux comprendre, prenons l'exemple suivant. Supposons que la moyenne de l'ensemble de la population soit de 2050, mais que le statisticien l'ignore et doive l'estimer à partir de ce petit échantillon choisi au hasard dans la population :

${\displaystyle 2051,\quad 2053,\quad 2055,\quad 2050,\quad 2051}$

On peut calculer la moyenne de l'échantillon :

${\displaystyle {\frac {1}{5}}\left(2051+2053+2055+2050+2051\right)=2052}$

Cela peut servir d'estimation observable de la moyenne de la population, qui est inobservable (mais pour l’exercice, on sait que cette valeur est exactement 2050). Nous sommes maintenant confrontés au problème de l'estimation de la variance de la population. Celle-ci correspond à la moyenne des carrés des écarts par rapport à la moyenne. Si nous savions que la population moyenne est de 2050, nous pourrions procéder comme suit :

${\displaystyle {\begin{aligned}{}&{\frac {1}{5}}\left[(2051-2050)^{2}+(2053-2050)^{2}+(2055-2050)^{2}+(2050-2050)^{2}+(2051-2050)^{2}\right]\\[6pt]={}&{\frac {36}{5}}=7.2\end{aligned}}}$

Mais notre estimation de la moyenne de la population est la moyenne de l'échantillon, à savoir 2052. La moyenne réelle, 2050, est inconnue. Il faut donc utiliser la moyenne de l'échantillon, 2052:

${\displaystyle {\begin{aligned}{}&{\frac {1}{5}}\left[(2051-2052)^{2}+(2053-2052)^{2}+(2055-2052)^{2}+(2050-2052)^{2}+(2051-2052)^{2}\right]\\[6pt]={}&{\frac {16}{5}}=3.2\end{aligned}}}$

La variance est désormais plus faible, et elle l'est (presque) toujours. La seule exception se produit lorsque la moyenne de l'échantillon et la moyenne de la population sont identiques (par hasard ou parce que l’échantillon est bien choisi). Pour comprendre pourquoi, il faut se rappeler que la variance mesure la distance à partir d'un point, et que, dans un échantillon donné, la moyenne de l'échantillon correspond précisément au point qui minimise les distances (la moyenne est le point d’équilibre des valeurs). Un calcul de variance utilisant une autre valeur moyenne, par exemple une estimation de la moyenne, donnera nécessairement un résultat plus élevé.

Pour le démontrer algébriquement, nous utilisons une identité simple :

${\displaystyle (a+b)^{2}=a^{2}+2ab+b^{2}}$

Avec ${\displaystyle a}$ représentant l'écart d'un échantillon individuel par rapport à la moyenne de l'échantillon, et ${\displaystyle b}$ représentant l'écart de la moyenne de l'échantillon par rapport à la moyenne de la population. Notons que nous avons simplement décomposé l'écart réel d'un échantillon individuel par rapport à la moyenne (inconnue) de la population en deux composantes : l'écart de l'échantillon individuel par rapport à la moyenne de l'échantillon, que nous pouvons calculer, et l'écart supplémentaire de la moyenne de l'échantillon par rapport à la moyenne de la population, que nous ne pouvons pas calculer (faute de connaître la moyenne de la population). Appliquons maintenant cette identité aux carrés des écarts par rapport à la moyenne de la population :

${\displaystyle {\begin{aligned}{[}\,\underbrace {2053-2050} _{\begin{smallmatrix}{\text{Déviation par rapport}}\\{\text{à la moyenne}}\\{\text{de la population}}\end{smallmatrix}}\,]^{2}&=[\,\overbrace {(\,\underbrace {2053-2052} _{\begin{smallmatrix}{\text{Deviation par rapport}}\\{\text{à la moyenne}}\\{\text{de l’échantillon}}\end{smallmatrix}}\,)} ^{{\text{Ceci est }}a.}+\overbrace {(2052-2050)} ^{{\text{Ceci est }}b.}\,]^{2}\\&=\overbrace {(2053-2052)^{2}} ^{{\text{Ceci est }}a^{2}.}+\overbrace {2(2053-2052)(2052-2050)} ^{{\text{Ceci est }}2ab.}+\overbrace {(2052-2050)^{2}} ^{{\text{Ceci est }}b^{2}.}\end{aligned}}}$

Appliquez maintenant cela aux cinq observations et observez certains schémas :

${\displaystyle {\begin{alignedat}{2}\overbrace {(2051-2052)^{2}} ^{{\text{Ceci est }}a^{2}.}\ &+\ \overbrace {2(2051-2052)(2052-2050)} ^{{\text{Ceci est }}2ab.}\ &&+\ \overbrace {(2052-2050)^{2}} ^{{\text{Ceci est }}b^{2}.}\\(2053-2052)^{2}\ &+\ 2(2053-2052)(2052-2050)\ &&+\ (2052-2050)^{2}\\(2055-2052)^{2}\ &+\ 2(2055-2052)(2052-2050)\ &&+\ (2052-2050)^{2}\\(2050-2052)^{2}\ &+\ 2(2050-2052)(2052-2050)\ &&+\ (2052-2050)^{2}\\(2051-2052)^{2}\ &+\ \underbrace {2(2051-2052)(2052-2050)} _{\begin{smallmatrix}{\text{La somme des entrées de cette}}\\{\text{colonne centrale doit valoir 0.}}\end{smallmatrix}}\ &&+\ (2052-2050)^{2}\end{alignedat}}}$

La somme des valeurs de la colonne centrale doit être nulle, car le terme « a » est additionné sur les 5 lignes et doit lui-même être égal à zéro. En effet, « a » contient les 5 échantillons individuels (à gauche, entre parenthèses) dont la somme est égale à 5 fois la moyenne de ces 5 nombres (2052). Par conséquent, la soustraction de ces deux sommes est nulle. Le facteur 2 et le terme « b » de la colonne centrale sont identiques pour toutes les lignes ; la différence relative entre les lignes de cette colonne reste donc constante et peut être négligée. Les explications suivantes concernent les colonnes restantes :

• La somme des entrées de la première colonne (a²) est la somme des carrés de la distance de l'échantillon à la moyenne de l'échantillon ;
• La somme des valeurs de la dernière colonne (b²) correspond à la somme des carrés des écarts entre la moyenne de l'échantillon mesuré et la moyenne de la population attendue ^.
• Chaque ligne est maintenant composée de paires de valeurs : a² (biaisée, car la moyenne de l’échantillon est utilisée) et b² (correction du biais, car elle tient compte de la différence entre la moyenne réelle de la population et la moyenne imprécise de l’échantillon). Par conséquent, la somme des valeurs des première et dernière colonnes représente désormais la variance correcte, ce qui signifie que la somme des carrés des écarts entre les échantillons et la moyenne de la population est maintenant utilisée.
• La somme des colonnes en a² et en b² doit être supérieure à la somme des éléments de la colonne a², puisque tous les éléments de la colonne b² sont positifs (sauf lorsque la moyenne de la population est égale à la moyenne de l'échantillon, auquel cas tous les nombres de la dernière colonne seront égaux à 0).

Donc:

• La somme des carrés des distances entre les échantillons et la moyenne de la population sera toujours supérieure à la somme des carrés des distances à la moyenne de l'échantillon ; sauf lorsque la moyenne de l'échantillon est identique à la moyenne de la population, auquel cas les deux sont égales.

C’est pourquoi la somme des carrés des écarts à la moyenne de l’ échantillon est trop faible pour fournir une estimation non biaisée de la variance de la population lorsqu’on calcule la moyenne de ces carrés. Plus la taille de l’échantillon est petite, plus la différence entre la variance de l’échantillon et la variance de la population est grande.

Terminologie

Cette correction est si courante et standardisée dans les méthodes de calcul (logiciels de traitement des données, publications scientifiques…) que les termes « variance de l'échantillon » et « écart-type de l'échantillon » sont en fait la plupart du temps utilisées comme des raccourcis de langage pour désigner leurs estimateurs corrigés par Bessel ie. en utilisant n − 1. Toutefois, la prudence est de mise : certaines calculatrices et certains logiciels peuvent proposer les deux formulations, ou seulement la méthode de calcul non corrigée.

Cet article utilise les symboles et définitions suivants :

• ${\displaystyle \mu }$ est la moyenne de la population
• ${\displaystyle {\overline {x}}}$ est la moyenne de l'échantillon
• ${\displaystyle \sigma ^{2}}$est la variance de la population
• ${\displaystyle s_{n}^{2}}$ est la variance biaisée de l'échantillon (c'est-à-dire sans correction de Bessel)
• ${\displaystyle s^{2}}$ est la variance non biaisée de l'échantillon (c'est-à-dire avec la correction de Bessel)

Les écarts types seront alors les racines carrées des variances respectives. Comme la racine carrée introduit un biais, on préfère utiliser les termes « non corrigé » et « corrigé » pour les estimateurs de l’écart type :

• ${\displaystyle s_{n}}$ est l'écart type de l'échantillon non corrigé (c'est-à-dire sans correction de Bessel)
• ${\displaystyle s}$ représente l'écart-type de l'échantillon corrigé (c'est-à-dire avec la correction de Bessel), qui est moins biaisé, mais reste biaisé

Formule

La moyenne de l'échantillon est donnée par :$${\displaystyle {\overline {x}}={\frac {1}{n}}\sum _{i=1}^{n}x_{i}}$$

La variance biaisée de l'échantillon s'écrit alors : $${\displaystyle s_{n}^{2}={\frac {1}{n}}\sum _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}={\frac {\sum _{i=1}^{n}x_{i}^{2}}{n}}-{\frac {\left(\sum _{i=1}^{n}x_{i}\right)^{2}}{n^{2}}}}$$

et la variance non-biaisée de l'échantillon s'écrit : $${\displaystyle s^{2}={\frac {1}{n-1}}\sum _{i=1}^{n}\left(x_{i}-{\overline {x}}\right)^{2}={\frac {\sum _{i=1}^{n}x_{i}^{2}}{n-1}}-{\frac {\left(\sum _{i=1}^{n}x_{i}\right)^{2}}{(n-1)n}}=\left({\frac {n}{n-1}}\right)\,s_{n}^{2}.}$$

Preuve

Soient ${\displaystyle X_{1},\ldots ,X_{n}}$ des variables aléatoires indépendantes identiquement distribuées, tirées d'une population posée comme inobservable ie. on n’a accès qu’à sous-ensemble de valeurs de la population. La population est caractérisée par les indicateurs statistiques réels suivants : espérance ${\displaystyle \mu }$ et variance ${\displaystyle \sigma ^{2}}$.

Pour un tirage (échantillonnage) particulier ${\displaystyle \omega \in \Omega }$ de l' espace d'échantillonnage sous-jacent, les variables ${\displaystyle X_{1},\ldots ,X_{n}}$ prennent des valeurs concrètes (réalisations) ${\displaystyle x_{1},\ldots ,x_{n}}$. Nous souhaiterions obtenir une bonne estimation de la variance réelle ${\displaystyle \sigma ^{2}}$, qui est inconnue, à partir du calcul de la variance de l’échantillon.

On définit donc un estimateur de la variance (non corrigée à ce stade), comme la variance d’un échantillon calculée comme suit :

${\displaystyle {\hat {\sigma }}_{\text{non corrigée}}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\bar {x}})^{2}}$ où ${\displaystyle {\bar {x}}={\frac {1}{n}}\sum _{j=1}^{n}x_{j}}$.

Cette estimation de la variance dépend nécessairement des valeurs de l’échantillon choisi. L’espérance ${\displaystyle \mathbb {E} \left[{\hat {\sigma }}_{\text{non corrigée}}^{2}\right]}$ (ie. la moyenne sur tous les échantillons possibles) de la variance non corrigée permet de quantifier le biais de l’estimateur : est-ce que, en moyenne sur tous les échantillons, la variance non corrigée donne la vraie variance ${\displaystyle \sigma ^{2}}$ de la population ?

• Concrètement :
  • Si ${\displaystyle \mathbb {E} \left[{\hat {\sigma }}_{\text{non corrigée}}^{2}\right]=\sigma ^{2}}$, alors l’estimateur est non biaisé
  • Si ${\displaystyle \mathbb {E} \left[{\hat {\sigma }}_{\text{non corrigée}}^{2}\right]<\sigma ^{2}}$, alors l’estimateur sous-estime la variance

Donc calculer l’espérance permet de quantifier l’éventuel biais de l’estimateur. À cette fin, nous allons construire une formule mathématique contenant le ${\displaystyle X_{1},\ldots ,X_{n}}$ de sorte que l'espérance de cette formule soit précisément ${\displaystyle \sigma ^{2}}$. Cela signifie qu'en moyenne, cette formule devrait donner la bonne réponse ; le vérifier permettra de déterminer si la formule est non biaisée ou pas.

L’approche la plus directe pour donner une formule de la variance d’un échantillon est celle de l’estimateur vu ci-avant :

${\displaystyle {\frac {1}{n}}\sum _{k=1}^{n}(x_{k}-{\overline {x}})^{2}}$,

où ${\displaystyle x_{k}=X_{k}(\omega )}$.

Il s'agirait exactement de la variance réelle, si nous avions une variable aléatoire discrète sur l'espace de probabilité discret ${\displaystyle \{1,\ldots ,n\}}$ qui avait la valeur ${\displaystyle x_{k}}$ à ${\displaystyle k}$.

Pour déterminer le biais introduit par l’estimateur, on calcule l'espérance des variances estimées sur les échantillons :

${\displaystyle \mathbb {E} [{\hat {\sigma }}_{\text{non corrigée}}^{2}]={\frac {1}{n}}\sum _{k=1}^{n}\mathbb {E} [(x_{k}-{\bar {x}})^{2}]}$

On écrit la différence par rapport à la moyenne de l'échantillon, en séparant ${\displaystyle x_{k}}$ des autres :

${\displaystyle x_{k}-{\bar {x}}=x_{k}-{\frac {1}{n}}\left(x_{k}+\sum _{j\neq k}x_{j}\right)={\frac {n-1}{n}}x_{k}-{\frac {1}{n}}\sum _{j\neq k}x_{j}}$

Interprétation : la valeur ${\displaystyle x_{k}}$ contribue pour ${\displaystyle (n-1)/n}$ à son propre écart à la moyenne, tandis que toutes les autres valeurs apparaissent avec un coefficient ${\displaystyle -1/n}$.

On développe maintenant le carré :

${\displaystyle (x_{k}-{\bar {x}})^{2}=\left({\frac {n-1}{n}}x_{k}-{\frac {1}{n}}\sum _{j\neq k}x_{j}\right)^{2}=\left({\frac {n-1}{n}}x_{k}\right)^{2}-2{\frac {n-1}{n}}x_{k}\cdot {\frac {1}{n}}\sum _{j\neq k}x_{j}+\left({\frac {1}{n}}\sum _{j\neq k}x_{j}\right)^{2}}$

On prend l'espérance de chaque terme séparément, en utilisant l'indépendance des variables et ${\displaystyle \mathbb {E} [X_{j}]=\mu }$ (pour le calcul de l'espérance, on remplace les valeurs observées ${\displaystyle x_{i}}$ par les variables aléatoires ${\displaystyle X_{i}}$ correspondantes, car l'espérance doit être évaluée sur l'ensemble des réalisations possibles et non sur un échantillon particulier) :

1. ${\displaystyle {\begin{aligned}\mathbb {E} {\Bigl [}{\Bigl (}{\frac {n-1}{n}}X_{k}{\Bigr )}^{2}{\Bigr ]}&={\Bigl (}{\frac {n-1}{n}}{\Bigr )}^{2}\mathbb {E} [X_{k}^{2}]\\&{\text{avec }}\operatorname {Var} (X_{k})=\mathbb {E} [X_{k}^{2}]-(\mathbb {E} [X_{k}])^{2},{\text{ soit }}\mathbb {E} [X_{k}^{2}]=\sigma ^{2}+\mu ^{2}\\&={\Bigl (}{\frac {n-1}{n}}{\Bigr )}^{2}(\sigma ^{2}+\mu ^{2})\end{aligned}}}$

2. ${\displaystyle {\begin{aligned}\mathbb {E} {\Big [}-2{\frac {n-1}{n}}X_{k}\cdot {\frac {1}{n}}\sum _{j\neq k}X_{j}{\Big ]}&=-2{\frac {n-1}{n^{2}}}\sum _{j\neq k}\mathbb {E} [X_{k}X_{j}]\\&=-2{\frac {n-1}{n^{2}}}\sum _{j\neq k}\mu ^{2}\\&=-2{\frac {n-1}{n^{2}}}(n-1)\mu ^{2}\\&=-2{\frac {(n-1)^{2}}{n^{2}}}\mu ^{2}\end{aligned}}}$

3. ${\displaystyle {\begin{aligned}\mathbb {E} {\Big [}\left({\frac {1}{n}}\sum _{j\neq k}X_{j}\right)^{2}{\Big ]}&={\frac {1}{n^{2}}}\sum _{j\neq k}\mathbb {E} [X_{j}^{2}]+{\frac {1}{n^{2}}}\sum _{j\neq k}\sum _{\ell \neq j,k}\mathbb {E} [X_{j}X_{\ell }]\\&={\frac {n-1}{n^{2}}}(\sigma ^{2}+\mu ^{2})+{\frac {(n-1)(n-2)}{n^{2}}}\mu ^{2}\\&={\frac {n-1}{n^{2}}}\sigma ^{2}+{\frac {(n-1)^{2}}{n^{2}}}\mu ^{2}\end{aligned}}}$

En additionnant ces différentes contributions :

• les contributions en ${\displaystyle \mu ^{2}}$ s’annulent exactement :

 ${\displaystyle {\frac {(n-1)^{2}}{n^{2}}}\mu ^{2}-2{\frac {(n-1)^{2}}{n^{2}}}\mu ^{2}+{\frac {(n-1)^{2}}{n^{2}}}\mu ^{2}=0}$

• les contributions en ${\displaystyle \sigma ^{2}}$ donnent :

 ${\displaystyle {\frac {(n-1)^{2}}{n^{2}}}\sigma ^{2}+0+{\frac {n-1}{n^{2}}}\sigma ^{2}={\frac {n-1}{n}}\sigma ^{2}}$

Ainsi, au final :

${\displaystyle \mathbb {E} [(X_{k}-{\bar {X}})^{2}]={\frac {n-1}{n}}\sigma ^{2}}$

Approche alternative (centrage autour de μ) :

On peut aussi écrire ${\displaystyle X_{k}-{\overline {X}}=(X_{k}-\mu )-({\overline {X}}-\mu )}$. Ainsi :

${\displaystyle (X_{k}-{\overline {X}})^{2}={\big (}(X_{k}-\mu )-({\overline {X}}-\mu ){\big )}^{2}=(X_{k}-\mu )^{2}-2(X_{k}-\mu )({\overline {X}}-\mu )+({\overline {X}}-\mu )^{2}}$

En prenant l'espérance de chaque terme, en utilisant l'indépendance des variables :

• ${\displaystyle \mathbb {E} [(X_{k}-\mu )^{2}]=\sigma ^{2}}$
• ${\displaystyle \mathbb {E} [(X_{k}-\mu )({\overline {X}}-\mu )]={\frac {\sigma ^{2}}{n}}}$
• ${\displaystyle \mathbb {E} [({\overline {X}}-\mu )^{2}]={\frac {\sigma ^{2}}{n}}}$

En substituant :

${\displaystyle \mathbb {E} [(X_{k}-{\overline {X}})^{2}]=\sigma ^{2}-2{\frac {\sigma ^{2}}{n}}+{\frac {\sigma ^{2}}{n}}={\frac {n-1}{n}}\sigma ^{2}}$

Enfin, en moyennant sur tous les ${\displaystyle k}$ :

${\displaystyle \mathbb {E} [{\hat {\sigma }}_{\text{non corrigée}}^{2}]={\frac {1}{n}}\sum _{k=1}^{n}{\frac {n-1}{n}}\sigma ^{2}={\frac {n-1}{n}}\sigma ^{2}}$

Ainsi, la variance non corrigée calculée sur un échantillon sous-estime la vraie variance de la population d'un facteur ${\displaystyle (n-1)/n}$, et la correction de Bessel consiste à multiplier par ${\displaystyle n/(n-1)}$ pour obtenir un estimateur non biaisé :

${\displaystyle {\hat {\sigma }}_{\text{corrigée}}^{2}={\frac {n}{n-1}}{\hat {\sigma }}_{\text{non corrigée}}^{2}}$