Test de Mantel

Grossièrement, le principe est le suivant : on évalue une mesure de la similarité des matrices, puis on la compare à la similarité entre la première matrice et des permutations des lignes de la seconde matrice.

Un exemple d'utilisation est la comparaison de distances génétiques et géographiques en écologie, une des bases de la génétique du paysage. On peut étudier un ensemble de ${\textstyle n}$ espèces, et obtenir deux matrices carrées symétriques de taille ${\textstyle n}$, l'une établissant la distance entre chaque paires d'espèces du point de vue génétique, et l'autre du point de vue géographique. On peut ainsi tester l'hypothèse selon laquelle des espèces éloignées géographiquement sont moins proches génétiquement^[2].

Soit ${\textstyle (x_{ij})}$ et ${\textstyle (y_{ij})}$ deux matrices de distance (en) entre ${\textstyle n}$ objets. La statistique de Mantel renormalisée est calculée comme $${\displaystyle r={\frac {1}{n(n-1)/2-1}}\sum _{i=1}^{n}\sum _{j=i+1}^{n}{\frac {x_{ij}-{\bar {x}}}{s_{x}}}\cdot {\frac {y_{ij}-{\bar {y}}}{s_{y}}}}$$ où ${\textstyle {\bar {x}}}$ et ${\textstyle {\bar {y}}}$ sont les moyennes empiriques observées sur les distances et ${\textstyle s_{x}}$ et ${\textstyle s_{y}}$ sont les écart-types estimés.

Le coefficient ${\textstyle r}$ ne peut être considéré comme un coefficient de corrélation usuel parce que les ${\textstyle n(n-1)/2}$ mesures de distances ne sont pas indépendantes, la position de chaque objet affectant les ${\textstyle n-1}$ distances aux autres objets.

La valeur de ce coefficient est donc comparée à celles obtenues après des permutations correspondantes sur les lignes et les colonnes d'une des deux matrices. Il existe ${\textstyle n!}$ permutations possibles. Pour un test exact, on peut calculer la distribution de ${\textstyle r}$ sur toutes les permutations possibles, mais si ${\textstyle n}$ est grand, on utilise une méthode de Monte-Carlo pour obtenir une distribution empirique de ${\textstyle r}$.

La signification du test de Mantel est alors estimée en comparant ${\textstyle r}$ aux quantiles observés sous l'hypothèse nulle. En l'absence de corrélation entre les deux matrices de distance, la valeur de ${\textstyle r}$ devrait suivre la même distribution que celle obtenue avec les permutations. Si une corrélation existe, on s'attend à ce que ${\textstyle r}$ soit statistiquement différent des valeurs obtenues après permutations. La puissance statistique du test dépend directement du nombre de permutations réalisées^[3].