Loi de Wishart

On suppose que Y est une matrice n×p, les lignes sont des vecteurs aléatoires indépendants et suivent une loi normale p-dimensionnelle centrée :

${\displaystyle Y_{(i)}{=}(y_{i}^{1},\dots ,y_{i}^{p})\sim {\mathcal {N}}_{p}(0,V).}$

Alors la loi de Wishart est la loi de probabilité de la matrice p×p

${\displaystyle X=Y^{T}Y\,\!}$

connue sous le nom matrice de dispersion. L'entier naturel n est le nombre de degrés de liberté. Pour n>p, la matrice X est inversible avec probabilité 1 si V est inversible. Si p=1 et V=1, alors la loi de Wishart est la loi du χ² à n degrés de liberté.

La loi de Wishart apparait comme la loi d'une matrice de covariance d'un échantillon de valeurs suivant une loi normale multidimensionnelle^{[citation nécessaire]}. Elle apparait fréquemment dans les tests de maximum de vraisemblance en analyse statistique multivariée. Elle apparait également en théorie spectrale des matrices aléatoires^{[citation nécessaire]} et en analyse bayésienne multidimensionnelle^[2].

Summarize Fact Check

La loi de Wishart peut être caractérisée par sa densité de probabilité de la manière suivante. On fixe V une matrice p × p symétrique définie positive (paramètre d'échelle). Si n ≥ p, alors la densité de probabilité de la loi de Wishart est donnée par :

${\displaystyle f(\mathbf {X} )={\frac {1}{2^{\frac {np}{2}}\left|{\mathbf {V} }\right|^{\frac {n}{2}}\Gamma _{p}({\frac {n}{2}})}}{\left|\mathbf {X} \right|}^{\frac {n-p-1}{2}}\mathrm {e} ^{-{\frac {1}{2}}{\rm {tr}}({\mathbf {V} }^{-1}\mathbf {X} )}}$

pour toute matrice p × p X symétrique définie positive, et où Γ_p est la fonction gamma multidimensionnelle définie par :

${\displaystyle \Gamma _{p}(n/2)=\pi ^{\frac {p(p-1)}{4}}\prod _{j=1}^{p}\Gamma \left[{\frac {n-j+1}{2}}\right].}$

En fait la définition précédente peut être étendue à tout réel n ≥ p. Si n < p, alors la loi de Wishart n'a plus de densité, mais devient une loi singulière^[3].

Summarize Timeline Top Qs Fact Check

Une matrice ${\displaystyle X}$ aléatoire tirée selon la construction de la définition ci-dessus est toujours une matrice symétrique définie positive. Cela signifie que toutes ses valeurs propres sont strictement positives.

L'espérance du logarithme est donnée par^[4] :

${\displaystyle \operatorname {E} [\ln |\mathbf {X} |]=\sum _{i=1}^{p}\psi \left({\frac {n+1-i}{2}}\right)+p\ln 2+\ln |\mathbf {V} |}$

où ψ est la fonction digamma, c'est-à-dire la dérivée logarithmique de la fonction gamma.

Son calcul est développé ici.

L'entropie de la loi de Wishart est donnée par la formule suivante^[4] :

${\displaystyle \operatorname {H} [\mathbf {X} ]=-\ln B(\mathbf {V} ,n)-{\frac {(n-p-1)}{2}}\operatorname {E} [\ln |\mathbf {X} |]+{\frac {np}{2}}}$

où ${\displaystyle B(\mathbf {V} ,n)}$ est la constante de renormalisation de la loi :

${\displaystyle B(\mathbf {V} ,n)={\frac {1}{\left|\mathbf {V} \right|^{\frac {n}{2}}2^{\frac {np}{2}}\Gamma _{p}({\frac {n}{2}})}}}$

L'entropie peut être écrite sous la forme :

${\displaystyle {\begin{aligned}\operatorname {H} [\mathbf {X} ]&={\frac {n}{2}}\ln |\mathbf {V} |+{\frac {np}{2}}\ln 2+\ln \Gamma _{p}({\frac {n}{2}})-{\frac {(n-p-1)}{2}}\operatorname {E} [\ln |\mathbf {X} |]+{\frac {np}{2}}\\&={\frac {n}{2}}\ln |\mathbf {V} |+{\frac {np}{2}}\ln 2+{\frac {p(p-1)}{4}}\ln \pi +\sum _{i=1}^{p}\ln \Gamma \left[n/2+(1-j)/2\right]\\&\quad -{\frac {(n-p-1)}{2}}\left(\sum _{i=1}^{p}\psi \left({\frac {n+1-i}{2}}\right)+p\ln 2+\ln |\mathbf {V} |\right)+{\frac {np}{2}}\\&={\frac {n}{2}}\ln |\mathbf {V} |-{\frac {(n-p-1)}{2}}\ln |\mathbf {V} |+{\frac {np}{2}}\ln 2-{\frac {(n-p-1)}{2}}p\ln 2+{\frac {p(p-1)}{4}}\ln \pi \\&\quad +\sum _{i=1}^{p}\ln \Gamma \left[n/2+(1-j)/2\right]-{\frac {(n-p-1)}{2}}\sum _{i=1}^{p}\psi \left({\frac {n+1-i}{2}}\right)+{\frac {np}{2}}\\&={\frac {p+1}{2}}\ln |\mathbf {V} |+{\frac {p(p+1)}{2}}\ln 2+{\frac {p(p-1)}{4}}\ln \pi \\&\quad +\sum _{i=1}^{p}\ln \Gamma \left[n/2+(1-j)/2\right]-{\frac {(n-p-1)}{2}}\sum _{i=1}^{p}\psi \left({\frac {n+1-i}{2}}\right)+{\frac {np}{2}}.\\\end{aligned}}}$

La fonction caractéristique de la loi de Wishart est donnée par^{[citation nécessaire]} : ${\displaystyle \Theta \mapsto \left|{\mathbf {I} }-2\mathrm {i} \,{\mathbf {\Theta } }{\mathbf {V} }\right|^{-n/2}.}$

En d'autres termes,

${\displaystyle \Theta \mapsto \operatorname {E} \left\{\mathrm {exp} \left[\mathrm {i} \cdot \mathrm {tr} (\mathbf {X} {\mathbf {\Theta } })\right]\right\}=\left|{\mathbf {I} }-2\mathrm {i} {\mathbf {\Theta } }{\mathbf {V} }\right|^{-n/2}}$

où Θ et I sont des matrices de même taille que V et I est la matrice unité.

Summarize Timeline Fact Check

Si X suit la loi de Wishart à m degrés de liberté et de matrice de covariance V, et si C est une q × p-matrice de rang q, alors^{[citation nécessaire]} :

${\displaystyle {\mathbf {C} }\mathbf {X} {\mathbf {C} }^{T}\sim {\mathcal {W}}_{q}\left({\mathbf {C} }{\mathbf {V} }{\mathbf {C} }^{T},m\right).}$

Si z est un p-vecteur non nul, alors^{[citation nécessaire]}

${\displaystyle {\mathbf {z} }^{T}\mathbf {X} {\mathbf {z} }\sim \sigma _{z}^{2}\chi _{m}^{2}.}$

où χ_m² est la loi du χ² à m degrés de liberté et ${\displaystyle \sigma _{z}^{2}={\mathbf {z} }^{T}{\mathbf {V} }{\mathbf {z} }}$ est une constante positive.

On considère le cas où ${\displaystyle {\mathbf {z} }^{T}=(0,\ldots ,0,1,0,\ldots ,0)}$ (c'est-à-dire le j-ième élément est 1 et les autres 0). Alors le corollaire 1 montre que :

${\displaystyle w_{jj}\sim \sigma _{jj}\chi _{m}^{2}}$

donne la loi marginale de chacun des éléments de la diagonale de la matrice.

Il est à remarquer que la loi de Wishart n'est pas appelée loi du χ² multidimensionnelle car les lois marginales hors diagonale ne sont pas des lois du χ².

Summarize Timeline Top Qs Fact Check

La décomposition de Bartlett d'une matrice X suivant une loi de Wishart p-dimensionnelle de matrice d'échelle V et à n degrés de liberté est la factorisation^{[citation nécessaire]} :

${\displaystyle \mathbf {X} ={\textbf {L}}{\textbf {A}}{\textbf {A}}^{T}{\textbf {L}}^{T}}$

où L est la factorisation de Cholesky de V et :

${\displaystyle \mathbf {A} ={\begin{pmatrix}{\sqrt {c_{1}}}&0&0&\cdots &0\\n_{21}&{\sqrt {c_{2}}}&0&\cdots &0\\n_{31}&n_{32}&{\sqrt {c_{3}}}&\cdots &0\\\vdots &\vdots &\vdots &\ddots &\vdots \\n_{p1}&n_{p2}&n_{p3}&\cdots &{\sqrt {c_{p}}}\end{pmatrix}}}$

où ${\displaystyle c_{i}\sim \chi _{n-i+1}^{2}}$ et ${\displaystyle n_{ij}\sim {\mathcal {N}}(0,1)\,}$ sont indépendants. Ceci donne une méthode utile pour obtenir des échantillons de valeurs de loi de Wishart^[5].

Summarize Timeline Top Qs Fact Check

En notant ${\displaystyle \mathbb {P} }$ la mesure de probabilité par rapport à la matrice aléatoire ${\displaystyle X}$ d'ordre ${\displaystyle n\times p}$ (cela correspond à la définition ci-dessus pour ${\displaystyle V=I_{p}}$ la matrice identité d'ordre ${\displaystyle p}$), ainsi qu'en notant ${\displaystyle \lambda _{\max }(A)}$ (resp. ${\displaystyle \lambda _{\min }(A)}$) la plus grande (resp. la plus petite) des valeurs propres d'une matrice ${\displaystyle A}$ symétrique définie positive, alors on peut énoncer la propriété suivante : les valeurs propres de la matrice aléatoire ${\displaystyle X{=}Y^{T}Y}$ vérifient^[6]

d'une part, ${\displaystyle \forall x>0,\,\mathbb {P} \left(\lambda _{\max }(X)\geq n\left(1+{\sqrt {p/n}}+{\sqrt {2x/n}}\right)^{2}\right)\leq {\rm {e}}^{-x}}$,

et d'autre part, ${\displaystyle \forall x>0,\,\mathbb {P} \left(\lambda _{\min }(X)\leq n\left(1-{\sqrt {p/n}}-{\sqrt {2x/n}}\right)^{2}\right)\leq {\rm {e}}^{-x}}$

Ce qui signifie qu'avec une probabilité au moins égale à ${\displaystyle 1-2{\rm {e}}^{-x}}$ les valeurs propres d'une telle matrice sont comprises entre ${\displaystyle n\left(1-{\sqrt {p/n}}-{\sqrt {2x/n}}\right)^{2}}$ et ${\displaystyle n\left(1+{\sqrt {p/n}}+{\sqrt {2x/n}}\right)^{2}}$.