コクランの定理

コクランの定理（Cochran's theorem）は、分散分析に用いる統計量の確率分布に関する結果を導出するために用いられる定理である^[1]^[2]。1934年にアメリカの統計学者ウィリアム・ゲメル・コクランによって発表された^[3]。

コクランの定理（Cochran's theorem）は、標準正規変数の平方和（すなわち自由度 $n$ のカイ二乗分布）を、より小さな自由度をもつ独立なカイ二乗分布の和に分解できるための線形代数的条件を与える定理である。分散分析や線形モデルにおける平方和分解と検定統計量の導出に用いられる^[3]^[1]。

$Z\sim N_{n}(0,I_{n})$ を $n$ 次元標準正規ベクトルとし、 $A_{1},\dots ,A_{s}$ を $n\times n$ 実対称行列として $Q_{k}=Z^{\top }A_{k}Z$ とおく。このとき次は同値である^[4]。

$Q_{1},\dots ,Q_{s}$ が互いに独立で、各 $Q_{k}$ が自由度 $n_{k}$ のカイ二乗分布 $\chi ^{2}(n_{k})$ に従い、さらに $Z^{\top }Z=\sum _{k=1}^{s}Q_{k}$ が成り立つ。
各 $A_{k}$ が冪等（ $A_{k}^{2}=A_{k}$ ）であり、 $A_{i}A_{j}=0$ （ $i\neq j$ ）を満たし、さらに $\sum _{k=1}^{s}A_{k}=I_{n}$ が成り立つ。このとき $n_{k}=\operatorname {rank} (A_{k})$ であり、特に $\sum _{k=1}^{s}n_{k}=n$ となる。

実対称な冪等行列は直交射影行列に対応するため、この定理は「直交分解に沿って平方和を分解すると、対応する成分が独立なカイ二乗分布に従う」ことを述べるものと解釈できる。

分散分析への応用

正規誤差を仮定した線形モデル $Y=X\beta +\varepsilon$ （ $\varepsilon \sim N_{n}(0,\sigma ^{2}I_{n})$ ）では、射影行列を用いて平方和を直交分解できる^[5]。例えば切片を含むモデルに対し、 $\mathbf {1}$ を全ての成分が1であるベクトル、 $P_{1}={\frac {1}{n}}\mathbf {1} \mathbf {1} ^{\top }$ 、 $P_{X}=X(X^{\top }X)^{-1}X^{\top }$ とおくと、

総平方和（中心化） $\mathrm {SST} =Y^{\top }(I_{n}-P_{1})Y$
回帰平方和 $\mathrm {SSR} =Y^{\top }(P_{X}-P_{1})Y$
残差平方和 $\mathrm {SSE} =Y^{\top }(I_{n}-P_{X})Y$

は $\mathrm {SST} =\mathrm {SSR} +\mathrm {SSE}$ を満たす。コクランの定理により、帰無仮説の下で $\mathrm {SSR} /\sigma ^{2}$ と $\mathrm {SSE} /\sigma ^{2}$ は独立なカイ二乗分布に従い、それぞれの自由度は $\operatorname {rank} (P_{X}-P_{1})$ と $\operatorname {rank} (I_{n}-P_{X})$ で与えられる。したがって比 $F=(\mathrm {SSR} /\nu _{1})/(\mathrm {SSE} /\nu _{2})$ （ $\nu _{1},\nu _{2}$ は対応する自由度）はF分布に従い、分散分析におけるF検定の根拠となる。

コクランの定理

分散分析への応用

脚注

関連項目

Related Articles