ニューマン＝コイルス法

ニューマン＝コイルス法は標本平均を比較する時に段階的アプローチを取る^[14]。平均の比較に先立って、全ての標本平均が順位付けされ、これによって標本平均の順序付けされた範囲（p）が得られる^[1][14]。次に、最も大きな標本平均と最も小さな標本平均間の比較が行われる^[14]。最大範囲が4つの平均（p = 4）の場合を考えると、最大の平均と最小の平均との間でニューマン＝コイルス法によって有意差が明らかになれば、この個別の平均の範囲に対する帰無仮説が棄却される。次はより小さな3つの平均の範囲（p = 3）で比較を行う。任意の範囲内の2つの標本平均間に有意差があれば、この段階的比較は最後の2つの平均の比較まで続けて行われる。2つの標本平均間に有意差がなかった場合、その範囲内の全ての帰無仮説は保留され、これ以上の小さな範囲内の比較は必要ではない。

標本平均の範囲

	${\displaystyle {\bar {X}}_{1}}$	${\displaystyle {\bar {X}}_{2}}$	${\displaystyle {\bar {X}}_{3}}$	${\displaystyle {\bar {X}}_{4}}$
平均値	2	4	6	8
2		2	4	6
4			2	4
6				2

等しいサンプルサイズの2つの平均間で有意差があるかを決定するために、ニューマン＝コイルス法はテューキーの範囲検定で用いられるものと同じ式を用いる。この式では、2つの標本平均間の差を取り、標準誤差で割ることでq値が計算される。

${\displaystyle q={\frac {{\bar {X}}_{A}-{\bar {X}}_{B}}{\sqrt {\frac {MSE}{n}}}},}$

上式において、 ${\displaystyle q}$はスチューデント化された範囲の値、${\displaystyle {\bar {X}}_{A}}$と${\displaystyle {\bar {X}}_{B}}$は範囲内の最大と最小の標本平均、${\displaystyle MSE}$は分散分析表から取られた誤差分散、${\displaystyle n}$はサンプルサイズ（標本内の観測の数）を表わす。もし平均のサンプルサイズが等しくない場合（${\displaystyle {n_{A}}\neq {n_{B}}}$）は、ニューマン＝コイルス式は以下のように調節される。

${\displaystyle q={\frac {{\bar {X}}_{A}-{\bar {X}}_{B}}{\sqrt {{\frac {MSE}{2}}({\frac {1}{n_{A}}}+{\frac {1}{n_{B}}})}}},}$

上式において、${\displaystyle n_{A}}$と${\displaystyle n_{B}}$は2つの標本平均のサンプルサイズを表わす。どちらの場合も、MSE（平均二乗誤差）は分析の最初の段階で行われるANOVAから取られる。

計算されると、算出されたq値は、有意レベル（${\displaystyle \alpha }$）、ANOVA表からの誤差の自由度（${\displaystyle \nu }$）、検定される標本平均の範囲（${\displaystyle p}$）に基づくq分布表中のq臨界値（${\displaystyle q_{\alpha }\,_{\nu }\,_{p}}$）と比較することができる^[15]。もし算出されたq値がq臨界値と等しいあるいはそれよりも大きい場合、その特定の平均の範囲に対する帰無仮説（H₀: μ_A = μ_B）は棄却される^[15]。範囲内の平均の数はそれぞれの対比較で変わるため、q統計量の臨界値もそれぞれの比較で変わり、これによってニューマン＝コイルス法はテューキーの範囲検定よりも甘く、ゆえにより検出力が高くなる。したがって、ニューマン＝コイルス法を用いて対比較に有意差があると明らかになったとしても、テューキーの範囲検定で分析した時に有意差があるとは限らない^[7][15]。逆に言うと、ニューマン＝コイルス法を用いて有意差が見出されなかった場合は、テューキーの範囲検定で検定しても決して有意差は見出されない^[7]。

• テューキーの範囲検定