シンプソンのパラドックス

AとBが2回試験を受けた。1回目では、Aは100問中60問正解し、Bは10問中9問正解した。2回目では、Aは10問中1問正解し、Bは100問中30問正解した。AとBどちらが優秀か？

上記の表から次のことが言える。

• 1回目では、Bのほうが正解率が高い。
• 2回目でも、Bのほうが正解率が高い。
• ところが、2回の試験を合わせた合計（総得点）でみると、Aのほうが正解率が高い。

多くの人の直感に反するが、実際にA > Bとなってしまう。この点で、この例は「シンプソンのパラドックス」の一例である。

1回目と2回目それぞれの試験では、両者が回答した問題数が異なる。総得点では、AとBそれぞれにとって多く出題された回での正解率が強く影響する。そのため、総得点の優劣は個々の試験での優劣と直接には連動しない。2回目では両者ともに正解率が著しく低いが、Bのほうが問題数が多いため、総得点で優劣を評価するとBが不利になる。

両者が同じ難易度分布の110問を解いた場合、総得点に基づいてAの方が優秀だと考えられる。この場合、Aが多く回答した1回目ではBのほうで簡単な問題が抽出され、Bが多く回答した2回目ではAのほうで難しい問題が抽出されたと推測できる。

一方で、1回目と2回目で難易度が異なり、かつ同じ回で両者が同じ難易度の試験を受けていた場合、公正に評価するには、AとBそれぞれで各試験の重みが異なってはならず、総得点での比較は不当である。

これを受験成績ではなく医師の治療成績に置き換えて考えると、以下のようになる。

• 医師Cと医師Dは、病院で治療を行っている。中等症患者と重症患者の2群に対する治療で、各々合計110名の治療成績をテストした。Dは両群でそれぞれCより高い治療成績であったが、全体の治療成績は低かった。これは、Cの患者のうち100人が中等症であり、Dの患者のうち100人が重症であったためである。よって、Cのほうが優秀であるという結論は論理的に誤っている。

上の話では、AとBの状況を先ほどの受験の話から何も改変していない。

なお、例えば従業員1人あたり110人の顧客対応に対するリピート率や顧客満足アンケートへの回答の集計など、現実的な統計処理においては、各従業員の顧客は同一の顧客ではないのが普通であるから、上記のような単純な評価は難しくなる。

シンプソン自身が提示した例では、関連性の逆転はみられない^[1]。

トランプの52枚のカードについて、絵札か数札か（JとQとKは絵札、Aと2〜10は数札）と色（スペードとクラブは黒、ハートとダイヤは赤）との関連を考える。

赤ん坊がトランプで遊んだ後、52枚のうち20枚ほどが汚れていた。汚れたカードだけみても汚れてないカードだけみても、数札の方が、赤いカードである可能性が高いと分かった。

では「数札の方が、赤いカードである可能性が高い」と結論付けてよいだろうか。カード全体を見渡して考えることで「分別のある解答」（sensible answer）を得られる。すなわち、そのような関係はない。これは汚れた絵札と汚れてない数札の重みによる。

ある治療の有無と生存の関連を、男女別に検討する。出てくる数字はトランプの例と全く同じである。男女別で調べると、治療した方が生存率が高い。しかし、男女を合わせると治療の有無と生存との関連がなくなる。「分別のある解釈」（sensible interpretation）はどうなるだろうか。この治療が無効とされることはまずないだろう。

合計の比較において効果がないと判断してしまうのも、治療を受けなかった男性と、治療を受けた女性の重みによる。

この例に対し、Miguel Hernán（英語版） は、Simpson 自身の記述の曖昧さを指摘しつつも、以下のような解釈を与えている^[2]。

トランプの例では、汚れの有無 (C) は絵札か否か (A) とカードの色 (B) の共通の結果、すなわち合流点である。

${\displaystyle A\rightarrow C\leftarrow B}$

治療の例では、性別 (C) は治療の有無 (A) と生死 (B) の共通の原因、すなわち交絡因子である。

${\displaystyle A\leftarrow C\rightarrow B}$

トランプの例では、合流点による選択バイアスを避けるためにカード全体を見渡すべきだし、治療の例では、交絡を避けるために性別で層別化して考えるべきだ。ただし、CがAと関係せずにBの原因となるとき、例えば無作為割付がなされた場合には、層別化する必要はない。因果関係の方向性に基づいて解析手法を検討するが、因果関係の方向についてはそのテーマに関する因果構造の知識が必要である。 トランプのカードが汚れたから（C）といって絵札になったり（A）赤のカードになったり（B）することはないし、治療したから（A）とか生存したから（B）といって男性になる（C）ようなことはない。

そして、次のように結論づけている^[3]。

• 同じデータであっても異なる因果構造に起因するものであれば異なる解析が必要である。
• 実りのある因果推論を行うためには、統計学だけではなく、主題に関する因果関係の知識が必要だ。

Summarize Timeline Top Qs Fact Check

本節では、相関の向きと強さを共分散によって定量化する。

共分散を既知とする集団が二つ以上あると考え、それらの集団の集まりを ${\displaystyle {\mathcal {F}}}$ とおく。${\displaystyle {\mathcal {F}}}$ に属する任意の二つの集団は重複しないとする。

${\displaystyle \forall \ S,\,T\in {\mathcal {F}},\,S\not =T\rightarrow S\cap T=\varnothing }$

集団の大きさ、説明変数値の平均、目的変数値の平均、共分散について、それぞれの記法を下式のように定義する。${\displaystyle x}$ は説明変数値を返す写像（関数）、${\displaystyle y}$ は目的変数値を返す写像である。

${\displaystyle \forall \ S\in {\mathcal {F}},\,\left|S\right|={\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,1}$

${\displaystyle \forall \ S\in {\mathcal {F}},\,{\overline {x}}_{S}={\cfrac {1}{\left|S\right|}}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,x_{e}}$

${\displaystyle \forall \ S\in {\mathcal {F}},\,{\overline {y}}_{S}={\cfrac {1}{\left|S\right|}}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,y_{e}}$

${\displaystyle \forall \ S\in {\mathcal {F}},\,s_{xy,\,S}={\cfrac {1}{\left|S\right|}}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\left(x_{e}-{\overline {x}}_{S}\right)\left(y_{e}-{\overline {y}}_{S}\right)}$

${\displaystyle {\mathcal {F}}}$ 全体についての説明変数値と目的変数値それぞれの加重平均を下式のように求める。

${\displaystyle {\overline {x}}={\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|{\overline {x}}_{S}}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}}$

${\displaystyle {\overline {y}}={\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|{\overline {y}}_{S}}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}}$

下式^{[注釈 1]}のように、${\displaystyle {\mathcal {F}}}$ 全体の共分散 ${\displaystyle s_{xy}}$ は、${\displaystyle {\mathcal {F}}}$ に属する各集団についての共分散の加重平均のほかに、${\displaystyle {\mathcal {F}}}$ に属する任意の二つの集団の重心の相対的な位置関係にも依存する。

${\displaystyle {\begin{aligned}s_{xy}&={\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\left(x_{e}-{\overline {x}}\right)\left(y_{e}-{\overline {y}}\right)}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}\\&={\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,x_{e}\,y_{e}-{\overline {x}}{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,y_{e}-{\overline {y}}{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,x_{e}+{\overline {x}}\,{\overline {y}}{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,1}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}\\&={\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left(\left|S\right|{\overline {x}}_{S}\,{\overline {y}}_{S}+{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,x_{e}\,y_{e}-\left|S\right|{\overline {x}}_{S}\,{\overline {y}}_{S}-\left|S\right|{\overline {x}}_{S}\,{\overline {y}}_{S}+\left|S\right|{\overline {x}}_{S}\,{\overline {y}}_{S}\right)}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}-{\overline {x}}\,{\overline {y}}-{\overline {x}}\,{\overline {y}}+{\overline {x}}\,{\overline {y}}\\&={\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|{\overline {x}}_{S}\,{\overline {y}}_{S}}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}-{\overline {x}}\,{\overline {y}}+{\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left({\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,x_{e}\,y_{e}-{\overline {y}}_{S}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,x_{e}-{\overline {x}}_{S}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,y_{e}+{\overline {x}}_{S}\,{\overline {y}}_{S}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\,1\right)}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}\\&={\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|{\overline {x}}_{S}\,{\overline {y}}_{S}}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}-{\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|{\overline {x}}_{S}{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|{\overline {y}}_{S}}{\left({\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|\right)^{2}}}+{\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}{\begin{aligned}\sum _{e\,\in \,S}^{}\end{aligned}}\left(x_{e}-{\overline {x}}_{S}\right)\left(y_{e}-{\overline {y}}_{S}\right)}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}\\&={\cfrac {{\begin{aligned}\sum _{\left(S,\,T\right)\,\in \,{\mathcal {F}}^{2}}^{}\end{aligned}}\left|S\right|\left|T\right|{\overline {x}}_{S}\,{\overline {y}}_{S}-{\begin{aligned}\sum _{\left(S,\,T\right)\,\in \,{\mathcal {F}}^{2}}^{}\end{aligned}}\left|S\right|\left|T\right|{\overline {x}}_{S}\,{\overline {y}}_{T}}{\left({\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|\right)^{2}}}+{\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|s_{xy,\,S}}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}\\&={\cfrac {{\begin{aligned}\sum _{\left\{S,\,T\right\}\,\subseteq \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|\left|T\right|\left({\overline {x}}_{S}\,{\overline {y}}_{S}+{\overline {x}}_{T}\,{\overline {y}}_{T}-{\overline {x}}_{S}\,{\overline {y}}_{T}-{\overline {x}}_{T}\,{\overline {y}}_{S}\right)}{\left({\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|\right)^{2}}}+{\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|s_{xy,\,S}}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}\\&={\cfrac {{\begin{aligned}\sum _{\left\{S,\,T\right\}^{}\,\subseteq \,{\mathcal {F}}}\end{aligned}}\left|S\right|\left|T\right|\left(-\ {\overline {x}}_{S}+{\overline {x}}_{T}\right)\left(-\ {\overline {y}}_{S}+{\overline {y}}_{T}\right)}{\left({\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|\right)^{2}}}+{\cfrac {{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|s_{xy,\,S}}{{\begin{aligned}\sum _{S\,\in \,{\mathcal {F}}}^{}\end{aligned}}\left|S\right|}}\end{aligned}}}$

${\displaystyle {\mathcal {F}}}$ に属する全ての集団で相関の向きが全て同じであっても、集団間の相対的な位置関係によって ${\displaystyle {\mathcal {F}}}$ 全体の相関の向きはその逆をとることがある。そのため、「${\displaystyle {\mathcal {F}}}$ に属する集団のうち一つ以上では必ず、相関の向きが ${\displaystyle {\mathcal {F}}}$ 全体でのそれと同じである」との帰結は誤謬となる。

ある同一の説明変数値に複数の元がある場合、説明変数値別の目的変数の加重平均値からも全体の共分散は定まる。なお、共分散の定義上、同一の説明変数値上に元が散らばる集団における共分散は必ず 0 となる。