確率変数

口語的定義

確率変数は次のように口語的に定義される：

「確率変数はその値が『確率分布で記述された確率法則』によって確率的に決まる変数である。」^{[注 1][4][5]}

測度論的定義

${\displaystyle \textstyle (\Omega ,{\mathcal {F}},P)}$ を確率空間、${\displaystyle \textstyle S}$ を実数全体の集合 ${\displaystyle \textstyle \mathbb {R} }$ の部分集合、${\displaystyle \textstyle {\mathcal {B}}}$ を ${\displaystyle \textstyle S}$ 上のボレル集合体とする。関数 ${\displaystyle \textstyle X\colon \Omega \to S}$ が次の条件、

${\displaystyle X}$ は ${\displaystyle ({\mathcal {F}},{\mathcal {B}})}$-可測である

を満たすとき、${\displaystyle \textstyle X}$ は「 ${\displaystyle \textstyle \Omega }$ 上の確率変数」である^[2]。

身長

例えば、任意に抽出した人の身長を確率変数とする場合を考える。数学的には、確率変数は 対象となる人→その身長 という関数を意味する。確率変数は確率分布に対応し、妥当にあり得る範囲の確率（身長180cm以上190cm以下である確率や 150cm未満または200cm超である確率）を計算できるようになる。

子どもの数

もう一つの確率変数の例は、抽出した人には何人の子供がいるかというものである。これは非負の整数値を取る離散型確率変数である。この場合、確率分布は確率質量関数の積分により表される。また、無限個の仮説を想定することも可能である。例えば、偶数人の子供がいるか、といったものである。何方の場合においても、確率値は確率質量関数の要素の和を無限に取っていくことで求めることができる。子供が0人の可能性 + 子供が2人の可能性 + 子供が4人の可能性 + … という要領である。

このような例では標本空間はしばしば有限に制限される。離散値を無限に計算していくのが数学的に困難だからである。しかしアウトカムの標本空間内で2つの確率変数が同時に測定される場合、すなわちある人について身長と子供の数とを同時に調査する場合などは、両変数に相関関係があるのか否かを知るのは容易である。

コイントス

コイントスをするという試行において、標本空間は ${\displaystyle \Omega =\{{\text{heads}},{\text{tails}}\}}$ である。表が出る回数を調べたい場合は、ここから確率変数 X を次の式で定義する：

${\displaystyle X(\omega )={\begin{cases}1,&{\text{if}}\ \ \omega ={\text{heads}},\\\\0,&{\text{if}}\ \ \omega ={\text{tails}}.\end{cases}}}$

コインの表 (head) と裏 (tail) が出る確率が等しい時、確率質量関数 ${\displaystyle f_{X}}$ は次式の通りである。

${\displaystyle f_{X}(x)={\begin{cases}{\tfrac {1}{2}},&{\text{if }}x=1,\\\\{\tfrac {1}{2}},&{\text{if }}x=0.\end{cases}}}$

2つのサイコロを振るとき、出た目の和の確率分布を調べるには、確率変数を次のように取る。

標本空間 Ω は、"2つのサイコロを振って出た目の集合"である。これを ${\displaystyle \Omega =\{1,2,3,4,5,6\}^{2}}$ と略記する^{[注 2]}。確率変数 X は2つのサイコロの出た目に書かれた数の和を表現する、Ω から ${\displaystyle \mathbb {Z} }$ への写像である。これは次の式で定義される：

${\displaystyle X((n_{1},n_{2}))=n_{1}+n_{2}}$

n₁ は1つ目のサイコロ、n₂ は2つ目のサイコロの出た目が表す数を表す。

このとき確率質量関数 f_X は次の式になる：

${\displaystyle f_{X}(S)={\tfrac {\min(S-1,13-S)}{36}},{\text{for }}S\in \{2,3,4,5,6,7,8,9,10,11,12\}}$

連続型確率変数の例として、水平方向に回るルーレットを挙げることができる。標本空間としては「ルーレットの向き全体」を考える。この「向き」は連続的な状態を取り得るのでその標本空間の表現には実数を使うことが適切である。そこで真北方向を0（度）とし、確率変数 X を「ルーレットが真北の向きに対して取る角度」として定義すると、確率変数の値域は区間 [0, 360)（0度以上360度未満の実数）であり、ルーレットの元々の目的から各値を取る確率は等しいと考えられる。このとき区間内のあらゆる実数について、その値を取る確率は 0 であるが、ある範囲内の角度をなす確率は正の値である。例えば、[0, 180]（0度以上180度以下）となる確率は 1/2 である。

確率質量関数の代わりに、X の確率密度を考えると、幅1度の確率密度は 1/360 である。確率は幅に比例し、確率分布は連続一様分布になる。一般に、連続型確率変数における確率は、存在すれば確率密度関数の範囲における積分値でとらえることができる。

混合タイプの確率変数としては例えば、コインを投げて表が出た時のみルーレットを回すということを考えることができる。コインが裏であれば X = −1、表であれば X = ルーレットの角度 とすると、この確率変数は確率 1/2 で −1、その他の数 [0, 360) である確率は上記の例の半分である。

可測関数

確率変数は可測な可測関数である。

定義より、確率空間 ${\displaystyle \textstyle (\Omega ,{\mathcal {F}},P)}$ と可測空間 ${\displaystyle \textstyle (S,{\mathcal {B}}(S))}$ に関して、${\displaystyle \textstyle \Omega }$ 上の確率変数 ${\displaystyle \textstyle X}$ は ${\displaystyle ({\mathcal {F}},{\mathcal {B}}(S))}$-可測である。

逆像が可測集合

定義より、値 ${\displaystyle B\in {\mathcal {E}}}$ の原像 ${\displaystyle X^{-1}(B)=\{\omega :X(\omega )\in B\}}$ は ${\displaystyle {\mathcal {F}}}$ の元である^[6]。

確率分布の誘導

確率変数の導入により確率分布が自然と誘導される。

確率分布（かくりつぶんぷ、（英: probability distribution）${\displaystyle \textstyle P^{X}}$ は確率変数の値を確率的に決めると解釈できる確率測度である^[4][7]。${\displaystyle \textstyle B\in {\mathcal {B}}}$ としたとき、${\displaystyle \textstyle P^{X}(B)}$ により確率変数の値が ${\displaystyle \textstyle B}$ に含まれる確率を算出できる（例: 「${\displaystyle \textstyle X}$ が ${\displaystyle \textstyle 2}$ になる確率は ${\displaystyle \textstyle P^{X}(\{2\})=10\%}$」）。

測度論の観点からみると、確率変数を導入することで可測空間 ${\displaystyle \textstyle (\mathbb {R} ,{\mathcal {B}})}$ が構成される。ボレル集合族 ${\displaystyle \textstyle {\mathcal {B}}}$ は完全加法族であるため、この上に確率測度 ${\displaystyle \textstyle P^{X}\colon {\mathcal {B}}\to [0,1]}$ を設定しうる。 これを、

${\displaystyle P^{X}(B)=P(X^{-1}(B))}$

と定義することで ${\displaystyle \textstyle P^{X}}$ は確率測度の定義を満たす。この ${\displaystyle \textstyle P^{X}}$ を「${\displaystyle \textstyle X}$ の確率分布」という^[7]。確率分布を導入することで ${\displaystyle \textstyle (\mathbb {R} ,{\mathcal {B}},P^{X})}$ はもうひとつの確率空間になる。この観点から、${\displaystyle \textstyle X}$ は ${\displaystyle \textstyle \Omega }$ 上での ${\displaystyle \textstyle P}$ の測定から ${\displaystyle \mathbb {R} }$ 上での ${\displaystyle \textstyle P^{X}}$の測定に「押し進める」ものといえる。${\displaystyle \textstyle P^{X}}$ は ${\displaystyle \textstyle (\Omega ,{\mathcal {F}},P)}$ を「忘れる」とも解釈できる^[要出典]。

${\displaystyle \textstyle P^{X}}$ は実数のボレル集合族を定義域とするため、${\displaystyle \textstyle B=[-\infty ,y]}$ のような片側無限区間での確率へ変換しやすい。これが累積分布関数である。離散型確率変数の場合の確率は確率質量関数および離散確率分布を参照。連続型確率変数の場合の確率は確率密度関数を参照。

期待値

確率変数は値として実数をとり、かつ、各値が現れる確率を確率分布として持つ。よって実際に値を得なくとも「${\displaystyle \textstyle 1}$ が ${\displaystyle \textstyle 10\%}$、${\displaystyle \textstyle 2}$ が ${\displaystyle \textstyle 20\%}$ ...」と値/確率ペアを得ることができる。各値を対応する確率で重み付けした加重平均が期待値である。

確率変数が可測関数として可積分ならば、期待値が存在する。

確率空間 (Ω, F, P) に割り当てた確率変数 ${\displaystyle X:\Omega \to {\mathcal {E}}}$ が可積分であるとは、

${\displaystyle \int _{\Omega }|X(\omega )|\,P(\mathrm {d} \omega )<\infty }$

を満たすことである。これは測度論における可測関数の可積分性と同じである。

このとき確率変数 X あるいはその確率分布の平均は

${\displaystyle E[X]=\int _{\Omega }X(\omega )\,P(\mathrm {d} \omega )}$

で定義される。

事象 ${\displaystyle A\in {\mathcal {F}}}$ の下での確率変数 X の条件付期待値は

${\displaystyle E[X:A]=E[1_{A}X]=\int _{A}X(\omega )\,P(\mathrm {d} \omega )}$

で定義される。ここで 1_A は指示関数である。

モーメント

確率変数の確率分布は、多くの場合少数の特性値で規定される。例えば、確率変数の期待値 (E[X]) は確率分布の"1次モーメント"であり、平均とも呼ばれる。一般に、E[f(X)] は f(E[X]) と等しくない。次に、確率変数値が全体として「平均」からどれだけ散らばっているかを表す特性値として分散 (V[X]) および標準偏差 (σ[X]) がある。分散 V[X] とは、X と平均の差の2乗の期待値 E[(X − E[X])²] のことである。

数学的には、与えられた確率変数 X が所属する母集団に関する（一般化された）モーメント問題（英語版）として知られ、確率変数 X の分布の性質を示す期待値 E[f_i(X)] の関数のコレクション {f_i} である。

モーメントは確率変数が実数関数である場合（複素数等についても）に定義できる。確率変数自身が連続であるならば、変数のモーメント自身は確率変数の恒等関数 f(X) = X と等価である。しかし、非実数の確率変数の場合にも、モーメントをその変数の実数関数として得ることができる。例えば、名義尺度変数 X として「赤」、「青」、「緑」がある場合、実数関数 ${\displaystyle [X={\text{green}}]}$ を考えることができる。こうしてアイバーソンの記法を用いることで、X が「緑」の時は1、それ以外は0と記述できるので、期待値および他のモーメントを定義できる。

例1

X を実数の連続確率分布とした時、Y = X² とすると、

${\displaystyle F_{Y}(y)=\operatorname {P} (X^{2}\leq y)}$

y < 0 の時は ${\displaystyle \operatorname {P} (X^{2}\leq y)=0}$ であるので、

${\displaystyle F_{Y}(y)=0}$（ただし y < 0）である。

y ≥ 0 の時は ${\displaystyle \operatorname {P} (X^{2}\leq y)=\operatorname {P} (|X|\leq {\sqrt {y}})=\operatorname {P} (-{\sqrt {y}}\leq X\leq {\sqrt {y}})}$ であるので、

${\displaystyle F_{Y}(y)=F_{X}({\sqrt {y}})-F_{X}(-{\sqrt {y}})}$（ただし y ≥ 0）である。

例2

x は、分布関数が

${\displaystyle F_{X}(x)=\operatorname {P} (X\leq x)={\frac {1}{(1+e^{-x})^{\theta }}}}$

となる確率変数とする。ただし θ > 0 は固定されたパラメーターである。 確率変数 Y を ${\displaystyle Y=\log(1+e^{-X})}$ とすると、

${\displaystyle F_{Y}(y)=\operatorname {P} (Y\leq y)=\operatorname {P} (\log(1+e^{-X})\leq y)=\operatorname {P} (X>-\log(e^{y}-1)).}$

最後の表現は X の分布関数で計算できる。すなわち

${\displaystyle F_{Y}(y)=1-F_{X}(-\log(e^{y}-1))}$

${\displaystyle =1-{\frac {1}{(1+e^{\log(e^{y}-1)})^{\theta }}}}$

${\displaystyle =1-{\frac {1}{(1+e^{y}-1)^{\theta }}}}$

${\displaystyle =1-e^{-y\theta }.}$

例3

X を標準正規分布に従う確率変数であるとすると、その確率密度は下記の通りである。

${\displaystyle f_{X}(x)={\frac {1}{\sqrt {2\pi }}}e^{-x^{2}/2}}$

確率変数 Y = X² を考えると、上記の式を変数変換して確率密度を下記のように表すことができる。

${\displaystyle f_{Y}(y)=\sum _{i}f_{X}(g_{i}^{-1}(y))\left|{\frac {dg_{i}^{-1}(y)}{dy}}\right|}$

この場合、Y の値は2つの X（正の値と負の値）に対応するので、変換は単調写像ではない。しかし、関数が対称であるので、両半分をそれぞれ変形することができる。すなわち、

${\displaystyle f_{Y}(y)=2f_{X}(g^{-1}(y))\left|{\frac {dg^{-1}(y)}{dy}}\right|}$

である。この逆変換は、

${\displaystyle x=g^{-1}(y)={\sqrt {y}}}$

であり、両辺を微分すると

${\displaystyle {\frac {dg^{-1}(y)}{dy}}={\frac {1}{2{\sqrt {y}}}}}$

である。従って、

${\displaystyle f_{Y}(y)=2{\frac {1}{\sqrt {2\pi }}}e^{-y/2}{\frac {1}{2{\sqrt {y}}}}={\frac {1}{\sqrt {2\pi y}}}e^{-y/2}}$

これは自由度 1 のχ²分布である。

分布が等しい

標本空間が実数直線の部分集合の場合、確率変数 X と Y の分布が等しいとは（${\displaystyle X\;{\stackrel {d}{=}}\;Y}$ と表記する）下記のように同じ分布関数を持つことである。

${\displaystyle \operatorname {P} (X\leq x)=\operatorname {P} (Y\leq x)\quad {\hbox{for all}}\quad x.}$

2つの確率変数は同じ積率母関数を持つ時に同じ分布になる。この事実は、例えば独立同一分布の確率変数による複数の異なった関数が同じ分布になるかどうかを調べるための便利な方法を提供する。しかしながら、積率母関数が存在するのは、ラプラス変換が定義される分布関数に対してのみである。

ほとんど確実に等しい

2つの確率変数 X と Y が「ほとんど確実に等しい」とは、その2つが異なる確率が 0 であることと同値である^{[注 4]}。

${\displaystyle \operatorname {P} (X\neq Y)=0.}$

これは、以下で定義される距離が0であることとも同値である。

${\displaystyle d_{\infty }(X,Y)=\operatorname {ess} \sup _{\omega }|X(\omega )-Y(\omega )|,}$

(ただし、ess sup は測度論の意味での本質的上限)

確率論におけるすべての現実的な目的に関して、この同値性の概念は実際に等しい場合と同等の強さをもつ。

等しい

最後に、2つの確率変数 X と Y が等しいとは、それらが定義される可測空間上の関数として等しいことを指す。

${\displaystyle X(\omega )=Y(\omega )\qquad {\hbox{for all }}\omega \in \Omega }$

離散型確率変数

離散型確率変数（りさんがたかくりつへんすう、（英: discrete type random variable）は値域が高々可算集合な確率変数である^[8][1]:399。離散確率変数（りさんかくりつへんすう、（英: discrete random variable）とも^[3]。

離散型確率変数の分布（離散確率分布）は確率変数値の確率の全てを表したものとして確率質量関数で記述できる。

離散型確率変数

連続型確率変数（れんぞくがたかくりつへんすう、（英: continuous type random variable）は値域が非可算集合な確率変数である^[1]:399。連続確率変数（れんぞくかくりつへんすう、（英: continuous random variable）とも^[3]。

確率分布 P_X が絶対連続ならば確率密度関数が存在し、確率変数が ${\displaystyle E\in {\mathcal {E}}}$（例えば区間）に属する確率が確率密度関数の E 上のルベーグ積分で表される。注意すべき点は、絶対連続のとき連続確率分布であるため、確率変数がある値をとる確率は全て 0 になるということである。確率分布が連続でも絶対連続とは限らない^[9]。混合分布がその例である。そのような確率変数は確率密度関数または確率質量関数で記述できない。