マローズのCp

マローズのC_pは、過剰適合の問題に対する方法である。一般にモデルの変数が増えれば増えるほど、残差平方和などのモデル適合度の指標は常に小さくなる。したがって、残差平方和が最小となるモデルを選択する場合、常にすべての変数を含むモデルが選択されてしまう。代わりに、データのサンプルで計算されたC _p統計は、 母集団ターゲットとして平均二乗予測誤差 （MSPE）を推定する。

${\displaystyle E\sum _{j}{\frac {({\hat {Y}}_{j}-E(Y_{j}\mid X_{j}))^{2}}{\sigma ^{2}}}}$

ただし、${\displaystyle {\hat {Y}}_{j}}$ は j 番目のケースのフィット値、E (Y_j | X_j) は j 番目のケースの期待値であり、σ²は誤差分散（全ケース共通の定数とみなされる）である。変数が追加されても、MSPEは自動的に小さくなることはない。この基準での最適なモデルは、サンプルサイズ、さまざまな予測変数の効果量、および変数間の共線性の程度によって決まる。

P個の変数がK>PであるようなK個の変数から選択された場合、C_pは次のように定義される。

${\displaystyle C_{p}={SSE_{p} \over S^{2}}-N+2P,}$

ただし、

• ${\displaystyle SSE_{p}=\sum _{i=1}^{N}(Y_{i}-Y_{pi})^{2}}$は、P個の変数を持つモデルの残差平方和
• Y _piは、 P リグレッサからのYの i番目の観測の予測値
• S ²は、 K個すべての変数を用いて回帰分析を行った場合の残差平均平方（residual mean square）であり、平均二乗誤差（MSE）によって推定される。
• Nは標本サイズ

次のような線形モデルがあるとする。

${\displaystyle Y=\beta _{0}+\beta _{1}X_{1}+\cdots +\beta _{p}X_{p}+\varepsilon }$

ただし、

• ${\displaystyle \beta _{0},\ldots ,\beta _{p}}$は予測変数${\displaystyle X_{1},\ldots ,X_{p}}$の係数
• ${\displaystyle \varepsilon }$は誤差を表す

C_p以下のようにも定義される^[4]。

${\displaystyle C_{p}={\frac {1}{n}}(\operatorname {RSS} +2d{\hat {\sigma }}^{2})}$

ただし、

• RSSは、教師データセットの残差平方和
• dは予測変数の数
• ${\displaystyle {\hat {\sigma }}^{2}}$は線形モデルの各応答に関連する分散の推定値を指す（すべての予測子を含むモデルで推定される）

この定義によるC_pの値は、前掲の定義によるC_pの値と等しくないが、いずれの定義においてもC_pを最小にするようなモデルは同一である。

C_p基準には主に2つの制約がある^[5]。

1. C_p近似は大きなサンプルサイズに対してのみ有効である。
2. C_pは変数選択（または特徴選択）の問題のようなモデルの複雑な集合を扱うことができない^[5]。