逸脱度情報量規準

逸脱度（英語版）を${\displaystyle D(\theta )=-2\log(p(y|\theta ))+C}$と定義する。${\displaystyle y}$はデータ、${\displaystyle \theta }$はモデルの未知のパラメータ、${\displaystyle p(y|\theta )}$は尤度関数である。${\displaystyle C}$は異なるモデルを比較する全ての計算で打ち消される定数であり、したがって知る必要はない。

モデルのパラメータの有効な数を計算するために一般的に使われる方法には2種類がある。1つ目の計算法^[1]は${\displaystyle p_{D}={\overline {D(\theta )}}-D({\bar {\theta }})}$（${\displaystyle {\bar {\theta }}}$は${\displaystyle \theta }$の期待値）である。2つ目^[2]は${\displaystyle p_{D}=p_{V}={\frac {1}{2}}{\overline {\operatorname {var} \left(D(\theta )\right)}}}$である。パラメータの有効な数が大きい程、モデルはデータを当て嵌めるのがより簡単になり、そのため逸脱度はペナルティーを科される必要がある。

逸脱度情報量規準は、

${\displaystyle {\mathit {DIC}}=p_{D}+{\overline {D(\theta )}}}$

あるいは同等に

${\displaystyle {\mathit {DIC}}=D({\bar {\theta }})+2p_{D}}$

として計算される。

この後者の形式から、AICとのつながりがよりはっきりと分かる。

着想は、より小さなDICを持つモデルがより大きなDICを持つモデルよりも好まれるべきだ、というものである。モデルは、よい当て嵌めを好む${\displaystyle {\bar {D}}}$の値と、（AICと同様に）パラメータの有効な数${\displaystyle p_{D}}$の両方によってペナルティーを科される。${\displaystyle {\bar {D}}}$はモデル中のパラメータの数が増加するにつれて低下するため、${\displaystyle p_{D}}$項はより小さなパラメータ数を持つモデルを好むことによってこの影響を補償する。

ベイズモデル選択の場合における他の規準に対するDICの優位性は、DICがマルコフ連鎖モンテカルロシミュレーションによって生成されたサンプルから容易に計算される点である、AICは${\displaystyle \theta }$の極大点での尤度の計算を必要とするが、これはMCMCシミュレーションから容易に得ることができない。しかしDICを計算するためには、単純に${\displaystyle \theta }$のサンプルにわたる${\displaystyle D(\theta )}$の平均として${\displaystyle {\bar {D}}}$を計算し、${\displaystyle \theta }$のサンプルの平均で評価された${\displaystyle D}$の値として${\displaystyle D({\bar {\theta }})}$を計算する。次に、DICはこれらの近似値から直接得られる。Claeskens and Hjort (2008, Ch. 3.5) は、DICがAICの自然モデル-ロバスト版と大きなサンプル（英語版）で同等であることを示している。

DICの導出において、未来の観察を生成する確率分布の特定のパラメータ付けられた族が真のモデルを包含することが仮定される。この仮定は常に適用できず、このシナリオにおいてモデル検証手続を考慮することが望ましい。

また、観察されたデータは事後分布を構築するためと、推定されたモデルを評価するための両方で使われる。したがって、DICは過剰適合したモデルを選択しがちである。

最近、上述した問題がAndo (2007)によるベイズ予測情報量基準（Bayesian predictive information criterion; BPIC）で解決された。Ando (2010, Ch. 8) は様々なベイズモデル選択規準の議論を提供している。DICの過剰適合問題を避けるため、Ando (2011) は予測の観点からベイズモデル選択規準を開発した。この規準は

${\displaystyle {\mathit {IC}}={\bar {D}}+2p_{D}=-2\mathbf {E} ^{\theta }[\log(p(y|\theta ))]+2p_{D}}$

として計算される。第一項はモデルがデータにいかに良く当て嵌まっているかの指標であるのに対して、第二項はモデルの複雑さへのペナルティーである。ここで留意すべきは、この式中のpが上述した尤度よりはむしろ予測分布という点である。