フローベース生成モデル

Summarize Timeline Top Qs Fact Check

${\displaystyle z_{0}}$を確率分布 ${\displaystyle p_{0}(z_{0})}$ に従う（一変数または多変数の）確率変数であるとする。

${\displaystyle i=1,...,K}$ について、${\displaystyle z_{i}=f_{i}(z_{i-1})}$を ${\displaystyle z_{0}}$ から変換された確率変数の列であるとする。ここで関数 ${\displaystyle f_{1},...,f_{K}}$は逆変換可能である必要がある：すなわち、逆関数 ${\displaystyle f_{i}^{-1}}$が存在する。最終的な出力${\displaystyle z_{K}}$はモデル化したい分布を表す。

ここで、${\displaystyle z_{K}}$の対数尤度は以下の様に表される（対数尤度の導出参照）：

${\displaystyle \log p_{K}(z_{K})=\log p_{0}(z_{0})-\sum _{i=1}^{K}\log \left|\det {\frac {df_{i}(z_{i-1})}{dz_{i-1}}}\right|}$

対数尤度を効率的に計算するためには、関数${\displaystyle f_{1},...,f_{K}}$は次の性質を満たす必要がある：

1. 逆変換が容易である。
2. ヤコビ行列式を計算しやすい。

実際には、関数${\displaystyle f_{1},...,f_{K}}$はディープニューラルネットワークを使用してモデル化され、対象となる分布からのデータサンプルの負の対数尤度を最小化するように訓練される。これらの手法は通常、逆行列式とヤコビ行列式の両方の計算でニューラルネットワークの順方向演算のみが必要になるように設計される。このような手法の例として、NICE^[2]、 RealNVP^[3] 、およびGlow^[4]がある。

変数 ${\displaystyle z_{1}}$及び ${\displaystyle z_{0}}$ について、${\displaystyle z_{0}=f_{1}^{-1}(z_{1})}$ であるとする。

確率密度の変数変換公式より、 ${\displaystyle z_{1}}$の従う確率分布は以下のように書ける：

${\displaystyle p_{1}(z_{1})=p_{0}(z_{0})\left|\det {\frac {df_{1}^{-1}(z_{1})}{dz_{1}}}\right|}$

ここで、${\displaystyle \det {\frac {df_{1}^{-1}(z_{1})}{dz_{1}}}}$は ${\displaystyle f_{1}^{-1}}$ のヤコビ行列の行列式である。

逆関数定理により

${\displaystyle p_{1}(z_{1})=p_{0}(z_{0})\left|\det \left({\frac {df_{1}(z_{0})}{dz_{0}}}\right)^{-1}\right|}$

恒等式 ${\displaystyle \det(A^{-1})=\det(A)^{-1}}$ により（${\displaystyle A}$は正則行列）、次が導ける：

${\displaystyle p_{1}(z_{1})=p_{0}(z_{0})\left|\det {\frac {df_{1}(z_{0})}{dz_{0}}}\right|^{-1}}$

したがって、対数尤度は次のようになる。

${\displaystyle \log p_{1}(z_{1})=\log p_{0}(z_{0})-\log \left|\det {\frac {df_{1}(z_{0})}{dz_{0}}}\right|}$

一般に、上記の式は全ての ${\displaystyle z_{i}}$及び ${\displaystyle z_{i-1}}$ に適用される 。${\displaystyle \log p_{i}(z_{i})}$ は ${\displaystyle \log p_{i-1}(z_{i-1})}$ から非再帰的な項を引いたものに等しいので、数学的帰納法より以下が示せる。

${\displaystyle \log p_{K}(z_{K})=\log p_{0}(z_{0})-\sum _{i=1}^{K}\log \left|\det {\frac {df_{i}(z_{i-1})}{dz_{i-1}}}\right|}$

Summarize Timeline Fact Check

関数の合成によってフローを構築する代わりに、別のアプローチとして、フローを連続時間ダイナミクスとして定式化することができる^[5]。${\displaystyle z_{0}}$ を分布 ${\displaystyle p(z_{0})}$ を持つ潜在変数であるとする。以下のフロー関数を使用して、この潜在変数をデータ空間に写す。

${\displaystyle x=F(z_{0})=z_{T}=z_{0}+\int _{0}^{t}f(z_{t},t)dt}$

ここで ${\displaystyle f}$ は任意の関数であり、ニューラルネットワークなどでモデル化できるとする。

その場合、逆関数は次のようになる^[5]。

${\displaystyle z_{0}=F^{-1}(x)=z_{T}+\int _{t}^{0}-f(z_{t},t)dt}$

このとき ${\displaystyle x}$ の対数尤度は以下で与えられる^[5]：

${\displaystyle \log(p(x))=\log(p(z_{0}))-\int _{0}^{t}{\text{Tr}}\left[{\frac {\partial f}{\partial z_{t}}}dt\right]}$

実用上では Neural ODE^[6] などの数値積分手法が必要になる場合がある。