正規化フロー

正規化フロー

正規化フロー(Normalizing Flow)は、確率分布の変換を行う生成モデルの一種です。通常、深層学習における生成モデルは高次元の複雑なデータをモデル化するために使用されますが、その中でも特に、正規化フローは確率密度関数を厳密に計算することができ、また、サンプリングも効率的に行うことが可能なモデルとなっています。

正規化フローの基本的なアイデアは、単純な(つまり解析的に扱いやすい)確率分布から始め、それを一連の変換(フロー)を通じて目的の複雑な分布に変換することです。各変換は微分可能であり、その逆も計算可能でなければなりません。これにより、逆変換を通じて単純な分布からのサンプルを生成し、それを正規化フローを通じて複雑な分布のサンプルに変換することができます。

正規化フローの重要な特性は、変換された分布の確率密度関数を厳密に計算できることです。これは、変換のヤコビ行列の対数行列式を用いて行われます。この特性により、最尤推定法や変分推論などの様々な機械学習手法を用いて、正規化フローのパラメータをデータに適合させることが可能になります。

以上の特性により、正規化フローは画像生成、異常検知、強化学習など、様々なタスクで使用されています。例えば、変分自己符号化器(VAE)や生成的敵対ネットワーク(GAN)などの他の生成モデルと組み合わせて、より高品質な生成を行うために使用されることがあります。