拡散モデル -基礎と応用-

まずは生成モデルの概観について学びます。高次元データの生成モデルにおける学習やサンプリングの難しさを実際に見てから、次にその難点を解決する「スコア」という概念と、サンプリング手法「ランジュバン・モンテカルロ法」について学びます。そして、デノイジングスコアマッチングという技術を用いて訓練データからスコアが効率的に計算できることを見ます。なお、教科書では最初から多くの確率・統計学の知識を前提にして話を進めていますが、その辺も授業で分かりやすく解説するよう心がけます。

ここではまず2つの生成モデル「SBM（スコアベースモデル）」と「DDPM（デノイジング拡散確率モデル）」について学びます。次に、これら2つの生成モデルが「シグナルノイズ比」の枠組みを使って統一的に扱えることを見ます。この統一的な見方が「拡散モデル」の考え方です。

ここでは、連続時間化した拡散モデルが確率微分方程式（SDE）とみなすことができることを見ていきます。これにより、微分方程式の分野で発展した手法を拡散モデルでも使うことができるようになるので、様々な知見が得られます。また、最後に拡散モデルの特徴についてもまとめる予定です。

ここでは拡散モデルの発展的な内容をいくつか紹介します。1つ目は「条件付き生成」で、これは実際の応用でも重要な概念です。2つ目は「部分空間拡散モデル」で、入力データと同じ次元の空間内で遷移するのではなく、徐々に小さくなる部分空間で遷移する拡散モデルのことで、様々な利点があります。3つ目は「対称性を考慮した拡散モデル」で、こちらは特に物理世界のモデルにおいて威力を発揮する拡散モデルです。

最後に、拡散モデルの実際の応用例を見ていきます。応用のそれぞれについて、そのアーキテクチャから詳しく解説していく予定です。