ベイズ統計学入門

まずはベイズモデリングの考え方を簡単に紹介します。特にt検定や線形回帰など統計の基本的な手法について、ベイズ的に考えるとどのようになるかを説明します。
ベイズモデリングでは様々な確率分布について扱います。ここでは積分の計算を踏まえた確率分布の考え方やよく使われる確率分布を紹介します。

事後分布の計算は一般には困難ですが、自然共役分布という考え方により、いくつかの基本的なモデルについては事後分布の計算が簡単にできます。ここではそういった自然共役分布を用いた事後分布や予測分布の計算について説明します。これ以降の複雑なモデルを組む際にも重要な考え方になります。
自然共役分布が使えない場合は事後分布を解析的に求めることが困難です。事後分布に従う乱数列をコンピューターで発生させる枠組みStanの、Rからの使い方を紹介します。

いわゆる「ベイズモデリングらしい」モデルとして階層モデルを紹介します。個体差やグループ差などをモデルに取り込みます。

一般には計算することができない予測分布を近似的に計算する方法を与えてくれるのが、MCMCサンプリングです。MCMCというのはマルコフ連鎖モンテカルロ法（Markov Chain Monte Carlo）の略です。モンテカルロ法というのは一般的に積分計算を乱数で近似的に行なう手法をさします。そのうちでマルコフ連鎖を用いて乱数を生成する手法がMCMCです。MCMCの手法として有名なものにギブスサンプリングとハミルトニアンモンテカルロ法がありますが、ここではそれらの手法について簡単に紹介します。
時系列などのデータを扱う方法に状態空間モデルがあります。これは、実際に観測されたデータそのものの変化をモデリングするのではなく、観測データの裏にある状態を推定し、その変化をモデリングするという考え方です。トレンドや周期性、また異常検知などへの応用もお話しします。
上で紹介したMCMCサンプリングとは異なる事後分布や予測分布の近似方法として、変分ベイズ（変分推論）を紹介します。MCMCは基本的に計算量が莫大になるのに対して変分推論の方が計算量は小さくすみますが、分布の形に制約がつくというデメリットがあります。ここでは変分ベイズの考え方と、Stanによる推定を行います。上で説明した自然共役分布の考え方がここでも有効になってきます。

隠れマルコフモデルやLDA、WBIC・WAIC等についてご紹介する予定です。