ベイズ最適化に親しもう！（機械学習の数理シリーズ）

2023年1月のご受講、および、録画販売についてお申し込み受付中です。録画視聴による参加、途中参加も可能。こちらからお申込みいただけます。

講座概要

機械学習のハイパーパラメータ探索、深層学習のアーキテクチャ探索、薬品開発（創薬）やA/Bテスト、推薦システム、統計的実験計画、これら全てに関わっている数学のトピックがあります。ベイズ最適化（Bayesian Optimization）です。

ベイズ最適化は少なくとも1970年代には登場し、紹介したように幅広い応用範囲を持っています。一方で、仕組みを理解するためには少し難しい数学の知識が必要になるため、よく分からずに使っていて不安だという相談をよく聞きます。

そこで、この講座ではベイズ最適化の仕組みとそのコーディングについて、ある鋼板の劣化の速さを材料A, Bの配合量によって予測し、最適化するような例題を解きながら紹介します。この例題はいわゆる「統計的実験計画」とよばれる分野の問題です。この例題を通して、ベイズ最適化の仕組みを支える「ガウス過程回帰モデル」や「獲得関数」、ベイズ最適化の基本的なパッケージであるGPyやGPyOptの使い方に親しみを持ちましょう。

受講にあたって

前提知識

• scikit-learnを用いた機械学習のコーディング経験）
• 正規分布や条件付き分布（授業中に復習します。）

できるようになること

• さまざまな予測課題に対するガウス過程回帰の応用
• ベイズ最適化を用いた実験計画
• 機械学習のハイパーパラメータ探索におけるベイズ最適化の基礎の理解

カリキュラム

前半　01/22（日）: ガウス過程回帰の基礎

前半では、ベイズ最適化の仕組みの基礎になっている機械学習モデル「ガウス過程回帰モデル」の仕組みを紹介し、GPyパッケージを用いたガウス過程回帰モデルの設定の仕方やデモを行います。キーワードは、事前分布と事後分布、予測分布、第2種最尤推定です。また時間に余裕があれば、有名なカーネル関数として、RBFカーネル以外にもMaternカーネルを紹介します。

後半　01/29（日）: ベイズ最適化の基礎

後半では、ガウス過程回帰モデルから実験候補を提案する仕組みを紹介し、GPyOptパッケージを用いて統計的実験計画の問題を例としたデモを行います。一般的には1つだけ実験候補を提案する「sequentialなベイズ最適化」が有名ですが、実用上の観点から複数の実験候補を一度に提案する「batch処理型のベイズ最適化」についても紹介します。キーワードは、獲得関数、Expected Improvement、Thompson Sampling、Local Penalizationです。

受講詳細

お申し込み、録画視聴はお申込フォームからお願いします。

お申込み

お申し込みは、以下のお申込フォームからお願いします。

開講スケジュール