ブースティング系の手法の数理について解説
この講義では現在機械学習の手法として隆盛を極めている、ブースティング系の手法の数理について解説します。
ブースティングの基本的なアイデアを説明し、変数重要度の計算、XGBoost, LightGBMの説明までを行います。
※アーカイブ講座の動画販売についてお申し込み受付中です。
集団授業
ブースティング入門：機械学習の数理シリーズ
統計・機械学習講座
スポット講座
Aアドバンス
アーカイブ講座（録画販売中）
講座概要
Overview
この講座は機械学習の数理シリーズです。
ブースティングはKarns-Valiant問題(1988, 1989)に、Shapire(1990)が肯定的な結果を出したことに端を発します。大雑把に説明すると「あまり精度の良くない予測器から高い精度の予測器を作る」手法の例としてブースティングは提案されました。
Shapire(1990)の結果を受けて、実用的なブースティング手法の研究が進んできました。代表例として
- Freund-Shapire(1997) : AdaBoost
- Friedman(1999) : Gradient Boosting
- Chen-Guestrin(2016) : XGBoost
などが提案され、いずれも機械学習の代表的な手法として定着しています。
教科書
- 書籍
すうがくぶんかのオリジナルテキスト
- 送付方法
デジタルデータ（jupyter）をメール添付にてお送りいたします
※ テキスト代は受講料に含まれています。
講義の目標
この講座では、
- ブースティング手法の基本的なアイディア
- 代表的なブースティング手法の学習アルゴリズム
- 変数重要度の計算方法
の3つに注目して解説します。
前提とする知識
- 数学III程度の微分積分（弊社講座大人のための高校数学III・C程度）
- 機械学習の勉強経験（弊社講座Pythonで学ぶ機械学習程度）
カリキュラム
Curriculum
01ブースティングの基本（2時間）
一般的なブースティング手法に見られる学習アルゴリズムの共通点を事前に説明します。そして、アルゴリズムの実例としてAdaBoostアルゴリズムを紹介し、簡単なデータセットを用いたAdaBoostのデモンストレーションを行います。また、AdaBoostの統計モデルとしての解釈を与え、AdaBoostへの理解を深めます。
02勾配ブースティング（3時間）
Friedmanが提案したGradient Boostingの学習アルゴリズムについて勾配降下法を参考にしながら説明し、簡単なデータセットを用いたGradient Boostingのデモンストレーションを行います。また、アルゴリズムの収束性・早期終了(early stopping)・変数重要度の計算方法について紹介します。
03ニュートンブースティング（3時間）
Chen-Guestrinが提案したXGBoostの学習アルゴリズムについてNewton法を参考にしながら説明し、簡単なデータセットを用いたXGBoostのデモンストレーションを行います。また、XGBoostに改良を加えたLightGBMを紹介し、LightGBMにおける変数重要度の計算方法・カテゴリ変数のエンコーディング (adaptive encoding)・欠測の扱いについて紹介します。
講座情報
Information
| 講座名 | ブースティング入門：機械学習の数理シリーズ |
|---|---|
| 担当講師 | |
| 開講スケジュール |
計2回の集中講義になります。 |
| 受講方法 |
Zoomによるオンライン講座 |
| 教科書 | すうがくぶんかのオリジナルテキスト |
| 受講料 | 全2回 税込34,500円 |
| お支払い方法 |
クレジットカード支払いは本ページ下部「受講料のお支払いについて」よりお願いいたします。 |
| 準備物 | ・筆記用具 |
特記事項
・授業は録画されます。録画（アーカイブ動画）は授業終了から5年間オンラインにて繰り返しご視聴いただけます。（ダウンロード不可）
・アーカイブ視聴のみの受講も可能です。お急ぎの方は、開講済みの講座のアーカイブ動画にてご受講いただけます。
受講生の声
Voice
関連講座
Pick up
受講料のお支払いについて
Payment options
ブースティング入門：機械学習の数理シリーズ講座のクレジットカード決済フォームです。（決済にはStripeというサービスを使っています。）
下記のボタンを押すと該当する集団講座のチケットをご購入いただけます。
- 消費税については内税(10%)です。
- 全てのチケットの有効期限はご購入日より1年となっていますのでご注意ください。
※ボタンを押すと、stripeの決済ページへ遷移します。
| 全2回 |
|---|
アーカイブ講座の動画販売
Archive video
2020年前期分よりオンライン授業を録画し、授業の録画販売（アーカイブ販売）を行っております。
視聴期限は5年
自分のペースで学習できます。
開講時と同じ受講料
お気に入りの講師の
過去の講義も購入できます。
過去の講義も購入できます。
Slackにて質問できます
アーカイブ講座の場合も、
質問等は受け付けます。
質問等は受け付けます。
注意事項
アーカイブ講座の動画購入をご検討いただく場合は、下記についてご確認をお願いいたします。
- お申し込み時にご登録いただいたメールアドレス宛に、講義の録画を共有させていただきます。
※Googleドライブ上のファイルを共有するため、gmailアドレス以外の場合は、共有フォルダにアクセスする際に、自動でメールに送られてくる確認コードの入力が必要になる場合がございます。 - 受講料は、開講時と同じ受講料となります。
- 動画の視聴期限は購入後、5年となっております。
- 講座内容に関するご質問等がある場合で、Slack以外でのご質問をご希望される場合はお問合わせください。（別途受講料が発生する個別指導での対応となる場合がございます。）
開講中講座の途中参加について
本講座は開講中の講座はございません。
アーカイブ講座(録画購入）にてご受講いただけます。
アーカイブ講座(録画購入）のお申し込みはこちら
| 講座名 | 動画内容 | 講師名 | 受講料 |
|---|---|---|---|
| ブースティング入門：機械学習の数理シリーズ 2020年前期 |
全2回 | 内場 崇之 | 34,500円 |
年度別 講座情報
| 年度 | 講座情報 |
|---|---|
| ー | 本講座は2020年前期のみの開講です。 |
講座のお申し込み・ご相談は
気軽にお問い合わせください。
