集団授業 / 統計・機械学習講座
Transformerとその周辺:機械学習の数理シリーズ
統計・機械学習講座
スポット講座
Sスタンダード
アーカイブ講座(録画販売中)
Transformerの仕組みとコーディング例を解説
Transformerは、需要予測、テキスト分類、機械翻訳、文章生成、画像分類、物体検出などあらゆる機械学習課題に浸透しつつあります。そこで、この講座ではTransformerを知りたい、使ってみたいという方を対象に
・テキスト分類・画像分類
に絞って、Transformerの仕組みとコーディング例を解説します。
また、事前学習モデルであるBERTの応用や、Attention Mapを用いたTransformerの予測根拠の可視化についても触れます。
※アーカイブ講座の動画販売についてお申し込み受付中です。
お申し込みはこちら
“Attention Is All You Need”
これは、2017年に発表されたある論文のタイトルです。この論文で提案されたモデルは、DeepLやGoogle翻訳に代表される機械翻訳の最高精度を叩き出し、この5年間のうちに自然言語処理に収まらず、時系列予測、画像認識にまで制空権を拡大してきました。その名前こそ、Transformerです。
Transformerは、需要予測、テキスト分類、機械翻訳、文章生成、画像分類、物体検出などあらゆる機械学習課題に浸透しつつあります。そこで、この講座ではTransformerを知りたい、使ってみたいという方を対象に
・テキスト分類・画像分類
に絞って、Transformerの仕組みとコーディング例を解説します。
また、事前学習モデルであるBERTの応用や、Attention Mapを用いたTransformerの予測根拠の可視化についても触れます。
教科書
講義の目標
- Transformer・BERTを用いたテキスト分類
- ViT、Swin Transformerを用いた画像分類
- Attention Mapによる予測根拠の可視化
前提とする知識
- ニューラルネットワークの基本的な知識(CNNなど)
- PyTorchのコーディング経験(授業中に復習します)
01前半 12月4日(日): Transformerとその応用
前半はニュースに対してそのカテゴリを分類するような「テキスト分類」という課題を例に、Transformerの仕組みを解説し、PyTorchによるコーディング例を紹介します。また、同様の例を用いてBERTとよばれるモデルの紹介やデモを行います。最後に、Attention Mapの可視化によってどの単語に注目して分類結果が決まったのかを推察できる話についてもデモを行います。
02後半 12月11日(日) : 画像データへのTransformerの応用
後半は、手書き文字画像に対して書かれている文字ラベルを分類するような「画像分類」という課題を例に、画像データへTransformerを用いてアプローチする方法を2種類紹介します。一つは旧来から使われているVision Transformer (ViT)、もう一つは最近話題のSwin Transformerです。ViTからSwin Transformerにかけて、画像データ特有の性質をTransformerにどう取り込んだのかを解説します。
お申し込みはこちら
-

Swin Transformerの主要部分の実装コードがあり理解の助けになりました
受講講座Transformerとその周辺:機械学習の数理シリーズ
説明や回答が丁寧で分かりやすかったです。Swin Transformerの主要部分の実装コードがあり理解の助けになりました。
-

専門書も読めるようになった
受講講座Transformerとその周辺:機械学習の数理シリーズ
解説がわかりやすく、専門書も読めるようになった。
講座名 |
Transformerとその周辺:機械学習の数理シリーズ |
担当講師 |
|
開講スケジュール |
全2回
前半:2022年12月4日(日)10:00-15:00
後半:2022年12月11日(日)10:00-15:00
|
受講方法 |
Zoomによるオンライン講座
|
教科書 |
すうがくぶんかのオリジナルテキスト
※ テキスト代は受講料に含まれています。
|
受講料 |
全2回 税込34,500円
前半または後半のみの参加 税込17,250円
|
お支払い方法 |
クレジットカード決済
|
準備物 |
・PyTorchをインストールしたPython言語環境があるPC
・資料は、講師が作成したものを配布しています。
|
特記事項
・授業は録画されます。録画(アーカイブ動画)は授業終了から5年間オンラインにて繰り返しご視聴いただけます。(ダウンロード不可)
・アーカイブ視聴のみの受講も可能です。お急ぎの方は、開講済みの講座のアーカイブ動画にてご受講いただけます。
お申し込みはこちら
受講料のお支払いについて
Payment options
Transformerとその周辺:機械学習の数理シリーズ講座のクレジットカード決済フォームです。(決済には
Stripeというサービスを使っています。)
下記のボタンを押すと該当する集団講座のチケットをご購入いただけます。
- 消費税については内税(10%)です。
- 全てのチケットの有効期限はご購入日より1年となっていますのでご注意ください。
※ボタンを押すと、stripeの決済ページへ遷移します。
アーカイブ講座の動画販売
Archive video
2020年前期分よりオンライン授業を録画し、授業の録画販売(アーカイブ販売)を行っております。
開講時と同じ受講料
お気に入りの講師の
過去の講義も購入できます。
Slackにて質問できます
アーカイブ講座の場合も、
質問等は受け付けます。
注意事項
アーカイブ講座の動画購入をご検討いただく場合は、下記についてご確認をお願いいたします。
- お持ちのGoogleアカウントに閲覧権限を付与する形で共有いたしますので、gmailアカウントをご連絡いただきます。
- 受講料は、開講時と同じ受講料となります。
- 動画の視聴期限は購入後、5年となっております。
- 講座内容に関するご質問等がある場合で、Slack以外でのご質問をご希望される場合はお問合わせください。(別途受講料が発生する個別指導での対応となる場合がございます。)
開講中講座の途中参加について
開講中の講座でも、参加時までに終了した講義はアーカイブ動画(講義の録画)にてご受講いただけます。
講義内で直接講師にご質問いただけますので、特にお急ぎでなければ、開講中の講座がおすすめです。
開講中の講座をご希望の方はこちらからお申し込みください。
講座名 |
動画内容 |
講師名 |
受講料 |
|
Transformerとその周辺:機械学習の数理シリーズ 2022年後期 |
全2回 |
内場 崇之 |
34,500円 |
お申し込み |
年度 |
講座情報 |
ー | 本講座は2022年後期のみの開講です。
|