新ディープラーニングハンズオンセミナーのカリキュラム公開!フレームワークにはPyTorchを採用

  • 2019/06/04
  • セミナー

研究開発を中心に世界的なスタンダードになりつつあるディープラーニングフレームワークの PyTorch を使ったバージョンアップしたディープラーニングハンズオンセミナーです。これまで扱っていた画像処理自然言語処理に加え、ベイズ最適化に基づいたハイパーパラメータの最適化や、推論時の高速化を行うためのモデル圧縮、そして、推論サーバーへのデプロイなどディープラーニングを実用化していくための内容を盛り込みました。Day3 以降は選択式で受講できるようになりました。

お申込みはこちらのフォームより承っております。

Day1. PyTorchの基礎

ディープラーニングの最も基礎的な全結合のニューラルネットワークに関する数学およびその実装をディープラーニングフレームワークである PyTorch を用いて行います。ディープラーニングではGPU (Graphics Processing Unit) を用いることが多く、Microsoft が提供するパブリッククラウドである Azure を使い、ディープラーニングに必要な環境を仮想化技術である Docker を用いて行います。GPU を用いる場合の環境構築は初学者には難易度が高いですが、セミナーが終わった後にも使用できる環境を提供します。

  • 数学とプログラミングの事前予習テスト
  • ニューラルネットワーク(順伝播):線形変換・非線形変換
  • ニューラルネットワーク(逆伝播):確率的勾配降下法
  • PyTorchによるネットワークの定義(Sequential)
  • Skorchによるモデルの学習
  • Azure上にGPUインスタンスの作成
  • Dockerの基礎
  • Dockerを用いたGPU環境構築

Day2. PyTorchの応用とハイパーパラメータ調整

PyTorchを本格的に使用するために必要なネットワークの記述や学習ループに対する理解を深めます。PyTorch-Igniteを用いて学習ループを簡易的に記述する方法、Tensorboardを連携させた学習結果の可視化など、実務で取り組む際に必要なスキルを身に着けます。また、ネットワークに含まれるノードの数や層の数といった人手で調整することが困難なハイパーパラーメータをベイズ最適化により調整する最新の方法で実装します。

  • PyTorchによるネットワークの定義(Class)
  • ミニバッチ学習
  • 最適化手法(ex. SGD, Adam)
  • 学習ループの記述
  • PyTorch-Igniteによる学習ループの簡略化
  • Tensorboardによる学習結果の可視化
  • Axによるベイズ的最適化に基づいたハイパーパラメータ調整

Day3. 画像処理とCNN

画像がコンピュータ上でどのように扱われており、具体的にどのような処理を施すのかといった画像処理の基礎から、ニューラルネットワークで画像を扱うためのConvolutional Neural Network(CNN)の考え方まで背景の数学的説明から、PyTorchによる実装まで行います。また、ファインチューニングと呼ばれる他のタスクで学習したモデルを利用して少ない学習データセットに対しても精度を高める方法も紹介します。データセットはPyTorch側で用意されたものではなく、自前の画像を使うため、具体的なファイルの読み込みや前処理も紹介します。

  • 画像処理の基礎(OpenCV, Pillow)
  • 画像のクラス分類
  • 代表的なネットワークの紹介
  • 自前の画像データの読み込みとラベル付け
  • ファインチューニング

Day4. 自然言語処理とRNN

文章や文書といった自然言語のデータを機械学習の入力としてどのように特徴抽出し、構造化を行うか紹介します。テキストファイルに保存されている文書のカテゴリを分類する問題や、チャットボットや機械翻訳で使われている文章生成まで扱います。文章生成では可変長の入力データから可変長の出力を予測する必要があり、そのような系列データを扱うことができる Recurrent Neural Network (RNN) も紹介します。

  • 形態素解析(MeCab)
  • 自然言語の特徴量(BoW, TF-IDF)
  • 文書分類
  • 系列データのモデリング(RNN)
  • 文章生成(Sequence to sequence)

Day5. モデル圧縮とデプロイ

ディープラーニングを初学者が学ぶ際に学習にフォーカスが当たりがちですが、実際にサービス化を行う際には推論まで考慮したシステムを構築できることが不可欠となります。そこで、Web API として学習済みモデルを推論サーバーへデプロイする方法を紹介します。また、ディープラーニングでは精度を向上させるためにネットワークを深くすることがよくありますが、その結果、ネットワークのサイズが大きくなりすぎてしまい、学習用の高性能なサーバーの場合は生じなかった問題が、推論用のサーバーの場合では推論のスピードやメモリの容量といった点で問題となることがあります。その問題の解決策として、モデル圧縮の手法が提案されており、この手法の解説と実装も行う実用化を検討します。

  • Webの基本
  • Webフレームワーク(Flask)
  • 推論サーバーの構築で Web API 化(IaaS, PaaS)
  • モデル圧縮(プルーニング、量子化、蒸留)

セミナーについて

  • 場所:キカガク神田オフィス
  • 日程:7月1日(月)- 7月5日(金)
  • 時間:9:30 – 17:30(休憩1時間)
  • 人数:先着15名
  • 講座費用:5万円/日+ Azureチケット 5万円(税別)
    • Day3-5 はオプションとして任意で選択
    • Day1 と Day2 は必修
  • 事前予習(セミナーお申込み後に無料クーポンを配布します)
    • 人工知能・機械学習脱ブラックボックス講座(初級編)
    • 人工知能・機械学習脱ブラックボックス講座(中級編)
  • その他
    • 昼食は弊社側で用意します
    • お申込みはこちらのフォームから承っております
    • 3日間で学べる従来のディープラーニングハンズオンセミナーはこちら

関連記事