Upgrade to Pro — share decks privately, control downloads, hide ads and more …

機械学習をクラウド上のGPUでも、オンプレミスのGPUでも

 機械学習をクラウド上のGPUでも、オンプレミスのGPUでも

Masahiko Funaki(舟木 将彦)

September 16, 2022
Tweet

More Decks by Masahiko Funaki(舟木 将彦)

Other Decks in Technology

Transcript

  1. 2 Agenda GPU とは 〜 ディープラーニングの高速化と課題 CI ツールでクラウド GPU /

    オンプレ GPU を透過的に扱う マスク着用検出の実装例 まとめ 1 2 3 4
  2. 5 機械学習の精度向上のため 学習の際に 多層的な(ディープ)な構造で 考える方法 音声認識や画像認識を例にとると ・入力と出力(「ありがとう」  「マスク」などの結果)を  直接結ぶのではなく、  中間層を複数用意し、

     各層に判断基準を分割する →精度は高くなるが計算量(時間)も増加 GPU(Graphical Processing Unit)を使い 3Dグラフィックス描画のように 並列的に処理可能 →計算時間を短縮可能 →計算能力やメモリによるが高価 ディープラーニングとは
  3. CircleCI で NVIDIA GPU を利用する2つの方法 Machine Executor (GPU) - CircleCIが用意した

    GPU環境を利用 CircleCI ランナー - 自分で用意した GPU 環境を利用 https://circleci.com/docs/ja/2.0/runner-overview/ https://circleci.com/docs/ja/2.0/executor-types/
  4. 実行環境の定義 train_to_test_on_gpu ジョブを CircleCI のGPU で実行 - CircleCI クラウド上の GPU

    が使えるのは 有償プランのみ(Freeプランでは使用できない ) train_to_test_on_runner ジョブを 自前の GPU で実行 - 自組織の名前空間でランナー用のリソースクラスを 作成し、GPU環境にランナーのインストールを行う - 今回は Windows 11のWSL2環境(Ubuntu 20.04) から Windows側のGPUを利用 (https://docs.microsoft.com/en-us/windows/wsl/tutorials/gpu-compute)
  5. 20 クラウド+オンプレミスで CI (自動化) するメリット • 学習手順 評価手順を 共有できる (誰がやっても

    失敗しない) • 利用したい人なら だれでも使える (WS 所有者の 専有ではない) • 既存GPUがあれば 容易に導入できる (CIと組合せれば 誰でも使える) • センシティブな データをオンプレ に置いておける (顔や声などは 匿名化しにくい) • すぐに導入でき、 スケール可能 (調達に時間が かからない) • 利用したい人なら 誰でも使える (WS 所有者の 専有ではない) クラウド GPU オンプレ GPU CI (自動化)