Upgrade to Pro — share decks privately, control downloads, hide ads and more …

機械学習をクラウド上のGPUでも、オンプレミスのGPUでも

Sponsored · Your Podcast. Everywhere. Effortlessly. Share. Educate. Inspire. Entertain. You do you. We'll handle the rest.

 機械学習をクラウド上のGPUでも、オンプレミスのGPUでも

Avatar for Masahiko Funaki(舟木 将彦)

Masahiko Funaki(舟木 将彦)

September 16, 2022
Tweet

More Decks by Masahiko Funaki(舟木 将彦)

Other Decks in Technology

Transcript

  1. 2 Agenda GPU とは 〜 ディープラーニングの高速化と課題 CI ツールでクラウド GPU /

    オンプレ GPU を透過的に扱う マスク着用検出の実装例 まとめ 1 2 3 4
  2. 5 機械学習の精度向上のため 学習の際に 多層的な(ディープ)な構造で 考える方法 音声認識や画像認識を例にとると ・入力と出力(「ありがとう」  「マスク」などの結果)を  直接結ぶのではなく、  中間層を複数用意し、

     各層に判断基準を分割する →精度は高くなるが計算量(時間)も増加 GPU(Graphical Processing Unit)を使い 3Dグラフィックス描画のように 並列的に処理可能 →計算時間を短縮可能 →計算能力やメモリによるが高価 ディープラーニングとは
  3. CircleCI で NVIDIA GPU を利用する2つの方法 Machine Executor (GPU) - CircleCIが用意した

    GPU環境を利用 CircleCI ランナー - 自分で用意した GPU 環境を利用 https://circleci.com/docs/ja/2.0/runner-overview/ https://circleci.com/docs/ja/2.0/executor-types/
  4. 実行環境の定義 train_to_test_on_gpu ジョブを CircleCI のGPU で実行 - CircleCI クラウド上の GPU

    が使えるのは 有償プランのみ(Freeプランでは使用できない ) train_to_test_on_runner ジョブを 自前の GPU で実行 - 自組織の名前空間でランナー用のリソースクラスを 作成し、GPU環境にランナーのインストールを行う - 今回は Windows 11のWSL2環境(Ubuntu 20.04) から Windows側のGPUを利用 (https://docs.microsoft.com/en-us/windows/wsl/tutorials/gpu-compute)
  5. 20 クラウド+オンプレミスで CI (自動化) するメリット • 学習手順 評価手順を 共有できる (誰がやっても

    失敗しない) • 利用したい人なら だれでも使える (WS 所有者の 専有ではない) • 既存GPUがあれば 容易に導入できる (CIと組合せれば 誰でも使える) • センシティブな データをオンプレ に置いておける (顔や声などは 匿名化しにくい) • すぐに導入でき、 スケール可能 (調達に時間が かからない) • 利用したい人なら 誰でも使える (WS 所有者の 専有ではない) クラウド GPU オンプレ GPU CI (自動化)