Azure Machine Learning 大規模機械学習

Slide 1

Slide 1 text

クラウドスケール分析でデータ活用に無限の可能性を Find new value on Azure Azure Machine Learning ではじめる大規模機械学習女部田啓太日本マイクロソフト株式会社 https://aka.ms/ml-at-scale

Slide 2

Slide 2 text

目的対象ユーザ本セッションでお話しないこと

Slide 3

Slide 3 text

Slide 4

Slide 4 text

アジェンダ

Slide 5

Slide 5 text

アジェンダ

Slide 6

Slide 6 text

Azure Machine Learning 概要

Slide 7

Slide 7 text

No content

Slide 8

Slide 8 text

Azure M achine Learning service 実験的なモデル開発⾃動機械学習デザイナー Pytyon / R モデル検証パッケージ化と Azure Container Instnaces での検証モデル学習コンピューティングクラスターモニタリングモデルのモニタリングデプロイスケーラブルな kubernetes サービスへのデプロイ CI/CD & モデル再学習 GitHub & Azure DevOps 統合・連携

Slide 9

Slide 9 text

クラウド CPU、GPU データセットプロファイル、ドリフト検知、ラベリング推論バッチ、リアルタイム MLOps 再現性、自動化、GitHub、CLI、REST 機械学習の実験 Python SDK & CLI 、Notebook、ドラック & ドロップ UI、ウィザード形式エッジ CPU、GPU、ONNX IoT Edge セキュリティ、管理、展開計算環境ジョブ管理、マネージドなワークステーション & クラスターモデル登録モデル登録、イメージ化モデル学習実験管理、実行 (Runs)

Slide 10

Slide 10 text

No content

Slide 11

Slide 11 text

Compute Instance (コンピューティングインスタンス) Compute Clusters (コンピューティングクラスター) • 開発/テスト用途の環境 • 大規模なデータ処理、学習、推論用

Slide 12

Slide 12 text

アジェンダ

Slide 13

Slide 13 text

1. 分散学習

Slide 14

Slide 14 text

複数デバイスを用いた大規模モデルの構築 Data Model GPU0 GPU1 GPU2 + Data Model GPU0 GPU1 GPU2 GPU3

Slide 15

Slide 15 text

エラーハンドリングセキュリティ結果の集計複数 VM の起動リソースのスケールアウトデータの配布ジョブのスケジューリングパッケージ依存性とコンテナー

Slide 16

Slide 16 text

学習ジョブの発行 Azure Storage Account Azure Container Registry Azure ML Experiment Logs and Results 学習スクリプト Mount/Download Azure ML Compute Cluster Azure ML Dataset/Datastore Azure ML Environment Job 設定 YAML ファイル DockerFile

Slide 17

Slide 17 text

サンプルコード https://aka.ms/ml-at-scale

Slide 18

Slide 18 text

Conv2d Max pooling Linear Linear Dropout Conv2d Conv2d Conv2d Max pooling Linear Linear Dropout Conv2d Conv2d

Slide 19

Slide 19 text

No content

Slide 20

Slide 20 text

No content

Slide 21

Slide 21 text

サンプルコード https://aka.ms/ml-at-scale

Slide 22

Slide 22 text

[python] [dask] add initial dask integration by SfinxCZ · Pull Request #3515 · microsoft/LightGBM (github.com) Image credit: James Bourbeau

Slide 23

Slide 23 text

No content

Slide 24

Slide 24 text

2. ハイパーパラメータチューニング

Slide 25

Slide 25 text

No content

Slide 26

Slide 26 text

No content

Slide 27

Slide 27 text

No content

Slide 28

Slide 28 text

microsoft/nni: An open source AutoML toolkit

Slide 29

Slide 29 text

サンプルコード https://aka.ms/ml-at-scale

Slide 30

Slide 30 text

HyperBand

Slide 31

Slide 31 text

No content

Slide 32

Slide 32 text

3. モデル探索

Slide 33

Slide 33 text

No content

Slide 34

Slide 34 text

ユーザーの入力特徴量エンジニアリングアルゴリズムの選択ハイパーパラメータのチューニングモデルのリーダーボードと解釈データセット設定と制約 76% 34% 82% 41% 88% 72% 81% 54% 73% 88% 90% 91% 95% 68% 56% 89% 89% 79% 順位モデルスコア 1 95% 2 76% 3 53% … 自動機械学習 AutoML (Automated Machine Learning) は、与えられたデータと設定に基づいて、「特徴量エンジニアリング」「アルゴリズム」とその「ハイパーパラメーター」の最良な組み合わせを探索します。

Slide 35

Slide 35 text

microsoft/FLAML: A fast and lightweight AutoML library. (github.com)

Slide 36

Slide 36 text

サンプルコード https://aka.ms/ml-at-scale

Slide 37

Slide 37 text

Head node Worker nodes ＋

Slide 38

Slide 38 text

No content

Slide 39

Slide 39 text

No content

Slide 40

Slide 40 text

Azure/machine-learning-at-scale: machine learning at scale on Azure Machine Learning (github.com) Azure Machine Learning - サービスとしての ML | Microsoft Azure Azure/azureml-examples: Official community-driven Azure Machine Learning examples, tested with GitHub Actions. Azure/MachineLearningNotebooks: Python notebooks with ML and deep learning examples with Azure Machine Learning Python SDK | Microsoft (github.com) Distributed Data Parallel — PyTorch 1.10.0 documentation Distributed Learning Guide — LightGBM 3.3.1.99 documentation microsoft/nni: An open source AutoML toolkit (github.com) Dask: Scalable analytics in Python What is Ray? — Ray v1.8.0

Slide 41

Slide 41 text

41 本セッションについて、日本マイクロソフト株式会社によるアンケートへご回答ご協力お願いいたします。 [D14:Azure Machine Learning で始める大規模機械学習] アンケートご回答のお願い https://aka.ms/dbts2021D14 ※アンケートURL 有効期限 : 2021/12/10

Slide 42

Slide 42 text

42 クラウドによるデータ活用やAI導入により、ビジネスを無限に成長させるための事例や手法をご紹介するポータルサイト https://aka.ms/AAe3f4o 2021年12月14日(火)~15日(水)の2日間に渡って Azure AI活用のベストプラクティスをお届けするオンラインイベント https://aka.ms/AAe3moh