[第50回 Machine Learning 15minutes! Broadcast] Azure Machine Learning - Ignite 2020 Updates

* [第50回 Machine Learning 15minutes! Broadcast] Azure Machine Learning - Ignite 2020 Updates
* https://satonaoki.wordpress.com/2020/12/05/ml15min-azureml-ignite/

Transcript

1. Azure Machine Learning –
   Ignite 2020 Updates
   SATO Naoki (Neo)
   Senior Software Engineer
   Microsoft Corporation
   @satonaoki
   

   View Slide

2. View Slide

3. View Slide

4. Azure AI
   Machine Learning service
   Azure Machine Learning
   Scenario specific services
   Cognitive Search
   Bot Service Form Recognizer Video Indexer
   Customizable AI models
   Vision, Speech, Language, Decision Cognitive Services
   On your terms Mission Critical Responsible
   

   View Slide

5. アジェンダ
   

   View Slide

6. Azure Machine Learning
   

   View Slide

7. Azure M achine Learning service
   実験的なモデル開発
   ⾃動機械学習
   デザイナー
   Pytyon / R
   モデル検証
   パッケー
   ジ化と
   Azure Container
   Instnaces での検証
   モデル学習
   コンピュー
   ティング
   クラスター
   モニタリング
   モデルのモニタリング
   デプロイ
   スケー
   ラブルな
   kubernetes サ
   ー
   ビス
   へ
   のデプロイ
   CI/CD & モデル再学習
   GitHub & Azure DevOps 統合・連携
   

   View Slide

8. View Slide

9. View Slide

10. View Slide

11. デザイナー
    

    View Slide

12. データ
    ゴール設定
    制約条件
    Optimized model
    Feature
    Engineering
    model
    selection
    Hyperparameter
    Tuning
    自動機械学習 (Automated ML)
    

    View Slide

13. Trusted
    Industry leading
    MLOps
    Open &
    Interoperable
    For all skill
    levels
    あらゆるスキル レベルに対応し、
    ML の生産性、利便性を向上
    DevOps 連携による
    ML ライフサイクルの運用管理
    責任のある
    ML ソリューションの構築
    オープン テクノロジーの採用
    と相互運用性の実現
    

    View Slide

14. Industry leading
    MLOps
    Open &
    Interoperable
    For all skill
    levels
    デザイナー、
    自動機械学習 UI が
    GA (一般提供) に
    Trusted
    Private Link などの
    セキュリティ機能が
    充実
    

    View Slide

15. • 直感的な GUI で ML パイプラインを構築
    • 特徴量エンジニアリング
    • モデル学習 (回帰、分類、クラスタリング)
    • 推論 (リアルタイム、バッチ)
    • カスタム モデル スクリプト (Python、R)
    機械学習のモデル構築、テスト、デプロイをするためのビジュアル パイプライン
    Azure Machine Learning デザイナー とは
    https://docs.microsoft.com/ja-jp/azure/machine-learning/concept-designer
    

    View Slide

16. View Slide

17. データのインポート
    データの手動入力
    データのエクスポート
    データのビン化
    データ結合
    データ正規化
    パーティションとサンプル
    重複行の削除
    SMOTE
    列変換
    列の選択
    データの分割
    列の追加
    行の追加
    算術演算の適用
    SQL 変換の適用
    欠損値の除去
    値の置換
    CSA への変換
    データセットへ変換
    インジケーター値へ変換
    メタデータの編集
    特徴量選択フィルター
    Permutation 特徴量
    デシジョン ツリー
    ディジョン フォレスト
    高速フォレスト分位点回帰
    線形回帰
    ロジスティック回帰
    ニューラル ネットワーク
    ポワソン回帰
    ブースト デシジョン ツリー
    サポート ベクター マシン
    K-Means クラスタリング
    DenseNet
    ResNet
    SVD Recommender
    Wide Deep Recommender
    PCA 異常検知
    LDA
    Python モデルの作成
    Python スクリプトの実行
    R スクリプトの実行
    画像データ変換処理
    画像データの分割
    テキスト前処理
    Word2Vec
    Glove
    FastText
    クロス バリデーション
    スコアリング
    パラメーター チューニング
    

    View Slide

18. View Slide

19. ユーザーの入力
    特徴量
    エンジニアリング
    アルゴリズム
    の選択
    ハイパーパラメータ
    のチューニング
    モデルの
    リーダーボードと解釈
    データセット
    設定と制約
    76% 34% 82%
    41%
    88%
    72%
    81% 54% 73%
    88% 90% 91%
    95% 68%
    56%
    89% 89% 79%
    順位 モデル スコア
    1 95%
    2 76%
    3 53%
    …
    自動機械学習は、与えられたデータに対して「最高のモデル」を探索するために、
    特徴量エンジニアリング、アルゴリズム/ハイパーパラメーター選択を自動実行
    

    View Slide

20. Python ユーザーなら
    こちら
    

    View Slide

21. 回帰
    分類 時系列
    予測
    

    View Slide

22. View Slide

23. データ準備と探索
    

    View Slide

24. ターゲット変数と
    計算環境の選択
    

    View Slide

25. タスクの選択
    

    View Slide

26. モデル一覧
    

    View Slide

27. モデル精度
    

    View Slide

28. モデル解釈
    

    View Slide

29. アジェンダ
    

    View Slide

30. View Slide

31. 関連リソース
    Storage Key Vault Container
    Registry
    App Insights
    モデル推論サービス
    AKS
    Cluster
    ACI
    学習データのデータソース
    Storage Data Lake
    Storage
    SQL
    Database
    モデル学習のサービス
    Compute
    Instance
    Compute
    Cluster
    多くの Azure PaaS
    サービスに依存
    

    View Slide

32. Authenticate
    Create Workspace and
    Authenticate
    Pass secrets
    SAS mount
    Training
    Key-based auth Token/key auth
    ACI AKS
    Inference
    Compute Instance
    Azure Active Directory
    SSH
    Get/set
    secrets
    多要素認証
    Azure Machine Learning studio
    

    View Slide

33. 管理者から見える画面 データ サイエンティストから見える画面
    リソース作成権限なし
    リソース作成権限あり
    

    View Slide

34. Cosmos DB がユーザーの
    サブスクリプション内で立ち上がる
    マイクロソフト
    管理 Key
    お客様管理 Key
    ドキュメント : Data encryption with Azure Machine Learning
    Cosmos DB 以外の関連サービスの
    CMK の対応について記載
    

    View Slide

35. Machine Learning
    Workspace
    Compute
    Instance
    Compute
    Cluster
    AKS Cluster
    Your VNet
    Storage Key Vault Container
    Registry
    Your VNet
    機能
    ワークスペース
    - Private Link
    関連リソース
    - サービス エンドポイント
    - プライベート エンドポイント
    モデル トレーニング
    - 仮想ネットワーク内
    - プライベート IP (ロードマップ)
    モデル推論
    - 仮想ネットワーク内の AKS
    - プライベート AKS クラスター
    

    View Slide

36. Private Link を利用して、プライベート
    エンドポイントと Azure PaaS サービスを
    マッピング
    プライベート エンドポイント経由での通信のみ
    アクセスが許可されるため、インターネット
    環境などの外部からのアクセスを遮断可能
    Private Link の発表
    

    View Slide

37. Microsoft Managed
    Azure Batch
    Services
    AKS Control
    Plane
    Machine Learning
    Workspace
    Our PC
    VPN
    Gateway
    (Private)
    Microsoft Managed
    Compute Cluster
    Compute Instance AKS (Private)
    Private
    Endpoint
    or
    Your VNet
    Private
    Endpoint
    Service
    Endpoint
    

    View Slide

38. Azure Machine Learning データの監視のリファレンス
    Azure Policy の組み込みのポリシー定義 – Machine Learning
    

    View Slide

39. View Slide

40. Azure 無償トライアル
    Azure Machine Learning デザイナーとは
    自動機械学習 AutoML とは
    エンタープライズ セキュリティの概要
    自動機械学習 デザイナー
    デザイナーサンプル集
    Ignite 2020 セッション: E2E machine learning for enterprises in a secure way
    

    View Slide

41. View Slide

42. View Slide