Microsoft Ignite 2022 Azure AI アップデート

Microsoft Ignite 2022で発表されたAzure AIのアップデートを纏めた内容になります。

Transcript

1. 1
   Ignite 2022
   Azure AIサービスのアップデート
   Hirosato Gamo (Data & AI Cloud Solution Architect)
   ※解釈しやすいようシンプル化しており、個人的な見解を含みます。Azureサービスについての正確な情報は公式ドキュメントをご参照ください。
   

   View Slide

2. 2
   WHO AM I ?
   @hiro_gamo /Hirosato-Gamo
   元データサイエンティスト。データ基盤、ブロックチェーンシ
   ステム構築など経験し、現在はAI/ML関連システム開
   発の課題解決や技術検証に従事。
   HIROSATO GAMO
   Microsoft Japan Co., Ltd.
   Cloud Solution Architect (Data & AI)
   データサイエンス(機械学習・統計解析)、
   MLエンジニアリング、データエンジニアリング
   Expertise
   About me
   Hatena Blog
   

   View Slide

3. 3
   Agenda
   Cognitive Service, Applied AI Serviceアップデート
   2
   Azure Machine Learningアップデート
   3
   主に構築済みAIに関するアップデートをまとめます。プレビューとなった新機能が多めです。
   AIを組み込んだサービスについてもご紹介。
   (Ignite本番で披露されていたデモは今日は扱いません)
   今回GAとなった機能を中心に、機能の意義などを解説。
   デモを交えながらご紹介します。
   MicrosoftにおけるAIサービス
   1
   Microsoft のAIサービスってたくさんあるよね…と途方に暮れている方のために全体像をご紹介。
   

   View Slide

4. 4
   MicrosoftにおけるAIサービス
   

   View Slide

5. 5
   MicrosoftにおけるAI関連サービス
   Business Users
   & Citizen
   Developers
   Developers &
   Data Scientists
   Applications
   Partner Solutions
   Power Platform
   Power BI Power Apps Power Automate Power Virtual Agents
   Azure AI
   Scenario-Based Services
   Applied AI Services
   Bot
   Service
   Cognitive
   Search
   Form
   Recognizer
   Video
   Analyzer
   Metrics
   Advisor
   Immersive
   Reader
   Customizable AI Models
   Cognitive Services
   Vision Speech Language Decision OpenAI Services
   ML Platform
   Azure Machine Learning
   今日はここ
   

   View Slide

6. 6
   AzureにおけるAI/MLサービス
   Customizable, high-quality AI Models
   Vision Speech Language Decision OpenAI
   Scenario specific AI services
   Bot
   Service
   Cognitive
   Search
   Form
   Recognizer
   Video
   Indexer
   Metrics
   Advisor
   Immersive
   Reader
   構築済みAIを利用した
   特定用途を実現するサービス
   (バックエンドでCognitive Serviceが動いていたり)
   APIで提供される構築済みAI
   (一部追加学習でカスタマイズ可能)
   システムアーキテクチャの1要素として
   組み込まれるイメージ
   オープンライブラリなどを利用した
   自作のML開発・運用のトータル支援
   

   View Slide

7. 7
   Cognitive Service
   Applied AI Service
   アップデート
   

   View Slide

8. 8
   Spatial Analysis on the Edge (プレビュー)
   ⚫ Spatial Analysisは人の検出や滞在時間を判別する手段として
   従来のCognitive Serviceでも提供されていた
   ⚫ 工場の作業現場での利用にもニーズがある
   ⚫ ビデオのライブストリーミングを
   エッジ側で分析したうえでAzure IoT Hubに連携
   ⚫ 空間分析コンテナをEdgeで実行することで
   よりリアルタイムかつNW環境が制限される場合に
   おいてもAIによる映像処理が可能に。
   Azure IoT Hubと連携したEdge AI利用
   背景
   

   View Slide

9. 9
   Spatial Analysis on the Edge (プレビュー)
   Computer Vision for spatial analysis at the Edge - Microsoft Community Hub
   

   View Slide

10. 10
    Custom Neural Voice Pro マルチスタイル音声 (プレビュー)
    ⚫ Custom Neural Voiceにおいては音声を入力データとして
    構築済みモデルをカスタマイズすることが可能であったが、
    マルチスタイルのトレーニングには対応していなかった
    (スタイルとは簡単に言えば声色や感情などのこと)
    ⚫ 複数のスタイル/感情で話すカスタム ニューラル
    音声を作成。 マルチスタイルの音声は、ゲームの
    キャラクター、チャットボット、オーディオブッ
    ク、コンテンツ リーダーなどに有用
    ⚫ 最大 10 個のカスタム スタイルを
    作成することも可能
    マルチスタイル音声の対応
    背景
    カスタム ニューラル音声 Lite - Speech サービス - Azure Cognitive Services | Microsoft Learn
    

    View Slide

11. 11
    Custom Neural Voice Pro マルチスタイル音声 (プレビュー)
    

    View Slide

12. 12
    Conversation Summarization (プレビュー)
    ⚫ Cognitive Serviceでは以前よりプレビューでテキストの概要作成機能を
    提供していた
    ⚫ 会議議事録などにも概要作成にニーズがある
    ⚫ チャットのログやトランスクリプトから
    会話の要約を作成
    ⚫ コールセンタ業務における顧客とエージェントの
    会話を、問題と解決策に分けて要約する機能も
    ⚫ 会話を章立てしたり、章のタイトルを付与も可能
    会話文の要約機能がプレビューに
    背景
    会話要約 API を使ってテキストを要約する - Azure Cognitive Services | Microsoft Learn
    

    View Slide

13. 13
    Cognitive Service Dall-E 2 Model (Invite Only)
    ⚫ これまでにもMicrosoftはGPT-3はじめOpen AI開発のモデルを
    Cognitive Service のAPIとしての提供を目指すことを発表していた
    ⚫ 昨今話題の画像生成系のAIはまだCognitive Serviceでは提供されていなかった
    ⚫ Dall-E2モデルはVAE(変分オートエンコーダ)ベースの
    画像生成モデル。Microsoft Designerにも使われる。
    ⚫ Cognitive Service 経由でAPIとしての利用が
    Invite Onlyで開始
    APIでのDall-E2モデルによる画像生成
    背景
    DALL·E 2 (openai.com)
    

    View Slide

14. View Slide

15. 15
    Cognitive Service & Applied AI Service
    その他のアップデートサマリ
    Image Analysis 4.0
    Embedded Speech
    Continuous LID
    ➢ 画像キャプション、タグ付け、読み取り(ocr)、人物検出、スマート切
    り抜き、オブジェクト検出を1 つの API 呼び出しで一度に実行可能
    ➢ 組み込み系システムへのSpeechサービスの適用
    ➢ 継続的な言語識別。音声データ中で使われる言語が変更された際にも
    言語識別が可能
    Form Recognizer
    ➢ 事前構築済み契約書読み取りモデル
    ➢ 275の言語に対応
    プレビュー
    プレビュー
    プレビュー
    プレビュー
    

    View Slide

16. 16
    Azure Machine Learning
    アップデート
    

    View Slide

17. 17
    AzureにおけるAI/MLサービス
    Customizable, high-quality AI Models
    Vision Speech Language Decision OpenAI
    Scenario specific AI services
    Bot
    Service
    Cognitive
    Search
    Form
    Recognizer
    Video
    Indexer
    Metrics
    Advisor
    Immersive
    Reader
    構築済みAIを利用した
    特定用途を実現するサービス
    (バックエンドでCognitive Serviceが動いていたり)
    APIで提供される構築済みAI
    (一部追加学習でカスタマイズ可能)
    システムアーキテクチャの1要素として
    組み込まれるイメージ
    オープンライブラリなどを利用した
    自作のML開発・運用のトータル支援
    

    View Slide

18. 18
    機械学習システムの抽象イメージ
    学習ステップ 推論ステップ
    Jupyter Notebook
    Python R
    MLモデル
    学習コード
    ストレージ
    データ
    エンドポイント
    データ
    (or パス)
    コンピューティング
    サーバ
    MLモデル
    推論コード
    推論結果
    ipython Kernel
    アクセス
    ＆学習
    開発
    出力
    実行
    GPU(NNを使うとき)
    Python R
    GPU (NNを使うとき)
    データサイエンティストなど データサイエンティスト、
    システムUIなど
    

    View Slide

19. 19
    MLシステムの難しさ
    様々な学習データ、モデル、
    パラメータを試す必要がある。
    →何が良かった条件か分からなくなる
    コード・実行環境が
    データサイエンティストに依存
    →システム化するときに動かない
    MLモデルをシステム化するノウハウがない
    →モデル開発後にプロジェクトが停滞
    GPUなどコンピューティングリソースが
    特殊かつ高価
    →無駄なコストの発生や性能要件を満たせない
    そもそもML開発自体が難しい
    →スキルのある人員リソースを確保できない
    1
    2
    4
    5
    3
    開発補助
    実験管理
    コード・ライブラリ管理
    システムデプロイ
    コンピューティング管理
    

    View Slide

20. 20
    Azure MLを構成する機能
    開発補助
    実験管理
    コード・ライブラリ管理
    システムデプロイ
    コンピューティング管理
    ➢ R,Python開発者向けのNotebook環境
    ➢ テーブル・画像・言語など広範をカバーする自動機械学習(AutoML)
    ➢ ノーコード・ローコードでのML開発・パイプライン化(Designer)
    ➢ データセット・データストア登録
    ➢ パラメータ記録・可視化 (Mlflow連携あり)
    ➢ モデル登録
    ➢ Github連携
    ➢ コンテナ登録
    ➢ APIマネージドエンドポイント作成
    ➢ Kubenetesクラスタへのモデルデプロイ
    ➢ マネージドコンピューティングリソース作成
    ➢ 並列・分散の学習推論
    

    View Slide

21. Azure Machine Learning
    Registries Preview
    Azure Container for PyTorch Preview
    Automated ML
    • Support for NLP and image tasks Generally Available
    • Generation of model training codes Generally Available
    Apache Spark integration Preview
    Responsible AI Dashboard Generally Available
    Python SDK v2 Generally Available
    

    View Slide

22. 22
    Registries機能(プレビュー)
    ⚫ Azure MLはWorkSpace単位でコードやコンテンツを管理する
    ⚫ 開発WSと本番WSを分けたい場合、独立したワークスペース間で
    コンテンツを移動させる仕組みを構築する必要があった
    ⚫ ML 資産をワークスペースから切り離し、共有でホ
    ストし、組織内のすべてのワークスペースで使用
    できる。
    ⚫ ワークスペースごとの権限管理が明確化
    ⚫ スムーズなWS間の資産共有・移行
    レジストリ機能によるML資産管理
    背景
    

    View Slide

23. 23
    AutoMLにおけるImage、NLPタスク (GA)
    ⚫ Azure MLにおいてはテーブルデータのみがGAされていた
    ⚫ Image,NLPのタスクもそれぞれアルゴリズム選択に独自知識が必要で
    初心者には十分な精度を出すことが難しい
    ⚫ Imageタスク – Python SDK,CLI
    ✓ 画像分類(複数クラスと複数ラベル)
    ✓ 物体検出
    ✓ インスタンスセグメンテーション
    ⚫ NLPタスク – Python SDK,CLI
    ✓ テキスト分類
    ✓ エンティティ認識
    Image、NLPタスクにおけるAutoML
    背景
    ※AutoMLはコード生成機能もGA
    

    View Slide

24. 24
    Apache Spark統合(プレビュー)
    ⚫ Azure MLではApache Spark利用時に
    Synapse環境をアタッチする必要があった
    ⚫ コンピューティングインスタンスと同様に
    AzureML上で直接Spark環境の構築が可能に
    ⚫ コンピュートリソースがAzure ML資産で統一でき
    より完結な管理が可能に
    AzureML上でのSparkコンピュートリソースの作成
    背景
    Spark環境
    Apache Sparkは、Apache Software Foundationの登録商標または商標です。
    作成
    

    View Slide

25. 25
    Responsible AI (GA)
    ⚫ AIの活用において予期せぬ不当な予測をしないよう、
    公平性や説明性を検証したうえでデプロイする必要がある
    ⚫ AI開発においては自力でこれらを検証する手段を講じる必要があった
    ⚫ 作成したモデルに対して、
    Responsible AIの各観点(次ページ参照)で
    GUI上に可視化されたダッシュボードを確認できる
    ⚫ AIモデルの説明性も強化できるため
    運用における精度評価の参考にも利用可能
    Responsible AI ダッシュボードによる検証
    背景
    

    View Slide

26. 26
    Responsible AI dashboard
    エラー分析
    Model Overview
    モデルの解釈可能性
    予測と正解に発生する誤差の多寡について分析
    例：特徴量Aが100~200の間に判別ミスが多い など
    特徴量ごとの目的変数分布や予測分布の分析
    特徴量の重要度や、SHAP値など特徴量が予測にどのように寄与したかの分析
    因果関係推論 関心の結果に対して最も直接的効果を持つ特徴を識別
    公平性分析 性別、人種、年齢などのセンシティブな属性の観点から定義された
    さまざまなグループが、モデル予測によってどのような影響を受けるかの分析
    Data Explorer データセットの各特徴量ごとの分布や散布図の分析
    反事実分析と What-If 入力が変更された場合にモデルは何を予測するかをシミュレート
    

    View Slide