Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Microsoft Ignite 2022 Azure AI アップデート

Hirosato Gamo
November 30, 2022

Microsoft Ignite 2022 Azure AI アップデート

Microsoft Ignite 2022で発表されたAzure AIのアップデートを纏めた内容になります。

Hirosato Gamo

November 30, 2022
Tweet

More Decks by Hirosato Gamo

Other Decks in Technology

Transcript

  1. 1 Ignite 2022 Azure AIサービスのアップデート Hirosato Gamo (Data & AI

    Cloud Solution Architect) ※解釈しやすいようシンプル化しており、個人的な見解を含みます。Azureサービスについての正確な情報は公式ドキュメントをご参照ください。
  2. 2 WHO AM I ? @hiro_gamo /Hirosato-Gamo 元データサイエンティスト。データ基盤、ブロックチェーンシ ステム構築など経験し、現在はAI/ML関連システム開 発の課題解決や技術検証に従事。

    HIROSATO GAMO Microsoft Japan Co., Ltd. Cloud Solution Architect (Data & AI) データサイエンス(機械学習・統計解析)、 MLエンジニアリング、データエンジニアリング Expertise About me Hatena Blog
  3. 3 Agenda Cognitive Service, Applied AI Serviceアップデート 2 Azure Machine

    Learningアップデート 3 主に構築済みAIに関するアップデートをまとめます。プレビューとなった新機能が多めです。 AIを組み込んだサービスについてもご紹介。 (Ignite本番で披露されていたデモは今日は扱いません) 今回GAとなった機能を中心に、機能の意義などを解説。 デモを交えながらご紹介します。 MicrosoftにおけるAIサービス 1 Microsoft のAIサービスってたくさんあるよね…と途方に暮れている方のために全体像をご紹介。
  4. 4 MicrosoftにおけるAIサービス

  5. 5 MicrosoftにおけるAI関連サービス Business Users & Citizen Developers Developers & Data

    Scientists Applications Partner Solutions Power Platform Power BI Power Apps Power Automate Power Virtual Agents Azure AI Scenario-Based Services Applied AI Services Bot Service Cognitive Search Form Recognizer Video Analyzer Metrics Advisor Immersive Reader Customizable AI Models Cognitive Services Vision Speech Language Decision OpenAI Services ML Platform Azure Machine Learning 今日はここ
  6. 6 AzureにおけるAI/MLサービス Customizable, high-quality AI Models Vision Speech Language Decision

    OpenAI Scenario specific AI services Bot Service Cognitive Search Form Recognizer Video Indexer Metrics Advisor Immersive Reader 構築済みAIを利用した 特定用途を実現するサービス (バックエンドでCognitive Serviceが動いていたり) APIで提供される構築済みAI (一部追加学習でカスタマイズ可能) システムアーキテクチャの1要素として 組み込まれるイメージ オープンライブラリなどを利用した 自作のML開発・運用のトータル支援
  7. 7 Cognitive Service Applied AI Service アップデート

  8. 8 Spatial Analysis on the Edge (プレビュー) ⚫ Spatial Analysisは人の検出や滞在時間を判別する手段として

    従来のCognitive Serviceでも提供されていた ⚫ 工場の作業現場での利用にもニーズがある ⚫ ビデオのライブストリーミングを エッジ側で分析したうえでAzure IoT Hubに連携 ⚫ 空間分析コンテナをEdgeで実行することで よりリアルタイムかつNW環境が制限される場合に おいてもAIによる映像処理が可能に。 Azure IoT Hubと連携したEdge AI利用 背景
  9. 9 Spatial Analysis on the Edge (プレビュー) Computer Vision for

    spatial analysis at the Edge - Microsoft Community Hub
  10. 10 Custom Neural Voice Pro マルチスタイル音声 (プレビュー) ⚫ Custom Neural

    Voiceにおいては音声を入力データとして 構築済みモデルをカスタマイズすることが可能であったが、 マルチスタイルのトレーニングには対応していなかった (スタイルとは簡単に言えば声色や感情などのこと) ⚫ 複数のスタイル/感情で話すカスタム ニューラル 音声を作成。 マルチスタイルの音声は、ゲームの キャラクター、チャットボット、オーディオブッ ク、コンテンツ リーダーなどに有用 ⚫ 最大 10 個のカスタム スタイルを 作成することも可能 マルチスタイル音声の対応 背景 カスタム ニューラル音声 Lite - Speech サービス - Azure Cognitive Services | Microsoft Learn
  11. 11 Custom Neural Voice Pro マルチスタイル音声 (プレビュー)

  12. 12 Conversation Summarization (プレビュー) ⚫ Cognitive Serviceでは以前よりプレビューでテキストの概要作成機能を 提供していた ⚫ 会議議事録などにも概要作成にニーズがある

    ⚫ チャットのログやトランスクリプトから 会話の要約を作成 ⚫ コールセンタ業務における顧客とエージェントの 会話を、問題と解決策に分けて要約する機能も ⚫ 会話を章立てしたり、章のタイトルを付与も可能 会話文の要約機能がプレビューに 背景 会話要約 API を使ってテキストを要約する - Azure Cognitive Services | Microsoft Learn
  13. 13 Cognitive Service Dall-E 2 Model (Invite Only) ⚫ これまでにもMicrosoftはGPT-3はじめOpen

    AI開発のモデルを Cognitive Service のAPIとしての提供を目指すことを発表していた ⚫ 昨今話題の画像生成系のAIはまだCognitive Serviceでは提供されていなかった ⚫ Dall-E2モデルはVAE(変分オートエンコーダ)ベースの 画像生成モデル。Microsoft Designerにも使われる。 ⚫ Cognitive Service 経由でAPIとしての利用が Invite Onlyで開始 APIでのDall-E2モデルによる画像生成 背景 DALL·E 2 (openai.com)
  14. None
  15. 15 Cognitive Service & Applied AI Service その他のアップデートサマリ Image Analysis

    4.0 Embedded Speech Continuous LID ➢ 画像キャプション、タグ付け、読み取り(ocr)、人物検出、スマート切 り抜き、オブジェクト検出を1 つの API 呼び出しで一度に実行可能 ➢ 組み込み系システムへのSpeechサービスの適用 ➢ 継続的な言語識別。音声データ中で使われる言語が変更された際にも 言語識別が可能 Form Recognizer ➢ 事前構築済み契約書読み取りモデル ➢ 275の言語に対応 プレビュー プレビュー プレビュー プレビュー
  16. 16 Azure Machine Learning アップデート

  17. 17 AzureにおけるAI/MLサービス Customizable, high-quality AI Models Vision Speech Language Decision

    OpenAI Scenario specific AI services Bot Service Cognitive Search Form Recognizer Video Indexer Metrics Advisor Immersive Reader 構築済みAIを利用した 特定用途を実現するサービス (バックエンドでCognitive Serviceが動いていたり) APIで提供される構築済みAI (一部追加学習でカスタマイズ可能) システムアーキテクチャの1要素として 組み込まれるイメージ オープンライブラリなどを利用した 自作のML開発・運用のトータル支援
  18. 18 機械学習システムの抽象イメージ 学習ステップ 推論ステップ Jupyter Notebook Python R MLモデル 学習コード

    ストレージ データ エンドポイント データ (or パス) コンピューティング サーバ MLモデル 推論コード 推論結果 ipython Kernel アクセス &学習 開発 出力 実行 GPU(NNを使うとき) Python R GPU (NNを使うとき) データサイエンティストなど データサイエンティスト、 システムUIなど
  19. 19 MLシステムの難しさ 様々な学習データ、モデル、 パラメータを試す必要がある。 →何が良かった条件か分からなくなる コード・実行環境が データサイエンティストに依存 →システム化するときに動かない MLモデルをシステム化するノウハウがない →モデル開発後にプロジェクトが停滞

    GPUなどコンピューティングリソースが 特殊かつ高価 →無駄なコストの発生や性能要件を満たせない そもそもML開発自体が難しい →スキルのある人員リソースを確保できない 1 2 4 5 3 開発補助 実験管理 コード・ライブラリ管理 システムデプロイ コンピューティング管理
  20. 20 Azure MLを構成する機能 開発補助 実験管理 コード・ライブラリ管理 システムデプロイ コンピューティング管理 ➢ R,Python開発者向けのNotebook環境

    ➢ テーブル・画像・言語など広範をカバーする自動機械学習(AutoML) ➢ ノーコード・ローコードでのML開発・パイプライン化(Designer) ➢ データセット・データストア登録 ➢ パラメータ記録・可視化 (Mlflow連携あり) ➢ モデル登録 ➢ Github連携 ➢ コンテナ登録 ➢ APIマネージドエンドポイント作成 ➢ Kubenetesクラスタへのモデルデプロイ ➢ マネージドコンピューティングリソース作成 ➢ 並列・分散の学習推論
  21. Azure Machine Learning Registries Preview Azure Container for PyTorch Preview

    Automated ML • Support for NLP and image tasks Generally Available • Generation of model training codes Generally Available Apache Spark integration Preview Responsible AI Dashboard Generally Available Python SDK v2 Generally Available
  22. 22 Registries機能(プレビュー) ⚫ Azure MLはWorkSpace単位でコードやコンテンツを管理する ⚫ 開発WSと本番WSを分けたい場合、独立したワークスペース間で コンテンツを移動させる仕組みを構築する必要があった ⚫ ML

    資産をワークスペースから切り離し、共有でホ ストし、組織内のすべてのワークスペースで使用 できる。 ⚫ ワークスペースごとの権限管理が明確化 ⚫ スムーズなWS間の資産共有・移行 レジストリ機能によるML資産管理 背景
  23. 23 AutoMLにおけるImage、NLPタスク (GA) ⚫ Azure MLにおいてはテーブルデータのみがGAされていた ⚫ Image,NLPのタスクもそれぞれアルゴリズム選択に独自知識が必要で 初心者には十分な精度を出すことが難しい ⚫

    Imageタスク – Python SDK,CLI ✓ 画像分類(複数クラスと複数ラベル) ✓ 物体検出 ✓ インスタンスセグメンテーション ⚫ NLPタスク – Python SDK,CLI ✓ テキスト分類 ✓ エンティティ認識 Image、NLPタスクにおけるAutoML 背景 ※AutoMLはコード生成機能もGA
  24. 24 Apache Spark統合(プレビュー) ⚫ Azure MLではApache Spark利用時に Synapse環境をアタッチする必要があった ⚫ コンピューティングインスタンスと同様に

    AzureML上で直接Spark環境の構築が可能に ⚫ コンピュートリソースがAzure ML資産で統一でき より完結な管理が可能に AzureML上でのSparkコンピュートリソースの作成 背景 Spark環境 Apache Sparkは、Apache Software Foundationの登録商標または商標です。 作成
  25. 25 Responsible AI (GA) ⚫ AIの活用において予期せぬ不当な予測をしないよう、 公平性や説明性を検証したうえでデプロイする必要がある ⚫ AI開発においては自力でこれらを検証する手段を講じる必要があった ⚫

    作成したモデルに対して、 Responsible AIの各観点(次ページ参照)で GUI上に可視化されたダッシュボードを確認できる ⚫ AIモデルの説明性も強化できるため 運用における精度評価の参考にも利用可能 Responsible AI ダッシュボードによる検証 背景
  26. 26 Responsible AI dashboard エラー分析 Model Overview モデルの解釈可能性 予測と正解に発生する誤差の多寡について分析 例:特徴量Aが100~200の間に判別ミスが多い

    など 特徴量ごとの目的変数分布や予測分布の分析 特徴量の重要度や、SHAP値など特徴量が予測にどのように寄与したかの分析 因果関係推論 関心の結果に対して最も直接的効果を持つ特徴を識別 公平性分析 性別、人種、年齢などのセンシティブな属性の観点から定義された さまざまなグループが、モデル予測によってどのような影響を受けるかの分析 Data Explorer データセットの各特徴量ごとの分布や散布図の分析 反事実分析と What-If 入力が変更された場合にモデルは何を予測するかをシミュレート