Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Microsoft の Responsible AI への取り組み (2020-11-10)

konabuta
November 10, 2020

Microsoft の Responsible AI への取り組み (2020-11-10)

第2回 AI/IoTシステム安全性シンポジウム(11/10~11/12)の登壇資料
https://ai-iot-system-safsec.connpass.com/event/186760/

1. Microsoft Responsible AI 概要
2. モデル再学習における互換性

konabuta

November 10, 2020
Tweet

More Decks by konabuta

Other Decks in Technology

Transcript

  1. Microsoft の Responsible AI への取り組み
    ⼥部⽥啓太
    ⽇本マイクロソフト株式会社
    Cloud Solution Architect – Machine Learning & Deep Learning

    View full-size slide

  2. ⼥部⽥啓太
    Cloud Solution Architect
    – Machine Learning & Deep Learning
    略歴 : ⽇本マイクロソフト株式会社 カスタマーサク
    セス事業本部 Data & AI クラウドソリューションアー
    キテクト。統計解析ソフトウェアベンダーでのセールス
    エンジニアを経て、2018年 Microsoft に⼊社。
    現在は、Azure Machine Learning を中⼼とした
    AI・機械学習のアーキテクトとしてお客様プロジェクト
    へ技術⽀援を⾏う。また、最新技術をイベント・セミ
    ナーで訴求している。

    View full-size slide

  3. アジェンダ

    View full-size slide

  4. アジェンダ

    View full-size slide

  5. ⼈間と AI のインタラクションのガイドライン
    会話 AI のガイドライン
    インクルーシブデザインのガイドライン
    AI 公平性チェックリスト checklist
    データセット⽤データシートのテンプレート template
    詳細情報 : 責任のある AI のリソース

    View full-size slide

  6. Control
    • MLOps
    • Data Drift
    Protect
    • Confidential ML
    • Differential privacy
    • Microsoft SEAL
    (準同型暗号)
    • Presidio
    Understand
    • InterpretML
    • FairLearn
    詳細情報 : 責任のある AI のリソース

    View full-size slide

  7. AI ビジネス スクールは、ビジネス リーダーが成功し AI を⾃社ビジネスに活⽤するためのオンラインコース
    AI 戦略を定義して
    ビジネスバリューを創出
    責任のある AI の⽅針を定義
    組織における
    AI のスケール
    ビジネスリーダーのための
    AI テクノロジー導⼊
    AI に対応する
    ビジネス⽂化を育成
    ビジネスユーザ向け AI
    17 9 22 22 10
    事例 著名リーダー
    によるビデオ
    実践ガイド 経営層による
    インサイト
    テクノロジー
    セッション
    In partnership with
    https://www.microsoft.com/ja-JP/ai/ai-business-school

    View full-size slide

  8. アジェンダ

    View full-size slide

  9. モデル精度
    ビジネス価値

    View full-size slide

  10. 互換性の導⼊が必要

    View full-size slide

  11. 互換性に関する評価指標の導⼊
    Compatibility score
    Updates in Human-AI Teams: Understanding and Addressing the Performance/Compatibility Tradeoff

    View full-size slide

  12. Updates in Human-AI Teams: Understanding and Addressing the Performance/Compatibility Tradeoff

    View full-size slide

  13. ( λ : 不協和の重み )
    ← New Error
    Updates in Human-AI Teams: Understanding and Addressing the Performance/Compatibility Tradeoff

    View full-size slide

  14. Updates in Human-AI Teams: Understanding and Addressing the Performance/Compatibility Tradeoff
    機械学習モデルの互換性 C (横軸) とモデル精度 RoC (縦軸) のトレードオフの関係

    View full-size slide

  15. microsoft/BackwardCompatibilityML

    View full-size slide

  16. lambda λ をスイープした結果を可視化

    View full-size slide

  17. Backward Trust Compatibility (BTC) Backward Error Compatibility (BEC)
    ・新しいモデル h2 でも h1 と同じく分類が成功している割合 ・新しいモデル h2 でも h1 と同じく分類が失敗している割合

    View full-size slide

  18. 各クラスにおいて
    互換性がなかったデータ数
    べん図での理解
    λ (互換性の割合) モデル精度 BTC BEC

    View full-size slide

  19. アジェンダ

    View full-size slide

  20. Future Compute : AI とその社会における役割
    Microsoft 責任のある AI
    Microsoft AI Business School
    Backward Compatibility Machine Learning (GitHub)
    Updates in Human-AI Teams: Understanding and Addressing the
    Performance/Compatibility Tradeoff
    InterpretML : Understand Models. Build Responsibly.

    View full-size slide