Upgrade to Pro — share decks privately, control downloads, hide ads and more …

wids-BE EQUAL TECHNOLOGY TALK AIの信頼性公平性 - AI倫理に対するIBMのアプローチ

wids-BE EQUAL TECHNOLOGY TALK AIの信頼性公平性 - AI倫理に対するIBMのアプローチ

企業でAI導入が進むにつれて、AIというブラックボックスの中から導き出された結論によって引き起こされる倫理的な課題や、その判定結果がもたらす社会的な影響が懸念されています。IBMでは2017年に Corporate Responsibility Reportで「AIの信頼性と透明性」を公開し、AI倫理のためのガイドを発表しました。本セッションでは、AI倫理に対するIBMの取り組みや信頼できるAIを実現するための方法についてご紹介します。

https://widstokyoibm2021.splashthat.com/

Asuka Saito

June 07, 2021
Tweet

More Decks by Asuka Saito

Other Decks in Business

Transcript

  1. BE EQUAL TECHNOLOGY TALK
    AIの信頼性公平性
    - AI倫理に対するIBMのアプローチ -
    ⻫藤明⽇⾹
    ⽇本アイ・ビー・エム株式会社
    テクノロジー事業本部
    データ・AI・オートメーション事業部 Data & AI
    第⼀テクニカル・セールス
    IT スペシャリスト

    View full-size slide

  2. 本セッションのSNS投稿について
    SNS投稿︓ 全てOK
    OK: テキストによる⽂字のみの投稿
    OK: スクリーンショットの画像/動画を含んだ投稿
    ハッシュタグ: #WiDS2021 #WiDSTokyoIBM

    View full-size slide

  3. ⾃⼰紹介
    • ⻫藤明⽇⾹と申します。
    • IBMで分析系製品のテクニカルセールスをしています。
    • 趣味は、物作り。⼿作りは⾷品(味噌、梅⼲)から⼿芸(洋裁、編み物、⼿
    織)、DIY、電⼦⼯作までなんでも好きです。
    • ⾼齢猫の介護中
    • 好きな⾔葉はデモクラシー、BeEqual、エンパワーメント
    • Twitter アカウント:nyasuka22
    • Qiita:https://qiita.com/Asuka_Saito
    • メール:[email protected]
    3
    © 2021 IBM Corporation

    View full-size slide

  4. 本⽇のご紹介内容
    1. IBM Think 2021
    2. AIの信頼性、公平性とは
    3. AI倫理に対するIBMの取り組み
    4. テクノロジーの紹介
    5. 最後に- Be Equal | IBM Diversity and Inclusion -
    4
    © 2021 IBM Corporation

    View full-size slide

  5. 1. IBM Think 2021
    5
    © 2021 IBM Corporation

    View full-size slide

  6. 6
    © 2021 IBM Corporation
    Think 2021
    2021年5⽉12⽇(⽇本時間)オンラインで開催されました。
    https://www.ibm.com/events/think/#intro
    オンデマンドでの視聴も可能です!
    6
    © 2021 IBM Corporation

    View full-size slide

  7. 7
    7
    © 2021 IBM Corporation
    2296 How trustworthy is your AI?
    2312 The currency of trust
    1337 Building trust and confidence in AI:
    How to govern, monitor and keep AI in
    control with KPMG and IBM
    (2分の動画はこちら)
    など多数
    信頼性、透明性、公平性に関するセッション

    View full-size slide

  8. 8
    © 2021 IBM Corporation
    8
    © 2021 IBM Corporation IBM News Room https://jp.newsroom.ibm.com/2021-05-12-IBM-accelerates-digital-transformation-at-2021s-annual-event-Think
    https://filecache.mediaroom.com/mr5mr_ibmnews/190846/IBM%27s%20Global%20AI%20Adoption%20Index%202021_Executive-Summary.pdf
    プレス、調査レポート発表

    View full-size slide

  9. • ⾃社においてAIの導⼊が加速(43%)
    • 今後12か⽉間にスキルとAIソリューションの両⽅に投資する計画がある(33%)
    • AIがどのように決定に⾄ったかを説明する能⼒が重要(91%)
    • 20を超えるさまざまなデータソースからAIに情報を提供している(66%)
    https://newsroom.ibm.com/IBMs-Global-AI-Adoption-Index-2021 9
    © 2021 IBM Corporation
    Global AI Adoption Index 2021
    Covid-19後 のAIへの意識調査

    View full-size slide

  10. • ⾃社においてAIの導⼊が加速(43%)
    • 今後12か⽉間にスキルとAIソリューションの両⽅に投資する計画がある(33%)
    • AIがどのように決定に⾄ったかを説明する能⼒が重要(91%)
    • 20を超えるさまざまなデータソースからAIに情報を提供している(66%)
    https://newsroom.ibm.com/IBMs-Global-AI-Adoption-Index-2021
    © 2021 IBM Corporation
    Global AI Adoption Index 2021
    10
    Covid-19後 のAIへの意識調査

    View full-size slide

  11. AI活⽤を妨げている主な要因
    © 2021 IBM Corporation
    データ ⼈材 信頼性
    データはAIの⽣命線
    データの提供が困難だと
    AI推進を妨げることに
    60%
    データの品質
    を管理するの
    が難しい
    AIスキル保有者は少なく
    また需要が⾼い為
    確保するのが難しい
    62%
    スキル保有者
    の採⽤が難し

    ユーザーがAIシステム
    を信頼していないた
    め、懐疑論が広まって
    いる
    65%
    AIの決定とアク
    ションを⼈間がレ
    ビューするための
    フレームワークと
    アプローチが必要
    FORRESTER FORRESTER FORRESTER
    Based on 2019 Forrester “Challenges That Hold Firms Back From Achieving AI Aspirations” 11

    View full-size slide

  12. AI活⽤を妨げている主な要因
    © 2021 IBM Corporation
    データ ⼈材 信頼性
    データはAIの⽣命線
    データの提供が困難だと
    AI推進を妨げることに
    60%
    データの品質
    を管理するの
    が難しい
    AIスキル保有者は少なく
    また需要が⾼い為
    確保するのが難しい
    62%
    スキル保有者
    の採⽤が難し

    ユーザーがAIシステム
    を信頼していないた
    め、懐疑論が広まって
    いる
    65%
    AIの決定とアク
    ションを⼈間がレ
    ビューするための
    フレームワークと
    アプローチが必要
    FORRESTER FORRESTER FORRESTER
    Based on 2019 Forrester “Challenges That Hold Firms Back From Achieving AI Aspirations” 12

    View full-size slide

  13. 2. AIの信頼性、公平性とは
    13
    © 2021 IBM Corporation

    View full-size slide

  14. ⽇本政府が策定した「⼈間中⼼のAI社会原則」
    (6)公平性、説明責任及び透明性の原則
    「AI-Readyな社会」においては、AIの利⽤によって、⼈々が、その⼈の
    持つ背景によって不当な差別を受けたり、⼈間の尊厳に照らして不当な
    扱いを受けたりすることがないように、公平性及び透明性のある意思決
    定とその結果に対する説明責任(アカウンタビリティ)が適切に確保される
    と共に、技術に対する信頼性(Trust)が担保される必要がある。
    ・AIの設計思想の下において、⼈々がその⼈種、性別、国籍、年齢、
    政治的信念、宗教等の多様なバックグラウンドを理由に不当な差別を
    されることなく、全ての⼈々が公平に扱われなければならない。
    ・AIを利⽤しているという事実、AIに利⽤されるデータの取得⽅法や
    使⽤⽅法、AIの動作結果の適切性を担保する仕組みなど、⽤途や状況
    に応じた適切な説明が得られなければならない。
    ⼈間中⼼のAI 社会原則(平成31年3⽉29⽇): https://www.cas.go.jp/jp/seisaku/jinkouchinou/pdf/aigensoku.pdf
    © 2021 IBM Corporation 14

    View full-size slide

  15. AIの信頼性、公平性とは
    • その結果が正しいと証明できる。説明できる。
    → 信頼性、説明責任
    • AIが倫理的に差別的なことをしない。
    → 公平性、透明性
    © 2021 IBM Corporation 15

    View full-size slide

  16. Explainable AI (説明可能なAI)
    アンサンブル
    ニューラルネット
    深層学習
    回帰(⼀次関数)
    決定⽊
    わかりやすい
    (whitebox)
    わかりにくい
    (blackbox)
    精度が低い 精度が⾼い
    モデルの精度(正解率の⾼さ)と「わかりやすさ」はトレードオフの関係
    -> ⾼い精度を保ちつつ説明性を担保する⽅法はないのか?
    © 2021 IBM Corporation 16

    View full-size slide

  17. アルゴリズムは公平か?
    • アルゴリズムは公平ではなく、作成者の意図やバイアスが紛れ込む
    l アルゴリズムは過去の⾏為や⾏動パターンを繰りかえし、⾃動的に現状を維持するだけ
    l 判定の最適化とは、過去データの特徴からセグメントを抽出した後に、判定対象を特定のセグ
    メントに分類すること
    • セグメントの境界を決める重要な特徴データ以外の個々⼈の属性や事情は考慮されない
    l バイアスが紛れ込む要因の例
    • 過去のデータ(実績)の偏り
    • データの選択を⾏うのは⼈間
    • 有効かもしれないが存在しないデータ
    • 代理データを無意識に利⽤
    • 成功要因を恣意的に設定
    © 2021 IBM Corporation 17

    View full-size slide

  18. 3. AI倫理に対する
    IBMの取り組み
    18
    © 2021 IBM Corporation

    View full-size slide

  19. 取り組みの歴史
    • 2017年 Corporate Responsibility Report
    最初の項⽬にTrust and transparencyがあり、AIに関する責任性に⾔及
    • 2018年9⽉21⽇「AI倫理のためのガイド」
    1. Accountability(説明責任):AIの設計者と開発者は、AIの設計、開発、意思決定プ
    ロセス、結果に対して熟慮する責任を負います。
    2. Value Alignment (価値観の⼀致):AIの設計は、対象とするユーザー・グループ
    が有する規範や価値観を考慮して⾏うべきです。
    3. Explainability(説明可能性):AIの決定プロセスが⼈間にも容易に認知、感知、理
    解ができるように、AIを設計すべきです。
    4. User Data Rights(ユーザー・データの権利):ユーザー・データを保護し、アク
    セスや利⽤に関するユーザーの権利を保持できるように、AIを設計すべきです。
    5. Fairness(公平性):偏⾒を最⼩限に抑え、誰もが参加できる社会を後押しするよ
    うに、AIを設計すべきです。
    出典 https://www.ibm.com/blogs/think/jp-ja/everyday-ethics-for-artificial-intelligence/
    © 2021 IBM Corporation 19

    View full-size slide

  20. AI倫理 に対する IBMのアプローチ
    https://www.ibm.com/jp-ja/artificial-intelligence/ethics
    © 2021 IBM Corporation 20

    View full-size slide

  21. AI倫理 に対する IBMのアプローチ
    © 2021 IBM Corporation https://www.ibm.com/jp-ja/artificial-intelligence/ethics 21

    View full-size slide

  22. AI倫理 に対する IBMのアプローチ
    © 2021 IBM Corporation https://www.ibm.com/jp-ja/artificial-intelligence/ethics 22

    View full-size slide

  23. IBMの取り組み
    • IBMでは以上の全社的な⽅針を受けて、次の2つの製品・サービスを提
    供しています。
    • AI Fairness 360 / AI Explainability 360 / Adversarial Robustness
    360
    • Watson OpenScale
    © 2021 IBM Corporation 23
    https://aif360.mybluemix.net/
    https://www.ibm.com/jp-ja/cloud/watson-openscale
    https://www.ibm.com/blogs/solutions/jp-ja/watson-openscale-ai-with-nttdata/

    View full-size slide

  24. 4. テクノロジーの紹介
    24
    © 2021 IBM Corporation

    View full-size slide

  25. AI説明性、公平性を担保する主要機能
    • Payload Logging機能がベースの機能となっています。
    • Payload Loggingを使って説明性(Explainability) と公平性(Fairness) を実現しています。
    • それぞれの拡張機能としてContrastive ExplanationとBias mitigationがあります。
    • それ以外にモニタリング機能や、ドリフト・モニタリング機能がなどがあります。
    25
    © 2021 IBM Corporation
    Payload Logging
    説明性
    (Explainability)
    公平性
    (Fairness)
    Contrastive
    Explanation
    Bias mitigation ・Monitoring
    ・Performance
    ・Drift monitoring
    Watson OpenScale 主要機能

    View full-size slide

  26. 26
    © 2021 IBM Corporation
    デモンストレーション

    View full-size slide

  27. AIの公平性、説明性のデモ
    デモシナリオ
    ⾦融機関の融資における信⽤リスク・モデルのモニタリング
    • さまざまな要因に基づいて対象者が融資を受ける資格があるかを判定
    • クレジットカード利⽤履歴、公共料⾦⽀払い履歴、年齢、扶養家族
    の⼈数などを特徴量としてトレーニング
    27
    © 2021 IBM Corporation

    View full-size slide

  28. AIの公平性、説明性のデモ
    デモシナリオ
    • いままでより、より多様で複雑なデータ分析を⾏い、⾼度なAIのモデル
    開発をしたいが、ブラックボックス化してしまうことを懸念している。
    • 規制上の理由でモデルの判定結果の理由を明確にする必要がある。
    • ビジネス上のインテグリティーの理由で、特定のセグメント(性別、⼈
    種、年齢 等)に対して意図しないバイアスをかけていないことを確認し
    たい。
    28
    © 2021 IBM Corporation

    View full-size slide

  29. AIの公平性、説明性のデモ
    デモシナリオ
    本番環境で稼働中の信⽤リスク・モデルのリスクやパフォーマンスをど
    のようにモニタリングしていくかご覧ください。
    29
    © 2021 IBM Corporation

    View full-size slide

  30. 5.最後に
    - Be Equal | IBM Diversity
    and Inclusion -
    32
    © 2021 IBM Corporation

    View full-size slide

  31. 33
    © 2021 IBM Corporation https://www.ibm.com/ibm/responsibility/jp-ja/inclusion/index.html

    View full-size slide

  32. AI 倫理
    IBM は、AI が倫理的かつ責任を持って採⽤されるようにするためのグローバルな取り組みをリードしています。
    • IBM は、AI が倫理的かつ責任を持って採⽤されるようにするための会社のグローバルな取り組みを主導する AI
    Ethics Board を作成しました。
    • 私たちは、AI の倫理的進歩のための政策提⾔を策定した、EU の AI に関するハイレベル専⾨家グループに参加
    している唯⼀のグローバル企業の 1 つです。
    • 当社のオープンソース ツールである AI Fairness 360 と Explainability 360 は、組織が AI システムの有害で容
    認できないバイアスに対処するのに役⽴ちます。
    • 私たちは、バチカンローマの AI 倫理の呼びかけの形成を⽀援し、最初の署名者の 1 つでした。
    • 私たちはノートルダム⼤学と提携して、ノートルダム⼤学 IBM Tech Ethics Lab を設⽴しました。これは、テ
    クノロジー倫理における世界的なベスト プラクティスを促進するこの種のものとしては初めての機関です。
    34
    © 2021 IBM Corporation https://www.ibm.com/impact/be-equal/diversity-inclusion-report/

    View full-size slide

  33. 私の⾏動宣⾔
    35
    © 2021 IBM Corporation https://www.ibm.com/thought-leadership/beequal/jp-ja/

    View full-size slide

  34. 私の⾏動宣⾔
    36
    © 2021 IBM Corporation https://www.ibm.com/thought-leadership/beequal/jp-ja/

    View full-size slide

  35. 私の⾏動宣⾔
    37
    © 2021 IBM Corporation https://www.ibm.com/thought-leadership/beequal/jp-ja/

    View full-size slide

  36. 38
    © 2021 IBM Corporation https://www.ibm.com/impact/be-equal/perspectives/

    View full-size slide

  37. 無意識のうちにバイアスを紛れ込ませてしまう可能性があります。
    • 作成しているモデルが偏ったデータで作成されていないか、ダイバーシ
    ティーが考慮されたデータ/メンバーで開発されているか、考えてみる
    ことも⼤切
    AIも精度が下がったら新しいデータで再学習するように、
    AIを作成する⼈間も常にUpdateしていきましょう!
    39
    © 2021 IBM Corporation
    AI開発するのは⼈間

    View full-size slide

  38. ご視聴いただき
    ⼤変ありがとうございました
    © 2021 IBM Corporation 40

    View full-size slide

  39. ワークショップ、セッション、および資料は、IBMまたはセッション発表者によって準備され、それぞれ独⾃の⾒解を反映したものです。それらは情報
    提供の⽬的のみで提供されており、いかなる参加者に対しても法律的またはその他の指導や助⾔を意図したものではなく、またそのような結果を⽣むも
    のでもありません。本講演資料に含まれている情報については、完全性と正確性を期するよう努⼒しましたが、「現状のまま」提供され、明⽰または暗
    ⽰にかかわらずいかなる保証も伴わないものとします。本講演資料またはその他の資料の使⽤によって、あるいはその他の関連によって、いかなる損害
    が⽣じた場合も、IBMは責任を負わないものとします。 本講演資料に含まれている内容は、IBMまたはそのサプライヤーやライセンス交付者からいかな
    る保証または表明を引きだすことを意図したものでも、IBMソフトウェアの使⽤を規定する適⽤ライセンス契約の条項を変更することを意図したもので
    もなく、またそのような結果を⽣むものでもありません。
    本講演資料でIBM製品、プログラム、またはサービスに⾔及していても、IBMが営業活動を⾏っているすべての国でそれらが使⽤可能であることを暗⽰
    するものではありません。本講演資料で⾔及している製品リリース⽇付や製品機能は、市場機会またはその他の要因に基づいてIBM独⾃の決定権をもっ
    ていつでも変更できるものとし、いかなる⽅法においても将来の製品または機能が使⽤可能になると確約することを意図したものではありません。本講
    演資料に含まれている内容は、参加者が開始する活動によって特定の販売、売上⾼の向上、またはその他の結果が⽣じると述べる、または暗⽰すること
    を意図したものでも、またそのような結果を⽣むものでもありません。 パフォーマンスは、管理された環境において標準的なIBMベンチマークを使⽤し
    た測定と予測に基づいています。ユーザーが経験する実際のスループットやパフォーマンスは、ユーザーのジョブ・ストリームにおけるマルチプログラ
    ミングの量、⼊出⼒構成、ストレージ構成、および処理されるワークロードなどの考慮事項を含む、数多くの要因に応じて変化します。したがって、
    個々のユーザーがここで述べられているものと同様の結果を得られると確約するものではありません。
    記述されているすべてのお客様事例は、それらのお客様がどのようにIBM製品を使⽤したか、またそれらのお客様が達成した結果の実例として⽰された
    ものです。実際の環境コストおよびパフォーマンス特性は、お客様ごとに異なる場合があります。
    IBM、IBM ロゴ、ibm.com、IBM Cloud、IBM Cloud Pak は、 世界の多くの国で登録されたInternational Business Machines Corporationの商標です。他
    の製品名およびサービス名等は、それぞれIBMまたは各社の商標である場合があります。現時点での IBM の商標リストについては、
    www.ibm.com/legal/copytrade.shtmlをご覧ください。
    Red Hatは、Red Hat, Inc.またはその⼦会社の⽶国およびその他の国における商標または登録商標です。

    View full-size slide

  40. セクションの選択→
    13:00-13:50
    BE EQUAL TECHNOLOGY TALK
    コメント&アンケート参
    加はこちら
    slido.com
    #widsibm2021

    View full-size slide