【配布資料】信頼できるAI入門 -Trustworthy AI

本資料は次のイベントの公開配布資料です。

＜イベント＞
信頼できるAI入門 -Trustworthy AI
https://ibm-developer.connpass.com/event/257054/

＜概要＞
みなさんは、信頼できるAI（Trustworthy AI）・AIの公平性・説明可能なAI（Explainable AI：XAI）などの単語を耳にしたことはありますか？

身の回りでAIの活用が進む一方、ブラックボックスなAIの性質に起因して、さまざまな社会問題が顕在化してきております。

例えば、データの偏りを理由に、性別や国籍などの特徴量にAIがフォーカスしてしまった結果、 不当に特定の属性にとって不利な評価・判断が実施されてしまうケースなどが問題化しております。

昨今、このようなAIの社会問題について世界中の国家・企業が将来のあり方について議論を深めており、 将来のルール作りの検討や課題を解決するためのソリューションの開発が進んでおります。

日本政府からも「人間中心のAI社会原則」がまとめられて公開されていますが、なかなか浸透しておらず、聞いたことはあっても具体的なイメージを持っていらっしゃる方は多くないのではないかと存じます。

そこで今回は、まずは現状を「知ってもらう」「興味を持ってもらう」ことを目的として、 信頼できるAI・AIの公平性・説明可能なAIに関する社会課題とソリューションの動向について入門レベルでご紹介します。

具体的には、AIの公平性・説明可能なAIについて日本や欧米の政府・国家の動向を説明し、その上で、各企業の取り組みや技術などの状況についてご紹介します。 また、特にIBMもこの領域に力を入れており、課題を解決するためのソリューションとしてIBM Watson®️ OpenScale™️を展開しているので、そちらの画面なども確認しながら、信頼できるAI・AIの公平性・説明可能なAIに対するイメージを具現化していただければと考えております。

Transcript

1. © 2022 IBM Corporation
   ৴པͰ͖Δ"*ೖ໳ 5SVTUXPSUIZ"*
   ೥݄೔
   ೔ຊΞΠɾϏʔɾΤϜגࣜձࣾ
   5FDI%PKP
   

   View Slide

2. © 2022 IBM Corporation
   2
   ΞδΣϯμ
   Φʔϓχϯά NJO
   ৴པͰ͖Δ"*ΛͱΓ·͘՝୊ NJO
   ৴པͰ͖Δ"*ʹؔ͢ΔιϦϡʔγϣϯ NJO
   Ϋϩʔδϯά NJO
   

   View Slide

3. Φʔϓχϯά
   
   

   View Slide

4. © 2022 IBM Corporation
   4
   ߨࢣͷࣗݾ঺հ
   ೔ຊ*#.ςΫϊϩδʔࣄۀຊ෦ $4. $VTUPNFS4VDDFTT.BOBHFS
   
   ߐ㟒 ਸߒ ޙ౻ وࢤ ۨ৔ ඒܙࢠ ߥר ࿨޺
   

   View Slide

5. © 2022 IBM Corporation
   5
   ͸͡Ίʹ
   23ίʔυಡΈऔΓ Լه63-΁ΞΫηε͠
   IUUQTBQQTMJEP
   Πϕϯτίʔυ
   EPKPQN
   Λೖྗ
   

   View Slide

6. © 2022 IBM Corporation
   6
   ຊ೔ͷΰʔϧ
   n ΰʔϧ
   • "*͕٭ޫΛཋͼΔதɺݦࡏԽ͍ͯ͠Δࣾձ໰୊Λ஌Δ
   • ্هʹؔ͢ΔΩʔϫʔυΛ஌Δɾཧղ͢Δ
   ü ৴པͰ͖Δ"*
   ü ެฏੑ
   ü આ໌੹೚
   ü ಁ໌ੑ ͳͲ
   • ಛʹɺެฏੑɾઆ໌੹೚ʹ͍ͭͯ͸ɺ
   ۩ମతͳιϦϡʔγϣϯྫΛ֬ೝͯ͠ཧղΛਂΊΔ
   

   View Slide

7. ৴པͰ͖Δ"*ΛͱΓ·͘՝୊
   
   

   View Slide

8. © 2022 IBM Corporation
   8
   "*ࢢ৔ͷ֦େ
   ࠃ಺"*γεςϜࢢ৔ ࢧग़ֹɿ ೥ʙ೥
   ग़ॴɿ*%$+BQBO
   IUUQTXXXJEDDPNHFUEPDKTQ DPOUBJOFS*EQS+1+
   

   View Slide

9. © 2022 IBM Corporation
   9
   AI適⽤範囲の拡⼤
   パーソナライズされたレ
   コメンデーションで最新
   のコンテンツを提供する
   不正検出の精度を向上
   させ、リスクを低減す
   る
   ⾃動運転において変化する
   状況に適応する
   画像分析により科学研究、
   創薬を加速させる
   遺伝⼦研究を加速させ、新
   しい洞察を⽣み出す
   重要なインフラを保全し、
   対応の速度を向上させる
   健康上の問題や病気の症
   状を予測する
   潜在的な不正を検出しつつ、
   契約や請求を最適化する
   

   View Slide

10. © 2022 IBM Corporation
    10
    "*ʹىҼ͢Δࣾձ໰୊
    ࣄྫ
    ਓࡐ࠾༻"*͕
    ঁੑΛࠩผ
    "*ʹΑΔෆ໌
    ྎͳ൑அࠜڌʹ
    ΑΔපؾ਍அ
    ࠶൜༧ଌγες
    Ϝͷ݁Ռʹର͢
    Δݑ๏৵֐ͷఏ
    ૌ
    • ֶशσʔλͷภΓ͕ɺஉঁͷੑผʹ
    ର͠ɺެฏͳՁ஋൑அΛ્֐͍ͯ͠
    Δʢଐੑͷࠩผʣ
    • ΞϧΰϦζϜ͕ϒϥοΫϘοΫεԽ
    ͞Εɺʮཧ༝ʯ͕આ໌͞Εͳ͍
    • ΞϧΰϦζϜ͕ϒϥοΫϘοΫεԽ
    ͞Εɺʮཧ༝ʯ͕આ໌͞Εͳ͍
    • ࠇਓͷ࠶൜ϦεΫΛനਓͷഒʹݟ
    ੵ΋͍ͬͯΔ
    • ͜ͷධՁ͸͋͘·ͰҰൠతͳՄೳੑ
    Λ༧ଌ͢Δʹ͗͢ͳ͍͜ͱ
    • σΟʔϓϖΠγΣϯτ පؾ༧ଌγεςϜ
    ͕ສͷిࢠ
    ΧϧςσʔλΛݩʹɺױऀͷൃ঱ͨ͠පؾͱ࣌ظΛ༧ଌ
    • Ұํɺʮࠜڌʯ͸ఏࣔ͞Εͳ͍··ɺ؞΍౶೘පɺ౷߹
    ࣦௐ঱ͳͲͷॏେͳපؾ਍அʹ׆༻Ͱ͖Δͷ͔Ͱ෺ٞ
    • ͋Δࠇਓͷඃࠂਓ͕ɺ$0.1"4 ࠶൜༧ଌγεςϜ
    ʹج
    ͍ͮͯ೥ؒͷ௄໾͓Αͼ೥ؒͷ֦େอޢ؍࡯Λݴ͍౉
    ͞Εͨ
    • ͜Εʹର͠ɺਖ਼֬ੑ͕୲อ͞ΕͣɺݕূՄೳੑ΋ͳ͍ಉ
    γεςϜͰݑ๏͕อো͢Δదਖ਼खଓͷݖར͕৵֐͞Εͨ
    ͱఏૌ
    • "NB[POʹͯཤྺॻ͔Β"*͕࠾༻͢΂͖ਓࡐΛ൑அ͢Δ
    γεςϜͷ1+5͕தࢭ
    • "*ͷֶशʹ࢖༻ٕͨ͠ज़৬࠾༻ͷաڈσʔλ͸உੑʹ
    ภ͍ͬͯͨͨΊɺཤྺॻʹʮঁʯ΍ʮঁࢠେʯͱ͍ͬͨ
    ୯ޠ͕ग़ݱͨ͠৔߹ʹධՁΛԼ͛ͯ͠·͍ͬͯͨ
    ֓ཁ ໰୊఺
    n "*׆༻͕ਐΉҰํɺ"*͕༧ظͤ͵݁ՌΛ΋ͨΒ͢ࣄྫ͕ࣾձ໰୊ͱͳ͍ͬͯΔ
    

    View Slide

11. © 2022 IBM Corporation
    11
    ֤ࠃ੓෎ͷऔΓ૊Έ
    n "*ͷࣾձ໰୊ʹର͠ɺ֤ࠃ੓෎Ͱ"*ͷϧʔϧͮ͘Γ͕ਐΜͰ͍Δ
    Ԥभ࿈߹ &6
    Ұൠσʔλอޢنଇ (%13
    
    ೔ຊ ਓؒத৺ͷ"*ࣾձݪଇ
    ΞϝϦΧ ֤੓෎ػ͔ؔΒͷ
    ݪଇɾࢦ਑ɾΨΠυϥΠϯ౳
    ϑΥʔΧεͯ͠
    ͝঺հ
    

    View Slide

12. © 2022 IBM Corporation
    12
    &6ɿ(%13ͷઆ໌
    ໨త
    • &6಺ͷنଇ౷Ұ
    • ݸਓσʔλอޢͷڧԽ
    ੍ఆɾࢪߦ • ೥݄೔੍ఆ
    • ೥݄೔ࢪߦ
    نఆ಺༰ • ݸਓ͕ࣗ෼ͷݸਓσʔλΛίϯτϩʔϧ͢ΔݖརΛ୲อ͢ΔͨΊͷɺσʔλ
    ؅ཧऀͷٛ຿ʢઆ໌੹೚ɺಉҙऔಘɺϓϥΠόγʔอޢͳͲʣΛنఆ
    ๏త߆ଋྗ
    ʲ&&"˞಺ʳ
    • Ճໍࠃͷࠃ಺๏ʹ༏ઌͯ͠ద༻͞ΕɺՃໍࠃͷ੓෎౳ʹରͯ͠௚઀తͳ๏త
    ߆ଋྗΛٴ΅͢
    ʲ&&"˞֎ʳ
    • &&"ͱऔҾͷ͋Δ͢΂ͯͷ૊৫͕ର৅
    ˠ&&"Ҭ಺ʹ͋Δࢧళͷ׆ಈΛຊళ͕ॿ͚͍ͯΔΑ͏ͳ৔߹͸ɺຊళͷ׆ಈʹ
    ΋(%13͕ద༻͞ΕΔ
    n (%13ʢ(FOFSBM%BUB1SPUFDUJPO3FHVMBUJPOɿҰൠσʔλอޢنଇʣ
    ※EEA=EU27カ国とノルウェイ、リヒテンシュタイン、アイスランドを追加した30カ国のこと
    

    View Slide

13. © 2022 IBM Corporation
    13
    &6ɿ(%13ͷ৚ͷղઆ
    n (%13ୈ৚ ϓϩϑΝΠϦϯάΛؚΉࣗಈԽ͞Εͨݸਓҙࢥܾఆ
    ˠ"*ͷ׆༻ʹର͢Δ੍ݶʹ͍ͭͯنఆ
    第22条 プロファイリングを含む⾃動化された個⼈意思決定
    • 1. データ主体は、当該データ主体に関する法的効果をもたらすか⼜は当該 データ主体に同様
    の重⼤な影響をもたらす、
    プロファイリングなどの⾃動化された処理のみに基づいた決定に服しない権利を持つ。
    • 2. 第1項は次に掲げるいずれかの決定には適⽤されない。
    (a) データ主体とデータ管理者間の契約締結、⼜は履⾏に必要な決定。
    (b) データ主体の権利及び⾃由並びに正当な利益を保護するための適切な措置が定められた管
    理者が従うEU 法⼜は加盟国の国内法によって認められた決定。
    (c) データ主体の明⽰的な同意に基づく決定。
    • 3. 第2項(a)号及び(c)号で定める状況に関して、データ管理者は、データ主体の権利及び⾃由並
    びに正当な利益を保護するための適切な措置を実施し、
    少なくとも管理者側で⼈を介在させる権利、当該データ主体の⾒解を表明する権利、及び決定
    に異議を唱える権利を実施するものとする。
    • 4. 第2項で定める決定は、第9条第2項(a)号⼜は(g)号が適⽤されず、データ主体の権利及び⾃
    由並びに正当な利益を保護するための適切な措置が
    機能していないならば、第9条第1項で定める特別な種類の個⼈データに基づいてはならない。
    

    View Slide

14. © 2022 IBM Corporation
    14
    &6ɿ(%13ͷ৚ͷղઆ
    n (%13ୈ৚ ϓϩϑΝΠϦϯάͳͲͷجͮࣗ͘ಈҙࢤͷܾఆ
    ΋ͷͬ͘͘͢͟͝Γཁ໿͢Δͱɾɾɾ
    • ຊਓʹ๏తޮՌ·ͨ͸ಉ༷ͷॏେͳӨڹ
    Λ΋ͨΒ͢Α͏ͳɺ
    • ࣗಈԽ͞ΕͨҙࢥܾఆɾϓϩϑΝΠϦϯά͸
    ݪଇېࢭʂ
    • Ұ෦ͷέʔε͸ྫ֎తʹ0,͕ͩɺ
    • ͦΕͰ΋
    ຊਓͷݖརٴͼࣗ༝ฒͼʹਖ਼౰ͳརӹΛอޢ͢
    ΔͨΊͷద੾ͳાஔΛ࣮ࢪ͢Δٛ຿͕͋Δʂ
    ྫ͑͹ʜब৬׆ಈͷ࠾༻ɺ͓ۚͷआΓೖΕ൑அɺ
    පؾͷ਍அͳͲ
    ϓϩϑΝΠϦϯάɿ
    ಛఆͷݸਓΛධՁ͢ΔͨΊʹ࣮ࢪ͢Δɺݸਓͷ֤
    छ৘ใʢۀ຿࣮੷ɺܦࡁঢ়گɺߦಈɺ݈߁ͳͲʣ
    ͷ෼ੳ༧ଌʹؔ࿈͢Δॲཧશൠ
    ˠ"*ʹΑΔݸਓ෼ੳͳͲ΋ؚ·ΕΔ
    Ұ෦ͷέʔεɿ
    B
    ຊਓͱ؅ཧऀؒͷܖ໿క݁ɺຢ͸ཤߦʹඞཁͳͱ͖
    C
    ຊਓͷݖརٴͼࣗ༝ฒͼʹਖ਼౰ͳརӹΛอޢ͢ΔͨΊͷ
    ద੾ͳાஔ͕ ఆΊΒΕͨ؅ཧऀ͕ै͏&6๏ຢ͸Ճໍࠃͷࠃ
    ಺๏ʹΑͬͯೝΊΒΕͨͱ͖
    D
    ຊਓͷ໌ࣔతͳಉҙʹجͮ͘ͱ͖
    ద੾ͳાஔɿগͳ͘ͱ΋ɺԼه఺͸ؚΊΔ΂͖
    ɾਓͷհࡏΛಘΔͨΊͷํ๏
    ɾࣗ෼ͷݟղΛද໌͢ΔͨΊͷํ๏
    ɾҟٞΛএ͑ΔͨΊͷํ๏
    

    View Slide

15. © 2022 IBM Corporation
    15
    ೔ຊɿਓؒத৺ͷ"*ࣾձݪଇ
    n ಺ֳ෎ʹͯʮਓؒத৺ͷ"*ࣾձݪଇʯΛ੔උ
    ! ͭͷݪଇͷதͷͭͱͯ͠ɺެฏੑɾઆ໌੹೚ɾಁ໌ੑʹ͍ͭͯنఆ
    参考︓
    https://www.cas.go.jp/jp/seisaku/jinkouchinou/r02_dai01/sanko2.pdf
    https://www5.cao.go.jp/keizai-shimon/kaigi/special/reform/wg7/20191101/shiryou1.pdf
    7つの原則
    の中で、
    公平性・説
    明責任・透
    明性につい
    て規定
    

    View Slide

16. © 2022 IBM Corporation
    16
    ΞϝϦΧ
    n ֤੓෎ػ͔ؔΒݪଇɾࢦ਑ɾΨΠυϥΠϯ౳Λൃද
    ੓෎ػؔ ݪଇɾࢦ਑ɾΨΠυϥΠϯ 63-
    ϗϫΠτϋ΢ε &YFDVUJWF0SEFSPO1SPNPUJOHUIF6TFPG
    5SVTUXPSUIZ"SUJGJDJBM*OUFMMJHFODF JO
    UIF'FEFSBM(PWFSONFOU
    IUUQTUSVNQXIJUFIPVTFBSDIJWFTHPWQSFTJEFOUJ
    BMBDUJPOTFYFDVUJWFPSEFSQSPNPUJOHVTF
    USVTUXPSUIZBSUJGJDJBMJOUFMMJHFODFGFEFSBM
    HPWFSONFOU
    ࠃཱඪ४ٕज़ݚڀॴ 'PVS1SJODJQMFTPG&YQMBJOBCMF"SUJGJDJBM
    *OUFMMJHFODF
    IUUQTXXXOJTUHPWQVCMJDBUJPOTGPVS
    QSJODJQMFTFYQMBJOBCMFBSUJGJDJBMJOUFMMJHFODF
    ࠃՈ৘ใ௕׭ࣨ 1SJODJQMFTPG"SUJGJDJBM*OUFMMJHFODF
    &UIJDT GPSUIF*OUFMMJHFODF$PNNVOJUZ
    IUUQTXXXJOUFMMJHFODFHPWQSJODJQMFTPG
    BSUJGJDJBMJOUFMMJHFODFFUIJDTGPSUIFJOUFMMJHFODF
    DPNNVOJUZ
    ࿈๜औҾҕһձ "JNJOHGPSUSVUI GBJSOFTT BOEFRVJUZ JO
    ZPVSDPNQBOZ`TVTFPG"*
    IUUQTXXXGUDHPWCVTJOFTT
    HVJEBODFCMPHBJNJOHUSVUIGBJSOFTT
    FRVJUZZPVSDPNQBOZTVTFBJ
    

    View Slide

17. © 2022 IBM Corporation
    17
    ֤ࠃ੓෎ͷऔΓ૊Έ
    n "*ͷࣾձ໰୊ʹର͠ɺ֤ࠃ੓෎Ͱ"*ͷϧʔϧͮ͘Γ͕ਐΜͰ͍Δ
    Ԥभ࿈߹ &6
    Ұൠσʔλอޢنଇ (%13
    
    ೔ຊ ਓؒத৺ͷ"*ࣾձݪଇ
    ΞϝϦΧ ֤੓෎ػ͔ؔΒͷ
    ݪଇɾࢦ਑ɾΨΠυϥΠϯ౳
    ࣾձ໰୊΍֤औΓ૊Έ͸ओʹެฏੑɾઆ໌੹೚ɾಁ໌ੑͷ࣠Ͱ੔ཧՄೳ
    

    View Slide

18. ৴པͰ͖Δ"*ʹؔ͢ΔιϦϡʔγϣϯ
    
    

    View Slide

19. © 2022 IBM Corporation
    19
    ৴པͰ͖Δ"* 5SVTUXPSUIZ"*
    ͱ͸
    ݪଇ
    ެฏੑ
    'BJSOFTT
    આ໌੹೚
    "DDPVOUBCJMJUZ
    ಁ໌ੑ
    5SBOTQBSFODZ
    • ෆެฏͳόΠΞεʹجֶ͍ͮͯशͨ͠"*Ϟσϧ
    ʹΑΔࠩผ
    • ੑผɿਓࡐ࠾༻"*ͷঁੑࠩผ
    • ਓछɿإೝࣝγεςϜͷਓछͷภΓ ͳͲ
    • "*ʹΑΓࣾձత໰୊͕ൃੜͨ͠৔߹ͷ੹೚໰୊
    • ࣗಈӡసंʹΑΔࣄނ
    • "*ʹΑΔҩྍϛε΁ͷةዧ ͳͲ
    • "*ͷϒϥοΫϘοΫε໰୊
    • ༧ଌ΍൑அϓϩηε͕෼͔Βͳ͍"*͸৴༻
    ͯ͠࢖͑ͳ͍
    • "*ʹΑΔϏδωε্ͷ໰୊͕ى͖ͨͱ͖ʹ
    ͦͷཧ༝Λઆ໌Ͱ͖ͳ͍ ͳͲ
    • "*ઃܭऀɿ"*γεςϜͷڍಈʹରͯ͠ɺ
    ୭͕ʗԿ͕ɺ੹೚Λ࣋ͭͷ͔Λ໌Β͔ʹ
    ͢Δ͜ͱ
    • "*ར༻ऀɿ"*Λར༻͢Δ্ͰೲಘͰ͖Δ
    આ໌ΛٻΊΔݖར
    • ػցֶशͷϓϩηεશମ΍֤޻ఔ಺ͷ಺
    ༰͕ɺ୭ʹͰ΋໌֬ʹཧղͰ͖ΔΑ͏ʹ
    ͳ͍ͬͯΔ͜ͱ
    • "*͕ෆ౰ͳόΠΞεΛࣾձʹ൓өͤ͞Δ
    ͜ͱ͕ͳ͍Α͏ʹ഑ྀ͢Δ͜ͱ
    • "*ઃܭऀ͸ෆ౰ͳࠩผ͕ൃੜ͠ͳ͍Α͏
    ʹෆެฏͳόΠΞεΛഉআ͠ͳ͚Ε͹ͳ
    Βͳ͍
    આ໌ ۩ମྫ
    n "*ΛࣾձͰӡ༻͢ΔͨΊʹ९क͢΂͖ݪଇʢ'"5ʣ
    

    View Slide

20. © 2022 IBM Corporation
    20
    ৴པͰ͖Δ"* 5SVTUXPSUIZ"*
    ͷऔΓ૊Έ
    n ओཁ*5ϓϩόΠμʔͷ৴པͰ͖Δ"*ʹ޲͚ͨऔΓ૊Έ
    .JDSPTPGU
    (PPHMF
    "84
    • إೝ͓ࣝΑͼײ৘ੑผ౳ਪଌΛߦ͏"*αʔϏε "[VMF 'BDF
    ͷҰൠެ։ݟૹΓΛܾఆ ೥
    
    • આ໌Մೳͳ"*ͷͨΊͷ044πʔϧ *OUFSQSFU.-΍'BJSMFBSO
    ౳
    ͷఏڙɺ"[VSF.BDIJOF-FBSOJOHʹ͓͚Δػೳͷ࣮૷
    • $MPVE7JTJPO"1*͔ΒੑผͷϥϕϧΛ࡟আ ೥
    
    • &YQMBJOBCMF"*ϑϨʔϜϫʔΫɺ8IBU*G5PPM౳ͷઆ໌Մೳ
    ͳ"*ͷͨΊͷπʔϧɺػೳͷఏڙ
    • ถܯ࡯ʹΑΔإೝࣝαʔϏε"NB[PO3FLPHOJUJPOͷ࢖༻ͷ
    ఀࢭΛൃද ೥
    
    • "NB[PO.-αʔϏε 4BHF.BLFSͰɺજࡏతͳόΠΞεݕग़
    ΍༧ଌͷઆ໌ࢧԉɺυϦϑτ؂ࢹ౳ͷػೳΛ࣮૷
    • "*ͷྙཧݪଇͷࡦఆ
    • "*ݪଇΛ࣮૷ͨ͠؅ཧϓϩηεͷ࣮ફ
    ϨϏϡʔҕһձʹΑΔ੡඼औҾͷॳظஈ֊͔
    ΒͷϨϏϡʔ࣮ࢪɺڭҭɺπʔϧͷఏڙͳͲ
    • ਓ޻஌ೳͱػցֶशͷ੹೚͋Δར༻ͷ࣮ફ
    • ੹೚͋Δ"*ج४ ͭͷجຊݪଇͷࡦఆ
    • ઐ໳ҕһձ͕ਪਐͯ͠"*ݪଇͷ९कɾ࣮ફ
    "&5)&3 "*BOE&UIJDTJO&OHJOFFSJOHBOE
    3FTFBSDI
    ͓Αͼ03" 0GGJDFPG3FTQPOTJCMF
    
    औΓ૊Έ ۩ମྫ
    *#. • ৄࡉ͸ޙड़
    • "*&UIJDT#PBSEʢ"*ྙཧҕһձʣ૊੒
    • "*ྙཧݚमϦιʔε044πʔϧΩοτͷఏڙ
    • 8BUTPO0QFO4DBMFͷఏڙ
    - اۀ͕"*ྙཧͷ࣮ݱΛऔΓ૊ΊΔ੡඼
    • ੓෎ɺֶज़ػؔɺ/10ͳͲͱͷڠۀ
    

    View Slide

21. © 2022 IBM Corporation
    21
    *#.ͷऔΓ૊Έ
    ࢀߟɿIUUQTXXXJCNDPNBSUJGJDJBMJOUFMMJHFODFFUIJDT
    "*ྙཧͷͨΊͷΨΠυ
    044ϓϩδΣΫτ *#.8BUTPOš0QFO4DBMFä
    "DDPVOUBCJMJUZ આ໌੹೚
    
    7BMVF"MJHONFOU Ձ஋؍ͷҰக
    
    &YQMBJOBCJMJUZ આ໌Մೳੑ
    
    6TFS%BUB3JHIUT Ϣʔβʔɾσʔλͷݖར
    
    'BJSOFTT ެฏੑ
    
    • -JOVY'PVOEBUJPOʹ044ͱͯ͠ݚम༻Ϧιʔεɺ
    044ͷπʔϧΩοτΛఏڙ
    • "*'BJSOFTT ެฏੑݕূͷ044πʔϧΩοτͷ
    ఏڙɺίϛϡχςΟͷӡ༻
    • "*&YQMBJOBCJMJUZ r Ϟσϧͷઆ໌ՄೳੑΛα
    ϙʔτ͢Δ"1*ͷఏڙɺίϛϡχςΟͷӡ༻ ͳͲ
    • اۀ͕"*ྙཧͷ࣮ݱΛ۩ମతʹऔΓ૊ΊΔ੡඼
    ˞ৄࡉ͸࣍ϖʔδ
    n "*ྙཧͷͨΊͷΨΠυΛ੔උ্ͨ͠Ͱɺ044ϓϩδΣΫτΛਪਐ͢Δͱͱ΋ʹɺ঎༻αʔ
    Ϗεͱͯ͠ɺ*#.8BUTPOš0QFO4DBMFäΛఏڙ
    

    View Slide

22. © 2022 IBM Corporation
    22
    *#.ͷऔΓ૊Έɿ*#.8BUTPOš0QFO4DBMFäͷղઆ
    n 0QFO4DBMF͸.-0QTͷϥΠϑαΠΫϧʹ͓͍ͯɺ
    Ϟσϧ͕ظ଴௨Γʹಈ࡞͍ͯ͠Δ͔Λ؂ࢹ͠ධՁ͢Δ͜ͱ͕Մೳ
    ؂ࢹͱධՁͷର৅
    • આ໌Մೳੑ
    üೖྗΛͲ͏มߋ͢Ε͹Ϟσϧͷ݁ՌͷมԽʹ
    ͭͳ͕Δ͔ʁ
    • ެฏੑ
    üֶशσʔλͱϞσϧʹόΠΞε͕જΜͰ͍ͳ
    ͍͔ʁ
    • ඼࣭ɾਖ਼֬ੑ
    üϞσϧ͸ϥΠϑαΠΫϧΛ௨੍ͯ͠౓Λҡ࣋
    ͍ͯ͠Δ͔ʁ
    • υϦϑτ
    üೖྗσʔλ͕มԽ͍ͯ͠ͳ͍͔ʁ
    ˞0QFO4DBMF͸Ϟσϧʹೖྗ͞ΕΔσʔλ͓Αͼͦͷ༧ଌ݁ՌΛऩू͠؂ࢹ͢Δ
    モデルの作
    成
    モデルの実
    ⾏
    モデルの監
    視と評価
    .-0QTͷϥΠϑαΠΫϧ
    0QFO4DBMFͷείʔϓ
    

    View Slide

23. © 2022 IBM Corporation
    23
    n ެฏੑΛఆྔతʹධՁ͢ΔࡍʹɺެฏੑείΞ͕ར༻͞ΕΔ
    参考︓公平性スコアの算出
    ؂ࢹର৅άϧʔϓͷ
    ޷·͍݁͠Ռͷׂ߹
    ެฏੑείΞ ʹ
    ࢀরάϧʔϓͷ
    ޷·͍݁͠Ռͷׂ߹
    【例】
    ローンの審査にいおいて、⼥性に偏⾒（バイアス）がない
    か監視・評価する場合、
    • 監視対象グループ＝⼥性
    • 参照グループ＝男性
    • 好ましい結果＝リスクなし評価
    • （好ましくない結果＝リスクあり評価）
    ঁੑͷ
    ϦεΫͳ͠ධՁͷׂ߹
    ެฏੑείΞ ʹ
    உੑͷ
    ϦεΫͳ͠ධՁͷׂ߹
    ʹ
    
    
    ʹ
    ˞ถࠃͷաڈͷ൑ྫ΍ΨΠυϥΠϯͰ͸ɺެฏੑείΞ͸ҰൠతʹΛ্ճΕ͹ެฏͰɺࠩҟ͸ڐ༰ൣғ಺ͱ͞ΕΔ
    ྫ
    
    

    View Slide

24. Ϋϩʔδϯά
    
    

    View Slide

25. © 2022 IBM Corporation
    25
    ·ͱΊ
    n ΰʔϧ
    • "*͕٭ޫΛཋͼΔதɺݦࡏԽ͍ͯ͠Δࣾձ໰୊Λ஌Δ
    • ্هʹؔ͢ΔΩʔϫʔυΛ஌Δɾཧղ͢Δ
    ü ৴པͰ͖Δ"*
    ü ެฏੑ
    ü આ໌੹೚
    ü ಁ໌ੑ ͳͲ
    • ಛʹɺެฏੑɾઆ໌੹೚ʹ͍ͭͯ͸ɺ
    ۩ମతͳιϦϡʔγϣϯྫΛ֬ೝͯ͠ཧղΛؚΊΔ
    "*ͷϒϥοΫϘοΫεͳੑ࣭ʹىҼͯ͠ɺ
    ྙཧతʹዬ ΋ͱ
    ΔΑ͏ͳࣾձ໰୊͕ݦࡏԽ͍ͯ͠Δɻ
    ্هͷࣾձ໰୊͸ɺओʹެฏੑɾઆ໌੹೚ɾಁ໌ੑͷཁૉͰ੔ཧͰ͖ɺ
    ͜ΕΒͷ໰୊Λղܾ͢Δ͜ͱͰɺ"*Λ৴པͯ͠ԸܙΛड͚Δ͜ͱ͕Ͱ͖Δɻ
    ͦͷͨΊʹɺ֤ࠃ੓෎Ͱ͸نଇ΍ΨΠυϥΠϯΛٸϐονͰ੔උ͠ɺ
    ֤اۀ΋ಠࣗͷΨΠυϥΠϯΛ੔උͯ͠ɺΞΫγϣϯΛ࣮ࢪ͍ͯ͠Δɻ
    *#.8BUTPOš0QFO4DBMFäΛྫʹ঺հɻ
    ʲެฏੑʳެฏੑείΞͰόΠΞε͕ڐ༰Ͱ͖Δ͔ఆྔతʹධՁ
    ʲઆ໌੹೚ʳେہతʹ͸Ϟσϧͷެฏੑ඼࣭υϦϑτ͕໰୊ͳ͍͔ධՁɻہॴ
    తʹ͸ͦΕͧΕͷਪ࿦ͷ݁Ռʹ͍ͭͯɺͲͷಛ௃ྔ͕ͲͷΑ͏ʹӨڹΛ༩͔͑ͨ
    ఆྔతʹՄࢹԽ
    

    View Slide

26. © 2022 IBM Corporation
    26
    Ξϯέʔτͷ͓ئ͍
    23ίʔυಡΈऔΓ Լه63-΁ΞΫηε͠
    IUUQTBQQTMJEP
    Πϕϯτίʔυ
    EPKPQN
    Λೖྗ
    

    View Slide