【配布資料】信頼できるAI入門 -Trustworthy AI

本資料は次のイベントの公開配布資料です。

＜イベント＞
信頼できるAI入門 -Trustworthy AI
https://ibm-developer.connpass.com/event/257054/

＜概要＞
みなさんは、信頼できるAI（Trustworthy AI）・AIの公平性・説明可能なAI（Explainable AI：XAI）などの単語を耳にしたことはありますか？

身の回りでAIの活用が進む一方、ブラックボックスなAIの性質に起因して、さまざまな社会問題が顕在化してきております。

例えば、データの偏りを理由に、性別や国籍などの特徴量にAIがフォーカスしてしまった結果、 不当に特定の属性にとって不利な評価・判断が実施されてしまうケースなどが問題化しております。

昨今、このようなAIの社会問題について世界中の国家・企業が将来のあり方について議論を深めており、 将来のルール作りの検討や課題を解決するためのソリューションの開発が進んでおります。

日本政府からも「人間中心のAI社会原則」がまとめられて公開されていますが、なかなか浸透しておらず、聞いたことはあっても具体的なイメージを持っていらっしゃる方は多くないのではないかと存じます。

そこで今回は、まずは現状を「知ってもらう」「興味を持ってもらう」ことを目的として、 信頼できるAI・AIの公平性・説明可能なAIに関する社会課題とソリューションの動向について入門レベルでご紹介します。

具体的には、AIの公平性・説明可能なAIについて日本や欧米の政府・国家の動向を説明し、その上で、各企業の取り組みや技術などの状況についてご紹介します。 また、特にIBMもこの領域に力を入れており、課題を解決するためのソリューションとしてIBM Watson®️ OpenScale™️を展開しているので、そちらの画面なども確認しながら、信頼できるAI・AIの公平性・説明可能なAIに対するイメージを具現化していただければと考えております。

Transcript

1. © 2022 IBM Corporation ৴པͰ͖Δ"*ೖ໳ 5SVTUXPSUIZ
   "* ೥݄೔ ೔ຊΞΠɾϏʔɾΤϜגࣜձࣾ 5FDI
   %PKP
2. © 2022 IBM Corporation 2 ΞδΣϯμ  Φʔϓχϯά NJO  ৴པͰ͖Δ"*ΛͱΓ·͘՝୊ NJO  ৴པͰ͖Δ"*ʹؔ͢ΔιϦϡʔγϣϯ NJO  Ϋϩʔδϯά NJO
3. Φʔϓχϯά 
4. © 2022 IBM Corporation 4 ߨࢣͷࣗݾ঺հ ೔ຊ*#.
   ςΫϊϩδʔࣄۀຊ෦ $4.
   $VTUPNFS
   4VDDFTT
   .BOBHFS ߐ㟒 ਸߒ ޙ౻ وࢤ ۨ৔ ඒܙࢠ ߥר ࿨޺
5. © 2022 IBM Corporation 5 ͸͡Ίʹ 23ίʔυಡΈऔΓ Լه63-΁ΞΫηε͠ IUUQTBQQTMJEP Πϕϯτίʔυ EPKPQN Λೖྗ
6. © 2022 IBM Corporation 6 ຊ೔ͷΰʔϧ n ΰʔϧ • "*͕٭ޫΛཋͼΔதɺݦࡏԽ͍ͯ͠Δࣾձ໰୊Λ஌Δ • ্هʹؔ͢ΔΩʔϫʔυΛ஌Δɾཧղ͢Δ ü ৴པͰ͖Δ"* ü ެฏੑ ü આ໌੹೚ ü ಁ໌ੑ ͳͲ • ಛʹɺެฏੑɾઆ໌੹೚ʹ͍ͭͯ͸ɺ ۩ମతͳιϦϡʔγϣϯྫΛ֬ೝͯ͠ཧղΛਂΊΔ
7. ৴པͰ͖Δ"*ΛͱΓ·͘՝୊ 
8. © 2022 IBM Corporation 8 "*ࢢ৔ͷ֦େ ࠃ಺"*γεςϜࢢ৔ ࢧग़ֹɿ ೥ʙ೥ ग़ॴɿ*%$
   +BQBO
    IUUQTXXXJEDDPNHFUEPDKTQ DPOUBJOFS*EQS+1+
9. © 2022 IBM Corporation 9 AI適⽤範囲の拡⼤ パーソナライズされたレ コメンデーションで最新 のコンテンツを提供する 不正検出の精度を向上 させ、リスクを低減す る ⾃動運転において変化する 状況に適応する 画像分析により科学研究、 創薬を加速させる 遺伝⼦研究を加速させ、新 しい洞察を⽣み出す 重要なインフラを保全し、 対応の速度を向上させる 健康上の問題や病気の症 状を予測する 潜在的な不正を検出しつつ、 契約や請求を最適化する
10. © 2022 IBM Corporation 10 "*ʹىҼ͢Δࣾձ໰୊ ࣄྫ ਓࡐ࠾༻"*͕ ঁੑΛࠩผ "*ʹΑΔෆ໌ ྎͳ൑அࠜڌʹ ΑΔපؾ਍அ ࠶൜༧ଌγες Ϝͷ݁Ռʹର͢ Δݑ๏৵֐ͷఏ ૌ • ֶशσʔλͷภΓ͕ɺஉঁͷੑผʹ ର͠ɺެฏͳՁ஋൑அΛ્֐͍ͯ͠ Δʢଐੑͷࠩผʣ • ΞϧΰϦζϜ͕ϒϥοΫϘοΫεԽ ͞Εɺʮཧ༝ʯ͕આ໌͞Εͳ͍ • ΞϧΰϦζϜ͕ϒϥοΫϘοΫεԽ ͞Εɺʮཧ༝ʯ͕આ໌͞Εͳ͍ • ࠇਓͷ࠶൜ϦεΫΛനਓͷഒʹݟ ੵ΋͍ͬͯΔ • ͜ͷධՁ͸͋͘·ͰҰൠతͳՄೳੑ Λ༧ଌ͢Δʹ͗͢ͳ͍͜ͱ • σΟʔϓϖΠγΣϯτ පؾ༧ଌγεςϜ ͕ສͷిࢠ ΧϧςσʔλΛݩʹɺױऀͷൃ঱ͨ͠පؾͱ࣌ظΛ༧ଌ • Ұํɺʮࠜڌʯ͸ఏࣔ͞Εͳ͍··ɺ؞΍౶೘පɺ౷߹ ࣦௐ঱ͳͲͷॏେͳපؾ਍அʹ׆༻Ͱ͖Δͷ͔Ͱ෺ٞ • ͋Δࠇਓͷඃࠂਓ͕ɺ$0.1"4 ࠶൜༧ଌγεςϜ ʹج ͍ͮͯ೥ؒͷ௄໾͓Αͼ೥ؒͷ֦େอޢ؍࡯Λݴ͍౉ ͞Εͨ • ͜Εʹର͠ɺਖ਼֬ੑ͕୲อ͞ΕͣɺݕূՄೳੑ΋ͳ͍ಉ γεςϜͰݑ๏͕อো͢Δదਖ਼खଓͷݖར͕৵֐͞Εͨ ͱఏૌ • "NB[POʹͯཤྺॻ͔Β"*͕࠾༻͢΂͖ਓࡐΛ൑அ͢Δ γεςϜͷ1+5͕தࢭ • "*ͷֶशʹ࢖༻ٕͨ͠ज़৬࠾༻ͷաڈσʔλ͸உੑʹ ภ͍ͬͯͨͨΊɺཤྺॻʹʮঁʯ΍ʮঁࢠେʯͱ͍ͬͨ ୯ޠ͕ग़ݱͨ͠৔߹ʹධՁΛԼ͛ͯ͠·͍ͬͯͨ ֓ཁ ໰୊఺ n "*׆༻͕ਐΉҰํɺ"*͕༧ظͤ͵݁ՌΛ΋ͨΒ͢ࣄྫ͕ࣾձ໰୊ͱͳ͍ͬͯΔ
11. © 2022 IBM Corporation 11 ֤ࠃ੓෎ͷऔΓ૊Έ n "*ͷࣾձ໰୊ʹର͠ɺ֤ࠃ੓෎Ͱ"*ͷϧʔϧͮ͘Γ͕ਐΜͰ͍Δ Ԥभ࿈߹ &6 Ұൠσʔλอޢنଇ (%13 ೔ຊ ਓؒத৺ͷ"*ࣾձݪଇ ΞϝϦΧ ֤੓෎ػ͔ؔΒͷ ݪଇɾࢦ਑ɾΨΠυϥΠϯ౳ ϑΥʔΧεͯ͠ ͝঺հ
12. © 2022 IBM Corporation 12 &6ɿ(%13ͷઆ໌ ໨త • &6಺ͷنଇ౷Ұ • ݸਓσʔλอޢͷڧԽ ੍ఆɾࢪߦ • ೥݄೔੍ఆ • ೥݄೔ࢪߦ نఆ಺༰ • ݸਓ͕ࣗ෼ͷݸਓσʔλΛίϯτϩʔϧ͢ΔݖརΛ୲อ͢ΔͨΊͷɺσʔλ ؅ཧऀͷٛ຿ʢઆ໌੹೚ɺಉҙऔಘɺϓϥΠόγʔอޢͳͲʣΛنఆ ๏త߆ଋྗ ʲ&&"˞಺ʳ • Ճໍࠃͷࠃ಺๏ʹ༏ઌͯ͠ద༻͞ΕɺՃໍࠃͷ੓෎౳ʹରͯ͠௚઀తͳ๏త ߆ଋྗΛٴ΅͢ ʲ&&"˞֎ʳ • &&"ͱऔҾͷ͋Δ͢΂ͯͷ૊৫͕ର৅ ˠ&&"Ҭ಺ʹ͋Δࢧళͷ׆ಈΛຊళ͕ॿ͚͍ͯΔΑ͏ͳ৔߹͸ɺຊళͷ׆ಈʹ ΋(%13͕ద༻͞ΕΔ n (%13ʢ(FOFSBM
    %BUB
    1SPUFDUJPO
    3FHVMBUJPOɿҰൠσʔλอޢنଇʣ ※EEA=EU27カ国とノルウェイ、リヒテンシュタイン、アイスランドを追加した30カ国のこと
13. © 2022 IBM Corporation 13 &6ɿ(%13ͷ৚ͷղઆ n (%13
    ୈ৚ ϓϩϑΝΠϦϯάΛؚΉࣗಈԽ͞Εͨݸਓҙࢥܾఆ ˠ"*ͷ׆༻ʹର͢Δ੍ݶʹ͍ͭͯنఆ 第22条 プロファイリングを含む⾃動化された個⼈意思決定 • 1. データ主体は、当該データ主体に関する法的効果をもたらすか⼜は当該 データ主体に同様 の重⼤な影響をもたらす、 プロファイリングなどの⾃動化された処理のみに基づいた決定に服しない権利を持つ。 • 2. 第1項は次に掲げるいずれかの決定には適⽤されない。 (a) データ主体とデータ管理者間の契約締結、⼜は履⾏に必要な決定。 (b) データ主体の権利及び⾃由並びに正当な利益を保護するための適切な措置が定められた管 理者が従うEU 法⼜は加盟国の国内法によって認められた決定。 (c) データ主体の明⽰的な同意に基づく決定。 • 3. 第2項(a)号及び(c)号で定める状況に関して、データ管理者は、データ主体の権利及び⾃由並 びに正当な利益を保護するための適切な措置を実施し、 少なくとも管理者側で⼈を介在させる権利、当該データ主体の⾒解を表明する権利、及び決定 に異議を唱える権利を実施するものとする。 • 4. 第2項で定める決定は、第9条第2項(a)号⼜は(g)号が適⽤されず、データ主体の権利及び⾃ 由並びに正当な利益を保護するための適切な措置が 機能していないならば、第9条第1項で定める特別な種類の個⼈データに基づいてはならない。
14. © 2022 IBM Corporation 14 &6ɿ(%13ͷ৚ͷղઆ n (%13
    ୈ৚ ϓϩϑΝΠϦϯάͳͲͷجͮࣗ͘ಈҙࢤͷܾఆ ΋ͷͬ͘͘͢͟͝Γཁ໿͢Δͱɾɾɾ • ຊਓʹ๏తޮՌ·ͨ͸ಉ༷ͷॏେͳӨڹ Λ΋ͨΒ͢Α͏ͳɺ • ࣗಈԽ͞ΕͨҙࢥܾఆɾϓϩϑΝΠϦϯά͸ ݪଇېࢭʂ • Ұ෦ͷέʔε͸ྫ֎తʹ0,͕ͩɺ • ͦΕͰ΋ ຊਓͷݖརٴͼࣗ༝ฒͼʹਖ਼౰ͳརӹΛอޢ͢ ΔͨΊͷద੾ͳાஔΛ࣮ࢪ͢Δٛ຿͕͋Δʂ ྫ͑͹ʜब৬׆ಈͷ࠾༻ɺ͓ۚͷआΓೖΕ൑அɺ පؾͷ਍அͳͲ ϓϩϑΝΠϦϯάɿ ಛఆͷݸਓΛධՁ͢ΔͨΊʹ࣮ࢪ͢Δɺݸਓͷ֤ छ৘ใʢۀ຿࣮੷ɺܦࡁঢ়گɺߦಈɺ݈߁ͳͲʣ ͷ෼ੳ༧ଌʹؔ࿈͢Δॲཧશൠ ˠ"*ʹΑΔݸਓ෼ੳͳͲ΋ؚ·ΕΔ Ұ෦ͷέʔεɿ B ຊਓͱ؅ཧऀؒͷܖ໿క݁ɺຢ͸ཤߦʹඞཁͳͱ͖ C ຊਓͷݖརٴͼࣗ༝ฒͼʹਖ਼౰ͳརӹΛอޢ͢ΔͨΊͷ ద੾ͳાஔ͕ ఆΊΒΕͨ؅ཧऀ͕ै͏&6
    ๏ຢ͸Ճໍࠃͷࠃ ಺๏ʹΑͬͯೝΊΒΕͨͱ͖ D ຊਓͷ໌ࣔతͳಉҙʹجͮ͘ͱ͖ ద੾ͳાஔɿগͳ͘ͱ΋ɺԼه఺͸ؚΊΔ΂͖ ɾਓͷհࡏΛಘΔͨΊͷํ๏ ɾࣗ෼ͷݟղΛද໌͢ΔͨΊͷํ๏ ɾҟٞΛএ͑ΔͨΊͷํ๏
15. © 2022 IBM Corporation 15 ೔ຊɿਓؒத৺ͷ"*ࣾձݪଇ n ಺ֳ෎ʹͯʮਓؒத৺ͷ"*ࣾձݪଇʯΛ੔උ ! ͭͷݪଇͷதͷͭͱͯ͠ɺެฏੑɾઆ໌੹೚ɾಁ໌ੑʹ͍ͭͯنఆ 参考︓ https://www.cas.go.jp/jp/seisaku/jinkouchinou/r02_dai01/sanko2.pdf https://www5.cao.go.jp/keizai-shimon/kaigi/special/reform/wg7/20191101/shiryou1.pdf 7つの原則 の中で、 公平性・説 明責任・透 明性につい て規定
16. © 2022 IBM Corporation 16 ΞϝϦΧ n ֤੓෎ػ͔ؔΒݪଇɾࢦ਑ɾΨΠυϥΠϯ౳Λൃද ੓෎ػؔ ݪଇɾࢦ਑ɾΨΠυϥΠϯ 63- ϗϫΠτϋ΢ε &YFDVUJWF
    0SEFS
    PO
    1SPNPUJOH
    UIF
    6TF
    PG
    5SVTUXPSUIZ
    "SUJGJDJBM
    *OUFMMJHFODF JO
    UIF
    'FEFSBM
    (PWFSONFOU IUUQTUSVNQXIJUFIPVTFBSDIJWFTHPWQSFTJEFOUJ BMBDUJPOTFYFDVUJWFPSEFSQSPNPUJOHVTF USVTUXPSUIZBSUJGJDJBMJOUFMMJHFODFGFEFSBM HPWFSONFOU ࠃཱඪ४ٕज़ݚڀॴ 'PVS
    1SJODJQMFT
    PG
    &YQMBJOBCMF
    "SUJGJDJBM
    *OUFMMJHFODF IUUQTXXXOJTUHPWQVCMJDBUJPOTGPVS QSJODJQMFTFYQMBJOBCMFBSUJGJDJBMJOUFMMJHFODF ࠃՈ৘ใ௕׭ࣨ 1SJODJQMFT
    PG
    "SUJGJDJBM
    *OUFMMJHFODF
    &UIJDT GPS
    UIF
    *OUFMMJHFODF
    $PNNVOJUZ IUUQTXXXJOUFMMJHFODFHPWQSJODJQMFTPG BSUJGJDJBMJOUFMMJHFODFFUIJDTGPSUIFJOUFMMJHFODF DPNNVOJUZ ࿈๜औҾҕһձ "JNJOH
    GPS
    USVUI
    GBJSOFTT
    BOE
    FRVJUZ JO
    ZPVS
    DPNQBOZ`T
    VTF
    PG
    "* IUUQTXXXGUDHPWCVTJOFTT HVJEBODFCMPHBJNJOHUSVUIGBJSOFTT FRVJUZZPVSDPNQBOZTVTFBJ
17. © 2022 IBM Corporation 17 ֤ࠃ੓෎ͷऔΓ૊Έ n "*ͷࣾձ໰୊ʹର͠ɺ֤ࠃ੓෎Ͱ"*ͷϧʔϧͮ͘Γ͕ਐΜͰ͍Δ Ԥभ࿈߹ &6 Ұൠσʔλอޢنଇ (%13 ೔ຊ ਓؒத৺ͷ"*ࣾձݪଇ ΞϝϦΧ ֤੓෎ػ͔ؔΒͷ ݪଇɾࢦ਑ɾΨΠυϥΠϯ౳ ࣾձ໰୊΍֤औΓ૊Έ͸ओʹެฏੑɾઆ໌੹೚ɾಁ໌ੑͷ࣠Ͱ੔ཧՄೳ
18. ৴པͰ͖Δ"*ʹؔ͢ΔιϦϡʔγϣϯ 
19. © 2022 IBM Corporation 19 ৴པͰ͖Δ"* 5SVTUXPSUIZ
    "* ͱ͸ ݪଇ ެฏੑ 'BJSOFTT આ໌੹೚ "DDPVOUBCJMJUZ ಁ໌ੑ 5SBOTQBSFODZ • ෆެฏͳόΠΞεʹجֶ͍ͮͯशͨ͠"*Ϟσϧ ʹΑΔࠩผ • ੑผɿਓࡐ࠾༻"*ͷঁੑࠩผ • ਓछɿإೝࣝγεςϜͷਓछͷภΓ ͳͲ • "*ʹΑΓࣾձత໰୊͕ൃੜͨ͠৔߹ͷ੹೚໰୊ • ࣗಈӡసंʹΑΔࣄނ • "*ʹΑΔҩྍϛε΁ͷةዧ ͳͲ • "*ͷϒϥοΫϘοΫε໰୊ • ༧ଌ΍൑அϓϩηε͕෼͔Βͳ͍"*͸৴༻ ͯ͠࢖͑ͳ͍ • "*ʹΑΔϏδωε্ͷ໰୊͕ى͖ͨͱ͖ʹ ͦͷཧ༝Λઆ໌Ͱ͖ͳ͍ ͳͲ • "*ઃܭऀɿ"*γεςϜͷڍಈʹରͯ͠ɺ ୭͕ʗԿ͕ɺ੹೚Λ࣋ͭͷ͔Λ໌Β͔ʹ ͢Δ͜ͱ • "*ར༻ऀɿ"*Λར༻͢Δ্ͰೲಘͰ͖Δ આ໌ΛٻΊΔݖར • ػցֶशͷϓϩηεશମ΍֤޻ఔ಺ͷ಺ ༰͕ɺ୭ʹͰ΋໌֬ʹཧղͰ͖ΔΑ͏ʹ ͳ͍ͬͯΔ͜ͱ • "*͕ෆ౰ͳόΠΞεΛࣾձʹ൓өͤ͞Δ ͜ͱ͕ͳ͍Α͏ʹ഑ྀ͢Δ͜ͱ • "*ઃܭऀ͸ෆ౰ͳࠩผ͕ൃੜ͠ͳ͍Α͏ ʹෆެฏͳόΠΞεΛഉআ͠ͳ͚Ε͹ͳ Βͳ͍ આ໌ ۩ମྫ n "*ΛࣾձͰӡ༻͢ΔͨΊʹ९क͢΂͖ݪଇʢ'"5ʣ
20. © 2022 IBM Corporation 20 ৴པͰ͖Δ"* 5SVTUXPSUIZ
    "* ͷऔΓ૊Έ n ओཁ*5ϓϩόΠμʔͷ৴པͰ͖Δ"*ʹ޲͚ͨऔΓ૊Έ .JDSPTPGU (PPHMF "84 • إೝ͓ࣝΑͼײ৘ੑผ౳ਪଌΛߦ͏"*αʔϏε "[VMF 'BDF ͷҰൠެ։ݟૹΓΛܾఆ ೥ • આ໌Մೳͳ"*ͷͨΊͷ044πʔϧ *OUFSQSFU.-΍'BJSMFBSO ౳ ͷఏڙɺ"[VSF
    .BDIJOF
    -FBSOJOHʹ͓͚Δػೳͷ࣮૷ • $MPVE
    7JTJPO
    "1*
    ͔ΒੑผͷϥϕϧΛ࡟আ ೥ • &YQMBJOBCMF
    "*ϑϨʔϜϫʔΫɺ8IBU*G
    5PPM౳ͷઆ໌Մೳ ͳ"*ͷͨΊͷπʔϧɺػೳͷఏڙ • ถܯ࡯ʹΑΔإೝࣝαʔϏε"NB[PO
    3FLPHOJUJPOͷ࢖༻ͷ ఀࢭΛൃද ೥ • "NB[PO
    .-αʔϏε 4BHF.BLFSͰɺજࡏతͳόΠΞεݕग़ ΍༧ଌͷઆ໌ࢧԉɺυϦϑτ؂ࢹ౳ͷػೳΛ࣮૷ • "*ͷྙཧݪଇͷࡦఆ • "*ݪଇΛ࣮૷ͨ͠؅ཧϓϩηεͷ࣮ફ ϨϏϡʔҕһձʹΑΔ੡඼औҾͷॳظஈ֊͔ ΒͷϨϏϡʔ࣮ࢪɺڭҭɺπʔϧͷఏڙͳͲ • ਓ޻஌ೳͱػցֶशͷ੹೚͋Δར༻ͷ࣮ફ • ੹೚͋Δ"*ج४  ͭͷجຊݪଇͷࡦఆ • ઐ໳ҕһձ͕ਪਐͯ͠"*ݪଇͷ९कɾ࣮ફ "&5)&3 "*
    BOE
    &UIJDT
    JO
    &OHJOFFSJOH
    BOE
    3FTFBSDI ͓Αͼ03" 0GGJDF
    PG
    3FTQPOTJCMF औΓ૊Έ ۩ମྫ *#. • ৄࡉ͸ޙड़ • "*
    &UIJDT
    #PBSEʢ"*ྙཧҕһձʣ૊੒ • "*ྙཧݚमϦιʔε044πʔϧΩοτͷఏڙ • 8BUTPO
    0QFO4DBMFͷఏڙ - اۀ͕"*ྙཧͷ࣮ݱΛऔΓ૊ΊΔ੡඼ • ੓෎ɺֶज़ػؔɺ/10ͳͲͱͷڠۀ
21. © 2022 IBM Corporation 21 *#.ͷऔΓ૊Έ ࢀߟɿIUUQTXXXJCNDPNBSUJGJDJBMJOUFMMJHFODFFUIJDT "*ྙཧͷͨΊͷΨΠυ 044ϓϩδΣΫτ *#.
    8BUTPOš
    0QFO4DBMFä "DDPVOUBCJMJUZ આ໌੹೚ 7BMVF
    "MJHONFOU
    Ձ஋؍ͷҰக &YQMBJOBCJMJUZ આ໌Մೳੑ 6TFS
    %BUB
    3JHIUT Ϣʔβʔɾσʔλͷݖར 'BJSOFTT ެฏੑ • -JOVY
    'PVOEBUJPOʹ044ͱͯ͠ݚम༻Ϧιʔεɺ 044ͷπʔϧΩοτΛఏڙ • "*
    'BJSOFTT
    
     ެฏੑݕূͷ044πʔϧΩοτͷ ఏڙɺίϛϡχςΟͷӡ༻ • "*
    &YQMBJOBCJMJUZ 
    r Ϟσϧͷઆ໌ՄೳੑΛα ϙʔτ͢Δ"1*ͷఏڙɺίϛϡχςΟͷӡ༻ ͳͲ • اۀ͕"*ྙཧͷ࣮ݱΛ۩ମతʹऔΓ૊ΊΔ੡඼ ˞ৄࡉ͸࣍ϖʔδ n "*ྙཧͷͨΊͷΨΠυΛ੔උ্ͨ͠Ͱɺ044ϓϩδΣΫτΛਪਐ͢Δͱͱ΋ʹɺ঎༻αʔ Ϗεͱͯ͠ɺ*#.
    8BUTPOš
    0QFO4DBMFäΛఏڙ
22. © 2022 IBM Corporation 22 *#.ͷऔΓ૊Έɿ*#.
    8BUTPOš
    0QFO4DBMFäͷղઆ n 0QFO4DBMF͸.-0QTͷϥΠϑαΠΫϧʹ͓͍ͯɺ Ϟσϧ͕ظ଴௨Γʹಈ࡞͍ͯ͠Δ͔Λ؂ࢹ͠ධՁ͢Δ͜ͱ͕Մೳ ؂ࢹͱධՁͷର৅ • આ໌Մೳੑ üೖྗΛͲ͏มߋ͢Ε͹Ϟσϧͷ݁ՌͷมԽʹ ͭͳ͕Δ͔ʁ • ެฏੑ üֶशσʔλͱϞσϧʹόΠΞε͕જΜͰ͍ͳ ͍͔ʁ • ඼࣭ɾਖ਼֬ੑ üϞσϧ͸ϥΠϑαΠΫϧΛ௨੍ͯ͠౓Λҡ࣋ ͍ͯ͠Δ͔ʁ • υϦϑτ üೖྗσʔλ͕มԽ͍ͯ͠ͳ͍͔ʁ ˞0QFO4DBMF͸Ϟσϧʹೖྗ͞ΕΔσʔλ͓Αͼͦͷ༧ଌ݁ՌΛऩू͠؂ࢹ͢Δ モデルの作 成 モデルの実 ⾏ モデルの監 視と評価 .-0QTͷϥΠϑαΠΫϧ 0QFO4DBMFͷείʔϓ
23. © 2022 IBM Corporation 23 n ެฏੑΛఆྔతʹධՁ͢ΔࡍʹɺެฏੑείΞ͕ར༻͞ΕΔ 参考︓公平性スコアの算出 ؂ࢹର৅άϧʔϓͷ ޷·͍݁͠Ռͷׂ߹ ެฏੑείΞ ʹ ࢀরάϧʔϓͷ ޷·͍݁͠Ռͷׂ߹ 【例】 ローンの審査にいおいて、⼥性に偏⾒（バイアス）がない か監視・評価する場合、 • 監視対象グループ＝⼥性 • 参照グループ＝男性 • 好ましい結果＝リスクなし評価 • （好ましくない結果＝リスクあり評価） ঁੑͷ ϦεΫͳ͠ධՁͷׂ߹ ެฏੑείΞ ʹ உੑͷ ϦεΫͳ͠ධՁͷׂ߹ ʹ   ʹ  ˞ถࠃͷաڈͷ൑ྫ΍ΨΠυϥΠϯͰ͸ɺެฏੑείΞ͸ҰൠతʹΛ্ճΕ͹ެฏͰɺࠩҟ͸ڐ༰ൣғ಺ͱ͞ΕΔ ྫ
24. Ϋϩʔδϯά 
25. © 2022 IBM Corporation 25 ·ͱΊ n ΰʔϧ • "*͕٭ޫΛཋͼΔதɺݦࡏԽ͍ͯ͠Δࣾձ໰୊Λ஌Δ • ্هʹؔ͢ΔΩʔϫʔυΛ஌Δɾཧղ͢Δ ü ৴པͰ͖Δ"* ü ެฏੑ ü આ໌੹೚ ü ಁ໌ੑ ͳͲ • ಛʹɺެฏੑɾઆ໌੹೚ʹ͍ͭͯ͸ɺ ۩ମతͳιϦϡʔγϣϯྫΛ֬ೝͯ͠ཧղΛؚΊΔ "*ͷϒϥοΫϘοΫεͳੑ࣭ʹىҼͯ͠ɺ ྙཧతʹዬ ΋ͱ ΔΑ͏ͳࣾձ໰୊͕ݦࡏԽ͍ͯ͠Δɻ ্هͷࣾձ໰୊͸ɺओʹެฏੑɾઆ໌੹೚ɾಁ໌ੑͷཁૉͰ੔ཧͰ͖ɺ ͜ΕΒͷ໰୊Λղܾ͢Δ͜ͱͰɺ"*Λ৴པͯ͠ԸܙΛड͚Δ͜ͱ͕Ͱ͖Δɻ ͦͷͨΊʹɺ֤ࠃ੓෎Ͱ͸نଇ΍ΨΠυϥΠϯΛٸϐονͰ੔උ͠ɺ ֤اۀ΋ಠࣗͷΨΠυϥΠϯΛ੔උͯ͠ɺΞΫγϣϯΛ࣮ࢪ͍ͯ͠Δɻ *#.
    8BUTPOš
    0QFO4DBMFäΛྫʹ঺հɻ ʲެฏੑʳެฏੑείΞͰόΠΞε͕ڐ༰Ͱ͖Δ͔ఆྔతʹධՁ ʲઆ໌੹೚ʳେہతʹ͸Ϟσϧͷެฏੑ඼࣭υϦϑτ͕໰୊ͳ͍͔ධՁɻہॴ తʹ͸ͦΕͧΕͷਪ࿦ͷ݁Ռʹ͍ͭͯɺͲͷಛ௃ྔ͕ͲͷΑ͏ʹӨڹΛ༩͔͑ͨ ఆྔతʹՄࢹԽ
26. © 2022 IBM Corporation 26 Ξϯέʔτͷ͓ئ͍ 23ίʔυಡΈऔΓ Լه63-΁ΞΫηε͠ IUUQTBQQTMJEP Πϕϯτίʔυ EPKPQN Λೖྗ