Upgrade to Pro — share decks privately, control downloads, hide ads and more …

IBM Dojo:公平で説明可能なAI / Watson OpenScale

8065fe5a0d33908c6f71c5ae28939dcd?s=47 Aya Tokura
December 02, 2020

IBM Dojo:公平で説明可能なAI / Watson OpenScale

本日のセッション資料
https://ibm-developer.connpass.com/event/185134/

IBM Cloudアカウント作成&ログインはこちらから
https://ibm.biz/dojo1202

8065fe5a0d33908c6f71c5ae28939dcd?s=128

Aya Tokura

December 02, 2020
Tweet

Transcript

  1. IBM Dojo!"#$%&'()*+, Aya Tokura Developer Advocate Tokyo City Team 2020/12/2

  2. @ayatokura -./0123/45,67"89 :";<=<>?@<9"+A=?BCD<5EFG HIJKLMNOPQRSTUVWSXYZ[\]^_ `abcdMefgLhijKklmnop\qrG stuvAya Tokuraw IBM Sr. Developer

    Advocate (Be Equal Ambassador) xyzK{|}~5rÄÅ
  3. タイムテーブル 14:00-14:05 (5min) オープニング 資料ダウンロード、出席登録など 14:05-15:00 (55min) 公平で説明可能なAI セッション 15:00-15:15

    (15min) Q&A クロージング
  4. !"#$%&'( IBM Cloud )*+,-.'/0URL123456789 ibm.biz/dojo1202 ! IBM Cloud :;"$ +<=$%>?&@ABC*D'(

    EC212:;"$F56789 ! IBM Cloud G"%+<=$%HI +<=$%>ABC&J9D'( KLM>AN9FO? âä4l|ãåP
  5. 学習の⽬的とゴール ⽬的 AIの公平性、説明性の必要性を理解した上で、 Watson OpenScaleの概要を理解する ゴール Watson OpenScaleで何ができるかを実際に体験する このコースを学ぶ⽅の想定スキル 機械学習の初⼼者レベルの知識がある⽅

  6. ⽬次 1. AIの課題とIBMの取り組み 2. IBM Watson OpenScale ご紹介 3. チュートリアルツアー体験

    4. おすすめ情報
  7. 1. +,l∏π

  8. ⽇本政府が策定した「⼈間中⼼のAI社会原則」 6) 公平性、説明責任及び透明性の原則 「AI-Readyな社会」においては、AIの利⽤によって、⼈々が、その⼈の持つ背景に よって不当な差別を受けたり、⼈間の尊厳に照らして不当な扱いを受けたりすること がないように、公平性及び透明性のある意思決定とその結果に対する説明責任(アカ ウンタビリティ)が適切に確保されると共に、技術に対する信頼性(Trust)が担保され る必要がある。 ・AIの設計思想の下において、⼈々がその⼈種、性別、国籍、年齢、政治的信念、宗 教等の多様なバックグラウンドを理由に不当な差別をされることなく、全ての⼈々が

    公平に扱われなければならない。 ・AIを利⽤しているという事実、AIに利⽤されるデータの取得⽅法や使⽤⽅法、AIの 動作結果の適切性を担保する仕組みなど、⽤途や状況に応じた適切な説明が得られな ければならない。 引用元:人間中心のAI社会原則 https://www8.cao.go.jp/cstp/aigensoku.pdf 今後、AIには公平性や説明性が 求めらてくることが予想される
  9. AIの信頼性につながるAIの説明性・公平性とは?

  10. wxyz{|}{~zCAB Ä=>?@8ABÅ ƒOGOgk H¬Kakd5P IJçé KLÑM∑NOà ¨P :°ªLúå ÑQRÜD<S?Tà :°ª58å

    ÑS>CBUS?Tà VWüXå VWüYå Z=klVWv[ó\lY˙àë–:°ªLú˙÷{P≥Kc]xlN^ —_"YåVW\˘`flfl&'ì\#˘úù™?{*ål°a
  11. 説明性 (Explainability) 想定シナリオ 顧客に対する与信判断(融資を実施するかどうか)をする機械学習モデルを作ったとします。 顧客 窓⼝担当者 融資の申請を認められない という話だが、何が原因 なのか︖︖︖︖ 当社の与信判断モデルは⾮常

    に精度が⾼いのですが、 あいにくブラックボックスで 理由はわからないのです… 説明不可能なAI
  12. 説明性(Explainability) 顧客 窓⼝担当者 融資の申請を認められない という話だが、何が原因 なのか︖︖︖︖ お客様の融資が却下された⼀番の 理由は年収で、寄与度は60%です。 次の理由は年齢で、寄与度は 20%になります。

    前ページのようなやりとりが起きた場合、今回説明するWatson OpenScaleがあると このように説明が可能になります。 説明可能なAI
  13. AIの公平性

  14. 「AIの公平性」の問題 • 被告の再犯可能性を予測するAIシステム「Compas」 • ⽶国で実際に本番利⽤されている機械学習モデル • 137問の質問への回答を⼊⼒に、再び犯罪を犯す危険性を10段階の点数 として算出 • 調査報道サイト「プロパブリカ」により、以下の調査結果が判明し

    ⼤きな社会問題となりました。 出典: https://kaztaira.wordpress.com/2018/09/22/aiのバイアス問題、求められる「公平」とは何/ 偽陽性 (再犯の疑いありの判定で 実際には再犯なし) 偽陰性 (再犯の疑いなしの判定で 実際には再犯あり) ⽩⼈ 23.5% 47.7% ⿊⼈ 44.9% 28.0%
  15. アルゴリズムは公平か︖ アルゴリズムは公平ではなく、作成者の意図やバイアスが紛れ込む l アルゴリズムは過去の⾏為や⾏動パターンを繰りかえし、⾃動的に現状を 維持するだけ l 判定の最適化とは、過去データの特徴からセグメントを抽出した後に、 判定対象を特定のセグメントに分類すること • セグメントの境界を決める重要な特徴データ以外の個々⼈の属性や

    事情は考慮されない l バイアスが紛れ込む要因の例 • 過去のデータ(実績)の偏り • データの選択を⾏うのは⼈間 • 有効かもしれないが存在しないデータ • 代理データを無意識に利⽤ • 成功要因を恣意的に設定
  16. Bµ∂Z∑∏π∫ Ä!Å ! -./é1 áàªyàª{ÇCºäyà}ä|~|z|ÇÉCºyàªÇ ¥∞lÿè5ΩªæäÇC{}øCǪ{}äy{ª}¿Éü∂ªS+,5Núù… ì5ŸÀ ! -./01†3-/4–AB¡¬ZTgZ√∞2÷ úù

    RDD@"!ûûQQQ:ÜSÖ:B?ÖûS>?⁄"ûDRÜáUû€@—€Cû<=<9”AC”—<DRÜB"—‹?9—C9DÜ‹ÜBÜC>—ÜáD<>>Ü⁄<áB<û
  17. IBMの取り組み (2) IBMでは以上の全社的な⽅針を受けて、次の2つの製品・サービスを提供 Watson OpenScale Watson StudioやWatson Machine Learningと同じIBM Cloud上のサービス。

    ただし、他のサービスと異なり、他社AIも管理対象に含む。 AI Fairness 360 / AI Explainability 360 Python APIをOSSとして公開。 ライブラリだけでなく、API Reference、チュートリアル、デモアプリなども ⼀般に利⽤可能。ユーザーは⾃分でPythonコーディングを⾏うことが前提。 AIF360: http://aif360.mybluemix.net/ AIX360: http://aix360.mybluemix.net/
  18. 2. IBM Watson OpenScale æø¿ https://www.ibm.com/jp-ja/cloud/watson-openscale

  19. Watson OpenScale ここで 3.チュートリアルツアー体験の事前準備 「3.チュートリアルツアー体験」の3番まで準備する 1. IBM Cloudへのログイン 2. Watson

    OpenScaleサービスの作成・起動 3. ⾃動セットアップの実施 (10分前後の待ち時間)
  20. RDD@!ûûÜSÖ:SÜüûA?€?.0-©5ƒ`H®ò_z6MOò_8r˙åG ú%5¥∞lúÛQÙ%z6MOıΩlÅÇ{Sz6MO‚ï%úGz6MO∫l ˆ5b¬vKcü˜¯˙˚_åù˘˙\˜¯˙˚_|å_8r˙åG ! IBM Cloud :;"$ +<=$%>?&@ABC*D'( EC212:;"$F56789 !

    IBM Cloud G"%+<=$%HI +<=$%>ABC&J9D'( KLM>AN9FO? äMNOPö¡%{ https://cloud.ibm.com/login °Ïz6MO()%ú !ÃCIBM Cloud◊Z1,∞+
  21. ƒÃCWatson OpenScaleÿ(Ÿ±Z™´u⁄€ -—/: –ÙÇz6÷\`√5`úù

  22. -—-: ¸˝v5`®5ÑCD"?á"Ö@<á8BC><\ìîòS –ÑCD"?á"Ö@<á8BC><÷\ÃÕúù

  23. -—ç: √K˛OlÃÕ–ˆa®÷Sˇ!òaOlÃÕ–aMPÑ‘ˇà÷ü ÃÕ˙˚_åù¶ë\¯pò_–A’÷vÇO\`√5`úù

  24. -—©: ÑCD"?á"Ö@<á8BC><lö'l˘˙ü˜¯˙˚ôÏS"l∏H¬K°Ï –Áñ÷\`√5`úù

  25. -—2: –ƒò√#Kb˛OlÄ[÷vÇO\`√5`ò_ ÑCD"?á"Ö@<á8BC><lˆ5b¬vKc\Ä[úù

  26. …Ë€DEœ£E)Z›fi ç—/: –±[H5Pƒ5ò÷\`√5`úù Ñ$æ5Ÿ⁄_Ê*ªkúüS%/.ºlÚË\ïòkúà

  27. ç—-: %¨&'k%Òfl ç—ç:"–%¨ü&'òkòôÅ÷똯ü(:⁄ôÏS–)≈kò*r÷ vÇO\`√5`úù ¶¶5+qUEü˜¯˙˚ù

  28. 2. IBM Watson OpenScale æø¿ https://www.ibm.com/jp-ja/cloud/watson-openscale

  29. Watson OpenScaleの特徴 Watson OpenScaleのハイレベルな特徴として以下のことがあげられます。 Open (オープン): 代表的な機械学習・深層学習フレームワーク・他社AIサービス(MS Azureや Amazon Sagemaker)を管理対象とすることが可能

    Scale (拡張性): パブリック、プライベート、ハイブリッド・クラウド、どの環境でも提供可能 Explainability (説明性): AIモデルの評価結果において、その判断理由を説明 Fairness (公平性): AIモデルの導出した結果の公平性をチェックし、是正する
  30. Watson OpenScaleの主要機能 Payload Logging機能がベースの機能となっています。 Payload Loggingを使って説明性(Explainability) と公平性(Fairness) を実現してい ます。 それぞれの拡張機能としてContrastive

    ExplanationとBias mitigationがあります。 それ以外にモニタリング機能や、ドリフト・モニタリング機能がなどがあります。 Payload Logging 説明性 (Explainability) 公平性 (Fairness) Contrastive Explanation Bias mitigation ・Monitoring ・Performance ・Drift monitoring Watson OpenScale 主要機能
  31. ≈{Çäà}C∆y}«¿{zC/EFŒÎ(2 ÑCD"?á"Ö@<á8BC><ˆ5b¬vKc%{S˘˙"l∏H¬KÃÕ%S ˘˙\78ê5˜ª9∞ù¶ëü%†kúG #$ì 8<T \:¨

  32. Â{Ézà{øCÊàÁÁ|}Á ÈC”>?CA"‚?⁄⁄Üá⁄ë{SÁñÛªlÆØçéZ=k5Ûúù;úòÚlìî=KÇS úîÒÚ\ÇMÉ®ÇOòëÎHK`,;Ñ"B?9Üá⁄<ÜAàëë–5;65±[ê5=Ù úùÆ)%úG Ö@<á8BC><l>ïÆ)%∂ù&'ìë#[ì{SÈC”>?CA"‚?⁄⁄Üá⁄5Ÿª=Ù˙˚ô =KÇlº?\úi@5¢≤˙˚_åkúG

  33. Payload Logging (Watson Machine Learningの場合) Watson ML上に登録されたモデルに対してPayload Loggingを⾏う場合は、 OpenScale側で管理対象の指定をするだけで⾃動的に記録されます。 この場合、アプリ側の改修は不要です。

    Watson Machine Learning deployment Application API Call OpenScale Payload
  34. Payload Logging (他社 Machine Learningの場合) MS AzureやAmazon Sagemakerなどの他社APIの場合は、アプリケーションは モデルのAPIを呼び出した後で、⼊⼒データとその結果を引数に、OpenScale側で ⽤意したPayload

    Logging APIを呼び出すようにします。 他社 Machine Learning Application API Call OpenScale Payload Payload Logging API
  35. 説明性 (Explainability) 想定シナリオ 顧客に対する与信判断(融資を実施するかどうか)をする機械学習モデルを作ったとします。 顧客 窓⼝担当者 融資の申請を認められない という話だが、何が原因 なのか︖︖︖︖ 当社の与信判断モデルは⾮常

    に精度が⾼いのですが、 あいにくブラックボックスで 理由はわからないのです… 説明不可能なAI
  36. 説明性(Explainability) 顧客 窓⼝担当者 融資の申請を認められない という話だが、何が原因 なのか︖︖︖︖ お客様の融資が却下された⼀番の 理由は年収で、寄与度は60%です。 次の理由は年齢で、寄与度は 20%になります。

    前ページのようなやりとりが起きた場合、今回説明するWatson OpenScaleがあると このように説明が可能になります。 説明可能なAI
  37. 説明性(Explainability) 顧客 窓⼝担当者 年収が⾜りないのはわかったが、 いくらあればよかたのか︖ お客様の場合、年収があと200万円 あれば、当⾏でも融資できます。 説明性の拡張機能 (Contrastive Explanation)

    説明性の拡張機能まで使うと、次のような突っ込んだやりとりにも対応可能です。
  38. =>dÄwxyz{|}{~|z|ÇÉÅ 4T@>CÜáCSÜ>ÜD”Ñ&'ìàë{SÆØçéZ=kü∂¨lPaOG`b˛O5Ûò_ *J›lÒK5Lòô°l&'\ÒÚÛÙmZıˆ˜<¯õÆ)%úG È?"ÜDÜ=<*ïslÿèÂ{eW —_"Ö@<á8BC><lº?ÒÚ M<⁄CDÜ=<*ïslÿèÂ{eW —_"Ö@<á8BC><lº?ÒÚ ¥Nê*ÆØçéZ=klÒKë¯˝W —_"Z=k°Ï:°ù∆«

  39. =>dÄwxyz{|}{~|z|ÇÉÅ &'ìÑ4T@>CÜáCSÜ>ÜD”àÆ)l¢≤™? ‚,74Ñ‚?BC>",áD<9@9<DCS><"7?A<>—C⁄á?"DÜB"4T@>CáCDÜ?á"àëår™?\NK®5ò_åkúG $flRZèêëíZ˘˙\ó?òôåÅÇS›l˚¸ZÒî(˝<4ÒP9˛8k®\ïOkúG $Pk⁄ô=KÇ\@⁄_Sìîïöˇ!"b˚#õk$%ìîï\AªkúG $QRZ=k{STüQU*ô≈S{eW\£≈ù¶ëü()%úG ¶lƒòzK¡%∂˚;SÛªü&'ëíìîïZ(˛8)*8ìîï<+,-?@5*ªkúG úù!"RDD@"!ûûC9TÜ=:?9⁄ûCS"û/».-:.©†ç0 ìî(O/lV ìî(O-lV

    W ïñÛªlPaOÏ`b˛O X ïñÛªlYZV%läãÒÚ\ïOù [ æø\Ñ[¯5{M—/∑]^$˙àl_\\£≈ù
  40. =>dZ·‚è@ Äáà}Ǫ{äÇ|ËCwxyz{}{Ç|à}Å ¨`=KÇüìîlZ=klÅÇS4T@>CÜáCSÜ>ÜD”l˘˙öa5{Bµ∂.‹Z ·‚è@</káà}Ǫ{äÇ|ËCwxyz{}{Ç|à}b(k˘˙üúî˙˚_åkúG ìîVüå8flr⁄ôÏf gÒÚü(:⁄_åô°G fgÒÚüÉë„^5*ù bªbªlVG

  41. :;d Ø∞£±01 Ö@<á8BC><\◊ÿòô#$ì4Mƒ®¸¥l◊ÿbJ√]{Sö'lë|ª%úG ¶lc%∂5¿ï*l{–deÛªÿèl¨÷%S’‘lf√bK*5 gh†S€Ëü¨òkúGÖ@<á8BC><{S≈Ï˚ôf√bKüiÏ˚_ åù°\deúùjk\fi`kúG deÛªZ=kl¨ deÛªÿèl¨ Ñ… ìÂS€(S1z<DBà

    Ö@<á8BC><%l%¨ #[ìlVl¨ Ö@<á8BC><%l ZHÇ√O6 ƒaKP]¥
  42. :;d Ø∞£±01 ˆ5b¬vKc°ÏSÚmn%4Mƒ®l(µü¯p%†kúG ®ßƒülV\'KùëƒaKPü˜¯˙˚kúG lV Ñ<}%¨úùà ƒaKP˜¯ 6axö\`√5` úùëop˜¯˘˙

  43. 公平性 バイアス検知の⽅法 perturbation analysis ⼊⼒データの バリエーションを増やす 監視対象 モデル Payloadだけではデータが不⾜している場合、OpenScaleは⼊⼒データのバリ エーションを増やし(perturbation

    analysis)、それぞれの結果を⾒ることで、バ イアスの有無を検知します。 payloadから 取得した記録 増やしたデータに関して、 モデルを呼び出し結果を 調べる 結果を統計的に処理 してバイアスの有無 を判断
  44. :;d Ø∞£±01Z23 v[=KÇ–w∞ô∫5SZ=klfgÒÚlÀªü<}%¨òôlV\^∞ô ÅÇS4Mƒ®ü∂ùëÖ@<á8BC><{fgòkúG '•K8ïZ97î(˝Ä:∞1(2Å :;d;<ZTg=>Sî(˝Ä?€Åö@AT˘˙ –4Mƒ®∂ª÷l ˜¯

  45. :;dÄ»{|ª}ääÅCBCè@ Ö@<á8BC><{4Mƒ®l¡25`\qrrÁ%*8S±[ê54Mƒ®\xyúùÆ)\fi⁄_ åkúGa]vÇO\–Ø∞£±BCD∫÷5˜ª9∞ùëSxyZ=k%∂˚;lŸr* úî5*⁄_åô°lDE\˜¯%†kúG

  46. :;dÄ»{|ª}ääÅCERFG %¨z{{S&'ìlÚ„35QU%SèêëíìîïbHõk1Icщ%úG ôròSlÿè\#$ìlÛª5úù°{ÎKÏKü:¨úùîïü∂ªkúG ÒÄERÚÛÅ $ZHÇÛª√ì Ñ… ìÂà $Œ◊*6kKò Ñ… |ìàS‚◊*6kKò

    Ñ… }ìà $èê(O Ñ… hi√®`Œ‘à $Œ◊*ÒÚ Ñ… √®`*òà $‚◊*ÒÚ Ñ… √®`∂ªà
  47. 説明性・公平性 サポート対象モデル 説明性と公平性は、管理対象がどのような種類のモデルかにより、対応の有無が 異なります。現在のサポート状況を整理すると、下の表のようになります。 モデル種別 対象データ 説明性 公平性 公平性緩和 精度

    分類 構造データ Yes Yes Yes ※ Yes 回帰 構造データ Yes Yes No Yes 分類 テキスト Yes No No No 分類 イメージ Yes No No No ※ モデルが確率値を返すタイプのものである必要があります。
  48. 説明性・公平性 サポート対象フレームワーク 説明性・公平性は、フレームワークによってもサポートの有無が違ってきます。 最新の状況については、下記リンク先を参照してください。 Watson Machine Learning Azure ML Studio

    AWS SageMaker Custom/Python function 分類 構造データ Apache Spark Mllib Python function XGBoost scikit-learn Native Native WMLと同じ 回帰 構造データ Python function XGBoost scikit-learn n/a n/a n/a 分類 テキスト Keras with TensorFlow(※1) n/a n/a n/a 分類 イメージ Keras with TensorFlow(※1) n/a n/a n/a 参照: https://cloud.ibm.com/docs/services/ai-openscale?topic=ai-openscale-frmwrks-wml&locale=ja
  49. 3. チュートリアルツアー体験 ⾃動セットアップについて ⾃動セットアップはデモ⽤のセットアップ(設定、デモデータのロード等)を ⾃動で⾏い、実際にWatson OpenScaleで何ができるのかを体験することが できます。 以下の順序で実施します。 1. IBM

    Cloudへのログイン 2. Watson OpenScaleサービスの作成・起動 3. ⾃動セットアップの実施(待ち時間約10分) 4. Watson OpenScaleを体験(モデル・モニターでのインサイト表⽰)
  50. ©—/:" ÑCD"?á"Ö@<á8BC><"ˆ5b¬vKcljƒKüh)˙˚ùl% ä∑ëãvÇO\`√5`ò*üÏó&åΩ+≈ù Ñ4äçéà 8ŸN(FG+ ÑCD"?á"Ö@<á8BC><5{SèêS&'SS’S GfKPl©fll>*ëíü∂ªkúG

  51. ©—-:" ó&\åΩ+≈–∑ë÷vÇO\`√5`úù Ñ4äçéà OP/EFŒÎ(2 èêˆ5b¬vKc5{SZHÇ√O6ò_åù Z=kü˜¯˙˚kúG Ñ4äçéà /EFŒÎ(2bQ@ –ˆ5b¬vKc5ìw÷vÇO\@ÿúùë Z=klZHÇ√O6\S’ò_Z=k\

    ˆ5b¬vKc5ìw%†kúG
  52. ©—ç:" ó&\åΩ+≈–∑ljƒK÷vÇOü˜¯˙˚ôÏ`√5`úù Ñ4äçéà ìîïuì*˝( îZHÇ√O6ÛªZ=k{Sˆ5b¬vKc5 ÇMkëò_˜¯˙˚kúGZ=k$ÇMk\ `√5`úùëSZHÇ√O6lopüh†kúG Ñ4äçéà ìîïRS îZ=k$ÇMk%S#$ìSflêS|ŸÃ

    c√xPl≤“l:ï\˜¯òkúGò†åV Çñl∂ù:ï5{S‡·5óüò†kúG
  53. ©—©:"GOòk%ÿÓ˙˚_åù–˝ÿ√®`Z=k щ9<AÜD"“Ü"U"7?A<>à"÷ lbJ√]ëZ=kl/0lop\ä∑ëãkô{äM<TDã vÇO\ `√5`ò_¯púù

  54. ©—2:"bJ√]l&'ô˝ÿ√®`lbJ√] "!"#$%&'()*+,- ./0123456(789/ :;<=/>?@%ABCDE FG?HIJKLAM N%" OP?QR(7/PS?TUB #VE6WX$(7/YZ[\ ]DE^,_/`ab?cdA Befb?fghiZLZ#"

    bJ√]\¯pòôÏä∑ëãkô{äM<TDãvÇO\`√5`
  55. ©—»:"bJ√]l&'ô˝ÿ√®`lbJ√] “jklDmnl op*EqrZJ6st5u v"wx?efby89ZJ KBz{|z?}~AB/E Watson OpenScale y{/ |EÄÅÇz?ÉÑZJRÖ ÜKM

    " öõ\¯pòôÏä)≈kò*rãkô{ä‚<Dú""⁄?ãvÇO\`√5`
  56. ©—é:" /0Gù√K|ŸÃ#$ìe®Pl¯p Ñ/û2ë-û2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù Ñ4äçéà TUZ‰V /0lï%˘˙5{S¥Él/0 °Ïle®PÒÚü˜¯˙˚k úG Ñ4äçéà

    :;dW±œ :ïH`b˛O5{/0lÒÚü˜¯˙˚kúG#$ì{S Z=kü6kKòË%ûkòåÒÚ\˚rÁü15úú °\¯òkúG
  57. ©—0:" flêe®P|ŸÃc√xPe®Pl¯p Ñçû2ë©û2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù Ñ4äçéà XYW±œ flê{SxfKc45`$=KÇë;;˚ù aNkò†e®P$=KÇ5ghå_[òå ÒÚ\úúZ=kl)î\˜òkúG G

    Ñ4äçéà 2•KœW±œ c√xP{[ó\kô{=KÇl~ÇìlX'5 flå_†áòkúG
  58. ©—†:" #$ìl/0l¯p Ñ2û2à ó&\åΩ+≈–∑ljƒK÷vÇO\`√5`úù Ñ4äçéà :ïV\`√5`úùëSÒÚlopü˜¯˙˚kúG∑5S #$ìZHÇK\s_Ωkò*rG

  59. ©—/.:" #$ìZHÇ√O6l¯p Ñ/û2ë-û2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù

  60. ©—//:" #$ì®ßƒl¯p Ñçû2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù

  61. ©—/-:" #$ì®ßƒlÚËê(µl¯p Ñ©û2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù

  62. ©—/ç:" #$ì®ßƒlÚËê(µl¯p Ñ2û2à ó&\åΩ+≈–∑ljƒK÷vÇO\`√5`úù

  63. ©—/©:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ/ûéà" ü°`=KÇ$H5P

  64. ©—/2:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ-ûéà" #$ì®ßƒ

  65. ©—/»:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñçûéà" ~MzKc$=KÇ$H5P

  66. ©—/é:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ©ûéà" ¢£=KÇ$H5P

  67. ©—/0:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ2ûéà" 4Mƒ®xyıΩl=KÇ$H5P

  68. ©—/†:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ»ûéà" #$ìl§ö

  69. ©—-.:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñéûéà" PaOÏ`b˛Ol˜¯ ä∑ljƒKã\`√5`ò_∑5+»

  70. ©—-/:" /0ıΩPaOÏ`b˛Ol¯p Ñ/û©à" /0ıΩPaOÏ`b˛Ol˜¯

  71. ©—--:" /0ıΩPaOÏ`b˛Ol¯p Ñ-û©à" 6kKò$4Mƒ®

  72. ©—-ç:" /0ıΩPaOÏ`b˛Ol¯p Ñçû©à" ¬‹l4Mƒ®

  73. ©—-©:" /0ıΩPaOÏ`b˛Ol¯p Ñ©û©à" PaOÏ`b˛Ol&'

  74. ©—-2:" PaOÏ`b˛Olop¯p Ñ/û2à" Z=kÒÚl&'

  75. ©—-»:" PaOÏ`b˛Olop¯p Ñ-û2à" ¥–¿ï*∂•¶

  76. ©—-é:" PaOÏ`b˛Olop¯p Ñçû2à" Z=k[Al¸ñ

  77. ©—-0:" PaOÏ`b˛Olop¯p Ñ©û2à" ÂlÒÚ5*ù

  78. ©—-†:" PaOÏ`b˛Olop¯p Ñ2û2à" ›lÂlbJ√]lß˝ ä∑ljƒKãvÇO\`√5`ò_∑5+»

  79. ©—ç.:" c√xP$ZHÇ√O6 Ñ/û»à c√xP$ZHÇK

  80. ©—ç/:" c√xP$ZHÇ√O6 Ñ-û»à [ó\lX'

  81. ©—ç/:" c√xP$ZHÇ√O6 Ñçû»à [ó\lÚËê(µ

  82. ©—ç/:" c√xP$ZHÇ√O6 Ñ©û»à GfKP:ï

  83. ©—ç-:" c√xP$ZHÇ√O6 Ñ2û»à =KÇ~ÇìlX'

  84. ©—çç:" c√xP$ZHÇ√O6 Ñ»û»à op\˜¯ ä∑ljƒKãvÇO\`√5`ò_∑5+»

  85. ©—ç©:" c√xP Ñ/û-à PaOÏ`b˛OPÇ

  86. ©—ç2:" c√xP Ñ-û-à Œsë*⁄_åù∂•¶ ä∑ljƒKãvÇO\`√5`ò_∑5+»

  87. ©—ç»:" PaOÏ`b˛O Ñ/û-à PaOÏ`b˛O$√®P

  88. ©—çé:" PaOÏ`b˛O Ñ-û-à ®©\¸Œ äN'ãvÇO%N'úùG

  89. 実際にモデルを登録してWatson OpenScaleを使うには 実際にモデルを登録してWatson OpenScaleを使うには、pythonでSDKを使って コードを書き、実⾏して設定を⾏うことが通常必要です。 • Watson Machine Learningのモデルを使う場合は、モデル登録にpythonでの 登録が必要です。

    • AutoMLなど他社のモデルを使う場合は、ペイロードロギング等に通常は 何かしらのコードの実⾏が必要です。 • もちろん⼀部はGUIで実施可能です。
  90. Watson OpenScale Python SDK チュートリアル (上級) 下記のタスクを実⾏する⽅法を学習できるコンテンツです。 • Python ノートブックを実⾏して機械学習モデルを作成、トレーニング、

    およびデプロイする • データマートを作成し、パフォーマンス、正確度、公平性のモニターを 構成し、モニター対象のデータを作成する • Watson OpenScale の「インサイト」タブで結果を表⽰する https://cloud.ibm.com/docs/ai-openscale?topic=ai-openscale-crt-ov
  91. äßK®%A’òô√≤K®\≥¥úù™? /: ,67"‰>?!Aˆ5b¬vKc5z6MOúù -: ä√≤K®lï%ãläúO_˜¯ã\ÃÕúù ç: ä8<9=ÜB<ãl'µ∂\`√5`ò_öõ\∑húù ©: A’˙˚ô-fllGKı®∏lπAl@‹\`√5`òä≥¥ã\ÃÕúù ÄGKı®∏{¬‹5Ê*ùô≈S¢£l˘˙\æ¯p8r˙åG

    ! ÑCD"?á"Ö@<á8BC><"TTT ! QÖ>—TTT
  92. ,67"‰>?!A5NúùxfKc45`æ∫îl|ãå ,67"‰>?!Aˆ5b¬vKc°ÏäÌ44;6+‰™ãvÇO\`√5`ò_åôr8¶ë% æÓsSBªïû\xfKc45`ò_åôr8¶ëü()%úG

  93. まとめ • AIの実⽤化には、「公平性」や「説明性」が 重要な課題となってきている • 「IBM Watson OpenScale」は、AIの公平性の分析、 不公平なバイアスの軽減、説明性の実現が可能である

  94. 4. |úú≈∆« –hi≤§ÁGMPIBM Developer ibm.biz/IBMDevJP ¥É∆«L®≠kƒ5ò5jΩfl»æ...\^∞ùmn=<\‡·

  95. |úú≈∆« – IBM Code Patterns https://ibm.biz/ibmcodejp ó& ø"=Z[˘ ø"≤K®ßKcü¿⁄ôƒò√hiôÇKOP

  96. Microsoft Azure ML × Watson OpenScale 学習資料 Watson OpenScale を利⽤して

    Azure での機械学習を モニタリングする (Code Patterns) Microsoft Azure で機械学習モデルを作成し、Watson OpenScale を利⽤して ペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介 https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/ https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/ GitHub IBM/monitor-azure-ml-with-watson-openscale
  97. AWS SageMaker × Watson OpenScale 学習資料 Watson OpenScale を利⽤して SageMaker

    での機械学習を モニタリングする (Code Patterns) AWS SageMakerで機械学習モデルを作成し、Watson OpenScale を利⽤して ペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介 https://developer.ibm.com/jp/patterns/monitor-amazon-sagemaker-machine-learning-models-with-ai-openscale/ https://github.com/IBM/monitor-sagemaker-ml-with-watson-openscale GitHub IBM/monitor-sagemaker-ml-with-watson-openscale
  98. 免責事項 IBM Developer Dojoは開発者の⽅を対象に、IBM Cloudを主とした技術情報をお伝えする⽬的で開催しています。 講師や運営スタッフにより、開催毎に最適と判断した内容でお届けしています。 現在、ハンズオンを伴う講義はお客様の費⽤負担がない環境と⼿順でご案内しています。講義終了後、不要に なりました制作物はお客様ご⾃⾝で削除をお願いいたします。クレジットカードの登録が伴わない場合、費⽤は ⼀切発⽣致しませんが、ご登録いただいたお客様はご注意ください。 講師陣はみなさまの利⽤状況を個別に確認することはできません。

    ご理解とご協⼒をお願いいたします。 利⽤したサービスの削除⽅法については講義の中でご案内します。 ご不明な点がございましたら、当⽇確認をお願いいたします。 講義終了後、 IBM Developer Dojoに関するお問い合わせは「Slack」にお願いします。それ以外のIBM Cloud のお問い合わせにつきましては、弊社サポートセンターまで、次のいづれかの⽅法でお問い合わせください。 IBM Cloudダッシュボードの「サポート」メニューから「Case」を作成し、英語でご記⼊ください IBM Cloudサポートセンター「相談する」ボタンからチャットまたは電話でご連絡ください https://www.ibm.com/jp-ja/cloud/support ご参加ありがとうございました。