IBM Dojo：公平で説明可能なAI / Watson OpenScale

Slide 1

Slide 1 text

IBM Dojo!"#$%&'()*+, Aya Tokura Developer Advocate Tokyo City Team 2020/12/2

Slide 2

Slide 2 text

@ayatokura -./0123/45,67"89 :";<=<>?@<9"+A=?BCD<5EFG HIJKLMNOPQRSTUVWSXYZ[\]^_ `abcdMefgLhijKklmnop\qrG stuvAya Tokuraw IBM Sr. Developer Advocate (Be Equal Ambassador) xyzK{|}~5rÄÅ

Slide 3

Slide 3 text

タイムテーブル 14:00-14:05 (5min) オープニング資料ダウンロード、出席登録など 14:05-15:00 (55min) 公平で説明可能なAI セッション 15:00-15:15 (15min) Q&A クロージング

Slide 4

Slide 4 text

!"#$%&'( IBM Cloud )*+,-.'/0URL123456789 ibm.biz/dojo1202 ! IBM Cloud :;"$ +<=$%>?&@ABC*D'( EC212:;"$F56789 ! IBM Cloud G"%+<=$%HI +<=$%>ABC&J9D'( KLM>AN9FO? âä4l|ãåP

Slide 5

Slide 5 text

学習の⽬的とゴール⽬的 AIの公平性、説明性の必要性を理解した上で、 Watson OpenScaleの概要を理解するゴール Watson OpenScaleで何ができるかを実際に体験するこのコースを学ぶ⽅の想定スキル機械学習の初⼼者レベルの知識がある⽅

Slide 6

Slide 6 text

⽬次 1. AIの課題とIBMの取り組み 2. IBM Watson OpenScale ご紹介 3. チュートリアルツアー体験 4. おすすめ情報

Slide 7

Slide 7 text

1. +,l∏π

Slide 8

Slide 8 text

⽇本政府が策定した「⼈間中⼼のAI社会原則」 6) 公平性、説明責任及び透明性の原則「AI-Readyな社会」においては、AIの利⽤によって、⼈々が、その⼈の持つ背景によって不当な差別を受けたり、⼈間の尊厳に照らして不当な扱いを受けたりすることがないように、公平性及び透明性のある意思決定とその結果に対する説明責任(アカウンタビリティ)が適切に確保されると共に、技術に対する信頼性(Trust)が担保される必要がある。・AIの設計思想の下において、⼈々がその⼈種、性別、国籍、年齢、政治的信念、宗教等の多様なバックグラウンドを理由に不当な差別をされることなく、全ての⼈々が公平に扱われなければならない。・AIを利⽤しているという事実、AIに利⽤されるデータの取得⽅法や使⽤⽅法、AIの動作結果の適切性を担保する仕組みなど、⽤途や状況に応じた適切な説明が得られなければならない。引用元:人間中心のAI社会原則 https://www8.cao.go.jp/cstp/aigensoku.pdf 今後、AIには公平性や説明性が求めらてくることが予想される

Slide 9

Slide 9 text

AIの信頼性につながるAIの説明性・公平性とは?

Slide 10

Slide 10 text

wxyz{|}{~zCAB Ä=>?@8ABÅ ƒOGOgk H¬Kakd5P IJçé KLÑM∑NOà ¨P :°ªLúå ÑQRÜDCBUS?Tà VWüXå VWüYå Z=klVWv[ó\lY˙àë–:°ªLú˙÷{P≥Kc]xlN^ —_"YåVW\˘`ﬂﬂ&'ì\#˘úù™?{*ål°a

Slide 11

Slide 11 text

説明性 (Explainability) 想定シナリオ顧客に対する与信判断(融資を実施するかどうか)をする機械学習モデルを作ったとします。顧客窓⼝担当者融資の申請を認められないという話だが、何が原因なのか︖︖︖︖ 当社の与信判断モデルは⾮常に精度が⾼いのですが、あいにくブラックボックスで理由はわからないのです… 説明不可能なAI

Slide 12

Slide 12 text

説明性(Explainability) 顧客窓⼝担当者融資の申請を認められないという話だが、何が原因なのか︖︖︖︖ お客様の融資が却下された⼀番の理由は年収で、寄与度は60%です。次の理由は年齢で、寄与度は 20%になります。前ページのようなやりとりが起きた場合、今回説明するWatson OpenScaleがあるとこのように説明が可能になります。説明可能なAI

Slide 13

Slide 13 text

AIの公平性

Slide 14

Slide 14 text

「AIの公平性」の問題 • 被告の再犯可能性を予測するAIシステム「Compas」 • ⽶国で実際に本番利⽤されている機械学習モデル • 137問の質問への回答を⼊⼒に、再び犯罪を犯す危険性を10段階の点数として算出 • 調査報道サイト「プロパブリカ」により、以下の調査結果が判明し⼤きな社会問題となりました。出典: https://kaztaira.wordpress.com/2018/09/22/ａｉのバイアス問題、求められる「公平」とは何/ 偽陽性 (再犯の疑いありの判定で実際には再犯なし) 偽陰性 (再犯の疑いなしの判定で実際には再犯あり) ⽩⼈ 23.5% 47.7% ⿊⼈ 44.9% 28.0%

Slide 15

Slide 15 text

アルゴリズムは公平か︖ アルゴリズムは公平ではなく、作成者の意図やバイアスが紛れ込む l アルゴリズムは過去の⾏為や⾏動パターンを繰りかえし、⾃動的に現状を維持するだけ l 判定の最適化とは、過去データの特徴からセグメントを抽出した後に、判定対象を特定のセグメントに分類すること • セグメントの境界を決める重要な特徴データ以外の個々⼈の属性や事情は考慮されない l バイアスが紛れ込む要因の例 • 過去のデータ(実績)の偏り • データの選択を⾏うのは⼈間 • 有効かもしれないが存在しないデータ • 代理データを無意識に利⽤ • 成功要因を恣意的に設定

Slide 16

Slide 16 text

Bµ∂Z∑∏π∫ Ä!Å ! -./é1 áàªyàª{ÇCºäyà}ä|~|z|ÇÉCºyàªÇ ¥∞lÿè5ΩªæäÇC{}øCÇª{}äy{ª}¿Éü∂ªS+,5Núù… ì5ŸÀ ! -./01†3-/4–AB¡¬ZTgZ√∞2÷ úù RDD@"!ûûQQQ:ÜSÖ:B?ÖûS>?⁄"ûDRÜáUû€@—€Cû<=<9”AC”——ÜáD<>>Ü⁄<áB<û

Slide 17

Slide 17 text

IBMの取り組み (2) IBMでは以上の全社的な⽅針を受けて、次の2つの製品・サービスを提供 Watson OpenScale Watson StudioやWatson Machine Learningと同じIBM Cloud上のサービス。ただし、他のサービスと異なり、他社AIも管理対象に含む。 AI Fairness 360 / AI Explainability 360 Python APIをOSSとして公開。ライブラリだけでなく、API Reference、チュートリアル、デモアプリなども⼀般に利⽤可能。ユーザーは⾃分でPythonコーディングを⾏うことが前提。 AIF360: http://aif360.mybluemix.net/ AIX360: http://aix360.mybluemix.net/

Slide 18

Slide 18 text

2. IBM Watson OpenScale æø¿ https://www.ibm.com/jp-ja/cloud/watson-openscale

Slide 19

Slide 19 text

Watson OpenScale ここで 3.チュートリアルツアー体験の事前準備「3.チュートリアルツアー体験」の3番まで準備する 1. IBM Cloudへのログイン 2. Watson OpenScaleサービスの作成・起動 3. ⾃動セットアップの実施（10分前後の待ち時間）

Slide 20

Slide 20 text

RDD@!ûûÜSÖ:SÜüûA?€?.0-©5ƒ`H®ò_z6MOò_8r˙åG ú%5¥∞lúÛQÙ%z6MOıΩlÅÇ{Sz6MO‚ï%úGz6MO∫l ˆ5b¬vKcü˜¯˙˚_åù˘˙\˜¯˙˚_|å_8r˙åG ! IBM Cloud :;"$ +<=$%>?&@ABC*D'( EC212:;"$F56789 ! IBM Cloud G"%+<=$%HI +<=$%>ABC&J9D'( KLM>AN9FO? äMNOPö¡%{ https://cloud.ibm.com/login °Ïz6MO()%ú !ÃCIBM Cloud◊Z1,∞+

Slide 21

Slide 21 text

ƒÃCWatson OpenScaleÿ(Ÿ±Z™´u⁄€ -—/: –ÙÇz6÷\`√5`úù

Slide 22

Slide 22 text

-—-: ¸˝v5`®5ÑCD"?á"Ö@<á8BC><\ìîòS –ÑCD"?á"Ö@<á8BC><÷\ÃÕúù

Slide 23

Slide 23 text

-—ç: √K˛OlÃÕ–ˆa®÷Sˇ!òaOlÃÕ–aMPÑ‘ˇà÷ü ÃÕ˙˚_åù¶ë\¯pò_–A’÷vÇO\`√5`úù

Slide 24

Slide 24 text

-—©: ÑCD"?á"Ö@<á8BC>

Slide 25

Slide 25 text

-—2: –ƒò√#Kb˛OlÄ[÷vÇO\`√5`ò_ ÑCD"?á"Ö@<á8BC>

Slide 26

Slide 26 text

…Ã‹€DEœ£E)Z›ﬁ ç—/: –±[H5Pƒ5ò÷\`√5`úù Ñ$æ5Ÿ⁄_Ê*ªkúüS%/.ºlÚË\ïòkúà

Slide 27

Slide 27 text

ç—-: %¨&'k%Òﬂ ç—ç:"–%¨ü&'òkòôÅ÷ë˜¯ü(:⁄ôÏS–)≈kò*r÷ vÇO\`√5`úù ¶¶5+qUEü˜¯˙˚ù

Slide 28

Slide 28 text

2. IBM Watson OpenScale æø¿ https://www.ibm.com/jp-ja/cloud/watson-openscale

Slide 29

Slide 29 text

Watson OpenScaleの特徴 Watson OpenScaleのハイレベルな特徴として以下のことがあげられます。 Open (オープン): 代表的な機械学習・深層学習フレームワーク・他社AIサービス(MS Azureや Amazon Sagemaker)を管理対象とすることが可能 Scale (拡張性): パブリック、プライベート、ハイブリッド・クラウド、どの環境でも提供可能 Explainability (説明性): AIモデルの評価結果において、その判断理由を説明 Fairness (公平性): AIモデルの導出した結果の公平性をチェックし、是正する

Slide 30

Slide 30 text

Watson OpenScaleの主要機能 Payload Logging機能がベースの機能となっています。 Payload Loggingを使って説明性(Explainability) と公平性(Fairness) を実現しています。それぞれの拡張機能としてContrastive ExplanationとBias mitigationがあります。それ以外にモニタリング機能や、ドリフト・モニタリング機能がなどがあります。 Payload Logging 説明性 (Explainability) 公平性 (Fairness) Contrastive Explanation Bias mitigation ・Monitoring ・Performance ・Drift monitoring Watson OpenScale 主要機能

Slide 31

Slide 31 text

≈{Çäà}C∆y}«¿{zC/EFŒÎ(2 ÑCD"?á"Ö@<á8BC><ˆ5b¬vKc%{S˘˙"l∏H¬KÃÕ%S ˘˙\78ê5˜ª9∞ù¶ëü%†kúG #$ì 8

Slide 32

Slide 32 text

Â{Ézà{øCÊàÁÁ|}Á ÈC”>?CA"‚?⁄⁄Üá⁄ë{SÁñÛªlÆØçéZ=k5Ûúù;úòÚlìî=KÇS úîÒÚ\ÇMÉ®ÇOòëÎHK`,;Ñ"B?9Üá⁄<ÜAàëë–5;65±[ê5=Ù úùÆ)%úG Ö@<á8BC>ïÆ)%∂ù&'ìë#[ì{SÈC”>?CA"‚?⁄⁄Üá⁄5Ÿª=Ù˙˚ô =KÇlº?\úi@5¢≤˙˚_åkúG

Slide 33

Slide 33 text

Payload Logging (Watson Machine Learningの場合) Watson ML上に登録されたモデルに対してPayload Loggingを⾏う場合は、 OpenScale側で管理対象の指定をするだけで⾃動的に記録されます。この場合、アプリ側の改修は不要です。 Watson Machine Learning deployment Application API Call OpenScale Payload

Slide 34

Slide 34 text

Payload Logging (他社 Machine Learningの場合) MS AzureやAmazon Sagemakerなどの他社APIの場合は、アプリケーションはモデルのAPIを呼び出した後で、⼊⼒データとその結果を引数に、OpenScale側で⽤意したPayload Logging APIを呼び出すようにします。他社 Machine Learning Application API Call OpenScale Payload Payload Logging API

Slide 35

Slide 35 text

Slide 36

Slide 36 text

Slide 37

Slide 37 text

説明性(Explainability) 顧客窓⼝担当者年収が⾜りないのはわかったが、いくらあればよかたのか︖ お客様の場合、年収があと200万円あれば、当⾏でも融資できます。説明性の拡張機能 (Contrastive Explanation) 説明性の拡張機能まで使うと、次のような突っ込んだやりとりにも対応可能です。

Slide 38

Slide 38 text

=>dÄwxyz{|}{~|z|ÇÉÅ 4T@>CÜáCSÜ>ÜD”Ñ&'ìàë{SÆØçéZ=kü∂¨lPaOG`b˛O5Ûò_ *J›lÒK5Lòô°l&'\ÒÚÛÙmZıˆ˜<¯õÆ)%úG È?"ÜDÜ=<*ïslÿèÂ{eW —_"Ö@<á8BC>

Slide 39

Slide 39 text

=>dÄwxyz{|}{~|z|ÇÉÅ &'ìÑ4T@>CÜáCSÜ>ÜD”àÆ)l¢≤™? ‚,74Ñ‚?BC>",áD<9@9<"7?A<>—C⁄á?"DÜB"4T@>CáCDÜ?á"àëår™?\NK®5ò_åkúG $ﬂRZèêëíZ˘˙\ó?òôåÅÇS›l˚¸ZÒî(˝<4ÒP9˛8k®\ïOkúG $Pk⁄ô=KÇ\@⁄_Sìîïöˇ!"b˚#õk$%ìîï\AªkúG $QRZ=k{STüQU*ô≈S{eW\£≈ù¶ëü()%úG ¶lƒòzK¡%∂˚;SÛªü&'ëíìîïZ(˛8)*8ìîï<+,-?@5*ªkúG úù!"RDD@"!ûûC9TÜ=:?9⁄ûCS"û/».-:.©†ç0 ìî(O/lV ìî(O-lV W ïñÛªlPaOÏ`b˛O X ïñÛªlYZV%läãÒÚ\ïOù [ æø\Ñ[¯5{M—/∑]^$˙àl_\\£≈ù

Slide 40

Slide 40 text

=>dZ·‚è@ Äáà}Çª{äÇ|ËCwxyz{}{Ç|à}Å ¨`=KÇüìîlZ=klÅÇS4T@>CÜáCSÜ>ÜD”l˘˙öa5{Bµ∂.‹Z ·‚è@

Slide 41

Slide 41 text

:;d Ø∞£±01 Ö@<á8BC><\◊ÿòô#$ì4Mƒ®¸¥l◊ÿbJ√]{Sö'lë|ª%úG ¶lc%∂5¿ï*l{–deÛªÿèl¨÷%S’‘lf√bK*5 gh†S€Ëü¨òkúGÖ@<á8BC><{S≈Ï˚ôf√bKüiÏ˚_ åù°\deúùjk\ﬁ`kúG deÛªZ=kl¨ deÛªÿèl¨ Ñ… ìÂS€(S1z<%l%¨ #[ìlVl¨ Ö@<á8BC><%l ZHÇ√O6 ƒaKP]¥

Slide 42

Slide 42 text

:;d Ø∞£±01 ˆ5b¬vKc°ÏSÚmn%4Mƒ®l(µü¯p%†kúG ®ßƒülV\'KùëƒaKPü˜¯˙˚kúG lV Ñ<}%¨úùà ƒaKP˜¯ 6axö\`√5` úùëop˜¯˘˙

Slide 43

Slide 43 text

公平性バイアス検知の⽅法 perturbation analysis ⼊⼒データのバリエーションを増やす監視対象モデル Payloadだけではデータが不⾜している場合、OpenScaleは⼊⼒データのバリエーションを増やし(perturbation analysis)、それぞれの結果を⾒ることで、バイアスの有無を検知します。 payloadから取得した記録増やしたデータに関して、モデルを呼び出し結果を調べる結果を統計的に処理してバイアスの有無を判断

Slide 44

Slide 44 text

:;d Ø∞£±01Z23 v[=KÇ–w∞ô∫5SZ=klfgÒÚlÀªü<}%¨òôlV\^∞ô ÅÇS4Mƒ®ü∂ùëÖ@<á8BC><{fgòkúG '•K8ïZ97î(˝Ä:∞1(2Å :;d;Sî(˝Ä?€Åö@AT˘˙ –4Mƒ®∂ª÷l ˜¯

Slide 45

Slide 45 text

:;dÄ»{|ª}ääÅCBCè@ Ö@<á8BC><{4Mƒ®l¡25`\qrrÁ%*8S±[ê54Mƒ®\xyúùÆ)\ﬁ⁄_ åkúGa]vÇO\–Ø∞£±BCD∫÷5˜ª9∞ùëSxyZ=k%∂˚;lŸr* úî5*⁄_åô°lDE\˜¯%†kúG

Slide 46

Slide 46 text

:;dÄ»{|ª}ääÅCERFG %¨z{{S&'ìlÚ„35QU%SèêëíìîïbHõk1IcÑ‰%úG ôròSlÿè\#$ìlÛª5úù°{ÎKÏKü:¨úùîïü∂ªkúG ÒÄERÚÛÅ $ZHÇÛª√ì Ñ… ìÂà $Œ◊*6kKò Ñ… |ìàS‚◊*6kKò Ñ… }ìà $èê(O Ñ… hi√®`Œ‘à $Œ◊*ÒÚ Ñ… √®`*òà $‚◊*ÒÚ Ñ… √®`∂ªà

Slide 47

Slide 47 text

説明性・公平性サポート対象モデル説明性と公平性は、管理対象がどのような種類のモデルかにより、対応の有無が異なります。現在のサポート状況を整理すると、下の表のようになります。モデル種別対象データ説明性公平性公平性緩和精度分類構造データ Yes Yes Yes ※ Yes 回帰構造データ Yes Yes No Yes 分類テキスト Yes No No No 分類イメージ Yes No No No ※ モデルが確率値を返すタイプのものである必要があります。

Slide 48

Slide 48 text

説明性・公平性サポート対象フレームワーク説明性・公平性は、フレームワークによってもサポートの有無が違ってきます。最新の状況については、下記リンク先を参照してください。 Watson Machine Learning Azure ML Studio AWS SageMaker Custom/Python function 分類構造データ Apache Spark Mllib Python function XGBoost scikit-learn Native Native WMLと同じ回帰構造データ Python function XGBoost scikit-learn n/a n/a n/a 分類テキスト Keras with TensorFlow(※1) n/a n/a n/a 分類イメージ Keras with TensorFlow(※1) n/a n/a n/a 参照: https://cloud.ibm.com/docs/services/ai-openscale?topic=ai-openscale-frmwrks-wml&locale=ja

Slide 49

Slide 49 text

3. チュートリアルツアー体験⾃動セットアップについて⾃動セットアップはデモ⽤のセットアップ(設定、デモデータのロード等)を⾃動で⾏い、実際にWatson OpenScaleで何ができるのかを体験することができます。以下の順序で実施します。 1. IBM Cloudへのログイン 2. Watson OpenScaleサービスの作成・起動 3. ⾃動セットアップの実施（待ち時間約10分） 4. Watson OpenScaleを体験(モデル・モニターでのインサイト表⽰)

Slide 50

Slide 50 text

©—/:" ÑCD"?á"Ö@<á8BC><"ˆ5b¬vKcljƒKüh)˙˚ùl% ä∑ëãvÇO\`√5`ò*üÏó&åΩ+≈ù Ñ4äçéà 8ŸN(FG+ ÑCD"?á"Ö@<á8BC><5{SèêS&'SS’S GfKPl©ﬂl>*ëíü∂ªkúG

Slide 51

Slide 51 text

©—-:" ó&\åΩ+≈–∑ë÷vÇO\`√5`úù Ñ4äçéà OP/EFŒÎ(2 èêˆ5b¬vKc5{SZHÇ√O6ò_åù Z=kü˜¯˙˚kúG Ñ4äçéà /EFŒÎ(2bQ@ –ˆ5b¬vKc5ìw÷vÇO\@ÿúùë Z=klZHÇ√O6\S’ò_Z=k\ ˆ5b¬vKc5ìw%†kúG

Slide 52

Slide 52 text

©—ç:" ó&\åΩ+≈–∑ljƒK÷vÇOü˜¯˙˚ôÏ`√5`úù Ñ4äçéà ìîïuì*˝( îZHÇ√O6ÛªZ=k{Sˆ5b¬vKc5 ÇMkëò_˜¯˙˚kúGZ=k$ÇMk\ `√5`úùëSZHÇ√O6lopüh†kúG Ñ4äçéà ìîïRS îZ=k$ÇMk%S#$ìSﬂêS|ŸÃ c√xPl≤“l:ï\˜¯òkúGò†åV Çñl∂ù:ï5{S‡·5óüò†kúG

Slide 53

Slide 53 text

©—©:"GOòk%ÿÓ˙˚_åù–˝ÿ√®`Z=k Ñ‰9à"÷ lbJ√]ëZ=kl/0lop\ä∑ëãkô{äM

Slide 54

Slide 54 text

©—2:"bJ√]l&'ô˝ÿ√®`lbJ√] "!"#$%&'()*+,- ./0123456(789/ :;<=/>?@%ABCDE FG?HIJKLAM N%" OP?QR(7/PS?TUB #VE6WX$(7/YZ[\ ]DE^,_/`ab?cdA Befb?fghiZLZ#" bJ√]\¯pòôÏä∑ëãkô{äM

Slide 55

Slide 55 text

©—»:"bJ√]l&'ô˝ÿ√®`lbJ√] “jklDmnl op*EqrZJ6st5u v"wx?efby89ZJ KBz{|z?}~AB/E Watson OpenScale y{/ |EÄÅÇz?ÉÑZJRÖ ÜKM " öõ\¯pòôÏä)≈kò*rãkô{ä‚

Slide 56

Slide 56 text

©—é:" /0Gù√K|ŸÃ#$ìe®Pl¯p Ñ/û2ë-û2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù Ñ4äçéà TUZ‰V /0lï%˘˙5{S¥Él/0 °Ïle®PÒÚü˜¯˙˚k úG Ñ4äçéà :;dW±œ :ïH`b˛O5{/0lÒÚü˜¯˙˚kúG#$ì{S Z=kü6kKòË%ûkòåÒÚ\˚rÁü15úú °\¯òkúG

Slide 57

Slide 57 text

©—0:" flêe®P|ŸÃc√xPe®Pl¯p Ñçû2ë©û2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù Ñ4äçéà XYW±œ flê{SxfKc45`$=KÇë;;˚ù aNkò†e®P$=KÇ5ghå_[òå ÒÚ\úúZ=kl)î\˜òkúG G Ñ4äçéà 2•KœW±œ c√xP{[ó\kô{=KÇl~ÇìlX'5 flå_†áòkúG

Slide 58

Slide 58 text

©—†:" #$ìl/0l¯p Ñ2û2à ó&\åΩ+≈–∑ljƒK÷vÇO\`√5`úù Ñ4äçéà :ïV\`√5`úùëSÒÚlopü˜¯˙˚kúG∑5S #$ìZHÇK\s_Ωkò*rG

Slide 59

Slide 59 text

©—/.:" #$ìZHÇ√O6l¯p Ñ/û2ë-û2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù

Slide 60

Slide 60 text

©—//:" #$ì®ßƒl¯p Ñçû2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù

Slide 61

Slide 61 text

©—/-:" #$ì®ßƒlÚËê(µl¯p Ñ©û2à ó&\åΩ+≈–∑ë÷vÇO\`√5`úù

Slide 62

Slide 62 text

©—/ç:" #$ì®ßƒlÚËê(µl¯p Ñ2û2à ó&\åΩ+≈–∑ljƒK÷vÇO\`√5`úù

Slide 63

Slide 63 text

©—/©:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ/ûéà" ü°`=KÇ$H5P

Slide 64

Slide 64 text

©—/2:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ-ûéà" #$ì®ßƒ

Slide 65

Slide 65 text

©—/»:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñçûéà" ~MzKc$=KÇ$H5P

Slide 66

Slide 66 text

©—/é:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ©ûéà" ¢£=KÇ$H5P

Slide 67

Slide 67 text

©—/0:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ2ûéà" 4Mƒ®xyıΩl=KÇ$H5P

Slide 68

Slide 68 text

©—/†:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ»ûéà" #$ìl§ö

Slide 69

Slide 69 text

Slide 70

Slide 70 text

Slide 71

Slide 71 text

Slide 72

Slide 72 text

Slide 73

Slide 73 text

Slide 74

Slide 74 text

Slide 75

Slide 75 text

Slide 76

Slide 76 text

Slide 77

Slide 77 text

Slide 78

Slide 78 text

Slide 79

Slide 79 text

Slide 80

Slide 80 text

Slide 81

Slide 81 text

Slide 82

Slide 82 text

Slide 83

Slide 83 text

Slide 84

Slide 84 text

Slide 85

Slide 85 text

Slide 86

Slide 86 text

Slide 87

Slide 87 text

Slide 88

Slide 88 text

Slide 89

Slide 89 text

実際にモデルを登録してWatson OpenScaleを使うには実際にモデルを登録してWatson OpenScaleを使うには、pythonでSDKを使ってコードを書き、実⾏して設定を⾏うことが通常必要です。 • Watson Machine Learningのモデルを使う場合は、モデル登録にpythonでの登録が必要です。 • AutoMLなど他社のモデルを使う場合は、ペイロードロギング等に通常は何かしらのコードの実⾏が必要です。 • もちろん⼀部はGUIで実施可能です。

Slide 90

Slide 90 text

Watson OpenScale Python SDK チュートリアル (上級) 下記のタスクを実⾏する⽅法を学習できるコンテンツです。 • Python ノートブックを実⾏して機械学習モデルを作成、トレーニング、およびデプロイする • データマートを作成し、パフォーマンス、正確度、公平性のモニターを構成し、モニター対象のデータを作成する • Watson OpenScale の「インサイト」タブで結果を表⽰する https://cloud.ibm.com/docs/ai-openscale?topic=ai-openscale-crt-ov

Slide 91

Slide 91 text

äßK®%A’òô√≤K®\≥¥úù™? /: ,67"‰>?!Aˆ5b¬vKc5z6MOúù -: ä√≤K®lï%ãläúO_˜¯ã\ÃÕúù ç: ä8<9=ÜB<ãl'µ∂\`√5`ò_öõ\∑húù ©: A’˙˚ô-ﬂlGKı®∏lπAl@‹\`√5`òä≥¥ã\ÃÕúù ÄGKı®∏{¬‹5Ê*ùô≈S¢£l˘˙\æ¯p8r˙åG ! ÑCD"?á"Ö@<á8BC><"TTT ! QÖ>—TTT

Slide 92

Slide 92 text

,67"‰>?!A5NúùxfKc45`æ∫îl|ãå ,67"‰>?!Aˆ5b¬vKc°ÏäÌ44;6+‰™ãvÇO\`√5`ò_åôr8¶ë% æÓsSBªïû\xfKc45`ò_åôr8¶ëü()%úG

Slide 93

Slide 93 text

まとめ • AIの実⽤化には、「公平性」や「説明性」が重要な課題となってきている • 「IBM Watson OpenScale」は、AIの公平性の分析、不公平なバイアスの軽減、説明性の実現が可能である

Slide 94

Slide 94 text

4. |úú≈∆« –hi≤§ÁGMPIBM Developer ibm.biz/IBMDevJP ¥É∆«L®≠kƒ5ò5jΩﬂ»æ...\^∞ùmn=<\‡·

Slide 95

Slide 95 text

|úú≈∆« – IBM Code Patterns https://ibm.biz/ibmcodejp ó& ø"=Z[˘ ø"≤K®ßKcü¿⁄ôƒò√hiôÇKOP

Slide 96

Slide 96 text

Microsoft Azure ML × Watson OpenScale 学習資料 Watson OpenScale を利⽤して Azure での機械学習をモニタリングする (Code Patterns) Microsoft Azure で機械学習モデルを作成し、Watson OpenScale を利⽤してペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介 https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/ https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/ GitHub IBM/monitor-azure-ml-with-watson-openscale

Slide 97

Slide 97 text

AWS SageMaker × Watson OpenScale 学習資料 Watson OpenScale を利⽤して SageMaker での機械学習をモニタリングする (Code Patterns) AWS SageMakerで機械学習モデルを作成し、Watson OpenScale を利⽤してペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介 https://developer.ibm.com/jp/patterns/monitor-amazon-sagemaker-machine-learning-models-with-ai-openscale/ https://github.com/IBM/monitor-sagemaker-ml-with-watson-openscale GitHub IBM/monitor-sagemaker-ml-with-watson-openscale

Slide 98

Slide 98 text

免責事項 IBM Developer Dojoは開発者の⽅を対象に、IBM Cloudを主とした技術情報をお伝えする⽬的で開催しています。講師や運営スタッフにより、開催毎に最適と判断した内容でお届けしています。現在、ハンズオンを伴う講義はお客様の費⽤負担がない環境と⼿順でご案内しています。講義終了後、不要になりました制作物はお客様ご⾃⾝で削除をお願いいたします。クレジットカードの登録が伴わない場合、費⽤は⼀切発⽣致しませんが、ご登録いただいたお客様はご注意ください。講師陣はみなさまの利⽤状況を個別に確認することはできません。ご理解とご協⼒をお願いいたします。利⽤したサービスの削除⽅法については講義の中でご案内します。ご不明な点がございましたら、当⽇確認をお願いいたします。講義終了後、 IBM Developer Dojoに関するお問い合わせは「Slack」にお願いします。それ以外のIBM Cloud のお問い合わせにつきましては、弊社サポートセンターまで、次のいづれかの⽅法でお問い合わせください。 IBM Cloudダッシュボードの「サポート」メニューから「Case」を作成し、英語でご記⼊ください IBM Cloudサポートセンター「相談する」ボタンからチャットまたは電話でご連絡ください https://www.ibm.com/jp-ja/cloud/support ご参加ありがとうございました。