Slide 1
Slide 1 text
IBM Dojo!"#$%&'()*+,
Aya Tokura
Developer Advocate
Tokyo City Team
2020/12/2
Slide 2
Slide 2 text
@ayatokura
-./0123/45,67"89
:";<=<>?@<9"+A=?BCD<5EFG
HIJKLMNOPQRSTUVWSXYZ[\]^_
`abcdMefgLhijKklmnop\qrG
stuvAya Tokuraw
IBM Sr. Developer Advocate
(Be Equal Ambassador)
xyzK{|}~5rÄÅ
Slide 3
Slide 3 text
タイムテーブル
14:00-14:05
(5min)
オープニング
資料ダウンロード、出席登録など
14:05-15:00
(55min)
公平で説明可能なAI セッション
15:00-15:15
(15min)
Q&A
クロージング
Slide 4
Slide 4 text
!"#$%&'(
IBM Cloud )*+,-.'/0URL123456789
ibm.biz/dojo1202
! IBM Cloud :;"$
+<=$%>?&@ABC*D'(
EC212:;"$F56789
! IBM Cloud G"%+<=$%HI
+<=$%>ABC&J9D'(
KLM>AN9FO?
âä4l|ãåP
Slide 5
Slide 5 text
学習の⽬的とゴール
⽬的
AIの公平性、説明性の必要性を理解した上で、
Watson OpenScaleの概要を理解する
ゴール
Watson OpenScaleで何ができるかを実際に体験する
このコースを学ぶ⽅の想定スキル
機械学習の初⼼者レベルの知識がある⽅
Slide 6
Slide 6 text
⽬次
1. AIの課題とIBMの取り組み
2. IBM Watson OpenScale ご紹介
3. チュートリアルツアー体験
4. おすすめ情報
Slide 7
Slide 7 text
1. +,l∏π
Slide 8
Slide 8 text
⽇本政府が策定した「⼈間中⼼のAI社会原則」
6) 公平性、説明責任及び透明性の原則
「AI-Readyな社会」においては、AIの利⽤によって、⼈々が、その⼈の持つ背景に
よって不当な差別を受けたり、⼈間の尊厳に照らして不当な扱いを受けたりすること
がないように、公平性及び透明性のある意思決定とその結果に対する説明責任(アカ
ウンタビリティ)が適切に確保されると共に、技術に対する信頼性(Trust)が担保され
る必要がある。
・AIの設計思想の下において、⼈々がその⼈種、性別、国籍、年齢、政治的信念、宗
教等の多様なバックグラウンドを理由に不当な差別をされることなく、全ての⼈々が
公平に扱われなければならない。
・AIを利⽤しているという事実、AIに利⽤されるデータの取得⽅法や使⽤⽅法、AIの
動作結果の適切性を担保する仕組みなど、⽤途や状況に応じた適切な説明が得られな
ければならない。
引用元:人間中心のAI社会原則
https://www8.cao.go.jp/cstp/aigensoku.pdf
今後、AIには公平性や説明性が
求めらてくることが予想される
Slide 9
Slide 9 text
AIの信頼性につながるAIの説明性・公平性とは?
Slide 10
Slide 10 text
wxyz{|}{~zCAB Ä=>?@8ABÅ
ƒOGOgk
H¬Kakd5P
IJçé
KLÑM∑NOà
¨P
:°ªLúå
ÑQRÜDCBUS?Tà
VWüXå VWüYå
Z=klVWv[ó\lY˙àë–:°ªLú˙÷{P≥Kc]xlN^
—_"YåVW\˘`flfl&'ì\#˘úù™?{*ål°a
Slide 11
Slide 11 text
説明性 (Explainability)
想定シナリオ
顧客に対する与信判断(融資を実施するかどうか)をする機械学習モデルを作ったとします。
顧客 窓⼝担当者
融資の申請を認められない
という話だが、何が原因
なのか︖︖︖︖
当社の与信判断モデルは⾮常
に精度が⾼いのですが、
あいにくブラックボックスで
理由はわからないのです…
説明不可能なAI
Slide 12
Slide 12 text
説明性(Explainability)
顧客 窓⼝担当者
融資の申請を認められない
という話だが、何が原因
なのか︖︖︖︖
お客様の融資が却下された⼀番の
理由は年収で、寄与度は60%です。
次の理由は年齢で、寄与度は
20%になります。
前ページのようなやりとりが起きた場合、今回説明するWatson OpenScaleがあると
このように説明が可能になります。
説明可能なAI
Slide 13
Slide 13 text
AIの公平性
Slide 14
Slide 14 text
「AIの公平性」の問題
• 被告の再犯可能性を予測するAIシステム「Compas」
• ⽶国で実際に本番利⽤されている機械学習モデル
• 137問の質問への回答を⼊⼒に、再び犯罪を犯す危険性を10段階の点数
として算出
• 調査報道サイト「プロパブリカ」により、以下の調査結果が判明し
⼤きな社会問題となりました。
出典: https://kaztaira.wordpress.com/2018/09/22/ａｉのバイアス問題、求められる「公平」とは何/
偽陽性
(再犯の疑いありの判定で
実際には再犯なし)
偽陰性
(再犯の疑いなしの判定で
実際には再犯あり)
⽩⼈ 23.5% 47.7%
⿊⼈ 44.9% 28.0%
Slide 15
Slide 15 text
アルゴリズムは公平か︖
アルゴリズムは公平ではなく、作成者の意図やバイアスが紛れ込む
l アルゴリズムは過去の⾏為や⾏動パターンを繰りかえし、⾃動的に現状を
維持するだけ
l 判定の最適化とは、過去データの特徴からセグメントを抽出した後に、
判定対象を特定のセグメントに分類すること
• セグメントの境界を決める重要な特徴データ以外の個々⼈の属性や
事情は考慮されない
l バイアスが紛れ込む要因の例
• 過去のデータ(実績)の偏り
• データの選択を⾏うのは⼈間
• 有効かもしれないが存在しないデータ
• 代理データを無意識に利⽤
• 成功要因を恣意的に設定
Slide 16
Slide 16 text
Bµ∂Z∑∏π∫ Ä!Å
! -./é1 áàªyàª{ÇCºäyà}ä|~|z|ÇÉCºyàªÇ
¥∞lÿè5ΩªæäÇC{}øCǪ{}äy{ª}¿Éü∂ªS+,5Núù… ì5ŸÀ
! -./01†3-/4–AB¡¬ZTgZ√∞2÷
úù RDD@"!ûûQQQ:ÜSÖ:B?ÖûS>?⁄"ûDRÜáUû€@—€Cû<=<9”AC”——ÜáD<>>Ü⁄<áB<û
Slide 17
Slide 17 text
IBMの取り組み (2)
IBMでは以上の全社的な⽅針を受けて、次の2つの製品・サービスを提供
Watson OpenScale
Watson StudioやWatson Machine Learningと同じIBM Cloud上のサービス。
ただし、他のサービスと異なり、他社AIも管理対象に含む。
AI Fairness 360 / AI Explainability 360
Python APIをOSSとして公開。
ライブラリだけでなく、API Reference、チュートリアル、デモアプリなども
⼀般に利⽤可能。ユーザーは⾃分でPythonコーディングを⾏うことが前提。
AIF360: http://aif360.mybluemix.net/
AIX360: http://aix360.mybluemix.net/
Slide 18
Slide 18 text
2. IBM Watson OpenScale æø¿
https://www.ibm.com/jp-ja/cloud/watson-openscale
Slide 19
Slide 19 text
Watson OpenScale
ここで 3.チュートリアルツアー体験の事前準備
「3.チュートリアルツアー体験」の3番まで準備する
1. IBM Cloudへのログイン
2. Watson OpenScaleサービスの作成・起動
3. ⾃動セットアップの実施
（10分前後の待ち時間）
Slide 20
Slide 20 text
RDD@!ûûÜSÖ:SÜüûA?€?.0-©5ƒ`H®ò_z6MOò_8r˙åG
ú%5¥∞lúÛQÙ%z6MOıΩlÅÇ{Sz6MO‚ï%úGz6MO∫l
ˆ5b¬vKcü˜¯˙˚_åù˘˙\˜¯˙˚_|å_8r˙åG
! IBM Cloud :;"$
+<=$%>?&@ABC*D'(
EC212:;"$F56789
! IBM Cloud G"%+<=$%HI
+<=$%>ABC&J9D'(
KLM>AN9FO?
äMNOPö¡%{
https://cloud.ibm.com/login
°Ïz6MO()%ú
!ÃCIBM Cloud◊Z1,∞+
Slide 21
Slide 21 text
ƒÃCWatson OpenScaleÿ(Ÿ±Z™´u⁄€
-—/: –ÙÇz6÷\`√5`úù
Slide 22
Slide 22 text
-—-: ¸˝v5`®5ÑCD"?á"Ö@<á8BC><\ìîòS
–ÑCD"?á"Ö@<á8BC><÷\ÃÕúù
Slide 23
Slide 23 text
-—ç: √K˛OlÃÕ–ˆa®÷Sˇ!òaOlÃÕ–aMPÑ‘ˇà÷ü
ÃÕ˙˚_åù¶ë\¯pò_–A’÷vÇO\`√5`úù
Slide 24
Slide 24 text
-—©: ÑCD"?á"Ö@<á8BC>
Slide 25
Slide 25 text
-—2: –ƒò√#Kb˛OlÄ[÷vÇO\`√5`ò_
ÑCD"?á"Ö@<á8BC>
Slide 26
Slide 26 text
…Ë€DEœ£E)Z›fi
ç—/: –±[H5Pƒ5ò÷\`√5`úù
Ñ$æ5Ÿ⁄_Ê*ªkúüS%/.ºlÚË\ïòkúà
Slide 27
Slide 27 text
ç—-: %¨&'k%Òfl
ç—ç:"–%¨ü&'òkòôÅ÷똯ü(:⁄ôÏS–)≈kò*r÷
vÇO\`√5`úù
¶¶5+qUEü˜¯˙˚ù
Slide 28
Slide 28 text
2. IBM Watson OpenScale æø¿
https://www.ibm.com/jp-ja/cloud/watson-openscale
Slide 29
Slide 29 text
Watson OpenScaleの特徴
Watson OpenScaleのハイレベルな特徴として以下のことがあげられます。
Open (オープン):
代表的な機械学習・深層学習フレームワーク・他社AIサービス(MS Azureや
Amazon Sagemaker)を管理対象とすることが可能
Scale (拡張性):
パブリック、プライベート、ハイブリッド・クラウド、どの環境でも提供可能
Explainability (説明性):
AIモデルの評価結果において、その判断理由を説明
Fairness (公平性):
AIモデルの導出した結果の公平性をチェックし、是正する
Slide 30
Slide 30 text
Watson OpenScaleの主要機能
Payload Logging機能がベースの機能となっています。
Payload Loggingを使って説明性(Explainability) と公平性(Fairness) を実現してい
ます。
それぞれの拡張機能としてContrastive ExplanationとBias mitigationがあります。
それ以外にモニタリング機能や、ドリフト・モニタリング機能がなどがあります。
Payload Logging
説明性
(Explainability)
公平性
(Fairness)
Contrastive
Explanation
Bias mitigation ・Monitoring
・Performance
・Drift monitoring
Watson OpenScale 主要機能
Slide 31
Slide 31 text
≈{Çäà}C∆y}«¿{zC/EFŒÎ(2
ÑCD"?á"Ö@<á8BC><ˆ5b¬vKc%{S˘˙"l∏H¬KÃÕ%S
˘˙\78ê5˜ª9∞ù¶ëü%†kúG
#$ì 8
Slide 32
Slide 32 text
Â{Ézà{øCÊàÁÁ|}Á
ÈC”>?CA"‚?⁄⁄Üá⁄ë{SÁñÛªlÆØçéZ=k5Ûúù;úòÚlìî=KÇS
úîÒÚ\ÇMÉ®ÇOòëÎHK`,;Ñ"B?9Üá⁄<ÜAàëë–5;65±[ê5=Ù
úùÆ)%úG
Ö@<á8BC>ïÆ)%∂ù&'ìë#[ì{SÈC”>?CA"‚?⁄⁄Üá⁄5Ÿª=Ù˙˚ô
=KÇlº?\úi@5¢≤˙˚_åkúG
Slide 33
Slide 33 text
Payload Logging (Watson Machine Learningの場合)
Watson ML上に登録されたモデルに対してPayload Loggingを⾏う場合は、
OpenScale側で管理対象の指定をするだけで⾃動的に記録されます。
この場合、アプリ側の改修は不要です。
Watson Machine Learning
deployment
Application
API Call
OpenScale
Payload
Slide 34
Slide 34 text
Payload Logging (他社 Machine Learningの場合)
MS AzureやAmazon Sagemakerなどの他社APIの場合は、アプリケーションは
モデルのAPIを呼び出した後で、⼊⼒データとその結果を引数に、OpenScale側で
⽤意したPayload Logging APIを呼び出すようにします。
他社 Machine Learning
Application
API Call
OpenScale
Payload
Payload Logging API
Slide 35
Slide 35 text
説明性 (Explainability)
想定シナリオ
顧客に対する与信判断(融資を実施するかどうか)をする機械学習モデルを作ったとします。
顧客 窓⼝担当者
融資の申請を認められない
という話だが、何が原因
なのか︖︖︖︖
当社の与信判断モデルは⾮常
に精度が⾼いのですが、
あいにくブラックボックスで
理由はわからないのです…
説明不可能なAI
Slide 36
Slide 36 text
説明性(Explainability)
顧客 窓⼝担当者
融資の申請を認められない
という話だが、何が原因
なのか︖︖︖︖
お客様の融資が却下された⼀番の
理由は年収で、寄与度は60%です。
次の理由は年齢で、寄与度は
20%になります。
前ページのようなやりとりが起きた場合、今回説明するWatson OpenScaleがあると
このように説明が可能になります。
説明可能なAI
Slide 37
Slide 37 text
説明性(Explainability)
顧客 窓⼝担当者
年収が⾜りないのはわかったが、
いくらあればよかたのか︖
お客様の場合、年収があと200万円
あれば、当⾏でも融資できます。
説明性の拡張機能 (Contrastive Explanation)
説明性の拡張機能まで使うと、次のような突っ込んだやりとりにも対応可能です。
Slide 38
Slide 38 text
=>dÄwxyz{|}{~|z|ÇÉÅ
4T@>CÜáCSÜ>ÜD”Ñ&'ìàë{SÆØçéZ=kü∂¨lPaOG`b˛O5Ûò_
*J›lÒK5Lòô°l&'\ÒÚÛÙmZıˆ˜<¯õÆ)%úG
È?"ÜDÜ=<*ïslÿèÂ{eW
—_"Ö@<á8BC>
Slide 39
Slide 39 text
=>dÄwxyz{|}{~|z|ÇÉÅ
&'ìÑ4T@>CÜáCSÜ>ÜD”àÆ)l¢≤™?
‚,74Ñ‚?BC>",áD<9@9<"7?A<>—C⁄á?"DÜB"4T@>CáCDÜ?á"àëår™?\NK®5ò_åkúG
$flRZèêëíZ˘˙\ó?òôåÅÇS›l˚¸ZÒî(˝<4ÒP9˛8k®\ïOkúG
$Pk⁄ô=KÇ\@⁄_Sìîïöˇ!"b˚#õk$%ìîï\AªkúG
$QRZ=k{STüQU*ô≈S{eW\£≈ù¶ëü()%úG
¶lƒòzK¡%∂˚;SÛªü&'ëíìîïZ(˛8)*8ìîï<+,-?@5*ªkúG
úù!"RDD@"!ûûC9TÜ=:?9⁄ûCS"û/».-:.©†ç0
ìî(O/lV
ìî(O-lV
W ïñÛªlPaOÏ`b˛O
X ïñÛªlYZV%läãÒÚ\ïOù
[ æø\Ñ[¯5{M—/∑]^$˙àl_\\£≈ù
Slide 40
Slide 40 text
=>dZ·‚è@ Äáà}Ǫ{äÇ|ËCwxyz{}{Ç|à}Å
¨`=KÇüìîlZ=klÅÇS4T@>CÜáCSÜ>ÜD”l˘˙öa5{Bµ∂.‹Z
·‚è@
Slide 41
Slide 41 text
:;d Ø∞£±01
Ö@<á8BC><\◊ÿòô#$ì4Mƒ®¸¥l◊ÿbJ√]{Sö'lë|ª%úG
¶lc%∂5¿ï*l{–deÛªÿèl¨÷%S’‘lf√bK*5
gh†S€Ëü¨òkúGÖ@<á8BC><{S≈Ï˚ôf√bKüiÏ˚_
åù°\deúùjk\fi`kúG
deÛªZ=kl¨
deÛªÿèl¨
Ñ… ìÂS€(S1z<%l%¨
#[ìlVl¨
Ö@<á8BC><%l
ZHÇ√O6
ƒaKP]¥
Slide 42
Slide 42 text
:;d Ø∞£±01
ˆ5b¬vKc°ÏSÚmn%4Mƒ®l(µü¯p%†kúG
®ßƒülV\'KùëƒaKPü˜¯˙˚kúG
lV
Ñ<}%¨úùà
ƒaKP˜¯
6axö\`√5`
úùëop˜¯˘˙
Slide 43
Slide 43 text
公平性 バイアス検知の⽅法
perturbation
analysis
⼊⼒データの
バリエーションを増やす
監視対象
モデル
Payloadだけではデータが不⾜している場合、OpenScaleは⼊⼒データのバリ
エーションを増やし(perturbation analysis)、それぞれの結果を⾒ることで、バ
イアスの有無を検知します。
payloadから
取得した記録
増やしたデータに関して、
モデルを呼び出し結果を
調べる
結果を統計的に処理
してバイアスの有無
を判断
Slide 44
Slide 44 text
:;d Ø∞£±01Z23
v[=KÇ–w∞ô∫5SZ=klfgÒÚlÀªü<}%¨òôlV\^∞ô
ÅÇS4Mƒ®ü∂ùëÖ@<á8BC><{fgòkúG
'•K8ïZ97î(˝Ä:∞1(2Å :;d;Sî(˝Ä?€Åö@AT˘˙
–4Mƒ®∂ª÷l
˜¯
Slide 45
Slide 45 text
:;dÄ»{|ª}ääÅCBCè@
Ö@<á8BC><{4Mƒ®l¡25`\qrrÁ%*8S±[ê54Mƒ®\xyúùÆ)\fi⁄_
åkúGa]vÇO\–Ø∞£±BCD∫÷5˜ª9∞ùëSxyZ=k%∂˚;lŸr*
úî5*⁄_åô°lDE\˜¯%†kúG
Slide 46
Slide 46 text
:;dÄ»{|ª}ääÅCERFG
%¨z{{S&'ìlÚ„35QU%SèêëíìîïbHõk1Icщ%úG
ôròSlÿè\#$ìlÛª5úù°{ÎKÏKü:¨úùîïü∂ªkúG
ÒÄERÚÛÅ
$ZHÇÛª√ì Ñ… ìÂà
$Œ◊*6kKò Ñ… |ìàS‚◊*6kKò Ñ… }ìà
$èê(O Ñ… hi√®`Œ‘à
$Œ◊*ÒÚ Ñ… √®`*òà
$‚◊*ÒÚ Ñ… √®`∂ªà
Slide 47
Slide 47 text
説明性・公平性 サポート対象モデル
説明性と公平性は、管理対象がどのような種類のモデルかにより、対応の有無が
異なります。現在のサポート状況を整理すると、下の表のようになります。
モデル種別 対象データ 説明性 公平性 公平性緩和 精度
分類 構造データ Yes Yes Yes ※ Yes
回帰 構造データ Yes Yes No Yes
分類 テキスト Yes No No No
分類 イメージ Yes No No No
※ モデルが確率値を返すタイプのものである必要があります。
Slide 48
Slide 48 text
説明性・公平性 サポート対象フレームワーク
説明性・公平性は、フレームワークによってもサポートの有無が違ってきます。
最新の状況については、下記リンク先を参照してください。
Watson Machine Learning
Azure
ML Studio
AWS
SageMaker
Custom/Python
function
分類 構造データ
Apache Spark Mllib
Python function
XGBoost
scikit-learn
Native Native WMLと同じ
回帰 構造データ
Python function
XGBoost
scikit-learn
n/a n/a n/a
分類 テキスト Keras with TensorFlow(※1) n/a n/a n/a
分類 イメージ Keras with TensorFlow(※1) n/a n/a n/a
参照: https://cloud.ibm.com/docs/services/ai-openscale?topic=ai-openscale-frmwrks-wml&locale=ja
Slide 49
Slide 49 text
3. チュートリアルツアー体験
⾃動セットアップについて
⾃動セットアップはデモ⽤のセットアップ(設定、デモデータのロード等)を
⾃動で⾏い、実際にWatson OpenScaleで何ができるのかを体験することが
できます。
以下の順序で実施します。
1. IBM Cloudへのログイン
2. Watson OpenScaleサービスの作成・起動
3. ⾃動セットアップの実施（待ち時間約10分）
4. Watson OpenScaleを体験(モデル・モニターでのインサイト表⽰)
Slide 50
Slide 50 text
©—/:" ÑCD"?á"Ö@<á8BC><"ˆ5b¬vKcljƒKüh)˙˚ùl%
ä∑ëãvÇO\`√5`ò*üÏó&åΩ+≈ù
Ñ4äçéà
8ŸN(FG+
ÑCD"?á"Ö@<á8BC><5{SèêS&'SS’S
GfKPl©fll>*ëíü∂ªkúG
Slide 51
Slide 51 text
©—-:" ó&\åΩ+≈–∑ë÷vÇO\`√5`úù
Ñ4äçéà
OP/EFŒÎ(2
èêˆ5b¬vKc5{SZHÇ√O6ò_åù
Z=kü˜¯˙˚kúG
Ñ4äçéà
/EFŒÎ(2bQ@
–ˆ5b¬vKc5ìw÷vÇO\@ÿúùë
Z=klZHÇ√O6\S’ò_Z=k\
ˆ5b¬vKc5ìw%†kúG
Slide 52
Slide 52 text
©—ç:" ó&\åΩ+≈–∑ljƒK÷vÇOü˜¯˙˚ôÏ`√5`úù
Ñ4äçéà
ìîïuì*˝(
îZHÇ√O6ÛªZ=k{Sˆ5b¬vKc5
ÇMkëò_˜¯˙˚kúGZ=k$ÇMk\
`√5`úùëSZHÇ√O6lopüh†kúG
Ñ4äçéà
ìîïRS
îZ=k$ÇMk%S#$ìSflêS|ŸÃ
c√xPl≤“l:ï\˜¯òkúGò†åV
Çñl∂ù:ï5{S‡·5óüò†kúG
Slide 54
Slide 54 text
©—2:"bJ√]l&'ô˝ÿ√®`lbJ√]
"!"#$%&'()*+,-
./0123456(789/
:;<=/>?@%ABCDE
FG?HIJKLAM N%"
OP?QR(7/PS?TUB
#VE6WX$(7/YZ[\
]DE^,_/`ab?cdA
Befb?fghiZLZ#"
bJ√]\¯pòôÏä∑ëãkô{äM
Slide 55
Slide 55 text
©—»:"bJ√]l&'ô˝ÿ√®`lbJ√]
“jklDmnl
op*EqrZJ6st5u
v"wx?efby89ZJ
KBz{|z?}~AB/E
Watson OpenScale y{/
|EÄÅÇz?ÉÑZJRÖ
ÜKM "
öõ\¯pòôÏä)≈kò*rãkô{ä‚
Slide 56
Slide 56 text
©—é:" /0Gù√K|ŸÃ#$ìe®Pl¯p Ñ/û2ë-û2à
ó&\åΩ+≈–∑ë÷vÇO\`√5`úù
Ñ4äçéà
TUZ‰V
/0lï%˘˙5{S¥Él/0
°Ïle®PÒÚü˜¯˙˚k
úG
Ñ4äçéà
:;dW±œ
:ïH`b˛O5{/0lÒÚü˜¯˙˚kúG#$ì{S
Z=kü6kKòË%ûkòåÒÚ\˚rÁü15úú
°\¯òkúG
Slide 57
Slide 57 text
©—0:" flêe®P|ŸÃc√xPe®Pl¯p Ñçû2ë©û2à
ó&\åΩ+≈–∑ë÷vÇO\`√5`úù
Ñ4äçéà
XYW±œ
flê{SxfKc45`$=KÇë;;˚ù
aNkò†e®P$=KÇ5ghå_[òå
ÒÚ\úúZ=kl)î\˜òkúG G
Ñ4äçéà
2•KœW±œ
c√xP{[ó\kô{=KÇl~ÇìlX'5
flå_†áòkúG
Slide 58
Slide 58 text
©—†:" #$ìl/0l¯p Ñ2û2à
ó&\åΩ+≈–∑ljƒK÷vÇO\`√5`úù
Ñ4äçéà
:ïV\`√5`úùëSÒÚlopü˜¯˙˚kúG∑5S
#$ìZHÇK\s_Ωkò*rG
Slide 59
Slide 59 text
©—/.:" #$ìZHÇ√O6l¯p Ñ/û2ë-û2à
ó&\åΩ+≈–∑ë÷vÇO\`√5`úù
Slide 60
Slide 60 text
©—//:" #$ì®ßƒl¯p Ñçû2à
ó&\åΩ+≈–∑ë÷vÇO\`√5`úù
Slide 61
Slide 61 text
©—/-:" #$ì®ßƒlÚËê(µl¯p Ñ©û2à
ó&\åΩ+≈–∑ë÷vÇO\`√5`úù
Slide 62
Slide 62 text
©—/ç:" #$ì®ßƒlÚËê(µl¯p Ñ2û2à
ó&\åΩ+≈–∑ljƒK÷vÇO\`√5`úù
Slide 63
Slide 63 text
©—/©:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ/ûéà"
ü°`=KÇ$H5P
Slide 64
Slide 64 text
©—/2:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ-ûéà"
#$ì®ßƒ
Slide 65
Slide 65 text
©—/»:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñçûéà"
~MzKc$=KÇ$H5P
Slide 66
Slide 66 text
©—/é:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ©ûéà"
¢£=KÇ$H5P
Slide 67
Slide 67 text
©—/0:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ2ûéà"
4Mƒ®xyıΩl=KÇ$H5P
Slide 68
Slide 68 text
©—/†:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñ»ûéà"
#$ìl§ö
Slide 69
Slide 69 text
©—-.:" PaOÏ`b˛O≥Nk%#$ìl¯p Ñéûéà"
PaOÏ`b˛Ol˜¯
ä∑ljƒKã\`√5`ò_∑5+»
Slide 70
Slide 70 text
©—-/:" /0ıΩPaOÏ`b˛Ol¯p Ñ/û©à"
/0ıΩPaOÏ`b˛Ol˜¯
Slide 71
Slide 71 text
©—--:" /0ıΩPaOÏ`b˛Ol¯p Ñ-û©à"
6kKò$4Mƒ®
Slide 72
Slide 72 text
©—-ç:" /0ıΩPaOÏ`b˛Ol¯p Ñçû©à"
¬‹l4Mƒ®
Slide 73
Slide 73 text
©—-©:" /0ıΩPaOÏ`b˛Ol¯p Ñ©û©à"
PaOÏ`b˛Ol&'
Slide 74
Slide 74 text
©—-2:" PaOÏ`b˛Olop¯p Ñ/û2à"
Z=kÒÚl&'
Slide 75
Slide 75 text
©—-»:" PaOÏ`b˛Olop¯p Ñ-û2à"
¥–¿ï*∂•¶
Slide 76
Slide 76 text
©—-é:" PaOÏ`b˛Olop¯p Ñçû2à"
Z=k[Al¸ñ
Slide 77
Slide 77 text
©—-0:" PaOÏ`b˛Olop¯p Ñ©û2à"
ÂlÒÚ5*ù
Slide 78
Slide 78 text
©—-†:" PaOÏ`b˛Olop¯p Ñ2û2à"
›lÂlbJ√]lß˝
ä∑ljƒKãvÇO\`√5`ò_∑5+»
Slide 79
Slide 79 text
©—ç.:" c√xP$ZHÇ√O6 Ñ/û»à
c√xP$ZHÇK
Slide 80
Slide 80 text
©—ç/:" c√xP$ZHÇ√O6 Ñ-û»à
[ó\lX'
Slide 81
Slide 81 text
©—ç/:" c√xP$ZHÇ√O6 Ñçû»à
[ó\lÚËê(µ
Slide 82
Slide 82 text
©—ç/:" c√xP$ZHÇ√O6 Ñ©û»à
GfKP:ï
Slide 83
Slide 83 text
©—ç-:" c√xP$ZHÇ√O6 Ñ2û»à
=KÇ~ÇìlX'
Slide 84
Slide 84 text
©—çç:" c√xP$ZHÇ√O6 Ñ»û»à
op\˜¯
ä∑ljƒKãvÇO\`√5`ò_∑5+»
Slide 85
Slide 85 text
©—ç©:" c√xP Ñ/û-à
PaOÏ`b˛OPÇ
Slide 86
Slide 86 text
©—ç2:" c√xP Ñ-û-à
Œsë*⁄_åù∂•¶
ä∑ljƒKãvÇO\`√5`ò_∑5+»
Slide 87
Slide 87 text
©—ç»:" PaOÏ`b˛O Ñ/û-à
PaOÏ`b˛O$√®P
Slide 88
Slide 88 text
©—çé:" PaOÏ`b˛O Ñ-û-à
®©\¸Œ
äN'ãvÇO%N'úùG
Slide 89
Slide 89 text
実際にモデルを登録してWatson OpenScaleを使うには
実際にモデルを登録してWatson OpenScaleを使うには、pythonでSDKを使って
コードを書き、実⾏して設定を⾏うことが通常必要です。
• Watson Machine Learningのモデルを使う場合は、モデル登録にpythonでの
登録が必要です。
• AutoMLなど他社のモデルを使う場合は、ペイロードロギング等に通常は
何かしらのコードの実⾏が必要です。
• もちろん⼀部はGUIで実施可能です。
Slide 90
Slide 90 text
Watson OpenScale Python SDK チュートリアル (上級)
下記のタスクを実⾏する⽅法を学習できるコンテンツです。
• Python ノートブックを実⾏して機械学習モデルを作成、トレーニング、
およびデプロイする
• データマートを作成し、パフォーマンス、正確度、公平性のモニターを
構成し、モニター対象のデータを作成する
• Watson OpenScale の「インサイト」タブで結果を表⽰する
https://cloud.ibm.com/docs/ai-openscale?topic=ai-openscale-crt-ov
Slide 91
Slide 91 text
äßK®%A’òô√≤K®\≥¥úù™?
/: ,67"‰>?!Aˆ5b¬vKc5z6MOúù
-: ä√≤K®lï%ãläúO_˜¯ã\ÃÕúù
ç: ä8<9=ÜB<ãl'µ∂\`√5`ò_öõ\∑húù
©: A’˙˚ô-fllGKı®∏lπAl@‹\`√5`òä≥¥ã\ÃÕúù
ÄGKı®∏{¬‹5Ê*ùô≈S¢£l˘˙\æ¯p8r˙åG
! ÑCD"?á"Ö@<á8BC><"TTT
! QÖ>—TTT
Slide 92
Slide 92 text
,67"‰>?!A5NúùxfKc45`æ∫îl|ãå
,67"‰>?!Aˆ5b¬vKc°ÏäÌ44;6+‰™ãvÇO\`√5`ò_åôr8¶ë%
æÓsSBªïû\xfKc45`ò_åôr8¶ëü()%úG
Slide 93
Slide 93 text
まとめ
• AIの実⽤化には、「公平性」や「説明性」が
重要な課題となってきている
• 「IBM Watson OpenScale」は、AIの公平性の分析、
不公平なバイアスの軽減、説明性の実現が可能である
Slide 94
Slide 94 text
4. |úú≈∆« –hi≤§ÁGMPIBM Developer
ibm.biz/IBMDevJP
¥É∆«L®≠kƒ5ò5jΩfl»æ...\^∞ùmn=<\‡·
Slide 95
Slide 95 text
|úú≈∆« – IBM Code Patterns
https://ibm.biz/ibmcodejp
ó& ø"=Z[˘ ø"≤K®ßKcü¿⁄ôƒò√hiôÇKOP
Slide 96
Slide 96 text
Microsoft Azure ML × Watson OpenScale 学習資料
Watson OpenScale を利⽤して Azure での機械学習を
モニタリングする (Code Patterns)
Microsoft Azure で機械学習モデルを作成し、Watson OpenScale を利⽤して
ペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介
https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/
https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/
GitHub IBM/monitor-azure-ml-with-watson-openscale
Slide 97
Slide 97 text
AWS SageMaker × Watson OpenScale 学習資料
Watson OpenScale を利⽤して SageMaker での機械学習を
モニタリングする (Code Patterns)
AWS SageMakerで機械学習モデルを作成し、Watson OpenScale を利⽤して
ペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介
https://developer.ibm.com/jp/patterns/monitor-amazon-sagemaker-machine-learning-models-with-ai-openscale/
https://github.com/IBM/monitor-sagemaker-ml-with-watson-openscale
GitHub IBM/monitor-sagemaker-ml-with-watson-openscale
Slide 98
Slide 98 text
免責事項
IBM Developer Dojoは開発者の⽅を対象に、IBM Cloudを主とした技術情報をお伝えする⽬的で開催しています。
講師や運営スタッフにより、開催毎に最適と判断した内容でお届けしています。
現在、ハンズオンを伴う講義はお客様の費⽤負担がない環境と⼿順でご案内しています。講義終了後、不要に
なりました制作物はお客様ご⾃⾝で削除をお願いいたします。クレジットカードの登録が伴わない場合、費⽤は
⼀切発⽣致しませんが、ご登録いただいたお客様はご注意ください。
講師陣はみなさまの利⽤状況を個別に確認することはできません。
ご理解とご協⼒をお願いいたします。
利⽤したサービスの削除⽅法については講義の中でご案内します。
ご不明な点がございましたら、当⽇確認をお願いいたします。
講義終了後、 IBM Developer Dojoに関するお問い合わせは「Slack」にお願いします。それ以外のIBM Cloud
のお問い合わせにつきましては、弊社サポートセンターまで、次のいづれかの⽅法でお問い合わせください。
IBM Cloudダッシュボードの「サポート」メニューから「Case」を作成し、英語でご記⼊ください
IBM Cloudサポートセンター「相談する」ボタンからチャットまたは電話でご連絡ください
https://www.ibm.com/jp-ja/cloud/support
ご参加ありがとうございました。