connpassイベント情報 https://ibm-developer.connpass.com/event/215820/
IBM Dojo!"#$%&'()*+,!"#$%&'%()*+,-./012'34"56789':/;79<'2='>? @2021/6/23
View Slide
!" #$%&'()*+,-'.!"#$%&'()*+,$-&..+''$#/0/1+,$23,.45(+.(67 !"#$8+9+,/(+9$:+;+<)=+,$39;)./(+ABACDEFGA !"#$%&'()*+,-2
タイムテーブル14:00-14:05(5min)オープニング資料ダウンロード、出席登録など14:05-15:20(75min)公平で説明可能なAI セッション1520:-15:30(10min)Q&Aクロージング3
本イベントでは、IBM Cloud へのアクセスは上記URLから行ってくださいibm.biz/BdfvRi• IBM Cloud ログインアカウントをすでにお持ちの方は、こちらからログインしてください• IBM Cloud ライトアカウント作成アカウントをお持ちでない方は、ご登録をお願いします【本⽇のお願い】4
学習の⽬的とゴール⽬的AIの公平性、説明性の必要性を理解した上で、Watson OpenScaleの概要を理解するゴールWatson OpenScaleで何ができるかを実際に体験するこのコースを学ぶ⽅の想定スキル機械学習の初⼼者レベルの知識がある⽅5
⽬次1. AIの課題とIBMの取り組み2. IBM Watson OpenScale ご紹介3. チュートリアルツアー体験4. おすすめ情報6
1. AIの課題AIの開発がいない実⾏環境の確経験がないデータサイエンティスト保が難しいパフォーマンスが出せない精度が良いAIの開発が難しいAIがブラックボックスでよく分からないなど代表的なAIの開発にまつわる課題7
AIの判断、企業に説明責任?引⽤元: 2018/11/26 ⽇本経済新聞 電⼦版 https://www.nikkei.com/article/DGXMZO38186770W8A121C1MM8000/オンライン資料のみ8
⽇本政府が策定した「⼈間中⼼のAI社会原則」6) 公平性、説明責任及び透明性の原則「AI-Readyな社会」においては、AIの利⽤によって、⼈々が、その⼈の持つ背景によって不当な差別を受けたり、⼈間の尊厳に照らして不当な扱いを受けたりすることがないように、公平性及び透明性のある意思決定とその結果に対する説明責任(アカウンタビリティ)が適切に確保されると共に、技術に対する信頼性(Trust)が担保される必要がある。・AIの設計思想の下において、⼈々がその⼈種、性別、国籍、年齢、政治的信念、宗教等の多様なバックグラウンドを理由に不当な差別をされることなく、全ての⼈々が公平に扱われなければならない。・AIを利⽤しているという事実、AIに利⽤されるデータの取得⽅法や使⽤⽅法、AIの動作結果の適切性を担保する仕組みなど、⽤途や状況に応じた適切な説明が得られなければならない。引用元:人間中心のAI社会原則https://www8.cao.go.jp/cstp/aigensoku.pdf今後、AIには公平性や説明性が求めらてくることが予想される9
AIの信頼性につながるAIの説明性・公平性とは?10
MNOPQRSQTPUV!" W*+XYF!"Zwz∆z«»… $´»À®ÃÕŒœ–—“v”‘’÷/qr◊±ÿb∫jLvŸ⁄€èD‹›fi/±ÿb)ØLv‹flE‡·‹›fi/‚„T‰L ‚„TÂLʵ»<‚„ÁËÈÍ<ÂÑ/m?±ÿb∫jÑK%ÃÎ$¨Ï!<’ÌBÓ0ÂL‚„^ÉÔWW563^êÉjk∏π%HL<ÿ 11
説明性 (Explainability)想定シナリオ顧客に対する与信判断(融資を実施するかどうか)をする機械学習モデルを作ったとします。顧客 窓⼝担当者融資の申請を認められないという話だが、何が原因なのか︖︖︖︖当社の与信判断モデルは⾮常に精度が⾼いのですが、あいにくブラックボックスで理由はわからないのです…説明不可能なAI12
説明性(Explainability)顧客 窓⼝担当者融資の申請を認められないという話だが、何が原因なのか︖︖︖︖お客様の融資が却下された⼀番の理由は年収で、寄与度は60%です。次の理由は年齢で、寄与度は20%になります。前ページのようなやりとりが起きた場合、今回説明するWatson OpenScaleがあるとこのように説明が可能になります。説明可能なAI13
AIの公平性14
「AIの公平性」の問題• 被告の再犯可能性を予測するAIシステム「Compas」• ⽶国で実際に本番利⽤されている機械学習モデル• 137問の質問への回答を⼊⼒に、再び犯罪を犯す危険性を10段階の点数として算出• 調査報道サイト「プロパブリカ」により、以下の調査結果が判明し⼤きな社会問題となりました。出典: https://kaztaira.wordpress.com/2018/09/22/ａｉのバイアス問題、求められる「公平」とは何/偽陽性(再犯の疑いありの判定で実際には再犯なし)偽陰性(再犯の疑いなしの判定で実際には再犯あり)⽩⼈ 23.5% 47.7%⿊⼈ 44.9% 28.0%15
アルゴリズムは公平か︖アルゴリズムは公平ではなく、作成者の意図やバイアスが紛れ込むl アルゴリズムは過去の⾏為や⾏動パターンを繰りかえし、⾃動的に現状を維持するだけl 判定の最適化とは、過去データの特徴からセグメントを抽出した後に、判定対象を特定のセグメントに分類すること• セグメントの境界を決める重要な特徴データ以外の個々⼈の属性や事情は考慮されないl バイアスが紛れ込む要因の例• 過去のデータ(実績)の偏り• データの選択を⾏うのは⼈間• 有効かもしれないが存在しないデータ• 代理データを無意識に利⽤• 成功要因を恣意的に設定16
IBMの取り組み (1)• 2017年 Corporate Responsibility Report最初の項⽬にTrust and transparencyがあり、AIに関する責任性に⾔及• 2018年9⽉21⽇「AI倫理のためのガイド」出典 https://www.ibm.com/blogs/think/jp-ja/everyday-ethics-for-artificial-intelligence/ 17
IBMの取り組み (2)IBMでは以上の全社的な⽅針を受けて、次の2つの製品・サービスを提供Watson OpenScaleWatson StudioやWatson Machine Learningと同じIBM Cloud上のサービス。ただし、他のサービスと異なり、他社AIも管理対象に含む。AI Fairness 360 / AI Explainability 360Python APIをOSSとして公開。ライブラリだけでなく、API Reference、チュートリアル、デモアプリなども⼀般に利⽤可能。ユーザーは⾃分でPythonコーディングを⾏うことが前提。AIF360: http://aif360.mybluemix.net/AIX360: http://aix360.mybluemix.net/18
OpenScaleとAIF360OpenScaleとAIF360/AIX360の⽬的・役割・対象などを整理すると次のようになります。Watson OpenScale AIF360/AIX360位置付け 商⽤製品/商⽤サービス オープンソース想定ユーザー 企業ユーザーデータサイエンティスト研究者、開発者提供形態ICP, IBM Cloud、他社クラウドPythonライブラリーとツールの集合利⽤フェーズ モデル実⾏/運⽤時 モデル開発時提供機能説明性 ○ ○ (AIX360)公平性 ○ ○ (AIF360)正確性(精度) ○ -19
2. IBM Watson OpenScale ご紹介https://www.ibm.com/jp-ja/cloud/watson-openscale 20
Watson OpenScaleここで 3.チュートリアルツアー体験の事前準備「3.チュートリアルツアー体験」の3番まで準備する1. IBM Cloudへのログイン2. Watson OpenScaleサービスの作成・起動3. ⾃動セットアップの実施（10分前後の待ち時間）21
http://ibm.biz/BdfvRiにアクセスしてログインしてください。すでに最初の出席登録でログイン済みの場合は、ログイン不要です。ログイン後のダッシュボードが表⽰されている画⾯を表⽰させておいてください。• IBM Cloud ログインアカウントをすでにお持ちの方は、こちらからログインしてください• IBM Cloud ライトアカウント作成アカウントをお持ちでない方は、ご登録をお願いします本イベント以外ではhttps://cloud.ibm.com/loginからログイン可能です1. IBM Cloudへのログイン22
*"#Watson OpenScale+,-.%/0123äõgú ay2wùbZJxIJ]^23
2-2. 検索ボックスにWatson OpenScaleを⼊⼒し、「Watson OpenScale」を選択する24
äõhú x1Ø∞6#≠Æa±H9bq≤≥vH6#≠ÆaH4:¥µ≤∂b&≠Æ∑∏π'^∫ÜZ-ª=πaºΩbK26ZJxIJ]^25
äõæú †°¢£§•¶ß®©•™´°¨©#{|#ø¿&¡¬∑∏àQq√#ƒ≈∆1PQa«»bZJxIJ]^26
äõ…ú a vxÀ1_∞6#ÃÕbK26ZJxIJ=π†°¢£§•¶ß®©•™´°¨©#±I_∆K1ŒZÃÕ]^27
4"5367897:%;<hõgú aœÕ–I: IvbZJxIJ]^1rs)SCtuTVG+W\vwxyRz{4|FG+:28
hõäú —“”‘áL’÷hõhú¶a—“&”‘=á=à◊bÜ¡¬&ÿŸ⁄àQqa€‹á=›fibK26ZJxIJ]^ììMîïñó:òôd3ö29
2. IBM Watson OpenScale ご紹介https://www.ibm.com/jp-ja/cloud/watson-openscale 30
Watson OpenScaleの特徴Watson OpenScaleのハイレベルな特徴として以下のことがあげられます。Open (オープン):代表的な機械学習・深層学習フレームワーク・他社AIサービス(MS AzureやAmazon Sagemaker)を管理対象とすることが可能Scale (拡張性):パブリック、プライベート、ハイブリッド・クラウド、どの環境でも提供可能Explainability (説明性):AIモデルの評価結果において、その判断理由を説明Fairness (公平性):AIモデルの導出した結果の公平性をチェックし、是正する31
Watson OpenScaleの主要機能Payload Logging機能がベースの機能となっています。Payload Loggingを使って説明性(Explainability) と公平性(Fairness) を実現しています。それぞれの拡張機能としてContrastive ExplanationとBias mitigationがあります。それ以外にモニタリング機能や、ドリフト・モニタリング機能がなどがあります。Payload Logging説明性(Explainability)公平性(Fairness)ContrastiveExplanationBias mitigation ・Monitoring・Performance・Drift monitoringWatson OpenScale 主要機能32
Watson OpenScale ダッシュボードWatson OpenScaleダッシュボードでは、画⾯左のメニュー選択で、画⾯を直感的に切り替えることができます。公平性 Sexを指定33
Payload LoggingPayload Loggingとは、管理対象の機械学習モデルに対する呼出し時の⼊⼒データ、出⼒結果をタイムスタンプとユニークID(scoring_id)とともにDBに⾃動的に記録する機能です。OpenScaleの主要機能である説明性と公正性は、Payload Loggingにより記録されたデータの分析を出発点に実現されています。34
Payload Logging (Watson Machine Learningの場合)Watson ML上に登録されたモデルに対してPayload Loggingを⾏う場合は、OpenScale側で管理対象の指定をするだけで⾃動的に記録されます。この場合、アプリ側の改修は不要です。Watson Machine LearningdeploymentApplicationAPI CallOpenScalePayload 35
Payload Logging (他社 Machine Learningの場合)MS AzureやAmazon Sagemakerなどの他社APIの場合は、アプリケーションはモデルのAPIを呼び出した後で、⼊⼒データとその結果を引数に、OpenScale側で⽤意したPayload Logging APIを呼び出すようにします。他社 Machine LearningApplicationAPI CallOpenScalePayloadPayload Logging API36
説明性 (Explainability)想定シナリオ顧客に対する与信判断(融資を実施するかどうか)をする機械学習モデルを作ったとします。顧客 窓⼝担当者融資の申請を認められないという話だが、何が原因なのか︖︖︖︖当社の与信判断モデルは⾮常に精度が⾼いのですが、あいにくブラックボックスで理由はわからないのです…説明不可能なAI37
説明性(Explainability)顧客 窓⼝担当者融資の申請を認められないという話だが、何が原因なのか︖︖︖︖お客様の融資が却下された⼀番の理由は年収で、寄与度は60%です。次の理由は年齢で、寄与度は20%になります。前ページのようなやりとりが起きた場合、今回説明するWatson OpenScaleがあるとこのように説明が可能になります。説明可能なAI38
説明性(Explainability)顧客 窓⼝担当者年収が⾜りないのはわかったが、いくらあればよかたのか︖お客様の場合、年収があと200万円あれば、当⾏でも融資できます。説明性の拡張機能 (Contrastive Explanation)説明性の拡張機能まで使うと、次のような突っ込んだやりとりにも対応可能です。39
説明性(Explainability)Explainability(説明性)とは、機械学習モデルが特定のトランサクションに対してなぜその結論に達したかの説明を⼊⼒項⽬ごとの寄与率で⽰す機能です。Positiveな要因の項⽬別寄与度-> OpenScaleの分析結果Negativeな要因の項⽬別寄与度-> OpenScaleの分析結果最終的な機械学習モデルの結論と確信度-> モデルからわかる情報40
説明性(Explainability)説明性(Explainability)機能の実現⽅法LIME(Local Interpretable Model-agnostic Explanations)という⽅法をベースにしています。・特定の機械学習の結果を解析したい場合、その近傍の⼊⼒データで出⼒がどうなるかを調べます。・集まったデータを使って、モデルを局所的に近似する簡易モデルを作ります。・簡易モデルは構造が簡単なため、寄与度を求めることが可能です。このアプローチであれば、対象が深層学習モデルのような複雑なモデルでも解析可能になります。出典: https://arxiv.org/abs/1602.04938⼊⼒変数1の値⼊⼒変数2の値① 調査対象のトランザクション② 調査対象の近傍値での予測結果を調べる③ 境界線(正確にはN-1次元超平⾯)の垂線を求める41
説明性の拡張機能 (Contrastive Explanation)定型データが⼊⼒のモデルの場合、Explainabilityの画⾯上部にはIBM独⾃の拡張機能であるContrastive Explanationによる結果が出⼒されています。⼊⼒値がいくつだったら判断結果が変わっていたか。判断結果が今と同じになるぎりぎりの値。42
公平性 バイアス検知OpenScaleを利⽤した公平性バイアス検知の利⽤シナリオは、以下のとおりです。この中で特に重要なのは「監視対象項⽬の決定」で、会社のポリシーなどに基づき、⼈間が決定します。OpenScaleは、決められたポリシーが守られているかを監視する役割を持ちます。監視対象モデルの決定監視対象項⽬の決定(例 性別、⼈種、年収etc)OpenScaleでの設定公正性閾値の決定OpenScaleでのモニタリングアラート通知43
公平性 バイアス検知ダッシュボードから、時系列でバイアスの変化が確認できます。スコアが閾値を下回るとアラートが表⽰されます。閾値(事前設定する)アラート表⽰グラフ上をクリックすると詳細表⽰画⾯44
公平性 バイアス検知の⽅法perturbationanalysis⼊⼒データのバリエーションを増やす監視対象モデルPayloadだけではデータが不⾜している場合、OpenScaleは⼊⼒データのバリエーションを増やし(perturbation analysis)、それぞれの結果を⾒ることで、バイアスの有無を検知します。payloadから取得した記録増やしたデータに関して、モデルを呼び出し結果を調べる結果を統計的に処理してバイアスの有無を判断45
公平性 バイアス検知の⽅法摂動データも加えた後に、モデルの判断結果の偏りが事前設定した閾値を超えた場合、バイアスがあるとOpenScaleは判断します。オリジナルの記録データ(ペイロード) 公平性確認のため⽔増しデータ(摂動)を加えた結果「バイアスあり」の表⽰46
公平性(Fairness) 緩和機能OpenScaleはバイアスのチェックを⾏うだけでなく、⾃動的にバイアスを緩和する機能を持っています。ラジオボタンを「バイアス緩和済み」に切り替えると、緩和モデルであればどのような出⼒になっていたかの状況を表⽰できます。47
公平性(Fairness) 設定⼿順設定⼿順は、説明性の時同様に簡単で、機械学習モデルに関する知識は不要です。ただし、どの項⽬を公平性の対象にするかはユーザーが指定する必要があります。⼊⼒(設定項⽬)・モニタ対象属性 (例 性別)・有利なグループ (例 男性)、不利なグループ (例 ⼥性)・⽬的変数 (例 融資リスク有無)・有利な結果 (例 リスクなし)・不利な結果 (例 リスクあり)48
説明性・公平性 サポート対象モデル説明性と公平性は、管理対象がどのような種類のモデルかにより、対応の有無が異なります。現在のサポート状況を整理すると、下の表のようになります。モデル種別 対象データ 説明性 公平性 公平性緩和 精度分類 構造データ Yes Yes Yes ※ Yes回帰 構造データ Yes Yes No Yes分類 テキスト Yes No No No分類 イメージ Yes No No No※ モデルが確率値を返すタイプのものである必要があります。49
説明性・公平性 サポート対象フレームワーク説明性・公平性は、フレームワークによってもサポートの有無が違ってきます。最新の状況については、下記リンク先を参照してください。Watson Machine LearningAzureML StudioAWSSageMakerCustom/Pythonfunction分類 構造データApache Spark MllibPython functionXGBoostscikit-learnNative Native WMLと同じ回帰 構造データPython functionXGBoostscikit-learnn/a n/a n/a分類 テキスト Keras with TensorFlow(※1) n/a n/a n/a分類 イメージ Keras with TensorFlow(※1) n/a n/a n/a参照: https://cloud.ibm.com/docs/services/ai-openscale?topic=ai-openscale-frmwrks-wml&locale=ja50
3. チュートリアルツアー体験⾃動セットアップについて⾃動セットアップはデモ⽤のセットアップ(設定、デモデータのロード等)を⾃動で⾏い、実際にWatson OpenScaleで何ができるのかを体験することができます。以下の順序で実施します。1. IBM Cloudへのログイン2. Watson OpenScaleサービスの作成・起動3. ⾃動セットアップの実施（待ち時間約10分）4. Watson OpenScaleを体験(モデル・モニターでのインサイト表⽰)※2020年12⽉2⽇現在、画⾯は⽇本語化されています51
æõgú¶ †°¢£§•¶ß®©•™´°¨©¶±I_∆K1Œ#fl 1&$€∑∏^#L‡·l‚K26ZJxIJ=(&Q„‰ÂÊÁ‹^!ÁÎÏÓ&,KL2MNOÔå}Ü%‡~ç%ÒÖåáçMJ;ÚÛ;Ùı;ˆ˜;¯˘«™,˙˚,¸4˝˛:SqrRm52
æõäú¶ „‰ZÂÊÁ‹a·lbK26ZJxIJ]^!ÁÎÏÓ&PQRSMTU28ÚÛˇW≠!Y«"MJ;G#» ´$y”5öGHI:òôd3rRm!ÁÎÏÓ&RSMTU28VWG%ˇW≠!Y«"M&'(Y»´/)*Rö6GHI,G#» ´$/ˆ˜y”GHI/ˇW≠!Y«"M&'Q§rRm53
æõhú¶ „‰ZÂÊÁ‹a·#fl 1bK26&¡¬∑∏àQJxIJ]^!ÁÎÏÓ&X1-YXZ32+G#» ´$®©GHIJ;ˇW≠!Y«"M»⁄I6y”òôd3rRmGHI,»⁄I/X WXRö6;G#» ´$,-.:/§rRm!ÁÎÏÓ&X1-[\+GHI,»⁄IQ;0¡1;23;_û’" 4™,ËÈ,56/òôyrRmy§5≤78,Sö56MJ;9:M;:<§rRm54
æõæú¶36vËLÈÍ∑∏π'^aÎÈx9JÏ0Ë ¥ÌÓ©Ô¢¶Ò£Ú¶Û§Ô©¨∂¶b#_ÙxıÜÏ0Ë#ˆ˜#¯˘Z‡·l‚áà˙‡˚©¸¢‚ K26ZJxIJ=π-ª]^55
{∫yx誺ÖΩJOPæø¿Ö7/JªºÖΩ"!"#$%&'()*+,-./0123456(789/:;<=/>?@%ABCDEFG?HIJKLAM N%"OP?QR(7/PS?TUB#VE6WX$(7/YZ[\]DE^,_/`ab?cdABefb?fghiZLZ#"≠= >/Ω0ye2?n@AreJ?æçB}AY»´/X WX56
{∫¡x誺ÖΩJOPæø¿Ö7/JªºÖΩ“jklDmnlop*EqrZJ6st5uv"wx?efby89ZJKBz{|z?}~AB/EWatson OpenScale y{/|EÄÅÇz?ÉÑZJRÖÜKM "CD/Ω0ye2?E1ryF7AreJ?Gç}H‡àÜAY»´/X WX57
{∫|xè ¬√:9Ö'ƒ≈∆KLM.7ÑJ«» …¢≠y v≠yÀ„‰ZÂÊÁ‹a·lbK26ZJxIJ]^!ÁÎÏÓ&]^._`IJ,KLͬMJ;MN,IJ?2,OZ™µ∂:òôd3rRm!ÁÎÏÓ&:;56PX≠Æ´MJIJ,µ∂:òôd3rRm0¡1J;GHI:$I«QRQSry5µ∂/T39UVWMzR?/ôyrRm58
{∫xè ÃÕ.7у≈∆ŒÖœÑ.7ÑJ«» …w≠y {≠yÀ„‰ZÂÊÁ‹a·lbK26ZJxIJ]^!ÁÎÏÓ&deabc23J;4X«"…WX,H«»6‘ù3öVYI<§OZ™,H«»MZ[5”ºy5µ∂/zRGHI,\∆/òyrRm m!ÁÎÏÓ&8*fcabc" 4™Jº]^reJH«»,_†1,`cM˚5”abyrRm59
{∫~xè KLMJ¬√J«» …y≠yÀ„‰ZÂÊÁ‹a·#fl 1bK26ZJxIJ]^!ÁÎÏÓ&56≤/X WXRö6;µ∂,-.:òôd3rRmnM;0¡1G#»«/c”dryF7m60
{∫¢Äxè KLM–—8ÖéçJ«» …¢≠y v≠yÀ„‰ZÂÊÁ‹a·lbK26ZJxIJ]^61
{∫¢¢xè KLM7“#J«» …w≠yÀ„‰ZÂÊÁ‹a·lbK26ZJxIJ]^62
{∫¢vxè KLM7“#J®©”‘’J«» …{≠yÀ„‰ZÂÊÁ‹a·lbK26ZJxIJ]^63
{∫¢wxè KLM7“#J®©”‘’J«» …y≠yÀ„‰ZÂÊÁ‹a·#fl 1bK26ZJxIJ]^64
{∫¢{xè Ñ÷é◊/ªÿémnoYKLMJ«» …¢≠|Àè˝˛ˇ012!–I:65
{∫¢yxè Ñ÷é◊/ªÿémnoYKLMJ«» …v≠|Àè"#Y9$66
{∫¢¡xè Ñ÷é◊/ªÿémnoYKLMJ«» …w≠|Àè%4w1Œ!012!–I:67
{∫¢|xè Ñ÷é◊/ªÿémnoYKLMJ«» …{≠|Àè&'012!–I:68
{∫¢xè Ñ÷é◊/ªÿémnoYKLMJ«» …y≠|Àè(4 9)*+Ê#012!–I:69
{∫¢~xè Ñ÷é◊/ªÿémnoYKLMJ«» …¡≠|Àè"#Y#,-70
{∫vÄxè Ñ÷é◊/ªÿémnoYKLMJ«» …|≠|Àè:H6.J_∞6#¡¬‡·#fl 1‚ZJxIJ=π·fÁ/71
{∫v¢xè ¬√Ÿ⁄Ñ÷é◊/ªÿéJ«» …¢≠{À舘+Ê:H6.J_∞6#¡¬72
{∫vvxè ¬√Ÿ⁄Ñ÷é◊/ªÿéJ«» …v≠{ÀèùË1v!(4 973
{∫vwxè ¬√Ÿ⁄Ñ÷é◊/ªÿéJ«» …w≠{Àè01#(4 974
{∫v{xè ¬√Ÿ⁄Ñ÷é◊/ªÿéJ«» …{≠{Àè:H6.J_∞6#‰Ä75
{∫vyxè Ñ÷é◊/ªÿéJ€‹«» …¢≠yÀèÏ0Ë}~#‰Ä76
{∫v¡xè Ñ÷é◊/ªÿéJ€‹«» …v≠yÀèç234(56777
{∫v|xè Ñ÷é◊/ªÿéJ€‹«» …w≠yÀèÏ0ËÕº#ûs78
{∫vxè Ñ÷é◊/ªÿéJ€‹«» …{≠yÀè8#}~f(^79
{∫v~xè Ñ÷é◊/ªÿéJ€‹«» …y≠yÀè9#:#_Ùxı#;ü‡·#fl 1‚K26ZJxIJ=π·fÁ/80
{∫wÄxè ŒÖœÑ%–—8Öéç …¢≠¡ÀŒx?:!Ï≈2181
{∫w¢xè ŒÖœÑ%–—8Öéç …v≠¡À<„=#>|82
{∫w¢xè ŒÖœÑ%–—8Öéç …w≠¡À<„=#?@AÿB83
{∫w¢xè ŒÖœÑ%–—8Öéç …{≠¡À3C1:DE84
{∫wvxè ŒÖœÑ%–—8Öéç …y≠¡À012FGY#>|85
{∫wwxè ŒÖœÑ%–—8Öéç …¡≠¡À¯˘Z¡¬‡·#fl 1‚K26ZJxIJ=π·fÁ/86
{∫w{xè ŒÖœÑ …¢≠vÀ:H6.J_∞6HG87
{∫wyxè ŒÖœÑ …v≠vÀIJÜ(⁄π'^567‡·#fl 1‚K26ZJxIJ=π·fÁ/88
{∫w¡xè Ñ÷é◊/ªÿé …¢≠vÀ:H6.J_∞6!x9:89
{∫w|xè Ñ÷é◊/ªÿé …v≠vÀ›fiSfl‡·‚„‰Â8éY‚„[\Ê90
実際にモデルを登録してWatson OpenScaleを使うには実際にモデルを登録してWatson OpenScaleを使うには、pythonでSDKを使ってコードを書き、実⾏して設定を⾏うことが通常必要です。• Watson Machine Learningのモデルを使う場合は、モデル登録にpythonでの登録が必要です。• AutoMLなど他社のモデルを使う場合は、ペイロードロギング等に通常は何かしらのコードの実⾏が必要です。• もちろん⼀部はGUIで実施可能です。91
Watson OpenScale Python SDK チュートリアル (上級)下記のタスクを実⾏する⽅法を学習できるコンテンツです。• Python ノートブックを実⾏して機械学習モデルを作成、トレーニング、およびデプロイする• データマートを作成し、パフォーマンス、正確度、公平性のモニターを構成し、モニター対象のデータを作成する• Watson OpenScale の「インサイト」タブで結果を表⽰するhttps://cloud.ibm.com/docs/ai-openscale?topic=ai-openscale-crt-ov92
Microsoft Azure ML × Watson OpenScale 学習資料Watson OpenScale を利⽤して Azure での機械学習をモニタリングする (Code Patterns)Microsoft Azure で機械学習モデルを作成し、Watson OpenScale を利⽤してペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/https://developer.ibm.com/jp/patterns/monitor-azure-machine-learning-studio-models-with-ai-openscale/GitHub IBM/monitor-azure-ml-with-watson-openscale93
AWS SageMaker × Watson OpenScale 学習資料Watson OpenScale を利⽤して SageMaker での機械学習をモニタリングする (Code Patterns)AWS SageMakerで機械学習モデルを作成し、Watson OpenScale を利⽤してペイロードのロギングとモデルの公正さをモニタリングする⽅法について紹介https://developer.ibm.com/jp/patterns/monitor-amazon-sagemaker-machine-learning-models-with-ai-openscale/https://github.com/IBM/monitor-sagemaker-ml-with-watson-openscaleGitHub IBM/monitor-sagemaker-ml-with-watson-openscale94
"“'7YôöVWÖÛ'7SÙı[\sˆwÈ ÍÎÏgÄmeÌÓÔ∞#ΩPÒ)Ú®´ß+,îÈ Û%ÙP≠R|vıRÛ+ˆt»…ı4˜¯+,˘È ÛkjÅÉÇljıRŸ˙˚4±%∞±Ft¸˝4˛ˇ+,!È B"fi√DîÿR–P#≠$R%&R'(4±%∞±FÛ)*ı4˜¯+,+–P#≠$©,()uT,D-\5.R/04123¥åfiªH! abcdefghijfklbmjgÖÖÖ! 45m6ÖÖÖ95
I≤˜èÚòDF≥c¯[\œ˘'Œ˙û/˚¸˝Jƒ˛∏ÍÎÏgÄmeÌÓÔ∞#ΩPÒ77Û8ÑÑ9Î:Ä;ıΩ¶ß4±%∞±FtªDå¥oEÜ1<=\>?|@4ÃAPÒ™∞±FtªDå¥oEWpqÜ+H96
まとめ• AIの実⽤化には、「公平性」や「説明性」が重要な課題となってきている• 「IBM Watson OpenScale」は、AIの公平性の分析、不公平なバイアスの軽減、説明性の実現が可能である97
#é-'Ñ./01¨ßBP“RCDªÄÌdce5jÅgkÌlljddgÏbfbEjÅgFGHIccidJÂÂÇK5ÈKÇLÂld5MbibfIccidJÂÂ444ÈdmÇÈÓeÂNÓeMexOî˘i598
免責事項IBM Developer Dojoは開発者の⽅を対象に、IBM Cloudを主とした技術情報をお伝えする⽬的で開催しています。講師や運営スタッフにより、開催毎に最適と判断した内容でお届けしています。現在、ハンズオンを伴う講義はお客様の費⽤負担がない環境と⼿順でご案内しています。講義終了後、不要になりました制作物はお客様ご⾃⾝で削除をお願いいたします。クレジットカードの登録が伴わない場合、費⽤は⼀切発⽣致しませんが、ご登録いただいたお客様はご注意ください。講師陣はみなさまの利⽤状況を個別に確認することはできません。ご理解とご協⼒をお願いいたします。利⽤したサービスの削除⽅法については講義の中でご案内します。ご不明な点がございましたら、当⽇確認をお願いいたします。講義終了後、 IBM Developer Dojoに関するお問い合わせは「Slack」にお願いします。それ以外のIBM Cloudのお問い合わせにつきましては、弊社サポートセンターまで、次のいづれかの⽅法でお問い合わせください。IBM Cloudダッシュボードの「サポート」メニューから「Case」を作成し、英語でご記⼊くださいIBM Cloudサポートセンター「相談する」ボタンからチャットまたは電話でご連絡くださいhttps://www.ibm.com/jp-ja/cloud/supportご参加ありがとうございました。99
ayatokura
asei
kgsi
hfukunak
utam0k
mtx2s
achamixx
optimisuke
.jpg){kind=avatar}
oshanqq
rdlabo
tsukubachallenge
okamototakuyasr2
codenote
holman
pauljervisheath
soudai
philhawksworth
lara
sugarenia
tenderlove
hatefulcrawdad
jonrohan
notwaldorf
ufuk
reverentgeek