Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
科学的説明を持つ機械学習システム
Search
gree_tech
PRO
July 08, 2019
Technology
0
320
科学的説明を持つ機械学習システム
「第2回機械学習工学研究会(MLSE夏合宿2019)」で発表された資料です。
https://mlxse.connpass.com/event/121086/
gree_tech
PRO
July 08, 2019
Tweet
Share
More Decks by gree_tech
See All by gree_tech
LLM翻訳ツールの開発と海外のお客様対応等への社内導入事例
gree_tech
PRO
0
850
ヘブンバーンズレッドのレンダリングパイプライン刷新
gree_tech
PRO
0
870
ヘブンバーンズレッドにおける、世界観を活かしたミニゲーム企画の作り方
gree_tech
PRO
0
860
「魔法少女まどか☆マギカ Magia Exedra」のグローバル展開を支える、開発チームと翻訳チームの「意識しない協創」を実現するローカライズシステム
gree_tech
PRO
0
850
「魔法少女まどか☆マギカ Magia Exedra」での負荷試験の実践と学び
gree_tech
PRO
0
940
「魔法少女まどか☆マギカ Magia Exedra」の必殺技演出を徹底解剖! -キャラクターの魅力を最大限にファンに届けるためのこだわり-
gree_tech
PRO
0
860
ヒューリスティック評価を用いたゲームQA実践事例
gree_tech
PRO
0
850
ライブサービスゲームQAのパフォーマンス検証による品質改善の取り組み
gree_tech
PRO
0
860
コミュニケーションに鍵を見いだす、エンジニア1年目の経験談
gree_tech
PRO
0
150
Other Decks in Technology
See All in Technology
ユニットテストに対する考え方の変遷 / Everyone should watch his live coding
mdstoy
0
130
フルカイテン株式会社 エンジニア向け採用資料
fullkaiten
0
9k
多様な事業ドメインのクリエイターへ 価値を届けるための営みについて
massyuu
1
280
GC25 Recap+: Advancing Go Garbage Collection with Green Tea
logica0419
1
410
KMP の Swift export
kokihirokawa
0
330
JAZUG 15周年記念 × JAT「AI Agent開発者必見:"今"のOracle技術で拡張するAzure × OCIの共存アーキテクチャ」
shisyu_gaku
0
110
Shirankedo NOCで見えてきたeduroam/OpenRoaming運用ノウハウと課題 - BAKUCHIKU BANBAN #2
marokiki
0
150
社内お問い合わせBotの仕組みと学び
nish01
0
390
Green Tea Garbage Collector の今
zchee
PRO
2
390
英語は話せません!それでも海外チームと信頼関係を作るため、対話を重ねた2ヶ月間のまなび
niioka_97
0
120
BirdCLEF+2025 Noir 5位解法紹介
myso
0
200
「AI駆動PO」を考えてみる - 作る速さから価値のスループットへ:検査・適応で未来を開発 / AI-driven product owner. scrummat2025
yosuke_nagai
4
600
Featured
See All Featured
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
358
30k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
132
19k
The Straight Up "How To Draw Better" Workshop
denniskardys
237
140k
Designing Experiences People Love
moore
142
24k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
46
7.6k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
248
1.3M
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
229
22k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
52
5.6k
Typedesign – Prime Four
hannesfritz
42
2.8k
The Pragmatic Product Professional
lauravandoore
36
6.9k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
285
14k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
29
2.6k
Transcript
科学的説明を持つ 機械学習システム 橋本順之 グリー株式会社 Rev0.1 1
発表の流れ • 説明が必要とされる背景確認 • 導入したい説明モデルの確認 • LIMEを説明に使った場合の考察 • 説明を組み込んだ再利用できる機械学習モデルの提案 •
まとめ 2
背景:なぜ説明がほしい? • 機械学習に対する期待と不安 ◦ モデルはデータ依存 ◦ 顧客からはブラックボックスに見え、信頼できない • 総務省のAI開発ガイドライン ◦
AIの検証や説明をするように努力を求める • AIに対する説明が必要 ◦ システムの仕様に説明に関するものが必要ではないか ◦ 説明できないと賠償などのリスクになる恐れがある(担当者がやめていたら?) 3 機械学習 モデル M 入 力 パラ メータ 予 測 説 明 説明がでてくるモデルがほしい プログラムのインターフェースを 決めたい
説明とは何か? • 解釈性 (インタプリンタビリティ) ◦ 機械学習の結果の解釈や解析に重点を置くもの • 科学的説明(エクスプラネーション) ◦ 法則と因果関係に重点を置くもの
• 心理学的説明(パースエーション) ◦ 説明する相手を説得したり ,納得させることに重点を置くもの ◦ *総務省の資料は人間中心とある * • 説明責任(アカウンタビリティ) ◦ 説明する義務や結果の保証を重点を置くもの 4
科学的説明とはなにか?、なぜそれを使うのか? • ヘンペルの 演繹的法則論的モデル (DN モデル) ◦ 物理の法則由来 ◦ 物理量と数式で演繹的に説明
• 必ずしも言語的なものでなくてよい ◦ ニュートンの万有引力の法則は数式 ◦ プログラムで扱いやすい • 組み合わせやすい ◦ 演繹的な推論をするための説明 ◦ 既知の法則を組み合わせて推論をする • 検証しやすい ◦ 現象がルールにあっているかチェックできる 5
どんな説明がほしいのか 6 機械学習モデル M 入力 パラメータ 予測 説明 説明が満たすべきルールはなにか? どんなルールがあると便利か?
説明が演繹的なルール(ニュートンの法則のようなもの)ならどうなるか?
どんな説明がほしいのか 機械学習 モデル M 入力A パラメータP 予測B 説明C 説明C 説明を満たす入力があるなら同じ予測結果(B=B')になるはず。
入力例生成機をシステムに組み込むのはどうか? 入力A' 予測B' 機械学習 モデル M P 入力例生成機
既存の説明:LIME 機械学習モデル M ラブラドール パラメータP 入力 説明 予測結果 機械学習モデル M
説明から入力例~前提条件を出す 入力例生成機 ラブラドール 説明 予測結果 パラメータP 説明から 作られる画像
説明の検証 機械学習モデル M ラブラドール パラメータP 説明からつくった例で予測すると同じ予測結果と同じ説明がでるはず 逆に、同じ予測結果と説明でないなら不十分な説明ではないか? 説明から 作られる画像 説明
予測結果
LIMEによる説明と検証 機械学習 モデル M ラブラ ドール 入 力 説 明
機械学習 モデル M ラブラ ドール 例 説 明 説 明 入力例生成機 説明が不変量になりそう
決定木による説明と検証 機械学習 モデル M ラブラ ドール 入 力 説 明
機械学習 モデル M ??? 例 説 明 説 明 入力例生成機 決定木 背景が黒なら ラブラドール 決定木 背景が黒なら ラブラドール 決定木 背景が黒なら ラブラドール
発表の流れ • 説明が必要とされる背景確認 • 導入したい説明モデルの確認 • LIMEを説明に使った場合の考察 • 説明を組み込んだ再利用できる機械学習モデルの提案 •
まとめ 13 機械学習 モデル M 入 力 パラ メータ 予 測 説 明 説明がでてくるモデルがほしい プログラムのインターフェースを 決めたい
従来手法:機械学習のモデル化 14 Backprop as Functor[1]より • P:パラメータの集合 • A:入力の集合 •
B:予測結果の集合 • I: P×A → B //予測関数 • U: P×A×B → P //パラメータ更新 • r: P×A×B → A //誤差伝搬用 機械学習 モデル M 入 力 パラ メータ 予 測 機械学習 モデル M’ パラ メータ 予 測 [1]https://arxiv.org/abs/1711.10455
説明のある機械学習のモデル化 15 • P:パラメータの集合 • A:入力の集合 • B:予測結果の集合 • C:説明の集合
• I: P×A → B //予測関数 • U : P×A×B → P //パラメータ更新 • r: P×A×B → A //誤差伝搬用 • E: P×A×B → C //説明関数 • D: P×B×C → A. //説明の例を出す関数 機械学習 モデル M 入 力 パラ メータ 予 測 説 明 入力例生成機 入力例 予 測 説 明
説明のある機械学習のモデル化 16 入力例生成機 D’ 入力例 予測B’ 説明C’ 入力例生成機 D 入力例A’
説明C 機械学習 モデル M 入力A パラ メータ 予 測 機械学習 モデル M’ パラ メータ 予測B’ 説明C’ 説 明 • M,M’: 機械学習のモデル • D,D’: MとM’に対応する入力例を出すモデル
まとめ 17 • 科学的説明の演繹的法則論的モデルを利用 ◦ 説明=物理の法則のようなもの • 説明が不変量になる • 説明と入力例生成器をもつ機械学習モデルの提案
課題 • 説明に納得や信頼性がない • 説明はモデルの正しさの指標ではない