Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
科学的説明を持つ機械学習システム
Search
gree_tech
PRO
July 08, 2019
Technology
0
68
科学的説明を持つ機械学習システム
「第2回機械学習工学研究会(MLSE夏合宿2019)」で発表された資料です。
https://mlxse.connpass.com/event/121086/
gree_tech
PRO
July 08, 2019
Tweet
Share
More Decks by gree_tech
See All by gree_tech
kustomizeをいい感じに使う方法
gree_tech
PRO
3
1.1k
スケーラビリティとコスト管理 Google Cloud Spanner 費用最適化の取り組み
gree_tech
PRO
0
540
「アナザーエデン 時空を超える猫」の5年前のログを引っ越してデータドリブンで事業運用プロセスを改善した話
gree_tech
PRO
0
380
Unity,PHP+Jenkins+GAS 多言語対応を意識させない開発を目指したシステム構築
gree_tech
PRO
0
830
全社総会における「REALITY Spaces」の活用と、Addressableを用いたコンテンツ配信技術について
gree_tech
PRO
0
500
AWSのEKS環境でログ機能を構築/リリースしたお話
gree_tech
PRO
0
380
「ヘブンバーンズレッド」の大規模アップデートにおける国内及び翻訳QAの取り組み
gree_tech
PRO
0
460
アプリ「REALITY」の12言語対応プロセスの仕組みと品質向上の取り組み
gree_tech
PRO
0
700
REALITYアプリのメンテナンスなしでの機能リリースを実現する、Istio導入とB/Gデプロイ実現の取り組み
gree_tech
PRO
0
570
Other Decks in Technology
See All in Technology
AWS CLIの起動が重くてつらいので aws-sdk-client-go を書いた / kamakura.go#6
fujiwara3
6
3.3k
TypeScript の抽象構文木を用いた、数百を超える API の大規模リファクタリング戦略
yanaemon
6
1.3k
OPENLOGI Company Profile
hr01
0
46k
データ基盤を支える技術
chanyou0311
5
3k
生成AIがもたらす変革 / GitHubGalaxy_CyberAgent
cyberagentdevelopers
PRO
2
110
Step by Stepで学ぶ、ADT(代数的データ型)、モナドからEffect-TSまで
leveragestech
1
3.1k
The depthes of profiling Ruby - RubyKaigi 2024
osyoyu
0
160
TiDBにおけるテーブル設計と最適化の事例
cygames
0
800
エンジニアゼロの組織から内製開発の DX をどう実現したのか / How did we achieve DX in in-house development in an organization with zero engineers?
genkiogasawara
7
3.1k
Money-saving tips for the frugal serverless developer
theburningmonk
1
370
拓展QA日常工作的邊界
line_developers_tw
PRO
0
560
使われないものを作るな!出口から作るデータ分析基盤 / Data Platform Development Starting from the User Needs
amaotone
16
4.7k
Featured
See All Featured
10 Git Anti Patterns You Should be Aware of
lemiorhan
649
58k
A Modern Web Designer's Workflow
chriscoyier
689
190k
Put a Button on it: Removing Barriers to Going Fast.
kastner
58
3.1k
We Have a Design System, Now What?
morganepeng
43
6.8k
How GitHub (no longer) Works
holman
305
140k
Unsuck your backbone
ammeep
664
57k
The Cost Of JavaScript in 2023
addyosmani
21
4k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
275
13k
How to name files
jennybc
65
94k
Designing the Hi-DPI Web
ddemaree
276
33k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
501
140k
5 minutes of I Can Smell Your CMS
philhawksworth
199
19k
Transcript
科学的説明を持つ 機械学習システム 橋本順之 グリー株式会社 Rev0.1 1
発表の流れ • 説明が必要とされる背景確認 • 導入したい説明モデルの確認 • LIMEを説明に使った場合の考察 • 説明を組み込んだ再利用できる機械学習モデルの提案 •
まとめ 2
背景:なぜ説明がほしい? • 機械学習に対する期待と不安 ◦ モデルはデータ依存 ◦ 顧客からはブラックボックスに見え、信頼できない • 総務省のAI開発ガイドライン ◦
AIの検証や説明をするように努力を求める • AIに対する説明が必要 ◦ システムの仕様に説明に関するものが必要ではないか ◦ 説明できないと賠償などのリスクになる恐れがある(担当者がやめていたら?) 3 機械学習 モデル M 入 力 パラ メータ 予 測 説 明 説明がでてくるモデルがほしい プログラムのインターフェースを 決めたい
説明とは何か? • 解釈性 (インタプリンタビリティ) ◦ 機械学習の結果の解釈や解析に重点を置くもの • 科学的説明(エクスプラネーション) ◦ 法則と因果関係に重点を置くもの
• 心理学的説明(パースエーション) ◦ 説明する相手を説得したり ,納得させることに重点を置くもの ◦ *総務省の資料は人間中心とある * • 説明責任(アカウンタビリティ) ◦ 説明する義務や結果の保証を重点を置くもの 4
科学的説明とはなにか?、なぜそれを使うのか? • ヘンペルの 演繹的法則論的モデル (DN モデル) ◦ 物理の法則由来 ◦ 物理量と数式で演繹的に説明
• 必ずしも言語的なものでなくてよい ◦ ニュートンの万有引力の法則は数式 ◦ プログラムで扱いやすい • 組み合わせやすい ◦ 演繹的な推論をするための説明 ◦ 既知の法則を組み合わせて推論をする • 検証しやすい ◦ 現象がルールにあっているかチェックできる 5
どんな説明がほしいのか 6 機械学習モデル M 入力 パラメータ 予測 説明 説明が満たすべきルールはなにか? どんなルールがあると便利か?
説明が演繹的なルール(ニュートンの法則のようなもの)ならどうなるか?
どんな説明がほしいのか 機械学習 モデル M 入力A パラメータP 予測B 説明C 説明C 説明を満たす入力があるなら同じ予測結果(B=B')になるはず。
入力例生成機をシステムに組み込むのはどうか? 入力A' 予測B' 機械学習 モデル M P 入力例生成機
既存の説明:LIME 機械学習モデル M ラブラドール パラメータP 入力 説明 予測結果 機械学習モデル M
説明から入力例~前提条件を出す 入力例生成機 ラブラドール 説明 予測結果 パラメータP 説明から 作られる画像
説明の検証 機械学習モデル M ラブラドール パラメータP 説明からつくった例で予測すると同じ予測結果と同じ説明がでるはず 逆に、同じ予測結果と説明でないなら不十分な説明ではないか? 説明から 作られる画像 説明
予測結果
LIMEによる説明と検証 機械学習 モデル M ラブラ ドール 入 力 説 明
機械学習 モデル M ラブラ ドール 例 説 明 説 明 入力例生成機 説明が不変量になりそう
決定木による説明と検証 機械学習 モデル M ラブラ ドール 入 力 説 明
機械学習 モデル M ??? 例 説 明 説 明 入力例生成機 決定木 背景が黒なら ラブラドール 決定木 背景が黒なら ラブラドール 決定木 背景が黒なら ラブラドール
発表の流れ • 説明が必要とされる背景確認 • 導入したい説明モデルの確認 • LIMEを説明に使った場合の考察 • 説明を組み込んだ再利用できる機械学習モデルの提案 •
まとめ 13 機械学習 モデル M 入 力 パラ メータ 予 測 説 明 説明がでてくるモデルがほしい プログラムのインターフェースを 決めたい
従来手法:機械学習のモデル化 14 Backprop as Functor[1]より • P:パラメータの集合 • A:入力の集合 •
B:予測結果の集合 • I: P×A → B //予測関数 • U: P×A×B → P //パラメータ更新 • r: P×A×B → A //誤差伝搬用 機械学習 モデル M 入 力 パラ メータ 予 測 機械学習 モデル M’ パラ メータ 予 測 [1]https://arxiv.org/abs/1711.10455
説明のある機械学習のモデル化 15 • P:パラメータの集合 • A:入力の集合 • B:予測結果の集合 • C:説明の集合
• I: P×A → B //予測関数 • U : P×A×B → P //パラメータ更新 • r: P×A×B → A //誤差伝搬用 • E: P×A×B → C //説明関数 • D: P×B×C → A. //説明の例を出す関数 機械学習 モデル M 入 力 パラ メータ 予 測 説 明 入力例生成機 入力例 予 測 説 明
説明のある機械学習のモデル化 16 入力例生成機 D’ 入力例 予測B’ 説明C’ 入力例生成機 D 入力例A’
説明C 機械学習 モデル M 入力A パラ メータ 予 測 機械学習 モデル M’ パラ メータ 予測B’ 説明C’ 説 明 • M,M’: 機械学習のモデル • D,D’: MとM’に対応する入力例を出すモデル
まとめ 17 • 科学的説明の演繹的法則論的モデルを利用 ◦ 説明=物理の法則のようなもの • 説明が不変量になる • 説明と入力例生成器をもつ機械学習モデルの提案
課題 • 説明に納得や信頼性がない • 説明はモデルの正しさの指標ではない