手書き数字認識とイデアハック

ChainerでMNISTを学習させたモデルの気持ちを調べる

Transcript

1. 手書き数字認識とイデアハック @kaityo256
2. はじめに 機械学習をやってみて、なんか収束はしているっぽい のに、いざ実際に使うとうまくいかないことが多い そもそも学習がどう行われて、モデルがどう入力を解釈 しているのかがいまいちわからない MNIST(手書き数字データ)を使って「学習済みモデルの 気持ち」を探ってみよう
3. MNIST: 手書き数字学習用データセット イメージ： 28×28ピクセル 0から1までのfloat(単精度実数) ラベル： 0から9 (整数)
4. 学習 784 ０ １ ８ ９ 10 学習用データ: 6万 テスト用データ：1万 バッチサイズ：1000 エポック: 20 三層全結合 (768, 768, 10) 学習方法： Adam 活性化関数：LeRU
5. 学習済みモデルに手書き数字を食わせる https://kaityo256.github.io/mnist_check/ この例では認識されたが・・・
6. 学習済みモデルに手書き数字を食わせる ・・・かなり認識率が低い この入力は認識失敗
7. 仮説： モデルは学習により「数字のイデア」を構築し、実質 的に入力とイデアとの重なりを調べているのでは？ モデル 4 なんで認識率が低いんだろう？ 数字のイデア 入力 一番「重なり」が 大きいイデアを探す
8. 少し修正 ０ １ ８ ９ モデルの「イデア」を調べる たとえば「1」の出力が大きくなるように入力を調整していく ランダム入力 もし「目的の重みが大きくなったら修正を採用 そうでなければ不採用 フィードバックループ ※ 最初は真面目にアニーリングしようと思ったが、適当に最急勾配でやっても大丈夫っぽかったのでそうした
9. 「５」のイデア ５のイデア：この学習済みモデルが「もっとも『５』っぽい」と思う入力イメージ
10. 0 1 2 3 4 5 6 7 8 9 得られた イデア達
11. イデアハック 我々は「モデルのイデア」を知っているので、逆にどういう イメージを与えればモデルが「４」と認識するかわかる
12. イデアハック 4のイデア 「イデア」をカンニングして入力 4と認識された
13. イデアハック 9のイデア 「イデア」をカンニングして入力 0っぽい入力を9と認識させることもできる
14. まとめ 手書き数字を学習させたモデルの「理想の数字 (イデア)」を調べた 敵対的サンプル(Adversarial examples)の一種といえなくもない・・・？ イデアを見ることで、「人間には別の数字に見え る形を別の数字に誤認識させた 参考URL https://kaityo256.github.io/mnist_check/ オンラインテスト https://github.com/kaityo256/mnist_check リポジトリ ChainerでMNISTを学習させた結果を使ってブラウザで手描き数字認識 https://qiita.com/kaityo256/items/8c7c9a32bd4ae5c0b500 Qiitaの記事 MNISTを学習させたモデルの気持ちを調べる https://qiita.com/kaityo256/items/438ee87a0ef1346071b9