$30 off During Our Annual Pro Sale. View Details »

Grad-CAMの始まりのお話

 Grad-CAMの始まりのお話

EAGLYS株式会社 AI 勉強会第4回の資料になります。

Grad-CAMの実装とそのアイデアの元となったCAMやGuided-Back-Propagationについて説明しています。

吉田 慎太郎 @微分

October 25, 2020
Tweet

More Decks by 吉田 慎太郎 @微分

Other Decks in Research

Transcript

  1. Grad-CAMの 始まりの話 AI勉強会#4 @Eaglys on 2020/10/25 吉田 慎太郎 @sht_47

  2. Grad-CAMの特徴 • Grad-CAM(Gradient-weighted Class Activation Mapping, 2016, Ramprasaath) ◦ XAIで最も有名なもの(理由はGrad-CAMのページで説明)

    ◦ CAM(2015, Zhou) の弱点を克服し、全てのCNNモデルに対して一般化 • XAI(Explainable Artificial Intelligence) の目的 (筆者の長期的な視点) 失敗の原因を特定 (モデル << 人間) 予測の根拠を説明し、判定の信頼⬆ (モデル ≒ 人間) 人間がAIに教わる (モデル >> 人間)
  3. 今回の勉強会で扱う内容 - Grad-CAMのアイデアになった論文たち - - - - Grad-CAMのモデル中身 - 実験結果

    - Google Colaboratoryでの実装
  4. NIN(Network In Network, 2014 Lin et al) - 偉大な論文 (2つのメインアイデア)

    計算量削減のために1x1 Convを導入 ( InceptionNetのアイデアの源、ResNet Botttleneck Block) GAP(Global Average Pooling) を提案 → 最近だとAdaptive Average Pooling • GAP Structural Regularizerとして機能 ◦ Feature MapとCategory間の関係がより自然に ◦ 追加のParameterが不要 ◦ Spatial TranslationにRobust
  5. Object Detectors Emerge In Deep Scene Cnns(2015 Zhou et al)

    - Scene Recognitionの問題を解く → Object Detector が出現した Objectの正解ラベルを与えていないのに。。。 先行研究として、Object Classification問題のCNNで、Object Localizationの出現 Places Database (2014 Zhou et al )
  6. CAM(Class Activation Mapping 2015 Zhou et al) … … Final

    Conv GAP FC k枚 k個 … c個 a a 1 を用いて CAMを生成
  7. CAM(Class Activation Mapping) … … Final Conv GAP FC 4096枚

    4096個 … 1000個 VGG16 (ImageNet) 7 7
  8. CAMの数式と概念図 iとjでSum Kで Sum それぞれのプロセスは独立 Zは最終Feature Mapのサイズ(今回は49)

  9. CAMの使用方法(推論時に利用) Iとjで 平均 Kで 加重平均 (Image Source : Zhou et

    al 2015) CAM Kで 加重平均 推論 CAM生成
  10. Guided Back-Propagation(2015 Springenberg) - Deconvolutional Network (2011 Zeiler) Max Poolingの反対の操作

    - Guided Backprop deconvNetを ReLUのBackPropagationに組み合わせ
  11. Guided-Backpropの実験結果 Batch Size : 64 Learning Rate : 0.01 Weight

    Decay : 0.001 Optimizer : SGD Conv6 Conv9
  12. Grad-CAM(2016 Ramprasaath) CAMはGAPに限定 → 一般化( 全てのCNN Architectureで可能) CAM(Corase)とGuided-Backprop(Fined-Grained)を組み合わせ CAMにReLUを挿入(Positiveな影響を与えるもののみ必要) CAM,

    Grad-CAM共にArchitectural ChangeやRe-Trainが必要ない iとjでSum Kで 加重平均 Kで 加重平均
  13. Grad-CAMの結果1 - Microsoft COCO データセット - Validation Dataset からSample -

    Ice Creamで誤り
  14. Grad-CAMの結果2 VGG@ImageNetにおける間違い集 モデルがバイアスを含むかどうか

  15. 実装 - Pytorch 1.6 https://github.com/sht47/grad-cam-Pytorch1.6 - Tensorflow 2.3 https://github.com/sht47/grad-cam-Tensorflow2.3