Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Grad-CAMの始まりのお話
Search
Shintaro Yoshida
October 25, 2020
Research
0
85
Grad-CAMの始まりのお話
EAGLYS株式会社 AI 勉強会第4回の資料になります。
Grad-CAMの実装とそのアイデアの元となったCAMやGuided-Back-Propagationについて説明しています。
Shintaro Yoshida
October 25, 2020
Tweet
Share
More Decks by Shintaro Yoshida
See All by Shintaro Yoshida
顔認証・顔識別周りのサーベイ
shintaro202020
7
38
人が注目する箇所を当てるSaliency Detectionの最新モデル UCNet(CVPR2020)
shintaro202020
4
220
The Origin of Grad-CAM
shintaro202020
0
130
Other Decks in Research
See All in Research
利用シーンを意識した推薦システム〜SpotifyとAmazonの事例から〜
kuri8ive
1
240
一人称視点映像解析の最先端(MIRU2025 チュートリアル)
takumayagi
6
3.3k
[CV勉強会@関東 CVPR2025] VLM自動運転model S4-Driver
shinkyoto
2
460
Minimax and Bayes Optimal Best-arm Identification: Adaptive Experimental Design for Treatment Choice
masakat0
0
160
最適決定木を用いた処方的価格最適化
mickey_kubo
4
1.8k
Large Language Model Agent: A Survey on Methodology, Applications and Challenges
shunk031
14
9.7k
A multimodal data fusion model for accurate and interpretable urban land use mapping with uncertainty analysis
satai
3
270
単施設でできる臨床研究の考え方
shuntaros
0
2.3k
不確実性下における目的と手段の統合的探索に向けた連続腕バンディットの応用 / iot70_gp_rff_mab
monochromegane
2
130
数理最適化に基づく制御
mickey_kubo
6
720
言語モデルの地図:確率分布と情報幾何による類似性の可視化
shimosan
4
1.1k
数理最適化と機械学習の融合
mickey_kubo
16
9.2k
Featured
See All Featured
Building a Modern Day E-commerce SEO Strategy
aleyda
43
7.5k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
23
1.4k
The Cult of Friendly URLs
andyhume
79
6.5k
Being A Developer After 40
akosma
90
590k
Become a Pro
speakerdeck
PRO
29
5.5k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
234
17k
Intergalactic Javascript Robots from Outer Space
tanoku
272
27k
Building Flexible Design Systems
yeseniaperezcruz
328
39k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
50
5.5k
[RailsConf 2023] Rails as a piece of cake
palkan
56
5.8k
Bash Introduction
62gerente
614
210k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
656
61k
Transcript
Grad-CAMの 始まりの話 AI勉強会#4 @Eaglys on 2020/10/25 吉田 慎太郎 @sht_47
Grad-CAMの特徴 • Grad-CAM(Gradient-weighted Class Activation Mapping, 2016, Ramprasaath) ◦ XAIで最も有名なもの(理由はGrad-CAMのページで説明)
◦ CAM(2015, Zhou) の弱点を克服し、全てのCNNモデルに対して一般化 • XAI(Explainable Artificial Intelligence) の目的 (筆者の長期的な視点) 失敗の原因を特定 (モデル << 人間) 予測の根拠を説明し、判定の信頼⬆ (モデル ≒ 人間) 人間がAIに教わる (モデル >> 人間)
今回の勉強会で扱う内容 - Grad-CAMのアイデアになった論文たち - - - - Grad-CAMのモデル中身 - 実験結果
- Google Colaboratoryでの実装
NIN(Network In Network, 2014 Lin et al) - 偉大な論文 (2つのメインアイデア)
計算量削減のために1x1 Convを導入 ( InceptionNetのアイデアの源、ResNet Botttleneck Block) GAP(Global Average Pooling) を提案 → 最近だとAdaptive Average Pooling • GAP Structural Regularizerとして機能 ◦ Feature MapとCategory間の関係がより自然に ◦ 追加のParameterが不要 ◦ Spatial TranslationにRobust
Object Detectors Emerge In Deep Scene Cnns(2015 Zhou et al)
- Scene Recognitionの問題を解く → Object Detector が出現した Objectの正解ラベルを与えていないのに。。。 先行研究として、Object Classification問題のCNNで、Object Localizationの出現 Places Database (2014 Zhou et al )
CAM(Class Activation Mapping 2015 Zhou et al) … … Final
Conv GAP FC k枚 k個 … c個 a a 1 を用いて CAMを生成
CAM(Class Activation Mapping) … … Final Conv GAP FC 4096枚
4096個 … 1000個 VGG16 (ImageNet) 7 7
CAMの数式と概念図 iとjでSum Kで Sum それぞれのプロセスは独立 Zは最終Feature Mapのサイズ(今回は49)
CAMの使用方法(推論時に利用) Iとjで 平均 Kで 加重平均 (Image Source : Zhou et
al 2015) CAM Kで 加重平均 推論 CAM生成
Guided Back-Propagation(2015 Springenberg) - Deconvolutional Network (2011 Zeiler) Max Poolingの反対の操作
- Guided Backprop deconvNetを ReLUのBackPropagationに組み合わせ
Guided-Backpropの実験結果 Batch Size : 64 Learning Rate : 0.01 Weight
Decay : 0.001 Optimizer : SGD Conv6 Conv9
Grad-CAM(2016 Ramprasaath) CAMはGAPに限定 → 一般化( 全てのCNN Architectureで可能) CAM(Corase)とGuided-Backprop(Fined-Grained)を組み合わせ CAMにReLUを挿入(Positiveな影響を与えるもののみ必要) CAM,
Grad-CAM共にArchitectural ChangeやRe-Trainが必要ない iとjでSum Kで 加重平均 Kで 加重平均
Grad-CAMの結果1 - Microsoft COCO データセット - Validation Dataset からSample -
Ice Creamで誤り
Grad-CAMの結果2 VGG@ImageNetにおける間違い集 モデルがバイアスを含むかどうか
実装 - Pytorch 1.6 https://github.com/sht47/grad-cam-Pytorch1.6 - Tensorflow 2.3 https://github.com/sht47/grad-cam-Tensorflow2.3