ゆるい論文紹介:CutMix

えだまめLT会発表資料

Transcript

1. 論文紹介：CutMix Regularization Strategy to Train Strong Classifiers with Localizable Features https://arxiv.org/abs/1905.04899 https://github.com/clovaai/CutMix-PyTorch
2. はじめに • LTだし非エンジニアの方もいるので､ ゆるめに論文を紹介します • 最近の画像向けNeural Networkの正則化･Data Augmentation 手法の雰囲気を知って貰えれば…
3. 目次 • 従来手法 • 従来手法の問題点 • 提案手法 • 実験 間に合いませんでしたｺﾞﾒﾝﾅｻｲ
4. 従来手法:Cutout (Random Erasing) • 画像中のランダムな矩形領域を単色 or ノイズで埋める • Dropoutを入力に対して適用するイメージ? https://arxiv.org/abs/1708.04896 https://arxiv.org/abs/1708.04552
5. 従来手法: MixUp • 2つのデータを混合して新たなサンプルを作成する手法 • データだけでなく､ラベルを混合する点が特徴的 • 数値データにも有効 https://arxiv.org/abs/1809.02499 dog: 1.0 cat : 0.0 dog: 0.0 cat : 1.0 dog: 0.5 cat : 0.5
6. 従来手法の問題点① • 重要な情報が欠損する可能性がある • 例:車種分類モデルの場合 Q:トヨタ86はどっち?
7. 従来手法の問題点② • 合成画像が不自然になり､何を学習しているのか解釈しづらい プードルとセントバー ナードを見分けるタスク Mixup､Cutoutを適用 ｢セントバーナード｣と回答 するときどこを見ているか ｢プードル｣と回答するとき どこを見ているか
8. 提案手法: CutMix • CutoutとMixupの合わせ技 • Cutoutで切り取った領域に他クラスの 画像を合成
9. 従来手法との精度比較 • 実験が間に合わなかったので論文の 結果 • Classification, Localization, Object Detection, Image Captioningのタス クで従来手法よりも精度が向上
10. まとめ • 画像データの正則化手法としてCutout､Mixup等の手法が利用 されている • これらの手法は､タスクによっては逆効果になり得る • CutMixで解決! (らしい)