APTOS 2019 Blindness Detectionのまとめ

APTOS 2019 Blindness Detectionで銀メダル獲得できたのでまとめました.
簡単にコンペ概要と手法の紹介をしています.
少しでもお役に立ちましたら幸いです.
コンペのページ : https://www.kaggle.com/c/aptos2019-blindness-detection

Transcript

1. APTOS 2019
   Blindness Detection
   Inoue Yuichi
   (@inoichan)
   

   View Slide

2. コンペ概要
   ● 糖尿病網膜症(Diabetic Retinopathy)の重症度を画像から判断する .
   0 - No DR
   1 - Mild
   2 - Moderate
   3 - Severe
   4 - Proliferative DR
   ● 開催期間 2019年6月27日〜2019年9月5日 (都合により9月7日まで期間延長)
   ● Kernel only competition (推論のみ, GPU 9 hours, No Internet)
   ● 外部データの利用あり
   https://www.medicalnewstoday.com/articles/183417.php
   

   View Slide

3. コンペ概要
   ● Train Data (3662枚)
   ● Public Test Data (1928枚, 15%)
   ● Private Test Data (85%)
   上記に加えて, 2019年にも同大会が開催されており , そ
   の時のデータも利用できた .
   ● 評価：Quadratic Weighted Kappa
   (https://www.kaggle.com/c/aptos2019-blindness-detection/overview/evaluation)
   

   View Slide

4. 解法 Github: https://github.com/Ino-Ichan/kaggle-aptos-2019
   2015 Train Images
   (Validation: 2019 Train Images)
   Augmentation
   ・Horizontal Flip
   ・Vertical Flip
   ・Rotate
   Preprocessing
   ・Resize 224
   ・Crop Blank Area
   ・Ben’s preprocess
   EfficientNetB2
   EfficientNetB5
   Regression Task
   >10 epochs
   monitor: val_loss
   After Pretrain
   5 Folds
   2019 Train Images
   Augmentation
   ・Horizontal Flip
   ・Vertical Flip
   ・Rotate
   Preprocessing
   ・Resize 224
   ・Crop Blank Area
   ・Ben’s preprocess
   EfficientNetB2
   EfficientNetB5
   Regression Task
   ~10 epochs
   monitor: val_loss
   Manually
   optimized
   threshold
   Public : 0.804
   Private : 0.924
   Pretrain
   Train
   

   View Slide

5. Public Leaderboard (251th / 2987 teams) 銅メダル圏内
   結果
   Private Leaderboard (66th / 2987 teams) 銀メダル獲得!!!
   

   View Slide

6. 感想
   ● EfficientNet最強 (EfficientNet: Improving Accuracy and Efficiency through AutoML and Model Scaling)
   ● Discussionは情報の宝庫
   ● 時間の都合で画像サイズは224で進めたが案外良いスコアが出た.
   ● Public Leaderboardは0.8超えてからは気にせず汎化させるのを意識した.
   (PublicでSingle foldよりCVした方がスコア下がることもあったが気にしなかった .)
   ● PublicでSingle foldも5 CVも同じScoreだったとしても, Privateでは5 CVの方が総じて
   よかった. ちゃんとCVすべき.
   ● EfficientNet以外のモデル(ResNeXt, DenseNet etc...)はうまくいかなかった.
   

   View Slide

7. おまけ：1 week challengeしました. (2019/9/1~)
   1 week challengeをした動機は, KernelとDiscussion読めば良いスコア取れる
   って書いてあったから.
   Link to kernel : https://www.kaggle.com/drhabib/starter-kernel-for-0-79
   

   View Slide

8. おまけ Expertになりました\( ˆˆ )/
   

   View Slide