MoA振り返り

Transcript

1. MoAコンペ振り返り SYORA
2. ⽬次 u ⾃⼰紹介 u 参加計画 u 結果 u 最終モデル u ⼯夫した点 u 試したけど上⼿くいかなかったこと u 反省点
3. ⾃⼰紹介 u 慶應義塾⼤学4年⽣ u 機械学習系の研究室所属 u 研究内容は画像系 u 来年から東⼤の杉⼭・本多・横⽮研究室 u 機械学習歴は1年程度 u インターンでは画像系タスクを担当 u テーブルデータの経験はTitanicのみ u Kaggle 初参加
4. MoAの参加計画 u 1ヶ⽉前から参加 u カーネルやDiscussionが揃ってから出ることに u 何をすればいいのかわからなかった u 最初の2週間でコンペ理解、ベースとなるモデルのチューニング u この時間にやることを⾒極める u 次の2週間で他のモデル探索、特徴量追加 u 残りの時間でアンサンブルなど
5. 結果
6. 最終的に使⽤したモデル TabNet 3layer NN NNs Scored target Non-scored target Train drug Transfer Learning 3layer NN Output average
7. ⼯夫した点 (1) u 引数で特徴量の前処理を微調整できる ようにした u Baseとなるモデルも調整できるように u CVだけ⾒てPublic LBは殆ど⾒なかった u 不均衡データ u 少しの差で順位が⼤きく変動する
8. ⼯夫した点 (2) u Train drugが公開されたときに、ほぼ復元できていたという⼈がtwitterにいた u Drug IDが極度に数の偏りがあった u あるDrugはTargetと相関が強かった u 特徴量から数の多いDrug IDを予測できるのではないか u Non-Scoredと同じく3layer NNの特徴量に追加 u Drug ID毎の統計量を追加
9. 試したけど上⼿くいかなかったこと (1) u 正しいRank Gauss u 正しいRank Gauss + 外れ値か否かのフラグ
10. 試したけど上⼿くいかなかったこと (2) u 共起が多いTarget groupとそれ以外の予測 u Lossが下がらなかった…
11. 良かった点 u ⼤体計画通りに物事が進んだ u Overfitに注意できた u Public LBを重要視しなかった u 危険性があるPseudo Labelingをしなかった u Lossを⾒ながらTrust CVを知らずにできた u 運の要素が⼤きいが銀メダルが取れた
12. 反省点 u TabNetが事前に学習できず、２時間という制限をかなり圧迫した u 公開カーネル以外のモデルを殆ど試せなかった u Pseudo Labelingを⾏いたかったが、モデルがその特徴量ばかりみるのが怖くて できなかった u Stackingも同様でOverfitしない⽅法がわからなかった u やるべきことが分かってくると時間が⾜りなかった u ドメイン知識がほぼなかった
13. ご清聴ありがとうございました︕