20231126_KaggleTokyoMeetup2023_LT4.pdf

Transcript

1. 今年参加したコンペで学んだ教訓 2023/11/26 Kaggle Tokyo Meetup 2023 @anonamename
2. 自己紹介 名前：anonamename 経歴：SE→R&D Kaggle：  3年前から本格的に参加  参加コンペはほぼ画像系 2
3. 直近参加したコンペ 3
4. 今日話すこと 4 2023年に参加したG2NetとBirdCLEFコンペの経験を共有します  コンペの概要  決め手になったアプローチ  当たり前だけど大切だと感じた教訓
5. 5 G2Net
6. G2Net：概要  ノイズの中に重力波信号が存在するか を分類するコンペ  APIが提供されおり、自分でシミュ レーションデータを生成可能  best solutionは、機械学習ではなく テンプレートマッチングなどの 信号探索アルゴリズム 6 曲線が重力波 スペクトログラムにした重力波信号
7. 7 G2Net：アプローチ testデータのノイズはリアルデータとシミュレーションデータの2種類存在 実際の観測装置からのリアルノイズ シミュレーションノイズ  シミュレーションデータのみPseudo Labelを付けて学習 このような testデータだけに 学習したCNNモデルで Pseudo Labelを付与
8. 8 G2Net：アプローチ • Pseudo Labelに気づいたのはコンペ終了約1,2週間前 • 諦めずあがき続け、shake upして金圏(10th)に食い込んだ • 0サブのGMからのチームマージを受けたことが反省点
9. 最後の最後まで絶対に諦めない チームマージは信頼できる人と行う 9 G2Net：教訓
10. 10 BirdCLEF 2023
11. BirdCLEF 2023：概要  鳴き声から鳥の種別を分類する 2020年から毎年恒例の鳥コンペ  サブの条件が厳しくCPUで2h以内 に収める必要がある  上位solutionは、OpenVINOで推論 高速化して複数のモデルをアンサ ンブルするものが多かった 11
12. BirdCLEF 2023：アプローチ 12  ホストが作成したBirdNETのembeddingをCNNの出力に連結
13. BirdCLEF 2023：アプローチ 13 • 前回の鳥コンペはBirdNETが最強であったため、BirdNETの活用が カギと信じて実験 • 過去コンペで重要であったData Augmentationを最適化した結果、 金圏(6th)に残った
14. BirdCLEF 2023：教訓 14 信じた手法は徹底的に実験する シリーズ物のコンペは 過去コンペを隅々まで調査する
15. 教訓まとめ  最後の最後まで絶対に諦めない  チームマージは信頼できる人と行う  信じた手法は徹底的に実験する  シリーズ物のコンペは過去コンペを隅々まで調査する 15