第2回関東kaggler会 LT コンペ振り返りのすすめ

Transcript

1. コンペ振り返りのすすめ 2024/8/3 関東kaggler会 LT ＠ゆめねこ
2. 自己紹介 1 名前：ゆめねこ（@yume_neko92） 仕事：主に画像系のAIシステム開発 最近は3次元点群系AIをやってる kaggle：kaggle歴は2年半くらい 最近、Grandmasterになった ・HNの由来の親戚家のネコ。 ・最近、指ちゅ～るをしてくれるようになった。 （※ただし機嫌が良いときに限る）
3. 2 Q. Kaggleで勝つには？
4. 3 A. 頑張る 時間をかけて頑張る ディスカッションを読んで頑張る 諦めず最後まで頑張る etc...
5. 4 とはいえ、最初は頑張ってもなかなか勝てない ディスカッションには全部目を通しているが 上位との差が埋まらない。。。 そもそも何から頑張れば良いのやら。。。
6. 5 とはいえ、最初は頑張ってもなかなか勝てない ディスカッションには全部目を通しているが 上位との差が埋まらない。。。 そもそも何から頑張れば良いのやら。。。 参加したコンペの 振り返りをしてみよう！
7. コンペで勝つために必要なこと 6 Gold Silver Bronze Discussionをちゃんと読んで 公開Notebookをベースに正しく実験する やるべきことを全部やる （マルチタスク化、AWP、PseudoLabel、etc…） 他の参加者が思いつかないような タスクに刺さる工夫を見つける
8. コンペで勝つために必要なこと 7 Gold Silver Bronze Discussionをちゃんと読んで 公開Notebookをベースに正しく実験する やるべきことを全部やる （マルチタスク化、AWP、PseudoLabel、etc…） 他の参加者が思いつかないような タスクに刺さる工夫を見つける アイデアの 見つけ方を身に付ける アイデアの 引き出しを増やす
9. コンペで勝つために必要なこと 8 Gold Silver Bronze Discussionをちゃんと読んで 公開Notebookをベースに正しく実験する やるべきことを全部やる （マルチタスク化、AWP、PseudoLabel、etc…） 他の参加者が思いつかないような タスクに刺さる工夫を見つける アイデアの 見つけ方を身に付ける アイデアの 引き出しを増やす コンペ中に気づくことは難しいかもしれないが、、、 終了後に公開されるソリューションから振り返りをするのは 勝つために必要な力を身に付けるのに効果的な方法！
10. コンペ振り返りするときに気にしてること 9 上位ソリューションを読んで重要なポイントを知る • チームで共通しているポイントとユニークなポイントに着目する 共通しているポイント ⇒ 上位争いに入るための最低条件 ユニークなポイント ⇒ 上位の中で差をつけるために必要だったこと • （自分の場合は）こんな感じでやることが多い 1. チームごとにソリューションを読んで重要なポイントを自分なりにまとめる 2. 項目ごとの観点で各チームの取り組みをまとめなおす 最初のうちはこっちを意識する たまに2.までまとめた情報を記事にしている 他人に見せると思うとちゃんと言語化できるのでおススメ
11. コンペ振り返りするときに気にしてること 10 どうやったら同じことが思い付けたか、自分の取り組み方を振り返る • 上位解法の各ポイントについて、上位チームが気づけた理由を自分なりに考える ⇒ どういう現象・傾向に気付けばそのアイデアを思いつくことができたのか？ （たとえ黒魔術に見えてもデータや実験結果から見つけ出す道筋があるはずなので考えてみる） 分からなければコメントで直接聞いてみるのも手 • 自分はどの段階までたどり着いたのか、どこで考え方がズレたかを自問する きっかけとなる現象や実験結果には気づいていたのか？ 気づいていたなら、自分は何を考えてどういう対策を取った？ 気づけなかったならその理由は？EDAの観点が不足してた？ etc... • ただ解法に目を通すだけよりもアイデアの見つけ方の勘所が 少しずつ分かってくるようになる lucrarea
12. まとめ 11 • コンペに参加して振り返りをするのは強くなるための近道 • 上位が気づいたポイントを知ってアイデアの引き出しを増やせる • 自分の取り組みと照らし合わせることで、アイデアの見つけ方の勘所が掴めてくる • 個人的に振り返りするときに気にしてるポイント2つ紹介 • 上位チームで共通しているポイントとユニークなポイントに着目する ⇒ 最初は”共通しているポイント” = “上位争いの最低条件”を意識するのがおすすめ • 上位がなぜ思い付けたのか考えて、自分がなぜ思い付けなかったのか深く考える • コンペに参加したらぜひ振り返りをやってみてはいかがでしょうか？