kaggle入門

有志の研究会で共有した資料です。
kaggleの参加者を増やすために参加方法から進め方まで共有しました。

Transcript

1. Kaggle入門講座 mizoo
2. 0 MISSIONとGOAL 1 Kaggleとは 2 開催されているコンペ 3 深層学習でカバーできる範囲 4 深層学習 5 参加の流れ 6 スコアの上げ方 7 メダル入賞者の共通点 8 参加コンペの説明 9 おすすめリンク
3. 0 MISSIONとGOAL Kaggleの始め方・進め方を伝え Kaggle人材を増やす Submitからランキング入りまで みんなに経験してもらう MISSION GOAL
4. 1 Kaggleとは 制度 上位入賞者には賞金が与えられる TOP1％:金メダル TOP5％:銀メダル TOP10％:銅メダル 称号 銅2個以上でExpert 金1個、銀2個以上でMaster 金5個(1個はソロ)でGrandmaster Google主催の予測モデリング・分析手法関連プラットフォーム
5. 2 開催されているコンペ 開催されているコンペは大きく5つに分けられる テーブル 予測 画像 自然言語 強化学習 位置特定 生存者分類 株価予測 細胞分離予測 画像分類 難易度分類 ネガポジ判定 ゲームAI エージェント作成
6. 3 深層学習でカバーできる範囲 向き不向きがあるが、ほとんどのコンペで主流になっている テーブル 予測 画像 自然言語 強化学習 位置特定 生存者分類 株価予測 細胞分離予測 画像分類 難易度分類 ネガポジ判定 ゲームAI エージェント作成
7. 4 深層学習 人間の脳に近いネットワークモデル 深層学習ライブラリ VS Google Facebook 特徴 ・カスタマイズ性が強い ・最新の情報は英語論文 ・数学的な知識が必要(何となくでいい) ・計算資源(GPU)が必要 ライブラリ 主な流派はTF派とPytorch派に分かれる とりあえず好きなほうでよい 最終的に両方できるのがベスト
8. 5 参加の流れ EDAからモデリングまでを行き来して行う EDA 前処理 モデリング Submit ・データの分布 ・ドメイン知識 ・予測結果との差 ・特徴量作成 ・crossvalidation ・skfold ・gkflod ・メタデータ作成 ・Augmentation ・model ・batch size ・learning rate ・loss ・optimizer ・scheduler ・sub結果を確認 ・cv・lb相関確認
9. Baseline 基本的にシンプルイズベスト 余計なものが入っていると選択肢が狭まる おすすめはGMが作ったnotebook 情報の仕入れ方 過去のSolutionを読む Discussion、Codeを読みまくる そこに効いたテクニックが書いてあるので、それを 自分の処理に組み込む 6 スコアの上げ方 スコアアップのヒントはKaggleページ内にあり
10. 7 メダル入賞者の共通点 データをよく見ている・試行回数が多い・一早く動いている
11. 概要 カリフォルニア大学バークレー校は、世界で最も 強力な望遠鏡を使って数百万個の星をスキャ ンし、テクノロジーの痕跡を探しています 今回はそのテクノロジーの痕跡をスキャン画像か ら検知します データ量 67G タスク 画像分類 8 参加コンペの説明 SETI: 宇宙人のシグナルを検知するコンペ https://www.kaggle.com/c/seti-breakthrough-listen/overview
12. EDA https://www.kaggle.com/ihelon/signal-search-exploratory-data-analysis Baseline https://www.kaggle.com/yasufuminakama/seti-nfnet-l0-starter-training 困ったときのリンク https://github.com/phalanx- hk/kaggle_cv_pipeline/blob/master/kaggle_tips.md#ml_experiment 9 おすすめリンク