第6回関東kaggler会LT資料: 穴掘りコンペ振り返り

ROGII - Wellbore Geology Prediction（穴掘りコンペ）の振り返りLT資料です。

Transcript

1. 2026年8月7日（金）関東kaggler会 穴掘りコンペ 振り返り ihiratch（いひらっち）
2. 自己紹介 ihiratch（いひらっち） - 新卒1年目DS (効果検証・推薦モデル) - Kaggle Competitions Expert (🥈x3) - テーブル系のコンペが好きです - 画像・NLP強くなりたい... 昨日終わった ROGII - Wellbore Geology Prediction （穴掘りコンペ） について軽く振り返ります 2227位シェイクアップで銀！ 1/8
3. 穴掘りコンペ | 概要 簡単に：地層内のガンマ線量から、地層内の自分の位置を予測する 出典：Zacchaeus, “Diagram of the problem,” Kaggle Discussion「ROGII - Wellbore Geology Prediction」, 2026（一部改変） 2/8
4. 穴掘りコンペ | タスク Horizontal well 地層の深さ U (未知) ガンマ線量 GR（既知） Typewell 3/8 地層の内の相対的な深さ TVT = 予測対象 (True Vertical Thickness) 位置 (X, Y, Z) （既知） が成立 総距離 MD (既知) 定数 TypewellにおけるTVTとGRの関係性を参考にして 現在のGR値から現在のTVTを予測する 出典：Zacchaeus, “Diagram of the problem,” Kaggle Discussion「ROGII - Wellbore Geology Prediction」, 2026（一部改変）
5. 穴掘りコンペ | データ&評価 学習データ： 773件のHorizontal well（予測したい井戸）とTypewell（照合用の井戸）のデータ テストデータ： 約200件のHorizontal wellとTypewell うち約50個がPublic、残りがPrivate 少ない！ 評価指標： RMSE（行ごとの予測値、真値の誤差） 4/8
6. 穴掘りコンペ | コンペの難しい点 (Typewell) 1つのGRに複数のTVTが対応する → どこに飛べばいいかわからない 現在のGR=250 途中で2択を外して 遥か彼方 5/8
7. Publicの解法 6/8 色々な予測値をアンサンブルして誤差を減らす 粒子フィルタ Beam Search LightGBM CatBoost GBDT予測値を Stacking Stacking予測値と物理 モデル予測値を混ぜる Ridge ブレンド KNN 近隣井戸のTVTから補間 NCC GRを相互相関で マッチング Public NotebookのベストLBスコアは6.36だったが Privateスコアは9.5台に （Publicの50井戸に過剰にfittingしてしまっていた？） 後処理 予測値
8. 私たちの解法 7/8 （Publicと同じ方針）色々な予測値をアンサンブルして誤差を減らす 粒子フィルタ変 種x7 HMM smoother Numbaで高速化 LGBM予測値と物理 モデル予測値を混ぜる LightGBM x 3 ブレンド 後処理 予測値 KNN 近隣井戸のTVTから補間 CV最小の2subを提出 地層傾き積分 地層面の勾配 近隣井戸から KNNで補間 関係式 既知 → 右辺をMDで積分して TVTを予測 Privateスコアとメダル圏 6.543 金 8.580 銀 9.164 銅 提出物 Random 5 fold CV Public Private Sub 1 7.006 7.204 7.618 Sub 2 7.047 7.341 7.690
9. 学び - ブラックボックスで終わらせないのが大事 - 粒子フィルタを数式から理解しようとした→ 改善の種を思いついた - （改めて）Trust CVが大事 - 今回のようなPublicデータが少ないコンペで大事 - Public Notebookに惑わされないのでメンタルやモチベ維持にもよい - 高速化は大事 - 粒子フィルタを7本回せたことが改善につながった - 社会人Kagglerは実験管理が大事 - 寝る前にjobを投げて、帰宅後に確認。jobを投げる、のループを回す 8/8