サンタコンペ2025完全攻略 ～お前らの焼きなましは遅すぎる～

2026/2/25 (水) にKaggle サンタコンペ 2025 振り返り会で発表させていただいたスライドです。
https://algo-artis.connpass.com/event/382730/

Transcript

1. サンタコンペ2025完全攻略 ～お前らの焼きなましは遅すぎる～ Kaggle サンタコンペ 2025 振り返り会 松尾 充 （@terry_u16）
2. 松尾 充 株式会社ALGO ARTIS まつお あたる （世界6位） ヒューリスティック部門 レーティング 3210 @terry_u16 terry_u16 ←このへん お仕事 アルゴリズムエンジニアのマネージャー 趣味 競技プログラミング （ヒューリスティック最適化部門） Kaggle歴 サンタコンペ数回 + Tabular Playgroundくらい
3. チームKiRaRe なんかGM2名に挟まれて戦々恐々としてました ともあれチームメンバーそれぞれの強みを活かして2位達成！ nagiss Kaggle GM AHC Orange terry_u16 Kaggle Contributor AHC Red c-number Kaggle GM AHC Red https://www.kaggle.com/competitions/santa-2025/leaderboard
4. 問題のおさらい
5. Santa 2025 - Christmas Tree Packing Challenge クリスマスツリーのピースがN個あります。 できるだけ小さい正方形の中に重ならないように敷き詰めてください。 N=1からN=200までこの問題を解いてください。 N=3の例 𝑠𝑐𝑜𝑟𝑒 = ෍ 𝑖=1 200 𝐿𝑖 2 𝑖 𝐿𝑖 敷き詰めの密度が高いほど高得点
6. 解答例
7. 前提知識
8. 焼きなまし法 公開Notebookを眺めた限り、おそらく焼きなまし法を使った方が多そう？ ピース1つを少し動かしてみて、スコアの変化により採用・不採用を決める スコア改善 変更を採用 スコア悪化 確率的に採用 ピースが重なる 不採用 → → →
9. 焼きなまし法Ｔｉｐｓ コンペ開始当初、焼きなましのサンプルコードがどう見ても遅すぎたため ついカッとなって焼きなまし法のTipsを書いてしまった https://www.kaggle.com/competitions/santa-2025/discussion/640894 要約：お前らの焼きなましは遅すぎる
10. 解法解説
11. 2位解法概要 大域的な改善と局所的な改善両方が重要 大域的には高さ−𝜺初期化生成を、局所的には破壊再構築操作を行った 高さ−𝜺初期解生成 破壊再構築操作 ベスト解の辺の長さを𝐿𝑖 として 新規タイルを高さ𝐿𝑖 − 𝜀で作成 普通の焼きなましでは難しい トポロジー的な変更を行う
12. 初期解生成 まずは初期解生成から説明 高さ−𝜺初期解生成 破壊再構築操作 ベスト解の辺の長さを𝐿𝑖 として 新規タイルを高さ𝐿𝑖 − 𝜀で作成 普通の焼きなましでは難しい トポロジー的な変更を行う
13. 初期解生成 高さと幅を同時に縮めるのではなく、高さ固定の問題として取り扱う ベスト解の辺の長さを𝐿𝑖 として、高さを 𝐿𝑖 − 𝜀 で固定して解く 𝐿𝑖 − 𝜀 嬉しいこと 縦と横を同時に縮めるのは難しいが 横だけを縮める問題と捉えることができる 左右をそれぞれをいい感じに揃えればよいので 実質的な問題サイズが半分になる 上下の辺部分の形が崩れにくい
14. −𝜀初期解生成の効果 高さが綺麗に収まる敷き詰めパターンを発見できたのが終了2日前 そこからスコア0.1以上改善するほど初期解の効果が大きかった ⋮
15. 破壊再構築操作 次に破壊再構築操作について説明 高さ−𝜺初期解生成 破壊再構築操作 ベスト解の辺の長さを𝐿𝑖 として 新規タイルを高さ𝐿𝑖 − 𝜀で作成 普通の焼きなましでは難しい トポロジー的な変更を行う
16. 普通の焼きなましの問題点 普通に焼きなましをすると、あるところで改善が止まりやすい 同じところでツリーが振動するだけになり、大きな構造変更が起こりにくいため このような大規模な構造の 変化は滅多に起こらない Public Notebookなどは相当な 人数が実行していたはずだが、 それだけ大量に実行しても 抜け出せない局所解に なっていたと思われる
17. アイデア：部分的に構造変更をしたい 他の良い構造のところは壊さないまま 局所的に構造変更するような操作を作りたい
18. 破壊再構築操作 構造の一部を破壊し、再配置し直す破壊再構築操作を考える 木を数本削除 スペースを空ける ランダムに再配置 全体を収縮
19. スペースの確保 ターゲット点からツリーをできるだけ遠ざける焼きなましでスペースを確保 𝑝 木を数本削除 スペースを空ける ランダムに再配置 全体を収縮 1. 正方形を少しだけ拡大 2. ツリーが正方形からはみ出さないという制約を加える 3. σ𝑖=1 𝑁′ 𝑑𝑖𝑠𝑡 𝑝, 𝑞𝑖 を最大化する焼きなまし
20. 全体の収縮 全体の収縮は普通の焼きなましをすると自然に達成される 木を数本削除 スペースを空ける ランダムに再配置 全体を収縮 普通に焼きなませば 正方形の大きさを小さくしてくれる
21. 破壊再構築操作を使った探索 この破壊再構築操作を何度も繰り返して、良い解を探索する ビームサーチや反復局所探索法と呼ばれる手法に拡張して実行した ビームサーチ 反復局所探索法 解を強制的に悪化させて 局所解を脱出しつつ改善を繰り返す 上位𝑘個の解を保持しながら 繰り返し破壊再構築操作を適用する 𝑡 𝑠𝑐𝑜𝑟𝑒 𝑡 𝑠𝑐𝑜𝑟𝑒
22. その他細かいテクニック
23. 𝑁 ± 1 解の生成 木を 𝑘 本削除したあと、 𝑘 ± 1 本追加することで 𝑁 ± 1 解を作ることができる
24. 限界高速化 焼きなましは速度が命なので、一番重い衝突判定処理を限界高速化する 速度が倍になればサーバー代は半額になるので頑張る AABB (Axis-Aligned Bounding Box) を使い、重ならなければ枝刈りできる 多段階で枝刈りを行い、最後まで残ったものに対してのみ線分の交差判定を行う AABB 木 vs 木 AABB 木 vs 辺 AABB 辺 vs 辺 線分交差 判定
25. 限界高速化 焼きなましは速度が命なので、一番重い衝突判定処理を限界高速化する 速度が倍になればサーバー代は半額になるので頑張る 加えて SIMD (Single Instruction, Multiple Data) を使って1命令で複数演算を行う 32並列で実行すると焼きなましの操作が1億回/sくらい回る N 1 thread 32 threads 50 6,797,952 123,390,208 100 5,920,896 110,288,768 200 5,270,784 100,830,720 今思うとfp32+AVX512とかでもうちょい頑張れたかも…… 3 1 4 1 5 9 2 6 iter/s @Ryzen 9 7950X (16 cores, 32 threads) 2 7 1 8 2 8 1 8 5 8 5 9 7 17 3 14 + =
26. おわりに
27. KaggleでAHCをするな、AHCでKaggleするぞ AtCoderで今週月曜まで行われていたAHC061では ethyleneさんが強化学習を使ってぶっちぎりで優勝していました Kaggle勢の皆さん、ぜひAHC勢の知らないテクを使って コンテストを破壊してください！ https://atcoder.jp/contests/ahc061/standings https://img.atcoder.jp/ahc061/N52XwIfp.html
28. ご清聴ありがとうございました！