Combinatorial optimization with graph convolutional networks and guided tree search ver20190803

Presentation of "Combinatorial Optimization with Graph Convolutional Networks and Guided Tree Search" @ M3 on July 12.

Transcript

1. Combinatorial Optimization with Graph Convolutional Networks and Guided Tree Search Zhuwen Li, Qifeng Chen, Vladlen Koltun Intel Labs, HKUST, Intel Labs
2. 自己紹介 ➢４月から大学院生（博士課程） ➢脳科学の研究をしています ✓富山大学 井ノ口研 ✓解析ソフト作ったり ✓脳のモデルを作ったり ➢コーディングは人生 ✓Python ﾁｮｯﾄﾜｶﾙ ✓C/C++ ﾁｮｯﾄﾜｶﾙ ✓LISP ｾﾞﾝｾﾞﾝﾜｶﾗﾅｲ 大野 駿太郎 @doraneko_b1f https://github.com/doraneko94 Krypto 全探索マシーン Python で GIS するやつ エニグマ暗号器 Alpha Zero モドキ Game AI etc. 【なんでもありのHP】 https://ushitora.net/
3. 論文の新規性 • Graph Convolutional Network (GCN) と Guided Tree Search を組み合わせることで、 NP困難問題を高精度で解く手法を提案。 • この手法は、４種類のNP困難問題に適用できる ことを示した。 Deep Learning + Classic Algorithm
4. 背景 “Recent progress in deep learning has stimulated increased interest in learning algorithms for NP-hard problems.” e.g. Alpha Go [Silver+ 2016, Silver+ 2017] [Silver+ 2016] David Silver, Aja Huang, Chris J. Maddison, Arthur Guez, Laurent Sifre, George van den Driessche, Julian Schrittwieser, Ioannis Antonoglou, Vega Panneershelvam, et al. Mastering the game of Go with deep neural networks and tree search. Nature, 529(7587), 2016. [Silver+ 2017] David Silver, Julian Schrittwieser, Karen Simonyan, Ioannis Antonoglou, Aja Huang, Arthur Guez, Thomas Hubert, Lucas Baker, Matthew Lai, Adrian Bolton, et al. Mastering the game of Go without human knowledge. Nature, 550(7676), 2017. https://www.bbc.com/news/technology-35785875
5. NP困難問題
6. NP困難問題 • Maximal Independent Set (MIS) ➢最大独立集合問題 • Minimum Vertex Cover (MVC) ➢最小頂点被覆問題 • Maximal Clique (MC) ➢最大クリーク問題 • Satisfiability (SAT) ➢充足可能性問題 → NP完全 NP P NP困難 NP完全
7. 最大独立集合問題 (MIS) ➢グラフ G(V, E) に対して、頂点集合 V’⊆V のうち、 V’ 内の任意の２頂点間に枝が存在しない集合で、 大きさが最大のものを求める。 青服どうしは知り合いではない。
8. 最小頂点被覆問題 (MVC) ➢グラフ G(V, E) の任意の枝 e ∈E について、 端点のいずれか少なくとも一方がV’に含まれるような 頂点集合 V’⊆V のうち、大きさが最小のものを求める。 知り合い関係の一方に、 青服が必ず含まれる。
9. 最大クリーク問題 (MC) ➢グラフ G(V, E) の中に存在する、クリーク （任意の２頂点間に枝があるような頂点集合 V’⊆V ） のうち、大きさが最大のものを求める。 青服どうしは、 互いに知り合い。
10. 充足可能性問題 (SAT) ➢審議値をとる論理変数 1 , 2 , … と論理否定 、 論理積 ∩ 、論理和の節 ∪ ∪ ⋯ が 与えられたとき、式全体を満足する論理変数の 真偽値の組み合わせが存在するかを求める。→NP完全 Ex. 1: 1 ∪ 2 ∩ 1 ∪ 2 ∩ 1 ∪ 2 → 1 = , 2 = で成立 Ex. 2: 1 ∪ 2 ∩ 1 ∪ 2 ∩ 1 ∪ 2 ∩ 1 ∪ 2 → どうやっても成立しない
11. 実は… ✓４つの問題は、すべてMISに帰着できる！ MIS MVC MC SAT
12. MVC → MIS ✓頂点の集合が頂点被覆であることと、 その補集合が独立集合であることは同値。 ✓すなわち、 = + MVC MIS
13. MC → MIS ✓MCは補グラフに対するMISと等価。 MC MIS 完全グラフ
14. SAT → MIS 1. すべての変数を頂点に 対応させる。 2. 同一節内の頂点を枝で つなぐ。 3. 同種の変数のうち、 変数とその否定を枝で つなぐ。 4. 得られたグラフの MISの大きさが節の数と 等しい時、 式全体を成り立たせる 変数値の組み合わせが 存在する。 例： 1 ∪ 2 ∩ 1 ∪ 2 ∩ 1 ∪ 2 1 2 2 2 1 1 = 3 = (節の数) より、 与式は成立させることが可能
15. アルゴリズム
16. 学習の流れ
17. Graph Convolutional Networks ➢各層の畳み込み +1 = 0 + − 1 2− 1 21 ➢誤差関数 (binary cross-entropy loss) [Defferrard+ 2016, Kipf+ 2017] [Defferrard+ 2016] Michaël Defferrard, Xavier Bresson, and Pierre Vandergheynst. Convolutional neural networks on graphs with fast localized spectral filtering. In NIPS, 2016. [Kipf+ 2017] Thomas N. Kipf and Max Welling. Semi-supervised classification with graph convolutional networks. In ICLR, 2017.
18. Guided Tree Search
19. 問題点 • どちらも正解 ➢全頂点の予測値が0.5となってしまう（無意味）
20. 解の多様性による改善 • 誤差関数の改善 (hindsight loss) ➢ m個のうち、１つでも正解していればよい。 • Tree search の改善
21. 結果
22. 使用したデータ • 訓練データ ➢SATLIB (train=38,000例, validation=1,000例) ✓3x400 のSAT問題。すべて充足可能。 • テストデータ ➢SATLIB (test=1,000例) ➢SAT Competition 2017 (20例) : SATを評価 ➢BUAA-MC (40例) ✓高難易度のMC問題。MC, MVC, MISを評価 ➢SNAP Social Networks (10例) ✓頂点10万・枝1000万超のネットワーク。MVC, MISを評価 ➢Citation Networks (3例) : MVC, MISを評価
23. 解の多様性 ”M” の最適値 ✓ = 32 程度が最適
24. SATLIB & SAT Competition 2017 ✓Z3 は SAT を直接求める手法であるため、 MISは検出できない ➢そのため、今後は登場しない
25. BUAA-MC ✓BUAA-MC は非常に難易度の高い問題セット ✓訓練は SATLIB でしか行っていないことに注意
26. SNAP Social Networks & Citation Networks ✓補グラフが巨大になるため、MC は評価せず
27. 各学習プロセスの貢献度
28. https://www.detectiondog.eu/en/
29. https://www.detectiondog.eu/en/ Convolutional Network Search Tree
30. まとめ 1. Deep Learning と古典的な探索法を組み合わせ、 NP困難問題を解く手法を提案した。 2. 筆者らの手法は、従来法に比べ 高い性能を示した。 3. また筆者らの手法は、異なる問題間で 一般化されうることが示された。
31. 参考文献 [1] Zhuwen Li, Qifeng Chen, and Vladlen Koltun. Combinatorial optimization with graph convolutional network and guided tree search. In Advances in Information Processing Systems 31: Annual Conference on Neural Information Processing Systems 2018, NeuroIPS 2018, pages 537-546, 2018. [2] Michaël Defferrard, Xavier Bresson, and Pierre Vandergheynst. Convolutional neural networks on graphs with fast localized spectral filtering. In NIPS, 2016. [3] Thomas N. Kipf and Max Welling. Semi-supervised classification with graph convolutional networks. In ICLR, 2017. [4] David Silver, Aja Huang, Chris J. Maddison, Arthur Guez, Laurent Sifre, George van den Driessche, Julian Schrittwieser, Ioannis Antonoglou, Vega Panneershelvam, et al. Mastering the game of Go with deep neural networks and tree search. Nature, 529(7587), 2016. [5] David Silver, Julian Schrittwieser, Karen Simonyan, Ioannis Antonoglou, Aja Huang, Arthur Guez, Thomas Hubert, Lucas Baker, Matthew Lai, Adrian Bolton, et al. Mastering the game of Go without human knowledge. Nature, 550(7676), 2017.