Monge の手引書 - Speaker Deck

Slide 1

Slide 1 text

Monge の手引書 @tatyam_prime 1

Slide 2

Slide 2 text

注意事項証明はあんまりやりません。証明を読みたい人は [Monge まとめ①] Monge 性とは？ – HackMD Knuth-Yao speedup – 週刊 spaghetti_source とかを読んでみてください 2

Slide 3

Slide 3 text

凸包の双対問題ってありますよね？凸包の双対問題本の直線が与えられる各での最小値を求めたい。 N l , … , l 1 N x L(x) = min{l (x), … , l (x)} 1 N 3

Slide 4

Slide 4 text

凸包の双対問題本の直線が与えられる各での最小値を求めたい。 N l , … , l 1 N x L(x) = min{l (x), … , l (x)} 1 N 4

Slide 5

Slide 5 text

凸包の双対問題なんだから、凸包を解くアルゴリズムの双対で解ける。 Andrew's monotone chain の双対 1. 直線を傾きでソートする 5

Slide 6

Slide 6 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する i = 1, … , N l i 6

Slide 7

Slide 7 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する i = 1, … , N l i 7

Slide 8

Slide 8 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する i = 1, … , N l i 8

Slide 9

Slide 9 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する i = 1, … , N l i 9

Slide 10

Slide 10 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する ii. 「一つ前の直線が不要であれば削除する」を繰り返す i = 1, … , N l i 10

Slide 11

Slide 11 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する ii. 「一つ前の直線が不要であれば削除する」を繰り返す i = 1, … , N l i 11

Slide 12

Slide 12 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する ii. 「一つ前の直線が不要であれば削除する」を繰り返す i = 1, … , N l i 12

Slide 13

Slide 13 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する ii. 「一つ前の直線が不要であれば削除する」を繰り返す i = 1, … , N l i 13

Slide 14

Slide 14 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する ii. 「一つ前の直線が不要であれば削除する」を繰り返す i = 1, … , N l i 14

Slide 15

Slide 15 text

Andrew's monotone chain の双対 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する ii. 「一つ前の直線が不要であれば削除する」を繰り返す i = 1, … , N l i 15

Slide 16

Slide 16 text

ところで何が双対なの？ 2 回の変換で元に戻るならなんでも双対なので、あらゆるものが双対と呼ばれている 16

Slide 17

Slide 17 text

点を直線に、直線を点に変換する双対変換 https://www.jaist.ac.jp/~uehara/c ourse/2014/i481f/pdf/ppt-3.pdf p.37 17

Slide 18

Slide 18 text

下側凸包と各での最小値が対応している https://www.jaist.ac.jp/~uehara/c ourse/2014/i481f/pdf/ppt-3.pdf p.38 x 18

Slide 19

Slide 19 text

だから双対なんですね〜 Andrew's monotone chain 1. 点を座標でソートする 2. の順に以下を行う i. 点を追加する ii. 「一つ前の点が不要であれば削除する」を繰り返すの双対 (CHT) 1. 直線を傾きでソートする 2. の順に以下を行う i. 直線を追加する ii. 「一つ前の直線が不要であれば削除する」を繰り返す → 本質的に同じアルゴリズム x i = 1, … , N p i i = 1, … , N l i 19

Slide 20

Slide 20 text

Slide 21

Slide 21 text

もし直線が曲線だったら？曲線群に対しても同じアルゴリズムで最小値を求めたい！ 21

Slide 22

Slide 22 text

もし直線が曲線だったら？つの曲線が複数回交差していると困る一度捨てた曲線が再び最小値を取るかもしれないので → 「つの曲線が交差する回数は回以下」を仮定してみる 2 2 1 22

Slide 23

Slide 23 text

もし直線が曲線だったら？「つの曲線が交差する回数は回以下」を仮定する → これだけで、さっきの直線に対するアルゴリズムが使えるようになる！一度最小値でなくなった曲線は捨てて良いので 2 1 23

Slide 24

Slide 24 text

Andrew's monotone chain の双対 1. 曲線を傾きでソートするどうやって？ 24

Slide 25

Slide 25 text

直線のとき直線を無限に左に伸ばせば傾きでソートできる 25

Slide 26

Slide 26 text

Andrew's monotone chain の双対 1. 曲線を無限に左に伸ばしたときの高さでソートする 2. の順に以下を行う i. 直線を追加する ii. 「一つ前の直線が不要であれば削除する」を繰り返す (実演) i = 1, … , N l i 26

Slide 27

Slide 27 text

行列を作る曲線群をいくつかの座標で切って、その位置での値で行列を作ってみる x l 1 l 2 l 3 l 4 l 5 l 6 l 7 x 1 7 11 20 24 50 38 118 27

Slide 28

Slide 28 text

行列を作る l 1 l 2 l 3 l 4 l 5 l 6 l 7 x 1 7 11 20 24 50 38 118 x 2 23 13 17 16 36 18 62 28

Slide 29

Slide 29 text

行列を作る l 1 l 2 l 3 l 4 l 5 l 6 l 7 x 1 7 11 20 24 50 38 118 x 2 23 13 17 16 34 18 62 x 3 47 22 21 16 31 6 36 29

Slide 30

Slide 30 text

行列を作る l 1 l 2 l 3 l 4 l 5 l 6 l 7 x 1 7 11 20 24 50 38 118 x 2 23 13 17 16 36 18 62 x 3 47 22 21 16 31 6 34 x 4 75 42 37 25 34 4 7 30

Slide 31

Slide 31 text

こうしてできた行列は、曲線群のときの制約を保存している行列の性質任意のつの列を取り出すと、上から何行かの大小関係が向きで、残りの行の大小関係が向きである。 2 < > l 1 l 2 l 3 l 4 l 5 l 6 l 7 x 1 7 11 20 24 50 38 118 x 2 23 13 17 16 36 18 62 x 3 47 22 21 16 31 6 34 x 4 75 42 37 25 34 4 7 31

Slide 32

Slide 32 text

行列の性質任意のつの列を取り出すと、上から何行かの大小関係が向きで、残りの行の大小関係が向きである。向きの後向きになることはない → もしそうなったら、最初に曲線をソートしたことに矛盾 2 < > > < 32

Slide 33

Slide 33 text

行列の性質任意のつの列を取り出すと、上から何行かの大小関係が向きで、残りの行の大小関係が向きである。 → このような行列を totally monotone 行列と言う 2 < > l 1 l 2 l 3 l 4 l 5 l 6 l 7 x 1 7 11 20 24 50 38 118 x 2 23 13 17 16 36 18 62 x 3 47 22 21 16 31 6 34 x 4 75 42 37 25 34 4 7 33

Slide 34

Slide 34 text

totally monotone 行列の実数の行列であって、任意のつの列を取り出すと、上から何行かの大小関係が向きで、残りの行の大小関係が向きであるようなもの。 totally monotone が出てきたら、つの曲線が高々度しか交わらないような曲線群を思い出すと良い。 N × M 2 < > 2 1 34

Slide 35

Slide 35 text

monotone 行列 totally monotone より弱いの実数の行列であって、各行の最小値を取る位置が、下の行に行くにつれて右になるようなもの。 N × M l 1 l 2 l 3 l 4 l 5 l 6 l 7 x 1 7 11 20 24 50 38 118 x 2 23 13 17 16 36 18 62 x 3 47 22 21 16 31 6 34 x 4 75 42 37 25 34 4 7 35

Slide 36

Slide 36 text

totally monotone ならば monotone monotone でないと仮定すると… l 1 l 2 l 3 l 4 l 5 l 6 l 7 x 1 7 11 20 24 50 38 118 x 2 47 22 21 16 31 6 34 x 3 23 13 17 16 36 18 62 x 4 75 42 37 25 34 4 7 36

Slide 37

Slide 37 text

totally monotone ならば monotone monotone でないと仮定すると… 本の曲線を取り出せば… 大小関係が逆になっているので totally monotone でない。 2 l 2 l 6 x 1 11 38 x 2 22 6 x 3 13 18 x 4 42 4 37

Slide 38

Slide 38 text

ところで monotone っていう名前が被る線形代数における monotone matrix 線形代数とは分野が離れているので良いとして集合関数における monotone (単調) 日本語で「単調」と言ったらこちらを指すことにします ∀v ∈ R : M Av ≥ 0 ⟹ v ≥ 0 X ⊂ Y ⟹ f(X) ≤ f(Y ) 38

Slide 39

Slide 39 text

曲線群の最小値を求める問題は以下のように変換された。行最小値問題実数からなる行列が与えられる。の各行での最小値 (がどこにあるか) を求めよ。つまり、について以下を求めよ。 b[i] = A j=1,…,M arg min i,j 今日はこの問題を深掘りしてみましょう (注 : 行列は totally monotone とは限らない) N × M A A i = 1, … , N 39

Slide 40

Slide 40 text

workshop 今から適当な行列を表示するので、各行の最小値を求めてください。 40

Slide 41

Slide 41 text

workshop 各行での最小値 (がどこにあるか) を求めよ。 l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 x 1 25 62 47 78 36 66 50 79 x 2 49 70 64 73 46 64 93 16 x 3 27 48 75 67 49 74 33 66 x 4 23 48 88 59 42 67 65 31 x 5 87 43 80 34 44 48 35 45 x 6 93 37 85 27 66 56 90 97 41

Slide 42

Slide 42 text

workshop 各行での最小値 (がどこにあるか) を求めよ。答え : l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 x 1 25 62 47 78 36 66 50 79 x 2 49 70 64 73 46 64 93 16 x 3 27 48 75 67 49 74 33 66 x 4 23 48 88 59 42 67 65 31 x 5 87 43 80 34 44 48 35 45 x 6 93 37 85 27 66 56 90 97 25, 16, 27, 23, 34, 27 42

Slide 43

Slide 43 text

行最小値問題実数からなる行列が与えられる。の各行での最小値 (がどこにあるか) を求めよ。計算量は？全部調べるしかない。時間 N × M A A Θ(NM) 43

Slide 44

Slide 44 text

monotone の場合は？について以下を求めよ。 b[i] = A j=1,…,M arg min i,j ただし、である。これならもう少し効率的に求められそう！ i = 1, … , N b[1] ≤ b[2] ≤ ⋯ ≤ b[N] 44

Slide 45

Slide 45 text

workshop 今から monotone 行列を表示するので、各行の最小値を求めてください。 45

Slide 46

Slide 46 text

workshop 各行での最小値 (がどこにあるか) を求めよ。ただし行列は monotone である。 l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 1 82 13 45 14 99 41 53 99 25 26 x 2 13 40 12 65 25 84 20 82 84 18 x 3 89 36 22 49 47 81 35 95 68 72 x 4 50 68 73 68 32 59 35 64 99 76 x 5 82 51 99 48 28 36 99 75 79 32 x 6 55 97 57 71 37 81 91 83 91 41 x 7 44 24 67 89 41 91 11 76 78 61 46

Slide 47

Slide 47 text

workshop 各行での最小値 (がどこにあるか) を求めよ。ただし行列は monotone である。答え : l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 1 82 13 45 14 99 41 53 99 25 26 x 2 13 40 12 65 25 84 20 82 84 18 x 3 89 36 22 49 47 81 35 95 68 72 x 4 50 68 73 68 32 59 35 64 99 76 x 5 82 51 99 48 28 36 99 75 79 32 x 6 55 97 57 71 37 81 91 83 91 41 x 7 44 24 67 89 41 91 11 76 78 61 13, 12, 22, 32, 28, 37, 11 47

Slide 48

Slide 48 text

workshop コツは掴めましたか？ monotone 行列の定義 b[1] ≤ b[2] ≤ ⋯ ≤ b[N] をうまく使いましょう。 48

Slide 49

Slide 49 text

これを効率的にした結果できるアルゴリズムがこちらです。 monotone minima monotone 行列の各行の最小値をで求めるアルゴリズム Θ(N + M log N) 49

Slide 50

Slide 50 text

monotone minima 1. 中央の行の最小値を見つける l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 1 82 13 45 14 99 41 53 99 25 26 x 2 13 40 12 65 25 84 20 82 84 18 x 3 89 36 22 49 47 81 35 95 68 72 x 4 50 68 73 68 32 59 35 64 99 76 x 5 82 51 99 48 28 36 99 75 79 32 x 6 55 97 57 71 37 81 91 83 91 41 x 7 44 24 67 89 41 91 11 76 78 61 50

Slide 51

Slide 51 text

monotone minima 1. 中央の行の最小値を見つける l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 4 50 68 73 68 32 59 35 64 99 76 51

Slide 52

Slide 52 text

monotone minima 1. 中央の行の最小値を見つける l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 4 50 68 73 68 32 59 35 64 99 76 52

Slide 53

Slide 53 text

Slide 54

Slide 54 text

ここで monotone 性を使います monotone minima 1. 中央の行の最小値を見つける 2. 最小値にならない部分を捨てる長方形領域つが残りました 2 l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 1 82 13 45 14 99 41 53 99 25 26 x 2 13 40 12 65 25 84 20 82 84 18 x 3 89 36 22 49 47 81 35 95 68 72 x 4 50 68 73 68 32 59 35 64 99 76 x 5 82 51 99 48 28 36 99 75 79 32 x 6 55 97 57 71 37 81 91 83 91 41 x 7 44 24 67 89 41 91 11 76 78 61 54

Slide 55

Slide 55 text

monotone minima 1. 中央の行の最小値を見つける 2. 最小値にならない部分を捨てる 3. 残った 2 個の長方形について再帰的に解く l 1 l 2 l 3 l 4 l 5 x 1 82 13 45 14 99 x 2 13 40 12 65 25 x 3 89 36 22 49 47 l 5 l 6 l 7 l 8 l 9 l 10 x 5 28 36 99 75 79 32 x 6 37 81 91 83 91 41 x 7 41 91 11 76 78 61 55

Slide 56

Slide 56 text

Slide 57

Slide 57 text

monotone minima 1. 中央の行の最小値を見つける 2. 最小値にならない部分を捨てる 3. 残った 2 個の長方形について再帰的に解く monotone 行列の行最小値がで求められる定数倍が軽く、系のアルゴリズム (SMAWK, LARSCH など) と区別するのがやや難しい Θ(N + M log N) Θ(N + M) 57

Slide 58

Slide 58 text

monotone minima monotone 行列の行最小値がで求められるところで行列の入力に掛かってしまうのでは？ Θ(N + M log N) Θ(NM) 58

Slide 59

Slide 59 text

行列の入力に掛かってしまうのでは？ → 行番号と列番号を与えると値をで計算してくれる関数が与えられると思うと良い。例えば、の計算に時間掛かる場合は、計算量にが掛かります。 Θ(NM) i j Θ(1) A(i, j) A(i, j) Θ(log N) Θ(log N) 59

Slide 60

Slide 60 text

monotone minima にはもうひとつの解釈がある… もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く 2. 最小値にならない部分を捨てる 3. 残りの部分の最小値を求める 60

Slide 61

Slide 61 text

もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 1 82 13 45 14 99 41 53 99 25 26 x 2 13 40 12 65 25 84 20 82 84 18 x 3 89 36 22 49 47 81 35 95 68 72 x 4 50 68 73 68 32 59 35 64 99 76 x 5 82 51 99 48 28 36 99 75 79 32 x 6 55 97 57 71 37 81 91 83 91 41 x 7 44 24 67 89 41 91 11 76 78 61 61

Slide 62

Slide 62 text

もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 2 13 40 12 65 25 84 20 82 84 18 x 4 50 68 73 68 32 59 35 64 99 76 x 6 55 97 57 71 37 81 91 83 91 41 62

Slide 63

Slide 63 text

もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く 2. 残りの部分の最小値を求める ( 回の比較を行う) M − 1 l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 4 50 68 73 68 32 59 35 64 99 76 63

Slide 64

Slide 64 text

もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く 2. 残りの部分の最小値を求める ( 回の比較を行う) M − 1 l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 4 50 68 73 68 32 59 35 64 99 76 64

Slide 65

Slide 65 text

もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 2 13 40 12 65 25 84 20 82 84 18 x 4 50 68 73 68 32 59 35 64 99 76 x 6 55 97 57 71 37 81 91 83 91 41 65

Slide 66

Slide 66 text

もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く 2. 最小値にならない部分を捨てる l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 2 13 40 12 65 25 84 20 82 84 18 x 4 50 68 73 68 32 59 35 64 99 76 x 6 55 97 57 71 37 81 91 83 91 41 66

Slide 67

Slide 67 text

もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く 2. 最小値にならない部分を捨てる 3. 残りの部分の最小値を求める ( 回の比較を行う) M − 1 l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 2 13 40 12 65 25 84 20 82 84 18 x 4 50 68 73 68 32 59 35 64 99 76 x 6 55 97 57 71 37 81 91 83 91 41 67

Slide 68

Slide 68 text

Slide 69

Slide 69 text

Slide 70

Slide 70 text

もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く 2. 最小値にならない部分を捨てる l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 1 82 13 45 14 99 41 53 99 25 26 x 2 13 40 12 65 25 84 20 82 84 18 x 3 89 36 22 49 47 81 35 95 68 72 x 4 50 68 73 68 32 59 35 64 99 76 x 5 82 51 99 48 28 36 99 75 79 32 x 6 55 97 57 71 37 81 91 83 91 41 x 7 44 24 67 89 41 91 11 76 78 61 70

Slide 71

Slide 71 text

もうひとつの解釈 1. 偶数行のみを取り出して再帰的に解く 2. 最小値にならない部分を捨てる 3. 残りの部分の最小値を求める ( 回の比較を行う) やっていることとしてはこちらの解釈でも同じですね M − 1 l 1 l 2 l 3 l 4 l 5 l 6 l 7 l 8 l 9 l 10 x 1 82 13 45 14 99 41 53 99 25 26 x 2 13 40 12 65 25 84 20 82 84 18 x 3 89 36 22 49 47 81 35 95 68 72 x 4 50 68 73 68 32 59 35 64 99 76 x 5 82 51 99 48 28 36 99 75 79 32 x 6 55 97 57 71 37 81 91 83 91 41 x 7 44 24 67 89 41 91 11 76 78 61 71

Slide 72

Slide 72 text

totally monotone 行列の場合 totally monotone 行列の行最小値はより高速に求められないか？ Θ(N + M log N) 72

Slide 73

Slide 73 text

SMAWK algorithm totally monotone 行列の行最小値はで求められる。 Geometric applications of a matrix-searching algorithm, Algorithmica volume 2, pp. 195–208 (1987) 論文の著者 Peter Shor Shlomo Moran Alok Aggarwal Robert Wilber Maria M. Klawe Θ(N + M) 73

Slide 74

Slide 74 text

monotone minima に一工夫加えると SMAWK algorithm になる monotone minima 1. 偶数行のみを取り出して再帰的に解く 2. 最小値にならない部分を捨てる 3. 残りの部分の最小値を求める ( 回の比較を行う) M − 1 74

Slide 75

Slide 75 text

monotone minima に一工夫加えると SMAWK algorithm になる SMAWK algorithm 1. "Reduce" step : 最小値にならない列を捨てる 2. "Recurse" step : 偶数行のみを取り出して再帰的に解く 3. 最小値にならない部分を捨てる 4. "Interpolate" step : 残りの部分の最小値を求める ( 回の比較を行う) M − 1 75

Slide 76

Slide 76 text

"Reduce" step は何をしているかというと… SMAWK algorithm 1. "Reduce" step : 最小値にならない列を捨てる 2. "Recurse" step : 偶数行のみを取り出して再帰的に解く 3. 最小値にならない部分を捨てる 4. "Interpolate" step : 残りの部分の最小値を求める: "Reduce" step 入力 : の totally monotone 行列出力 : 最小値を取り得ない列個計算量 : 計算量は？ Θ(N + M) N × M M − N Θ(M) 76

Slide 77

Slide 77 text

計算量は？行も列も再帰のたびに半分になっていくから、全体で時間 Θ(N + M) 77

Slide 78

Slide 78 text

"Reduce" step 入力 : の totally monotone 行列出力 : 最小値を取り得ない列個から始めて、以下を繰り返す。マスとマスを比較する。最小値が存在しないことが分かった列を捨てる。捨てた場合はを減らし、捨てなかった場合はを増やす。実際にやってみよう N × M M − N i = 1 (i, i) (i, i + 1) i i 78

Slide 79

Slide 79 text

totally monotone の復習任意のつの列を取り出すと、上から何行かの大小関係が向きで、残りの行の大小関係が向きである。を見つけたら上に伝播するを見つけたら下に伝播する 2 < > < > 79

Slide 80

Slide 80 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l 2 22 38 27 49 64 61 54 l 3 19 29 16 38 53 50 43 l 4 20 30 9 31 46 43 35 l 5 25 35 10 28 43 40 33 l 6 32 42 17 27 42 39 32 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 9 44 54 29 37 38 27 20 l 10 48 58 33 41 42 25 16 l 11 52 62 37 45 46 29 12 l 12 59 69 44 52 53 36 15 l 13 54 64 39 47 48 31 10 を見つけたので上に伝播、が最小値でない以外は分からないので次の行に進む (i, i) (i, i + 1) < 22 80

Slide 81

Slide 81 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l 2 22 38 27 49 64 61 54 l 3 19 29 16 38 53 50 43 l 4 20 30 9 31 46 43 35 l 5 25 35 10 28 43 40 33 l 6 32 42 17 27 42 39 32 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 9 44 54 29 37 38 27 20 l 10 48 58 33 41 42 25 16 l 11 52 62 37 45 46 29 12 l 12 59 69 44 52 53 36 15 l 13 54 64 39 47 48 31 10 を見つけたので下に伝播、の列はどれも最小値でないことが分かるので捨てることができる (！) (i, i) (i, i + 1) > l 2 81

Slide 82

Slide 82 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l 3 19 29 16 38 53 50 43 l 4 20 30 9 31 46 43 35 l 5 25 35 10 28 43 40 33 l 6 32 42 17 27 42 39 32 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 9 44 54 29 37 38 27 20 l10 48 58 33 41 42 25 16 l 11 52 62 37 45 46 29 12 l 12 59 69 44 52 53 36 15 l 13 54 64 39 47 48 31 10 捨てたので行目の比較をやり直し。なので上に伝播 (i, i) (i, i + 1) 1 < 82

Slide 83

Slide 83 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l 3 19 29 16 38 53 50 43 l4 20 30 9 31 46 43 35 l 5 25 35 10 28 43 40 33 l 6 32 42 17 27 42 39 32 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 9 44 54 29 37 38 27 20 l 10 48 58 33 41 42 25 16 l11 52 62 37 45 46 29 12 l 12 59 69 44 52 53 36 15 l 13 54 64 39 47 48 31 10 なので上に伝播 (i, i) (i, i + 1) < 83

Slide 84

Slide 84 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l 3 19 29 16 38 53 50 43 l4 20 30 9 31 46 43 35 l 5 25 35 10 28 43 40 33 l 6 32 42 17 27 42 39 32 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 9 44 54 29 37 38 27 20 l 10 48 58 33 41 42 25 16 l11 52 62 37 45 46 29 12 l 12 59 69 44 52 53 36 15 l 13 54 64 39 47 48 31 10 (i, i) (i, i + 1) 84

Slide 85

Slide 85 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l 3 19 29 16 38 53 50 43 l4 20 30 9 31 46 43 35 l 5 25 35 10 28 43 40 33 l 6 32 42 17 27 42 39 32 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 9 44 54 29 37 38 27 20 l 10 48 58 33 41 42 25 16 l11 52 62 37 45 46 29 12 l 12 59 69 44 52 53 36 15 l 13 54 64 39 47 48 31 10 を見つけたので下に伝播、の列はどれも最小値でないことが分かるので捨てることができる (i, i) (i, i + 1) > l 5 85

Slide 86

Slide 86 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l 3 19 29 16 38 53 50 43 l 4 20 30 9 31 46 43 35 l 6 32 42 17 27 42 39 32 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 9 44 54 29 37 38 27 20 l 10 48 58 33 41 42 25 16 l 11 52 62 37 45 46 29 12 l 12 59 69 44 52 53 36 15 l 13 54 64 39 47 48 31 10 (i, i) (i, i + 1) 86

Slide 87

Slide 87 text

Slide 88

Slide 88 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l3 19 29 16 38 53 50 43 l 4 20 30 9 31 46 43 35 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 9 44 54 29 37 38 27 20 l 10 48 58 33 41 42 25 16 l 11 52 62 37 45 46 29 12 l 12 59 69 44 52 53 36 15 l 13 54 64 39 47 48 31 10 (i, i) (i, i + 1) 88

Slide 89

Slide 89 text

Slide 90

Slide 90 text

Slide 91

Slide 91 text

Slide 92

Slide 92 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l 3 19 29 16 38 53 50 43 l 4 20 30 9 31 46 43 35 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 10 48 58 33 41 42 25 16 l 11 52 62 37 45 46 29 12 l 12 59 69 44 52 53 36 15 l 13 54 64 39 47 48 31 10 (i, i) (i, i + 1) 92

Slide 93

Slide 93 text

Slide 94

Slide 94 text

Slide 95

Slide 95 text

Slide 96

Slide 96 text

"Reduce" step とを比較する。要らなくなった列は捨てる。 x 1 x 2 x 3 x 4 x 5 x 6 x 7 l 1 10 34 23 45 60 57 50 l 3 19 29 16 38 53 50 43 l 4 20 30 9 31 46 43 35 l 7 32 42 17 25 34 31 24 l 8 43 53 28 36 37 34 27 l 10 48 58 33 41 42 25 16 l 13 54 64 39 47 48 31 10 (i, i) (i, i + 1) 96

Slide 97

Slide 97 text

Slide 98

Slide 98 text

まとめ SMAWK algorithm totally monotone 行列の各行の最小値を求める。 1. "Reduce" step : 最小値にならない列を捨てる 2. "Recurse" step : 偶数行のみを取り出して再帰的に解く 3. 最小値にならない部分を捨てる 4. "Interpolate" step : 残りの部分の最小値を求める行も列も再帰のたびに半分になっていくから、全体で時間 Θ(N + M) 98

Slide 99

Slide 99 text

そろそろ Monge のおはなしをしよう Monge 行列とは？ Gaspard Monge さんが発見した良い性質 Monge totally monotone monotone 競プロの問題だと、TM だけど Monge でないことはあまりない競プロの問題だと、monotone だけど TM でないことはあまりないつまり、Monge totally monotone monotone (？？？) ⟹ ⟹ ⟺ ⟺ 99

Slide 100

Slide 100 text

Monge 行列 (定義) 実数からなる行列であって、以下の条件を満たすものおよびを満たすすべての整数の組について、が成り立つ。 ABC224 B - Mongeness N × M A 1 ≤ i < 1 i ≤ 2 N 1 ≤ j < 1 j ≤ 2 M (i , i , j , j ) 1 2 1 2 A + i ,j 1 1 A ≤ i ,j 2 2 A + i ,j 2 1 A i ,j 1 2 100

Slide 101

Slide 101 text

Monge 行列 (例) A = [ 5 3 8 5 ] なので A + 1,1 A ≤ 2,2 A + 1,2 A 2,1 101

Slide 102

Slide 102 text

Monge は最短路問題で捉えると分かりやすい Monge 単一始点最短路問題頂点の重み付き有向 DAG があります。頂点から頂点へ ( ) 移動するコストはで、は Monge です。頂点から頂点へ移動する最小コストをそれぞれ求めてください。 → 時間のアルゴリズムが存在する N + 1 i j i < j A i,j A 0 1, 2, … , N Θ(N) 102

Slide 103

Slide 103 text

Monge のおきもち A + i ,j 1 1 A ≤ i ,j 2 2 A + i ,j 2 1 A i ,j 1 2 これなに？ 103

Slide 104

Slide 104 text

さっきの曲線群で捉えた場合は… Monge のおきもち (1) A + i ,j 1 1 A ≤ i ,j 2 2 A + i ,j 2 1 A i ,j 1 2 A − i ,j 1 1 A ≤ i ,j 1 2 A − i ,j 2 1 A i ,j 2 2 曲線から曲線を引いた差分が単調増加 l j 1 l j 2 104

Slide 105

Slide 105 text

Monge のおきもち (2) A − i ,j 1 2 A ≥ i ,j 1 1 A − i ,j 2 2 A i ,j 2 1 は任意だから、 A − 1,j 2 A ≥ 1,j 1 A − 2,j 2 A ≥ 2,j 1 A − 3,j 2 A ≥ 3,j 1 ⋯ ≥ A − N,j 2 A N,j 1 と同値 i , i 1 2 105

Slide 106

Slide 106 text

Monge のおきもち (2) A − 1,j 2 A ≥ 1,j 1 A − 2,j 2 A ≥ 2,j 1 A − 3,j 2 A ≥ 3,j 1 ⋯ ≥ A − N,j 2 A N,j 1 Monge 最短路問題の気持ちになりましょう。「頂点から頂点へ ( ) 移動するコストが」とすると、「区間の左端を固定して、区間の右端をと動かしたときのコストの増分は、が小さいほど (元々の区間の長さが長いほど) 大きい」と解釈できる。 i j i < j A i,j i j → 1 j 2 A − i,j 2 A i,j 1 i j − 1 i 106

Slide 107

Slide 107 text

Monge 行列の例 (1) 区間の長さの乗 2 A = i,j (j − i)2 A = 0 1 4 9 1 0 1 4 4 1 0 1 9 4 1 0 107

Slide 108

Slide 108 text

Monge 行列の例 (1) 区間の長さの乗区間の右端をと動かすときのコストの増分 : (j + 1 − i) − 2 (j − i) = 2 2(j − i) + 1 が小さくなるほど (元々の区間の長さが長いほど) 大きいので、Monge である。 2 A = i,j (j − i)2 A = 0 1 4 9 1 0 1 4 4 1 0 1 9 4 1 0 j → j + 1 i j − i 108

Slide 109

Slide 109 text

Monge 行列の例 (2) 区間和例 : A = i,j X ∑ i≤k

Slide 110

Slide 110 text

Monge 行列の例 (2) 区間和例 : 区間の右端をと動かすときのコストの増分 : X − i≤k

Slide 111

Slide 111 text

上三角行列になっていますが…？ A = 0 4 0 5 1 0 8 4 3 0 のように、左下の一部分が無効値であったとしても Monge 性には問題ないことが示せる。 111

Slide 112

Slide 112 text

上三角行列になっていますが…？左下の一部分が無効値であったとしても Monge 性には問題ないことが示せる。また、 A = 0 4 5 8 0 1 4 −1 0 3 0 のように、右上の一部分が無効値であったとしても Monge 性には問題ないことが示せる。 112

Slide 113

Slide 113 text

左下の一部分が無効値であったとしても Monge 性には問題ないことが示せる。右上の一部分が無効値であったとしても Monge 性には問題ないことが示せる。左上 / 右下の一部分が無効値の場合は問題があるので注意 113

Slide 114

Slide 114 text

Monge 行列の例 (3) A = i,j −ij A = −1 −2 −3 −4 −2 −4 −6 −8 −3 −6 −9 −12 −4 −8 −12 −16 114

Slide 115

Slide 115 text

Monge 行列の例 (3) 区間の右端をと動かすときのコストの増分: −i(j + 1) + ij = −i が小さくなるほど (元々の区間の長さが長いほど) 大きいので、Monge である。 A = i,j −ij A = −1 −2 −3 −4 −2 −4 −6 −8 −3 −6 −9 −12 −4 −8 −12 −16 j → j + 1 i j − i 115

Slide 116

Slide 116 text

Monge 行列の例 (4) 区間例 : min A = i,j min X i≤k≤j k X = (4, 2, 3, 1) A = 4 2 2 2 2 3 1 1 1 1 116

Slide 117

Slide 117 text

Monge 行列の例 (4) 区間例 : 区間の右端をと動かすときのコストの増分 : X − ( i≤k≤j+1 min k ) X ( i≤k≤j min k ) により最小値が更新される場合のみ考えれば良い。 X − j+1 X ( i≤k≤j min k ) が小さくなるほど (元々の区間の長さが長いほど) 大きいので、Monge である。 min A = i,j min X i≤k≤j k X = (4, 2, 3, 1) A = 4 2 2 2 2 3 1 1 1 1 j → j + 1 X j+1 i j − i 117

Slide 118

Slide 118 text

Monge 行列の作り方 (1) 下に凸な関数に対して、で定義される行列下に凸とはから任意に点取って間を線分で結ぶと、は線分より下に来る f(x) A = i,j f(j − i) A f(x) 2 f(x) ⟺ f (x) ≥ ′′ 0 118

Slide 119

Slide 119 text

Monge 行列の作り方 (1) 下に凸な関数に対して、で定義される行列は Monge 例 f(x) A = i,j f(j − i) A A = i,j 42 A = i,j j − i A = i,j (j − i) − 2 1 A = i,j ∣j − i∣ − 3 ∣j − i∣ 119

Slide 120

Slide 120 text

Monge 行列の作り方 (2) Monge 行列に対して、で定義される行列は Monge Monge 行列と実数に対して、で定義される行列は Monge 線型結合について閉じている (負数倍は不等号が逆向きになるので、できない) B, C A = B + C A B k ≥ 0 A = k × B A 120

Slide 121

Slide 121 text

Monge 行列の作り方 (3) で定義される行列は Monge で定義される行列は Monge 例 : 行全体に何かを足す / 列全体に何かを足すをしても Monge 性には影響ない A = i,j X i A A = i,j X j A A = 4 4 4 4 0 0 0 0 7 7 7 7 3 3 3 3 121

Slide 122

Slide 122 text

Monge 行列の作り方 (4) 単調増加な数列と単調減少な数列に対して、で定義される行列例 X Y A = i,j X × i Y j A A = i,j i × (−j) A = i,j (j − i) = 2 j + 2 i + 2 2 × i × (−j) 122

Slide 123

Slide 123 text

Monge 行列の例 (2) 再び区間和例 : 累積和をすると行全体に何かを足す / 列全体に何かを足すをしても Monge 性には影響ないので、これは Monge A = i,j X ∑ i≤k

Slide 124

Slide 124 text

Monge 行列の例 (5) 区間和の乗正整数列に対して例 : 2 X A = i,j X (∑ i≤k

Slide 125

Slide 125 text

Monge 行列の例 (5) 区間和の乗正整数列に対して例 : 累積和をすると、 A = i,j (S − j S ) = i 2 S + i 2 S − j 2 2S S i j が Monge かを見れば良くて、は単調増加なので良い。 2 X A = i,j X (∑ i≤k

Slide 126

Slide 126 text

Monge 行列の例 (6) ( 〜行目の〜列目に含まれる丸の個数) A = i,j i j i j A = 1 1 0 7 2 1 14 9 3 0 126

Slide 127

Slide 127 text

Monge 行列の例 (6) ( 〜行目の〜列目に含まれる丸の個数) を増やした時に増える領域を考えると、が小さいほど (元々の区間の長さが長いほど) 大きいので、Monge である。 A = i,j i j i j j i j − i 127

Slide 128

Slide 128 text

Monge が分かってきたところで、問題を解いていこう。スペースエクスプローラー高橋君数列に対して、行列をと定義する。の各行の最小値を求めよ。 a N × N A A = i,j a + j (i − j)2 A N ≤ 2 × 105 128

Slide 129

Slide 129 text

スペースエクスプローラー高橋君数列に対して、行列をと定義する。の各行の最小値を求めよ。解答は列に足しているだけなので無視して良いはの凸関数なので Monge monotone minima で時間 SMAWK algorithm で時間 a N × N A A = i,j a + j (i − j)2 A N ≤ 2 × 105 +a j (i − j)2 j − i Θ(N log N) Θ(N) 129

Slide 130

Slide 130 text

演習 monotone minima や SMAWK algorithm を実装して、スペースエクスプローラー高橋君を解いてみましょう 130

Slide 131

Slide 131 text

今度はこの問題について深掘りしてみましょう… Monge 単一始点最短路問題頂点の重み付き有向 DAG があります。頂点から頂点へ ( ) 移動するコストはで、は Monge です。頂点から頂点へ移動する最小コストをそれぞれ求めてください。 N + 1 i j i < j A i,j A 0 1, 2, … , N 131

Slide 132

Slide 132 text

Monge の制約がない場合は、DP で解きますね Monge 単一始点最短路問題普通に集める DP をする dp[0] = 0 dp[i] = dp[j] + A 0≤j

Slide 133

Slide 133 text

Monge 単一始点最短路問題普通に集める DP をするこのままだと列最小値問題になってしまうので、転置します。頂点から頂点へ ( ) 移動するコストは計算量は dp[0] = 0 dp[i] = dp[j] + A 0≤j

Slide 134

Slide 134 text

普通に集める DP をする A = 6 9 13 17 3 7 11 3 7 3 134

Slide 135

Slide 135 text

普通に集める DP をする A = 6 9 13 17 3 7 11 3 7 3 135

Slide 136

Slide 136 text

普通に集める DP をする A = 6 9 13 17 3 7 11 3 7 3 136

Slide 137

Slide 137 text

普通に集める DP をする A = 6 9 13 17 3 7 11 3 7 3 137

Slide 138

Slide 138 text

普通に集める DP をする A = 6 9 13 17 3 7 11 3 7 3 138

Slide 139

Slide 139 text

Monge 単一始点最短路問題とは、辺のコストがのように Monge 行列で与えられたとき、右のような DP をする問題である。集める DP で A = 6 9 13 17 3 7 11 3 7 3 Θ(N ) 2 139

Slide 140

Slide 140 text

さて、遷移行列は Monge なのでした行最小値問題に変換する遷移行列 A = 6 9 13 17 3 7 11 3 7 3 は Monge 140

Slide 141

Slide 141 text

行最小値問題に変換する遷移行列は Monge つの列に何かを足しても Monge 性には影響がないから、列目にを足してみよう A 1 i dp[i] A = dp[0] + 6 dp[0] + 9 dp[0] + 13 dp[0] + 17 dp[1] + 3 dp[1] + 7 dp[1] + 11 dp[2] + 3 dp[2] + 7 dp[3] + 3 141

Slide 142

Slide 142 text

行最小値問題に変換する A = 6 9 13 17 9 12 17 12 16 15 Monge 行最小値問題になったので、 SMAWK algorithm でで解ける！ Θ(N) 142

Slide 143

Slide 143 text

行最小値問題に変換する A = 6 9 13 17 9 12 17 12 16 15 Monge 行最小値問題になったので、SMAWK algorithm でで解ける！を求めるまで列目の値は分からない Θ(N) dp[i] i 143

Slide 144

Slide 144 text

を求めるまで列目の値は分からない A = 6 9 13 17 3 + dp[1] 7 + dp[1] 11 + dp[1] 3 + dp[2] 7 + dp[2] 3 + dp[3] dp[i] i 144

Slide 145

Slide 145 text

を求めるまで列目の値は分からない A = 6 9 13 17 9 13 17 3 + dp[2] 7 + dp[2] 3 + dp[3] dp[i] i 145

Slide 146

Slide 146 text

を求めるまで列目の値は分からない A = 6 9 13 17 9 13 17 12 16 3 + dp[3] dp[i] i 146

Slide 147

Slide 147 text

を求めるまで列目の値は分からない A = 6 9 13 17 9 13 17 12 16 15 dp[i] i 147

Slide 148

Slide 148 text

を求めるまで列目の値は分からない A = 6 9 13 17 9 13 17 12 16 15 dp[i] i 148

Slide 149

Slide 149 text

これを一般化すると… オンライン Monge 行最小値問題の Monge 下三角行列が段階的に与えられる。行目の最小値を求めると、列目が与えられる。 (オンライン) それぞれの行の最小値 (がどこにあるか) を求めよ。 N × N A i i 149

Slide 150

Slide 150 text

これを解くには、こんなアルゴリズムがあります。オンライン・オフライン変換オンライン問題を分割統治してオフライン問題に帰着する典型テク 150

Slide 151

Slide 151 text

オンライン・オフライン変換列目のみが使用できる状態行目の行最小値を求めたい 0 1, 2, 3, 4, 5, 6, 7 151

Slide 152

Slide 152 text

まず、上半分を解きます。オンライン・オフライン変換 1. 上半分を再帰的に解く列目のみが使用できる状態行目の行最小値を求めたいこれは、最初の問題と全く同じです。大きさが小さくなっているので、後の自分に任せます。 0 1, 2, 3 152

Slide 153

Slide 153 text

上行の最小値を求めたので、列使えるようになりました。オンライン・オフライン変換 1. 上半分を再帰的に解く 2. 左半分が使えるようになった 3 3 153

Slide 154

Slide 154 text

オンライン・オフライン変換 1. 上半分を再帰的に解く 2. 左半分が使えるようになった 3. この部分なら SMAWK algorithm が適用できる！ 154

Slide 155

Slide 155 text

オンライン・オフライン変換 1. 上半分を再帰的に解く 2. 左半分が使えるようになった 3. 利用可能な正方形領域に対して SMAWK algorithm を適用左半分での最小値は分かっているので、右半分の最小値を求めればすぐに行全体の最小値がわかる！ 155

Slide 156

Slide 156 text

オンライン・オフライン変換 1. 上半分を再帰的に解く 2. 左半分が使えるようになった 3. 利用可能な正方形領域に対して SMAWK algorithm を適用左半分での最小値は分かっているので、右半分での行最小値を求めればすぐに行全体の最小値がわかる！列目のみが使用できる状態行目の行最小値を求めたいこれは、最初の問題と全く同じ 4 5, 6, 7 156

Slide 157

Slide 157 text

オンライン・オフライン変換 1. 上半分を再帰的に解く 2. 左半分が使えるようになった 3. 利用可能な正方形領域に対して SMAWK algorithm を適用 4. 右半分を再帰的に解く半分の大きさを回解くので、計算量は 2 Θ(N log N) 157

Slide 158

Slide 158 text

にしかならないと思いきや…？ LARSCH algorithm オンライン Monge 行最小値問題は時間で解ける！ On-line dynamic programming with applications to the prediction of RNA secondary structure. Journal of Algorithms, 12(3), pp. 490-515 (1991) 論文の著者 Lawrence L. Larmore Baruch Schieber (論文の著者は人いません) Θ(N log N) Θ(N) 6 158

Slide 159

Slide 159 text

LARSCH algorithm アイデア : SMAWK algorithm を並列化し、利用可能なところから順番に処理していく一旦オンラインであることを忘れてみよう → SMAWK algorithm で解ける 159

Slide 160

Slide 160 text

SMAWK algorithm (復習) 行を半分にして解き、残りの行の最小値を補完する 160

Slide 161

Slide 161 text

SMAWK algorithm (復習) 行を半分にして解き、残りの行の最小値を補完する 161

Slide 162

Slide 162 text

SMAWK algorithm (復習) 行を半分にして解き、残りの行の最小値を補完する 162

Slide 163

Slide 163 text

SMAWK algorithm (復習) 行を半分にして解き、残りの行の最小値を補完する 163

Slide 164

Slide 164 text

並列 SMAWK algorithm 行を半分にして解き、残りの行の最小値を補完するのを並列にやってみよう 164

Slide 165

Slide 165 text

並列 SMAWK algorithm 行目の最小値が分かれば、行目の探索すべき範囲も分かる 2 1 165

Slide 166

Slide 166 text

並列 SMAWK algorithm 行目の最小値が分かれば、行目の探索すべき範囲も分かる 4 3 166

Slide 167

Slide 167 text

並列 SMAWK algorithm 行目の最小値が分かれば、行目の探索すべき範囲も分かる 6 5 167

Slide 168

Slide 168 text

並列 SMAWK algorithm 全部求められた 168

Slide 169

Slide 169 text

オンラインであることを思い出してみよう！行目の最小値が分かれば、行目の探索すべき範囲も分かる 6 5 169

Slide 170

Slide 170 text

オンラインであることを思い出してみよう！ 1. 行目の最小値を求めたい 2. 行目の探索すべき範囲を決めるには、行目と行目の最小値が必要 3. 行目の最小値を求めるには、列目〜列目が利用可能でなければならない 4. 列目を利用可能にするには、行目の最小値が必要 5 5 4 6 6 0 5 5 5 170

Slide 171

Slide 171 text

LARSCH algorithm 賢いアイデア : 各偶数行の右端を、つ上の行に合わせるように削る右 (削った状態の行最小値問題) が解ければ左も解ける。確認してみよう… 1 171

Slide 172

Slide 172 text

LARSCH algorithm 削った状態で行目の最小値がわかったら、行目の最小値がわかる 1 1 172

Slide 173

Slide 173 text

LARSCH algorithm 削った状態で行目の最小値がわかったら、( 回の比較で) 行目の最小値がわかる 2 1 2 173

Slide 174

Slide 174 text

LARSCH algorithm 削った状態で行目の最小値がわかったら、行目の最小値がわかる 3 3 174

Slide 175

Slide 175 text

LARSCH algorithm 削った状態で行目の最小値がわかったら、( 回の比較で) 行目の最小値がわかる 4 1 4 175

Slide 176

Slide 176 text

LARSCH algorithm 右 (削った状態の行最小値問題) が解ければ左も解けるね。 176

Slide 177

Slide 177 text

これで何がうれしいかと言うと… さっきの並列 SMAWK algorithm では… 1. 行目の最小値を求めたい 2. 行目の探索すべき範囲を決めるには、行目と行目の最小値が必要 3. 行目の最小値を求めるには、列目〜列目が利用可能でなければならない 4. 列目を利用可能にするには、行目の最小値が必要 5 5 4 6 6 0 5 5 5 177

Slide 178

Slide 178 text

偶数行の右端を削ると…？ 1. 行目の最小値を求めたい 2. 行目の探索すべき範囲を決めるには、行目と行目の最小値が必要 3. 行目の最小値を求めるには、列目〜列目が利用可能でなければならない → 行目の最小値を先に求められる！ 5 5 4 6 6 0 4 6 178

Slide 179

Slide 179 text

SMAWK algorithm 1. "Reduce" step : 最小値にならない列を捨てる 2. "Recurse" step : 偶数行のみを取り出して再帰的に解く 3. 最小値にならない部分を捨てる 4. "Interpolate" step : 残りの部分の最小値を求める ( 回の比較を行う) M − 1 179

Slide 180

Slide 180 text

LARSCH algorithm 1. "Reduce" step : 最小値にならない列を捨てる 2. 各偶数行の右端を、つ上の行に合わせるように削る 3. "Recurse" step : 偶数行のみを取り出して再帰的に解く 4. 最小値にならない部分を捨てる 5. "Interpolate" step : 残りの部分の最小値を求める (削った部分についても最小になっていないか確認する) 1 180

Slide 181

Slide 181 text

Slide 182

Slide 182 text

"Reduce" step を並列化するどうやって？ 182

Slide 183

Slide 183 text

LARSCH algorithm の適用範囲を拡大するきれいな下三角行列だけではなく、階段行列を全部にする (実際、行を半分にしたらこうなるので) 183

Slide 184

Slide 184 text

階段行列の行最小値を求める列追加して… 1 184

Slide 185

Slide 185 text

階段行列の行最小値を求める列追加して、行最小値を出力 1 185

Slide 186

Slide 186 text

階段行列の行最小値を求める列追加して… 2 186

Slide 187

Slide 187 text

階段行列の行最小値を求める列追加して、行最小値を出力 2 187

Slide 188

Slide 188 text

階段行列の行最小値を求める列追加して… 2 188

Slide 189

Slide 189 text

階段行列の行最小値を求める列追加して、行最小値を出力 2 189

Slide 190

Slide 190 text

階段行列の行最小値を求める列追加して… 2 190

Slide 191

Slide 191 text

階段行列の行最小値を求める列追加して、行最小値を出力 2 191

Slide 192

Slide 192 text

"Reduce" step を並列化する「列を追加してから、行最小値を出力」を繰り返すものと見ると、"Reduce" step も並列化できることがよくわかる実際にやってみよう 192

Slide 193

Slide 193 text

行送られてきた 1 193

Slide 194

Slide 194 text

"Reduce"？ 194

Slide 195

Slide 195 text

行目への要素の追加はこれ以上ないので、列目の採用が確定 1 1 195

Slide 196

Slide 196 text

列目を送って… 1 196

Slide 197

Slide 197 text

列目を送って、行目の最小値を得る 1 1 197

Slide 198

Slide 198 text

行目の最小値を返したら、列送られてきた 1 2 198

Slide 199

Slide 199 text

"Reduce" step を進める向きなので上に伝播 < 199

Slide 200

Slide 200 text

行目への要素の追加はこれ以上ないので、列目の採用が確定 2 2 200

Slide 201

Slide 201 text

列目を送って… 2 201

Slide 202

Slide 202 text

列目を送って、行目の最小値を得る 2 2 202

Slide 203

Slide 203 text

行目の最小値を返したら、列送られてきた 2 2 203

Slide 204

Slide 204 text

"Reduce" step を進める 204

Slide 205

Slide 205 text

"Reduce" step を進める 205

Slide 206

Slide 206 text

"Reduce" step を進める 206

Slide 207

Slide 207 text

行目への要素の追加はこれ以上ないので、列目の採用が確定 3 3 207

Slide 208

Slide 208 text

列目を送って… 3 208

Slide 209

Slide 209 text

列目を送って、行目の最小値を得る 3 3 209

Slide 210

Slide 210 text

行目の最小値を返したら、列送られてきた 3 2 210

Slide 211

Slide 211 text

"Reduce" step を進める 211

Slide 212

Slide 212 text

"Reduce" step を進める最後の行なので向きでも削除が発生 < 212

Slide 213

Slide 213 text

列目の採用が確定 4 213

Slide 214

Slide 214 text

列目を送って… 4 214

Slide 215

Slide 215 text

列目を送って、行目の最小値を得る 4 4 215

Slide 216

Slide 216 text

"Reduce" step を並列化するには… 1. 列が送られてくる 2. "Reduce" step を進める 3. 一番上の行にはこれ以上要素が追加されないから、一番上の行についての "Reduce" step の結果が確定する 4. 採用されることが確定した列を送って行最小値を得る 216

Slide 217

Slide 217 text

実際には "Recurse" step も "Interpolate" step も並列に行う必要があるやってみよう 217

Slide 218

Slide 218 text

復習 : LARSCH algorithm 1. "Reduce" step : 最小値にならない列を捨てる 2. 各偶数行の右端を、つ上の行に合わせるように削る 3. "Recurse" step : 偶数行のみを取り出して再帰的に解く 4. 最小値にならない部分を捨てる 5. "Interpolate" step : 残りの部分の最小値を求める (削った部分についても最小になっていないか確認する) 1 218

Slide 219

Slide 219 text

行送られてきた 1 219

Slide 220

Slide 220 text

行目への要素の追加はこれ以上ないので、列目の採用が確定 1 1 220

Slide 221

Slide 221 text

角を削って偶数行目のみ送るので、ここで列目を送って… 1 221

Slide 222

Slide 222 text

角を削って偶数行目のみ送るので、ここで列目を送って、行最小値を得る。 1 222

Slide 223

Slide 223 text

これで行目の探索範囲が絞れるので、行目の最小値を求める 1 1 223

Slide 224

Slide 224 text

行目の最小値を返したら、列送られてきた 1 2 224

Slide 225

Slide 225 text

"Reduce" step を進める 225

Slide 226

Slide 226 text

行目への要素の追加はこれ以上ないので、列目の採用が確定 2 2 226

Slide 227

Slide 227 text

これまでの最小値と比較して… 227

Slide 228

Slide 228 text

これまでの最小値と比較して、行目の最小値を出力 2 228

Slide 229

Slide 229 text

行目の最小値を返したら、列送られてきた 2 2 229

Slide 230

Slide 230 text

"Reduce" step を進める 230

Slide 231

Slide 231 text

"Reduce" step を進める 231

Slide 232

Slide 232 text

"Reduce" step を進める 232

Slide 233

Slide 233 text

行目への要素の追加はこれ以上ないので、列目の採用が確定 3 3 233

Slide 234

Slide 234 text

ここで列目の偶数行を送って… 2, 3 234

Slide 235

Slide 235 text

ここで列目の偶数行を送って、行最小値を得る 2, 3 235

Slide 236

Slide 236 text

行目の探索範囲が絞れたので… 3 236

Slide 237

Slide 237 text

行目の探索範囲が絞れたので、行目の最小値を求める 3 3 237

Slide 238

Slide 238 text

行目の最小値を返したら、列送られてきた 3 2 238

Slide 239

Slide 239 text

"Reduce" step を進める 239

Slide 240

Slide 240 text

"Reduce" step を進める 240

Slide 241

Slide 241 text

これまでの最小値と比較して… 241

Slide 242

Slide 242 text

これまでの最小値と比較して、行目の最小値を出力 4 242

Slide 243

Slide 243 text

というわけで、LARSCH algorithm ができた LARSCH algorithm 1. "Reduce" step : 最小値にならない列を捨てる 2. 各偶数行の右端を、つ上の行に合わせるように削る 3. "Recurse" step : 偶数行のみを取り出して再帰的に解く 4. 最小値にならない部分を捨てる 5. "Interpolate" step : 残りの部分の最小値を求める (削った部分についても最小になっていないか確認する) これら全てを並列にして、計算できるところから計算すると、できる noshi91 先生の実装 1 243

Slide 244

Slide 244 text

Monge 単一始点最短路問題頂点の重み付き有向 DAG があります。頂点から頂点へ ( ) 移動するコストはで、は Monge です。頂点から頂点へ移動する最小コストをそれぞれ求めてください。 → LARSCH algorithm でで解ける。 N i j i < j A i,j A 1 2, 3, … , N Θ(N) 244

Slide 245

Slide 245 text

Monge の合成 Monge 行列に対し、 C i,j K i,j = A + B k min { i,k k,j} = A + B k arg min { i,k k,j } を計算せよ。最短路で捉えたときのおきもち : 頂点から頂点へ個の辺を通って移動する。と移動するとき、回目の移動のコストがで、回目の移動のコストがである。 A, B i j 2 i → k → j 1 A i,k 2 B k,j 245

Slide 246

Slide 246 text

Monge の合成 (例) A = , B = 17 44 61 49 53 49 40 30 19 37 26 62 25 7 19 39 14 14 このとき、 C = , K = (実演) 246

Slide 247

Slide 247 text

Monge の合成 (例) A = , B = 17 44 61 49 53 49 40 30 19 37 26 62 25 7 19 39 14 14 このとき、 C = , K = 54 79 75 42 49 38 54 44 33 1 2 2 1 3 3 3 3 3 247

Slide 248

Slide 248 text

Monge の合成をつ選び固定すると… Monge 行列に対し、を計算せよ。 → これは Monge 行最小値問題なので、SMAWK algorithm を回で時間 j 1 A, B C = i A + B k min { i,k k } N Θ(N ) 2 248

Slide 249

Slide 249 text

Monge の合成 → これは Monge 行最小値問題なので、SMAWK algorithm を回で時間もっと簡単になるよ！ N Θ(N ) 2 249

Slide 250

Slide 250 text

Monge の合成には、こんな良い性質があります Monge の合成 Monge 行列に対し、で定義される行列は Monge 最小値を取る位置をとしたとき、である A, B C = i,j A + B k min { i,k k,j } C K = i,j A + B k arg min { i,k k,j } K ≤ i,j K , K ≤ i,j+1 i,j K i+1,j 250

Slide 251

Slide 251 text

Monge の合成最小値を取る位置をとしたとき、であるどういうこと？ K = i,j A + B k arg min { i,k k,j } K ≤ i,j K , K ≤ i,j+1 i,j K i+1,j 251

Slide 252

Slide 252 text

Monge の合成区間の右端 or 左端が右にずれる ( の右 or 下に行く) ほど、最小値を取る位置も右にずれる (値が上昇する) K = 1 2 2 1 3 3 3 3 3 区間をずらすとそれにともなって最小値を取る位置もずれる！ K 252

Slide 253

Slide 253 text

Monge の合成に注目 K = ? ここの最小値を調べる : K ≤ i,j K ≤ i,j+1 K i+1,j+1 Θ(N) 253

Slide 254

Slide 254 text

Monge の合成に注目 K = ? 2 ? ここの最小値を調べるの範囲しか調べなくて良いので、 K ≤ i,j K ≤ i,j+1 K i+1,j+1 1 ≤ K ≤ 2,1 2 ≤ K ≤ 3,2 3 Θ(N) 254

Slide 255

Slide 255 text

Monge の合成に注目 K = ? 2 2 ? 3 ? ここの最小値を調べるの範囲しか調べなくて良いので、 K ≤ i,j K ≤ i,j+1 K i+1,j+1 1 ≤ K ≤ 1,1 2 ≤ K ≤ 2,2 3 ≤ K ≤ 3,3 3 Θ(N) 255

Slide 256

Slide 256 text

Monge の合成に注目 K = 1 2 2 ? 3 3 ? 3 ここの最小値を調べる : の範囲しか調べなくて良いので、 K ≤ i,j K ≤ i,j+1 K i+1,j+1 Θ(N) 1 ≤ K ≤ 1,2 3 ≤ K ≤ 2,2 3 Θ(N) 256

Slide 257

Slide 257 text

Monge の合成に注目 K = 1 2 2 1 3 3 ? 3 3 ここの最小値を調べる : の範囲しか調べなくて良いので、 K ≤ i,j K ≤ i,j+1 K i+1,j+1 Θ(N) 1 ≤ K ≤ 1,3 3 Θ(N) 257

Slide 258

Slide 258 text

Monge の合成に注目 K = 1 2 2 1 3 3 3 3 3 斜めに埋めていくと、を回やるので K ≤ i,j K ≤ i,j+1 K i+1,j+1 Θ(N) Θ(N) Θ(N ) 2 258

Slide 259

Slide 259 text

スライド切れ 259

Slide 260

Slide 260 text

問題を解きたい場合 Monge 性が関係する問題リスト – noshi91 のメモ 260

Slide 261

Slide 261 text

Monge 応用編 261

Slide 262

Slide 262 text

noshi 式簡易版 LARSCH algorithm LARSCH algorithm から "Reduce" step を抜いたもの時間かかるが、定数倍が良く、実装も軽い Θ(N log N) 262

Slide 263

Slide 263 text

monotone minima / noshi 式簡易版 LARSCH algorithm のスライドアクセス Mo's algorithm みたいに区間の端をだけ動かす操作が高速にできる場合 ±1 263

Slide 264

Slide 264 text

Monge 辺最短路問題 (全ての ) 頂点の重み付き有向 DAG があります。頂点から頂点へ ( ) 移動するコストはで、は Monge です。 (頂点から頂点へ個の辺を通って移動するときの最小コスト) を計算してください。時間斜めに埋めるテクが使える k k N i j i < j A i,j A dp[k][i] = 1 i k Θ(N ) 2 264

Slide 265

Slide 265 text

Monge 全点間最短路問題時間斜めに埋めるテクが使える Θ(N ) 2 265

Slide 266

Slide 266 text

Monge 区間 DP (Knuth-Yao speedup) の形の DP ただし、は単調 Monge 時間斜めに埋めるテクが使える dp[i][j] = {dp[i][k] + k min dp[k][j]} + A i,j A Θ(N ) 2 266

Slide 267

Slide 267 text

最適二分探索木 Monge 区間 DP で時間になるが、さらにすごい考察をすることで meldable-heap を用いて時間になる Θ(N ) 2 Θ(N log N) 267

Slide 268

Slide 268 text

Monge 辺最短路問題 Monge グラフ上の -辺最短路長を計算するアルゴリズム – Kyopro Encyclopedia of Algorithms Alien DP とか呼ばれているやつ IOI Aliens や JOI 春 2023 Chorus など多数の出題例 (ちょうど辺使うときの最小コスト) が下に凸なので、ラグランジュ緩和ができるラグランジュ緩和すると Monge 最短路問題なので LARSCH algorithm で時間辺の数が個になるようにラグランジュ緩和のを二分探索 k s − t d f(x) = x Θ(N) k λ 268

Slide 269

Slide 269 text

Monge 重み付き二部マッチング貪欲が最適解になるらしい 269

Slide 270

Slide 270 text

anti-Monge の場合の単一始点最短路 anti-Monge : Monge の不等号が逆向き行列を左右反転すれば不等号が Monge の向きになるが、「左上の一部領域が無効値」は Monge ではないオンライン・オフライン変換により無効値でない領域を取り出せば Monge → オンライン・オフライン変換 + SMAWK で実は expected になるらしい Θ(N log N) Θ(N) 270

Slide 271

Slide 271 text

min-plus convolution の応用先 : 重量が小さい品物が何種類かあり、それぞれいくらでも詰められる場合のナップサック Axiotis-Tzamos Knapsack – noshi91/Library 271

Slide 272

Slide 272 text

燃やす埋める問題を 3 種類以上の選択肢に対応させる最小カット問題の k 値への一般化 - noshi91 のメモ 272