sort conference - Speaker Deck

Slide 1

Slide 1 text

No content

Slide 2

Slide 2 text

「やぁ」「やぁ。僕は配列くん。ランダムアクセスができるよ。」「どうも。私は比較演算子くん。2つの値の大小を教えてあげます。」配「たまたま、人類の身体測定に居合わせた僕たちは、彼らの身長をソートすることになったんだ。」比「ソートは私達の得意分野だったのですぐに出来ました。」

Slide 3

Slide 3 text

「やぁ」「ウッス。オイラはヒープソート。配列くんを使ってヒープっつう木構造を使うテクニックを利用した最悪計算量O(N log N)のソートっす。」「こんにちは。アタシはマージソート。ヒープソートくんと一緒で最悪計算量はO(NlogN)だよ。Inplace はちょっと大変かもね。」

Slide 4

Slide 4 text

比「ヒープソートくんやマージソートちゃんは私と配列くんによるソートの最悪計算量の上界を与えてくれます。だから今回の身体測定でも彼らに活躍してもらおうと思ったんです。」配「だけど、そこには我々の知らないソートの世界があったんだ。」マ「なんと平均計算量O(N)のソートがいたの。」

Slide 5

Slide 5 text

新たな敵現る ???「ククク。君たちは私よりも一般的な世界で生きてきたようだな。だが、私達には実践に際して、特殊なケースに対して特化して振る舞うのだよ。」ヒ「お、お前は！？カウントソート！？」カ「そのとおり。人類の身長にInt型は広すぎる。配列くんにも別の生き方があるんだよ。」

Slide 6

Slide 6 text

カウントソートくん配「カウンソートさんはキー値の種類が少なく範囲が狭い時にO(N)のソートだよ。カウントソートさんの前では私はキー値を管理するんじゃなくてキー値がいくつあるかを管理するんだ。」カ「そう。あとは、小さい順番にそれぞれ足し合わせるだけ。範囲がO(N)なら計算量もO(N)だ。」

Slide 7

Slide 7 text

マ「だけどアタシは、彼に言ってやったのよ。　　『人類の身長はIntには狭いけどDoubleでな　　　　　いと管理できないわ。』」ヒ「そしたらまた別のやつが現れたんだ。」 ???「待ちたまえ、君たち！」配「君は！？基数ソート」基「その名前はダサいからラディックスソートと呼ん　　でくれたまえ。」

Slide 8

Slide 8 text

ラディックスソートくんラ「人類の身長を測るのは難しいぞ。なにせ一日で 1cm単位で身長がずれ得るんだ。だから人類は　　有効数字という概念を生み出した。私は有効数　　字の桁数を定数とみなせばO(N)で動く！カウン　　トソート君との合作だ！」カ「私だけでは離散的な値のソートはできなかっ　　　　た。しかし、ラディックスソート様はそれを桁ごと　　に分けてやるという発想を与えてくれた。私も離　　散だけの世界から連続の世界に移ることができ　　たのだ。彼には感謝している・・・」

Slide 9

Slide 9 text

だがしかし！ヒ「あの～。たしかにラディックスさんは強いんスけ　　ど～、有効数字っていうのはなんかずるくないッ　　スか？」配「そうだ！そうだ！人類はノギスとかマイクロメー　　ターで身長を測るんだぞ！有効数字なんていく　　らでも大きくなるんだ！」ラ「なんだってー」

Slide 10

Slide 10 text

??? ???「諦めるな君たち！」

Slide 11

Slide 11 text

挑戦者現るラ「そ、その声は・・・　バケツソート！？」バ「左様。我輩はバケツソート。キー値が一定の範　　囲に一様分布する場合ならば平均計算量O(N) でソートすることができる。有効数字なんて屁でもないわ！」

Slide 12

Slide 12 text

バケツソートくん比「バケツソートは簡単な発想と挿入ソート君を活　　　用したソートです。キー値が現れる範囲をN等　　　分して、それぞれの範囲に対応する配列くんを　　管理します。あとは順番にそこに挿入ソートす　　　る。最悪計算量はO(N^2)ですが、キー値が一　　　様分布すればすごく速く動く。数学を味方につけ　　たソートです。」

Slide 13

Slide 13 text

期待値の線形性くん期待値の線形性くん「　　ふふふ。僕がいるかぎりは、一様分布なキー値に　　対してはバケツソート様が高速に動くぜ！」マ「待って！人類の身長は一様分布しないわ！このま　　までは期待値の線形性くんが言った条件に合わな　　い！」バ「な、なに！？」 ???「そろそろ私の出番のようだな・・」「「!?」」

Slide 14

Slide 14 text

中心極限定理くん配「お、お前は！中心極限定理くん！」中「期待値の線形性くん、バケツソートくん。君たち　　は君たちの平均計算量を出す過程を忘れた　　　　か。一様分布でうまくいく理由は、各区間に入る　　キー値の個数の期待値が同じことだった。つ　　　　まり、N等分するところを別の区切り方にすれば　　いい。」

Slide 15

Slide 15 text

ついにラスボス登場配「つ、つまり、70億人いる人類の身長の分布は、　　なんらかの正規分布に近似可能だということ　　　　か！？」中「左様。しかし、私だけでは、近似可能であること　　しか示せない。どんな分布に近似するかは彼に　　登場してもらおう。」比「一体誰だというのです!?」 ???「ｺﾞｺﾞｺﾞｺﾞｺﾞｺﾞ」

Slide 16

Slide 16 text

大数の法則大数の法則「こんにちは、みなさん。なにやら賑や　　かですね。」比「そうか！標本の分布や平均から、母集団の標　　　準偏差と平均を計算するのか！」大「そのとおり！皆さん勤勉ですねぇ。私を活用す　　れば、分布もうまく計算できるでしょう。がんばっ　　てくださいね。ヒマじゃないんで帰りますよ。」

Slide 17

Slide 17 text

みんなちがって　みんないいこうして人類の身長はうまくおおよそO(N)でソートされましたとさ。おしまい。いろんなアルゴリズムがあるけれど、いろんな数学の定理があるけれど、みんなちがってみんないい --完--

Slide 18

Slide 18 text

解説Phase

Slide 19

Slide 19 text

登場人物 ● 配列くん ● 比較演算子くん

Slide 20

Slide 20 text

登場人物 ● 配列くん ● 比較演算子くん ● ヒープソートくん ● マージソートくん

Slide 21

Slide 21 text

登場人物 ● 配列くん ● 比較演算子くん ● ヒープソートくん ● マージソートくん ● カウントソートくん ● ラディックスソートくん ● バケツソートくん

Slide 22

Slide 22 text

登場人物 ● 配列くん ● 比較演算子くん ● ヒープソートくん ● マージソートくん ● カウントソートくん ● ラディックスソートくん ● バケツソートくん ● 期待値の線形性くん ● 中心極限定理くん ● 大数の法則くん

Slide 23

Slide 23 text

登場人物 ● 配列くん ● 比較演算子くん ● ヒープソートくん ● マージソートくん ● カウントソートくん ● ラディックスソートくん ● バケツソートくん ● 期待値の線形性くん ● 中心極限定理くん ● 大数の法則くん ● 金子みすゞ

Slide 24

Slide 24 text

配列くん ● 入力などをたくさん保存する人です ● ランダムアクセスができます – どの添字にも一瞬でアクセスできる – 線形リストでは無理だね ● int array[108]; ● array[10] = 10;//O(1)

Slide 25

Slide 25 text

比較演算子くん ● 大小比較する人です ● こいつがいないとソートは始まらない

Slide 26

Slide 26 text

Comparison sort ● 配列と比較演算子だけを使うソートを Comparison sort といいます ● ヒープソートとマージソートはComparison sortです

Slide 27

Slide 27 text

挿入ソートくん ● 入力順に配列に要素を追加していく ● 配列内の値が昇順になるように、適当な場所に挿入する ● 配列は挿入ができないので、いちいちずらさないといけない ● 降順に入力されたら、入力ごとに全部ずらさないといけないのでO(N^2)

Slide 28

Slide 28 text

ヒープソートくん ● ヒープという木をつくる ● 配列上でうまく木を表現して頑張る ● ちょっとむずかしい概念 ● 計算量はO(NlogN)

Slide 29

Slide 29 text

マージソートくん ● 配列を半分にわけて、それぞれで小さいヒープソートをして、あとで合成する – 合成は、２つのソート済みの配列のうち小さい方を順番に取っていくだけ – O(N) ● 半々に分けていくとlog(N)かい分けることになる ● よって全体の計算量はO(NlogN)

Slide 30

Slide 30 text

Comparison sortの上界 ● 実はComparison sortはどうがんばっても O(NlogN)かかることがしられている ● しかし、今回の『ソート会議』ではO(N)のソートがたくさん出てきました ● その謎にせまる

Slide 31

Slide 31 text

カウントソート ● 本名 counting sort ● 日本名バケツソート (すごく紛らわしい) ● 与えられる値の種類が少なく、範囲も狭く、整数であるときに使える ● それぞれいくつあるか数えるだけ ● 正の字システム ● どう考えてもO(N)

Slide 32

Slide 32 text

カウントソート ● 3 1 4 1 5 9 2 ● 1が2つ ● 2が1つ ● 3が1つ ● 4が1つ ● 5が1つ ● 6が0つ ● 7が0つ ● 8が0つ ● 9が1つ ● よって合わせたら ● 1 1 2 3 4 5 9

Slide 33

Slide 33 text

ラディックスソート ● 本名 radiz sort ● 日本名基数ソート (すごくダサい) ● 与えられる値を桁ごとに小さい位からカウントソートをする。桁数が定数ならばO(N)になる

Slide 34

Slide 34 text

ラディックスソート ● 13 24 81 92 5 12 ● 1の位でカウントソート ● 81 92 12 13 24 5 ● 10の位でカウントソート ● 05 12 13 24 81 92 ● 結果 ● 5 12 13 24 81 92 ● やったぜ

Slide 35

Slide 35 text

バケツソート ● 本名 bucket sort ● 日本名 (ない)　一部直訳文献では「バケツソート」 ● 値が一様に分布するとき、計算量の期待値が O(N)になる。 ● 値の範囲をN等分してそれぞれの範囲に入るものでグループ分け。グループ内では挿入ソートなどをする。最後に合成。

Slide 36

Slide 36 text

バケツソート ● 72 66 24 4 12 93 61 39 52 23 ● 0~99の範囲で一様分布という前提 ● N=10なので10等分 ● わける ● [4] [12] [24 23] [39] [] [52] [66 61] [72] [] [93] ● グループごとにソート ● [4] [12] [23 24] [39] [] [52] [61 66] [72] [] [93] ● 結果 ● 4 12 23 24 39 52 61 66 72 93

Slide 37

Slide 37 text

平均計算量の証明 ● グループiに入る要素数をn[i] ● p[i][j]はグループiにj番目の要素が入るかどうか (1 or 0) ● 総計算量はn[i]^2の総和 ● p[i][j]はiを固定すると独立。期待値は1/N ● よって総計算量の期待値はE[Σ(Σp[i][j])^2] ● Kind of 計算頑張ってください ● Σ(1 + 1/n)とかになる ● O(N) ● やったぜ

Slide 38

Slide 38 text

さっきの計算のミソ ● 分けたグループに要素が入る確率はグループによらず等しい ● 一様分布じゃなくても、どんな分布になるか知っていればうまくグループの範囲を指定してやればいい

Slide 39

Slide 39 text

中心極限定理くん ● あらゆる分布はたくさん試行すると、なんらかの正規分布に近づいていく　という定理 ● ようするに、規模がでかいと分布の輪郭がなんとなく決まるということ

Slide 40

Slide 40 text

中心極限定理くん　大数の法則くん ● でっかいデータの中から幾つかを無作為に選び出して、それの性質を見ることで元のデータの性質を予測する。　このとき誤差は正規分布に近づき、しかもたくさんやれば正確に予測できる。みたいな定理、法則 ● ようは70億人のうち1万にくらいを選んで分布を調べる　ということをたくさんすると元の分布も小さい誤差で予測できる ● これでバケツソートが応用できる

Slide 41

Slide 41 text

金子みすゞみんなちがってみんないい