11 / 77 KYOTO UNIVERSITY KL ダイバージェンスは要素ごとの項の和 KL ダイバージェンスとの比較を通して最適輸送の利点を確認する 離散分布は n 次元のベクトル p で表現できる p i は i 番目の要素の確率値 KL ダイバージェンス: 要素ごとに独立に項を足し合わせているのがポイント
38 / 77 KYOTO UNIVERSITY 双対問題の目的関数の勾配は f 内 g 内で絡みなし 双対問題の目的関数を D をおく D の f と g についての勾配は以下の通り f i の勾配の中に f k (k ≠ i), g j の勾配の中に g k (k ≠ j) は 出てこない（絡みなし）
39 / 77 KYOTO UNIVERSITY f ごと、g ごとに最適値が厳密に求まる シンクホーンアルゴリズムの基本的な考えは座標向上法 f を固定したときの g の最適値は勾配イコールゼロとおいて g を固定したときの f の最適値も同様に シンクホーンアルゴリズムは f 固定での g の厳密最適化 → g 固定での f の厳密最適化を交互に繰り返す
44 / 77 KYOTO UNIVERSITY シンクホーン変数から元の変数への戻し方 シンクホーンにより (u, v) が求まると、変数変換の式より元の 双対変数は 主問題の変数は双対最適解と主最適解の対応関係より f, g が完璧に収束しない限り、求めた P ij は厳密には実行可能とは 限らないことに注意（実用上は多少の誤差は問題ないことも多い） この P ij から違反分をいい感じに分配して実行可能解を計算する アルゴリズムも提案されている [Altschuler+ 2017] Jason Altschuler, Jonathan Weed, Philippe Rigollet. Near-linear time approximation algorithms for optimal transport via Sinkhorn iteration. NeurIPS 2017.
52 / 77 KYOTO UNIVERSITY 1-ワッサースタインのときには 1 つの関数の最適化に 命題: コスト関数 C が距離関数のとき（1-ワッサースタイン）、 最適解において f = g 証明は下記文献など参照 以降 1-ワッサースタインのみを考える。これにより変数 g を削除できる 連続関数 f を最適化する問題 最適輸送の解き方 https://www.slideshare.net/joisino/ss-249394573
61 / 77 KYOTO UNIVERSITY ニューラルネットワークの定式化は GAN に用いられる f をニューラルネットワークで表すと f(x) は x について微分可能 → 最適輸送コストを下げるには x をどう動かせばよいかが分かる ニューラルネットワークによる定式化は GAN（生成モデル）の 訓練によく用いられる: Wasserstein GAN 自然サンプルの集合を X ⊂ Rd とする。例えば画像の集合 GAN により、X に似たサンプル集合を生成したい GAN により生成したサンプルの集合を Y ⊂ Rd とし、X と Y の距離を 最適輸送コストで測る これを最小化するように GAN を訓練する
62 / 77 KYOTO UNIVERSITY ニューラルネットワークの推定は大規模データと相性よし 典型的な X は非常に大きい（数百万枚の画像など） 生成モデルの生成結果 Y の候補は無限にある シンクホーンアルゴリズムでは全ての対を一度に解かなければ ならず、非常に大きいデータには適していない 「分類器」 f を分類するという考え方に立てば、 X と Y から一部のデータをミニバッチとして取り出し f を徐々に 訓練していけばよい → ニューラルネットワークによる推定は大規模（or 無限）のデータ について解くのと相性がよい
63 / 77 KYOTO UNIVERSITY Wasserstein GAN: 生成モデル と f の交互訓練 1. 生成モデル G: Rr → Rd をランダムに初期化 これはノイズ z ∈ Rr を受け取り画像 G(z) ∈ Rd を返す 最適輸送問題を解くニューラルネットワーク f をランダムに初期化 2. G を使って画像 Y = {G(z 1 ), G(z 2 ), ..., G(z m )} を生成 3. f が X と Y を分類できるようにミニバッチで訓練して X と Y の（ミニバッチの）最適輸送コストを計算 4. f を使った最適輸送コストが小さくなるように G をアップデート 5. 2 へ戻る。このとき Y は変化するが f を一から訓練するのではなく、 少し G が変わったくらいでは最適な f もほぼ同じなので 以前のパラメータから訓練をスタートする（ウォームスタート）
64 / 77 KYOTO UNIVERSITY 深層畳み込みネットワークを使うことでリアルな画像生成 Wasserstein GAN の論文や後続の論文では G や f として 深層畳み込みニューラルネットワークを使う 上は X を顔写真集合として訓練したてできた生成画像 非常にリアルな顔写真が生成できている 上の画像は段階的学習など別のテクニックも駆使して訓練されている Tero Karras, Timo Aila, Samuli Laine, Jaakko Lehtinen. Progressive Growing of GANs for Improved Quality, Stability, and Variation. ICLR 2018.
73 / 77 KYOTO UNIVERSITY さらに勉強したい方におすすめの本 最適輸送全般についてもっと詳しく知りたい方は: Gabriel Peyré and Macro Cuturi. Computational Optimal Transport with Applications to Data Science. arXiv で電子版が公開されています https://arxiv.org/abs/1803.00567
76 / 77 KYOTO UNIVERSITY 参考文献一覧 Jason Altschuler, Jonathan Weed, Philippe Rigollet. Near-linear time approximation algorithms for optimal transport via Sinkhorn iteration. NeurIPS 2017. Martin Arjovsky, Soumith Chintala, Léon Bottou. Wasserstein GAN. ICML 2017. Charlie Frogner, Chiyuan Zhang, Hossein Mobahi, Mauricio Araya-Polo, Tomaso A. Poggio. Learning with a Wasserstein Loss. NIPS 2015. Ishaan Gulrajani, Faruk Ahmed, Martín Arjovsky, Vincent Dumoulin, Aaron C. Courville.. Improved Training of Wasserstein GANs. NeurIPS 2017. Tero Karras, Timo Aila, Samuli Laine, Jaakko Lehtinen. Progressive Growing of GANs for Improved Quality, Stability, and Variation. ICLR 2018.
77 / 77 KYOTO UNIVERSITY 参考文献一覧 Xiaofeng Liu, Yuzhuo Han, Song Bai, Yi Ge, Tianxing Wang, Xu Han, Site Li, Jane You, Jun Lu. Importance-Aware Semantic Segmentation in Self-Driving with Discrete Wasserstein Training. AAAI 2020. Luca Oneto, Michele Donini, Giulia Luise, Carlo Ciliberto, Andreas Maurer, Massimiliano Pontil. Exploiting MMD and Sinkhorn Divergences for Fair and Transferable Representation Learning. NeurIPS 2020. Gabriel Peyré. Optimal Transport in Imaging Sciences. 2012. https://www.slideshare.net/gpeyre/optimal-transport-in-imaging- sciences Gabriel Peyré, Marco Cuturi. Computational Optimal Transport. 2019. 佐藤竜馬. 最適輸送の解き方. https://www.slideshare.net/joisino/ss- 249394573
joisino
.png){kind=avatar}
academix
damberg
ishiijunpei
ssii
fixstars
s1ok69oo
lcolladotor
cardososampaio
ae14watanabe
jhellerstein
zakiyama
aarron
brad_frost
searls
sachag
orderedlist
chriscoyier
destraynor
speakerdeck
hursman
bryan
malarkey