Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Progressive Growing of GANs for Improved Quality, Stability, and Variation

2770ae74da88f39bd2821538feb393a7?s=47 kiyo
August 08, 2019

Progressive Growing of GANs for Improved Quality, Stability, and Variation

PGGANについての説明資料です。8月8日に内輪の勉強会に使用しました。

2770ae74da88f39bd2821538feb393a7?s=128

kiyo

August 08, 2019
Tweet

More Decks by kiyo

Other Decks in Technology

Transcript

  1. Progressive Growing of GANs for Improved Quality, Stability, and Variation

  2. 自己紹介 Twitter : @hrs1985 https://qiita.com/hrs1985 機械学習エンジニアをしています。最近転職して 7月から東京で働いてます。 前々職では実験生物学やってました。 • 深層生成モデル

    • 強化学習 • 画像処理 に興味があります。最近はグラフも面白そうだなと思っています。 2
  3. 論文の概要 ▪ GAN の学習安定化のための Progressive Growing を提案 ▪ その他の工夫 (Equalized

    Learning Rate, Pixelwise Normalization) を提案 3 3
  4. Progressive Growing 学習が不安定になる一因は生成するデータが高次元すぎること →低次元のデータから徐々に学習を進める 4

  5. Progressive Growing 新しいレイヤーを加える時、新しいレイヤーの出力/入力と その直前のレイヤーの出力/入力を α : 1 - α で足して用いる。

    5
  6. Progressive Growing を実装したいとき (Pytorch) 6 4x4 8x8 16x16 32x32 Upsampling

    block 4x4 8x8 16x16 32x32 noise 4x4 image To RGB block
  7. Progressive Growing を実装したいとき (Pytorch) 7 4x4 8x8 16x16 32x32 Upsampling

    block 4x4 8x8 16x16 32x32 To RGB block noise 8x8 image
  8. Progressive Growing を実装したいとき (Pytorch) 8 4x4 8x8 16x16 32x32 Upsampling

    block 4x4 8x8 16x16 32x32 To RGB block noise 16x16 image
  9. Progressive Growing を実装したいとき (Pytorch) 9 4x4 8x8 16x16 32x32 Upsampling

    block 4x4 8x8 16x16 32x32 To RGB block noise 32x32 image
  10. その他の工夫 Pixelwise Normalization 各ピクセルをチャンネル方向の 2-ノルムで割る Generator 側でのみ用いている Equalized Learning Rate

    各レイヤーの weight をチャンネル数で正規化して使う 出力 (と誤差の逆伝搬) のダイナミックレンジがチャンネル数に対して変動しにくくなる 10 Minibatch Discrimination ミニバッチ内の標準偏差を Discriminator に与える
  11. Ablation study 11

  12. 顔画像の生成 12

  13. やってみた 13 ちゃんとした比較はできてないけど、卵以外の具材の破綻が少なそう?