al. , 2017; Du & Mordatch, 2019)の有用性: • 画像生成(Song & Ermon, 2019; 2020; Ho et al. , 2020). • 音声(Chen et al. , 2020; Kong et al. , 2020). • グラフ(Niu et al. , 2020). • Shapes(Cai et al. 2020)? n 新しいサンプリング手法を可能にし、スコアベースの生成モデルの能力をさらに拡張するために, 確率微分方程式(SDE)のレンズを通して,これまでの手法を一般化する統一的な枠組みを提案. 9
II. 同じアーキテクチャを用いて,式(7)の連続目的を有する別のDDPMモデルを訓練. III. sub VP SDEを用いると,VP SDEに比べて常に高い尤度が得られる. IV. 改良されたアーキテクチャ(DDPM++)とsub VP SDEにより, 最尤訓練なしでもCIFAR-10のbits/dimの新記録 2.99を打ち立てることができる. 53
n スコアベースの生成モデルの安定した学習と,GANのような暗黙的モデルの高速なサンプリン グを組み合わせる方法を特定することは,依然として重要な研究の方向性. n さらに,スコア関数へのアクセスが与えられたときに使用できるサンプラーの幅は,多くのハイ パーパラメータを導入する. n 将来的には,これらのハイパーパラメータを自動的に選択・調整する方法を改善し,様々なサン プラーの利点と限界についてより広範に調査することが有益. 72