Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Machine Learning 15 min

Asa Shin
March 20, 2017

Machine Learning 15 min

VI or Emacs

Asa Shin

March 20, 2017
Tweet

More Decks by Asa Shin

Other Decks in Science

Transcript

  1. 本日の目標 VAE をわかりやすく説明すること Kingma et. al.(2014) SSL Fig.1(a) より 動画もご覧ください

    ニューラルネットワークへの批判: 何をやっているのか分からない---> 解釈も ニューラルネットワークやらせれば良い
  2. 背景 + + + + 忘却ゲート 入力ゲート ブロックへの入力 セル +

    出力ゲート ピープホール ブロックからの出力 g h ... 入力 ... ... ... ... ... ... ... ... 再帰入力 ... 入力 再帰入力 入力 再帰入力 入力 再帰入力 出力 再帰入力へ 1.0 g c i f y o 浅川の説明が意外と受けが良かったので調子に乗って...
  3. Bayes theorem を所与のデータ,θ を推定すべきパラメータとしたとき, ベイズの定理は以 下で与えられる ところで, 右辺分子 p( |θ)p(θ) = p(

    ,θ) を同時分布, 右辺分母 p( ) = ∫p( | θ)p(θ)dθ を エビデンスまたは証拠と申しました。すなわち以下のように書き換える ことができます。 データ解析の分野ではデータが与えられたときにパラメータを推 定することになりますが, 生成モデル と考えた時には上記のベイズの定理を ひっ くり返すことができます。 本来は,というはもともとこのようにしてデータは作られたわけですから,そ れほど無理のない仮定です。
  4. 文献 Kingma and Welling (2013) Auto-Encoding Variational Bayes, arXiv:1312.6114 Kingma

    et. al, (2014) Semi-supervised Learning with Deep Generative Models, arXiv:1406.5298