bayesian_machine_learning 1

02/26/2020　study group

Transcript

1. 2020/02/26 勉強会
2. 本スライドは勉強したときのメモです 参考文献 ベイズ統計入門 (15) http://watanabe-www.math.dis.titech.ac.jp/users/swatanab/bayes150.pdf Computer Vision: Models, Learning, and Inference http://web4.cs.ucl.ac.uk/staff/s.prince/book/book.pdf https://www.amazon.co.jp/dp/4621061224 https://www.amazon.co.jp/dp/4061538322/ https://www.amazon.co.jp/dp/4339024627/
3. ベイズ学習のメリット ・不確かさを表現することができる ・過学習しにくい ベイズ学習のデメリット ・計算量が多い ・課題にあったモデリングを構築しないといけない An example of using Bayesian optimization 引用　https://arxiv.org/pdf/1012.2599.pdf
4. パラメータ 事前分布 確率モデル 引用 http://watanabe-www.math.dis.titech.ac.jp/users/swatanab/bayes150.pdf データ 確率変数 実現値
5. パラメータ推定方法 事前分布の設定 パラメータの推定 最尤推定 ☓ 点推定 MAP推定 ◦ 点推定 ベイズ推論 ◦ 分布推定
6. 最尤推定 特徴 ・点推定(argmax) ・事前分布を利用しない →はずれ値に影響される、 　DeepLearnigもやっていることは最尤推定 ? 引用　Modeling Emotions Associated With Novelty at Variable Uncertainty Levels: A Bayesian Approach
7. MAP推定 (Maximum a posteriori) 特徴 ・点推定(argmax) ・事前分布を利用する →事前分布により最尤推定よりもはずれ値に影響されづらい 引用　Modeling Emotions Associated With Novelty at Variable Uncertainty Levels: A Bayesian Approach
8. ベイズ推論 特徴 ・分布推定 ・事前分布を利用する →パラメータの分布を推定、点推定よりも計算量が増大 引用　Modeling Emotions Associated With Novelty at Variable Uncertainty Levels: A Bayesian Approach
9. 予測分布 最尤推定、Map推定、ベイズ推定すべて確率モデルと事後分布で予測分布を書ける 最尤推定、Map推定では事後分布を ディラックのデルタ関数で表す デルタ関数 デルタ関数 事後分布