情報マイニング特論 輪講資料「詳細釣り合い条件」

情報マイニング特論 輪講資料「詳細釣り合い条件」

2018年12月7日の情報マイニング特論で発表。

F637b583c221c132af26c91cb3dba0ca?s=128

Yumeto Inaoka

December 08, 2018
Tweet

Transcript

  1. 4.4 詳細釣り合い条件 稲岡 夢人

  2. 前回は・・・   遷移核から定常分布を求めた 実際は・・・   事後分布に従う乱数が欲しい → 事後分布が定常分布になるような遷移核を導く 2

  3. マルコフ連鎖モンテカルロ法 (Markov chain MonteCarlo methods; MCMC) サンプリングしたい分布が定常分布となるような マルコフ連鎖を構成する方法 (遷移核を見つける) サンプリングしたい分布を目標分布という

    今回の目標分布は事後分布(既知) 3
  4. 遷移核の導出において • 遷移核によっては定常分布をもたない • 今回は定常分布を持つような遷移核が欲しい → どのような条件下だと定常分布に収束するか 4

  5. 詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 標本空間の全ての事象の組i, jに関して 式(4.13) が満たされるときマルコフ連鎖は定常分布に収束 ネクタイ問題はこれを満たす 式(4.14) ~ (4.16) 5

  6. 詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 ◦ 詳細釣り合い条件を満たすように遷移核を   選べば必ず定常分布に収束する × 定常分布に収束するような遷移核は必ず 詳細釣り合い条件を満たす 6

  7. 詳細釣り合い条件の意味 両辺を添え字iに関して和を取る 左辺シグマ内の総和は1 7

  8. 詳細釣り合い条件の意味 式(4.11)と見かけ上は同じだが、式(4.11)は 遷移の途中であっても成り立つ恒等式 上式は目標分布   と   が同一の分布 である制約の下で遷移核 に成り立つ条件式 8

  9. 連続型確率変数での詳細釣り合い条件 離散型の場合は全ての事象の組i, jで成立を確認 連続型の場合は任意の2点θ, θ’で成立を確認する 必要がある 9

  10. 詳細釣り合い条件のイメージ f(θ’) : f(θ) = 1:a とすると f(θ|θ’) : f(θ’|θ)=a:1 10 0

    5 0.5 θ θ’ f(θ’|θ) f(θ|θ’) f()
  11. 詳細釣り合い条件 結果としてθに移動してくる確率密度f(θ)は、 11 発射地点θ’からθに飛んでくる確率密度の あらゆる発射地点に関する平均確率密度が θの確率密度となる → f(θ)の大きさに比例してθに飛んでくる

  12. 詳細釣り合い条件 初期状態を中心部から遠くにとっても、 乱数列は中心部へ急速に引き寄せられる 12 0 50 0.5 θ θ’ f(θ’|θ)

    f(θ|θ’) f()