$30 off During Our Annual Pro Sale. View Details »

情報マイニング特論 輪講資料「詳細釣り合い条件」

Yumeto Inaoka
December 08, 2018

情報マイニング特論 輪講資料「詳細釣り合い条件」

2018年12月7日の情報マイニング特論で発表。

Yumeto Inaoka

December 08, 2018
Tweet

More Decks by Yumeto Inaoka

Other Decks in Technology

Transcript

  1. 4.4 詳細釣り合い条件
    稲岡 夢人

    View Slide

  2. 前回は・・・
      遷移核から定常分布を求めた
    実際は・・・
      事後分布に従う乱数が欲しい
    → 事後分布が定常分布になるような遷移核を導く
    2

    View Slide

  3. マルコフ連鎖モンテカルロ法
    (Markov chain MonteCarlo methods; MCMC)
    サンプリングしたい分布が定常分布となるような
    マルコフ連鎖を構成する方法
    (遷移核を見つける)
    サンプリングしたい分布を目標分布という
    今回の目標分布は事後分布(既知)
    3

    View Slide

  4. 遷移核の導出において
    ● 遷移核によっては定常分布をもたない
    ● 今回は定常分布を持つような遷移核が欲しい
    → どのような条件下だと定常分布に収束するか
    4

    View Slide

  5. 詳細釣り合い条件
    マルコフ連鎖が定常分布に収束する十分条件
    標本空間の全ての事象の組i, jに関して 式(4.13)
    が満たされるときマルコフ連鎖は定常分布に収束
    ネクタイ問題はこれを満たす 式(4.14) ~ (4.16)
    5

    View Slide

  6. 詳細釣り合い条件
    マルコフ連鎖が定常分布に収束する十分条件
    ○ 詳細釣り合い条件を満たすように遷移核を
      選べば必ず定常分布に収束する
    × 定常分布に収束するような遷移核は必ず
    詳細釣り合い条件を満たす
    6

    View Slide

  7. 詳細釣り合い条件の意味
    両辺を添え字iに関して和を取る
    左辺シグマ内の総和は1
    7

    View Slide

  8. 詳細釣り合い条件の意味
    式(4.11)と見かけ上は同じだが、式(4.11)は
    遷移の途中であっても成り立つ恒等式
    上式は目標分布   と   が同一の分布
    である制約の下で遷移核
    に成り立つ条件式
    8

    View Slide

  9. 連続型確率変数での詳細釣り合い条件
    離散型の場合は全ての事象の組i, jで成立を確認
    連続型の場合は任意の2点θ, θ’で成立を確認する
    必要がある
    9

    View Slide

  10. 詳細釣り合い条件のイメージ
    f(θ’) : f(θ) = 1:a とすると f(θ|θ’) : f(θ’|θ)=a:1
    10
    0 5
    0.5
    θ θ’
    f(θ’|θ)
    f(θ|θ’)
    f()

    View Slide

  11. 詳細釣り合い条件
    結果としてθに移動してくる確率密度f(θ)は、
    11
    発射地点θ’からθに飛んでくる確率密度の
    あらゆる発射地点に関する平均確率密度が
    θの確率密度となる
    → f(θ)の大きさに比例してθに飛んでくる

    View Slide

  12. 詳細釣り合い条件
    初期状態を中心部から遠くにとっても、
    乱数列は中心部へ急速に引き寄せられる
    12
    0 50
    0.5
    θ θ’
    f(θ’|θ)
    f(θ|θ’)
    f()

    View Slide