情報マイニング特論 輪講資料「詳細釣り合い条件」

2018年12月7日の情報マイニング特論で発表。

Transcript

1. 4.4 詳細釣り合い条件
   稲岡 夢人
   

   View Slide

2. 前回は・・・
   　 遷移核から定常分布を求めた
   実際は・・・
   　 事後分布に従う乱数が欲しい
   → 事後分布が定常分布になるような遷移核を導く
   2
   

   View Slide

3. マルコフ連鎖モンテカルロ法
   (Markov chain MonteCarlo methods; MCMC)
   サンプリングしたい分布が定常分布となるような
   マルコフ連鎖を構成する方法
   （遷移核を見つける）
   サンプリングしたい分布を目標分布という
   今回の目標分布は事後分布(既知)
   3
   

   View Slide

4. 遷移核の導出において
   ● 遷移核によっては定常分布をもたない
   ● 今回は定常分布を持つような遷移核が欲しい
   → どのような条件下だと定常分布に収束するか
   4
   

   View Slide

5. 詳細釣り合い条件
   マルコフ連鎖が定常分布に収束する十分条件
   標本空間の全ての事象の組i, jに関して 式(4.13)
   が満たされるときマルコフ連鎖は定常分布に収束
   ネクタイ問題はこれを満たす　式(4.14) ~ (4.16)
   5
   

   View Slide

6. 詳細釣り合い条件
   マルコフ連鎖が定常分布に収束する十分条件
   ○ 詳細釣り合い条件を満たすように遷移核を
   　 選べば必ず定常分布に収束する
   × 定常分布に収束するような遷移核は必ず
   詳細釣り合い条件を満たす
   6
   

   View Slide

7. 詳細釣り合い条件の意味
   両辺を添え字iに関して和を取る
   左辺シグマ内の総和は1
   7
   

   View Slide

8. 詳細釣り合い条件の意味
   式(4.11)と見かけ上は同じだが、式(4.11)は
   遷移の途中であっても成り立つ恒等式
   上式は目標分布　　　と　　　が同一の分布
   である制約の下で遷移核
   に成り立つ条件式
   8
   

   View Slide

9. 連続型確率変数での詳細釣り合い条件
   離散型の場合は全ての事象の組i, jで成立を確認
   連続型の場合は任意の2点θ, θ’で成立を確認する
   必要がある
   9
   

   View Slide

10. 詳細釣り合い条件のイメージ
    f(θ’) : f(θ) = 1:a　とすると　f(θ|θ’) : f(θ’|θ)=a:1
    10
    0 5
    0.5
    θ θ’
    f(θ’|θ)
    f(θ|θ’)
    f()
    

    View Slide

11. 詳細釣り合い条件
    結果としてθに移動してくる確率密度f(θ)は、
    11
    発射地点θ’からθに飛んでくる確率密度の
    あらゆる発射地点に関する平均確率密度が
    θの確率密度となる
    → f(θ)の大きさに比例してθに飛んでくる
    

    View Slide

12. 詳細釣り合い条件
    初期状態を中心部から遠くにとっても、
    乱数列は中心部へ急速に引き寄せられる
    12
    0 50
    0.5
    θ θ’
    f(θ’|θ)
    f(θ|θ’)
    f()
    

    View Slide