MCMCのR-hatは分散分析である

Transcript

1. MCMCのR-hatは 分散分析である 森翔汰@moricup
2. Introduction • MCMCのR-hatを知っている人は、これが大きいと 結果の再現性が低いと言えることをご存じでしょう。 • しかし、なぜ再現性が低いと言えるか知る人は少ない印象です。 • 今夜、これを数式で解き明かします！
3. MCMCとは データの分布を 事前分布を初期分布とする マルコフ鎖(MC)を用いた モンテカルロ法(MC)に基づく 事後分布によって当てはめ することである 決め打ちの事前分布は 左に寄っているが
4. MCMCとは データの分布を 事前分布を初期分布とする マルコフ鎖(MC)を用いた モンテカルロ法(MC)に基づく 事後分布によって当てはめ することである 決め打ちの事前分布は 左に寄っているが データに合わせた 右寄りの事後分布で 当てはまった
5. MCMCの再現性が低い例 データの分布は二山 事前分布も二山に設定
6. MCMCの再現性が低い例 データの分布は二山 事前分布も二山に設定 マルコフ鎖ごとに結果がバラつく
7. 分布のお気持ち データの分布は二山 どっちの山に fitしようかな 右の気分 いや、左かも やっぱり 右で
8. MCMCの再現性を検証したい • 各マルコフ鎖の事後分布の差が 大きいかを確認したい • 各群の差を確認したいようなもの • まるで分散分析 • 実際の統計モデルは複雑 • 可視化には限度がある • そこで R-hat による定量評価 • ベイズ推論ライブラリにも実装されている
9. R-hatの定義 • 𝑛: マルコフ鎖あたりのサンプル数 • 𝐵: マルコフ鎖間分散(Between) • 𝑊: マルコフ鎖内分散(Within) ෠ 𝑅 = 𝑛 − 1 𝑛 𝑊 + 1 𝑛 𝐵 𝑊
10. R-hatの解釈 ෠ 𝑅 = 𝑛 − 1 𝑛 𝑊 + 1 𝑛 𝐵 𝑊 = 𝑛 − 1 𝑛 + 1 𝑛 𝐵 𝑊
11. R-hatの解釈 ෠ 𝑅 = 𝑛 − 1 𝑛 𝑊 + 1 𝑛 𝐵 𝑊 = 𝑛 − 1 𝑛 + 1 𝑛 𝐵 𝑊 𝐵 𝑊 = マルコフ鎖間分散 マルコフ鎖内分散 ≈ 群間変動 群内変動 = 𝐹値 つまり、 ෠ 𝑅が大きいことと、𝐹値が大きいことは同じ！ 分散分析
12. まとめ • 分散分析ではF値が大きいと、群に優意差有りと考える • 同じようにMCMCではR-hatが大きいと、 マルコフ鎖に有意差有りと考えられる →結果の再現性を検証できそう！ ෠ 𝑅 = 1.0 再現性有るかな？ ෠ 𝑅 = 42.2 再現性低いと言える！
13. まとめ • 分散分析ではF値が大きいと、群に優意差有りと考える • 同じようにMCMCではR-hatが大きいと、 マルコフ鎖に有意差有りと考えられる →結果の再現性を検証できそう！ ෠ 𝑅 = 1.0 再現性有るかな？ ෠ 𝑅 = 42.2 再現性低いと言える！ MCMCのR-hatは、やっぱり分散分析だ！