ベイズ主義について

Transcript

1. 統計的推論を解剖する 後出し解釈を排す頻度論 と独断を排すベイズ主義 2026年1月7日 （修正:2026年5月26日） 干畑 弘渡
2. 確率の定義（コルモゴロフの公理） 1. .標本空間 Ω = 𝜔 ⊂ 𝑈 𝑤 = 3 : 𝑈から互いに異なる3玉を取り出す 2. 事象空間𝐹 = 𝜎 𝐴0 , 𝐴1 , 𝐴2 , 𝐴3 = 𝐸𝐾 = 𝐴𝑘 𝑘∈𝐾 𝐾 ⊆ 𝐴𝐿𝐿 = 0,1,2,3 : 標本の緑玉の個数に関する命題全てを要素 とする集合を定義。ここで、 ∃k ∈ 𝐴𝐿𝐿, 𝐴𝑘 = 𝜔 ∈ Ω 𝜔 ∩ 𝑈𝑔 = 𝑘 は「緑玉が𝑘個で ある標本全てからなる集合」 • 例) 𝐾 = 1,3 , 𝐸𝐾 = 𝐴1 ∪ 𝐴3 : 緑玉が1個か3個どちらかのケース 3. 𝑃: 𝐹 → 0,1 : 𝑃 Ω = 𝑃 𝐴𝑘 𝑘∈𝐴𝐿𝐿 = 1, 𝑃 𝐴0 = 20 84 , 𝑃 𝐴1 = 45 84 , 𝑃 𝐴2 = 18 84 , 𝑃 𝐴3 = 1 84 , ・ 𝑈から互いに相異なる 3玉を同時に（＝3玉間の 順序関係は無視して） ランダムに非復元抽出 ・ 抽出結果は玉の色の情報 のみ記録 ・ どの玉も同様に確からしく 抽出されると仮定 ・𝑼 = 𝒃𝟏 , 𝒃𝟐 , 𝒃𝟑 , 𝒃𝟒 , 𝒃𝟓 , 𝒃𝟔 , 𝒈𝟏 , 𝒈𝟐 , 𝒈𝟑 , 𝑼𝒈 = 𝒈𝟏 , 𝒈𝟐 , 𝒈𝟑 実例 確 率 空 間 に よ る モ デ ル 化 確率空間 Ω, 𝐹, 𝑃 : 確率の3要素 • 𝑃 𝐸𝐾 = 𝑃 𝐴𝑘 𝑘∈𝐾 = 1 − 𝑃 𝐸𝐾 𝑐
3. 確率論から統計学へ • 想定する仮説（＝モデル＋パラメー タ）は1つであり、その仮説が正しい 確率は1（絶対） • その仮説の正当性を前提とした理 論体系の中で生じる現象の性質を 数理的に導出 • 真実に相当する仮説は未知であり、 可能性のある複数の仮説を検討の 土台に据える • 実際に得られた「経験（データ）」を証拠と して、「どの仮説がより真実として妥当か」 を分析・評価 単一の仮説 サンプル1 サンプル2 サンプル3 確率論: 単一の仮説に基づく「解析」 統計学: 複数の仮説に対する「比較評価」 単一仮説の解析から、複数仮説の評価へ
4. 統計的推論に関する3種のアプローチ 2. 頻度論: 『実験計画』を事前に固定し、その手続き を繰り返し用いたときの誤り頻度が制御されるよう に、パラメータについての仮説を反証可能な形で 評価すべき ⇒ しかし、これらの定義をそのまま述べてもわかりづらいため、 以降では、それらの背後にある2種の視点について説明する ・ イェジ・ネイマン 3. ベイズ主義： パラメータについての各仮説の相対的 な評価は、『尤度比』という「観測データ」に加えて 『事前分布』という「観測データから独立した信念」も 組み込まれた『事後確率比』によって 評価されるべき ・ ピエール・シモン・ラプラス 1. 尤度主義: パラメータについての各仮説の相対的な 評価は、『尤度比』という「観測データ」のみによって 決定されるべきであり、『事前分布』という「観測デー タから独立した信念」や、『実験計画』等の「反事実 的情報」に左右されるべきではない。 ・ ロナルド・フィッシャー
5. 3アプローチの背後にある2種の視点 • 同じ観測データ𝑑 = 𝑑1 , … , 𝑑𝑛 に対して、異なる統計的立場が 「パラメータについての仮説」をどう扱うか？ A) 尤度 (仮説→データ) 視点 B) 事後確率 (データ→仮説) 視点 ⇒ 尤度主義と頻度論はAに属し、ベイズ主義はBに属する。 • 上記2視点の比較のために必要な問題設定の前提 i. 観測計画（測定方法・停止規則など）は事前に固定された形 で、観測データ𝑑がすでに得られている ii. パラメータセット候補として、相互に背反の𝑚個の仮説𝐻𝑗 (𝑗 = 1, … , 𝑚)があり、各仮説は同じ𝑑に異なる確率構造を与える iii. パラメータの複雑さ・コスト・リスクはここでは考慮しない
6. 各仮説の データへ の適用 尤度 (仮説→データ)視点 ～母数が定数＆標本統計量が変数～ 事後確率 (データ→仮説)視点 ～母数が変数＆標本統計量が定数～ 観測 データ データの 各仮説へ の適用 ¥ データから仮説を評価 仮説からデータを評価 ・尤度: 𝑷 𝑶 𝑯𝒋 ・事後確率: 𝑷 𝑯𝒋 𝑶 ※ ※ 𝑷 𝑯𝒋 𝑶 𝑗 =1 (＆事前確率は一様分布を仮定)
7. 尤度 (仮説→データ)視点 ～母数が定数＆標本統計量が変数～ – 全体尤度𝑃 𝑂 𝐻𝑗 ： 「データ𝑥 = 𝑥1 , … , 𝑥𝑛 はパラメータセット𝜃𝑗 = ℎ𝑗 を用 いたモデル𝑓に従う」という仮説𝐻𝑗 の下で「試行結果𝑥が𝑑 = 𝑑1 , … , 𝑑𝑛 」 という観察結果𝑂が得られる理論確率  𝑃 𝑂 𝐻𝑗 = 𝑝 𝑂𝑖 𝐻𝑗 𝑛 𝑖=1 = 𝑓 𝑥𝑖 ; 𝜃𝑗 |𝑥𝑖=𝑑𝑖; 𝜃𝑗=ℎ𝑗 𝑛 𝑖=1  個別尤度𝑝 𝑂𝑖 𝐻𝑗 = 𝑓 𝑥𝑖 ; 𝜃𝑗 |𝑥𝑖=𝑑𝑖; 𝜃𝑗=ℎ𝑗 : あるパラメータセットℎ𝑗 の下で𝑑𝑖 という1回分の観察結果𝑂𝑖 が得られる理論確率 – 尤度関数𝐿 𝜃𝑗 ; 𝑥 |𝑥=𝑑 = 𝑓 𝑥𝑖 ; 𝜃𝑗 |𝑥𝑖=𝑑𝑖 𝑛 𝑖=1 : 全体尤度𝐹 𝑂 𝐻𝑗 におい て、変数𝑥を𝑥 = 𝑑とした上で変数𝜃𝑗 の関数としてみなしたものを尤度関 数と呼ぶ。また、𝐿 𝜃𝑗 ; 𝑑 を最大化する𝜃𝑗 を最尤推定量と呼ぶ。 尤度𝑷 𝑶 𝑯𝒋 比較 ⇒ 前述の問題設定の下では、尤度視点は「与えられた結果𝑶の下で、 𝑳 𝜽𝒋 ; 𝒅 = 𝑷 𝑶 𝑯𝒋 を最も高くなるように仮説𝑯𝒋 を選ぶ」 V.S.
8. • 仮説の事前確率𝑃0 𝐻𝑗 = 𝑝0 𝜃𝑗 : 観測以前に想定されていた「1回分の 試行でデータ𝑥𝑖 が得られる理論確率」 • 事前確率と実際に得られた観察結果の両方を用いて推定された「観測 データ𝑥𝑖 が得られる確率」を事後確率と呼ぶ – 事後確率𝑃 𝐻𝑗 𝑂 = 𝑃 𝑂 𝐻𝑗 ∗𝑝0 𝜃𝑗 𝑃 𝑂 – データの周辺確率𝑃 𝑂 = 𝑃 𝑂 𝐻𝑗 ∗ 𝑝0 𝜃𝑗 𝑑𝜃𝑗 𝑚 𝑗=1 – 尤度𝑃 𝑂 𝐻𝑗 = 𝐿 𝜃𝑗 ; 𝑥 |𝑥=𝑑 事後確率 (データ→仮説)視点 ～母数が変数＆標本統計量が定数～ ⇒ 前述の問題設定の下では、事後確率視点は「与えられた結果𝑶 の下で、事後確率𝑷 𝑯𝒋 𝑶 を最も高くなるように仮説𝑯𝒋 を選ぶ」 正規化 𝑷 𝑯𝒋 𝑶 𝑗 =1 ・ 事後確率𝑷 𝑯𝒋 𝑶 比較 𝑷 𝑯𝒋 𝑶 = 𝑷 𝑶 𝑯𝒋 *𝑃0 𝑯𝒋 /𝑷 𝑶
9. 尤度原理: データの証拠力をどう捉えるか？ • （強い）尤度原理: パラメータについての各仮説の相対的な評価に影響 を与える「観測データ」は『尤度比』のみに限定されるべきであり、『実験 計画』等の「反事実的情報」はその評価に影響を与えるべきではない※ ※但し、尤度原理は、『事前確率』のような「観測データからは独立した信 念」が仮説を根拠づける要因の存在については何一つ否定していない ⇒ 尤度主義と（事前分布を固定した）ベイズ主義は尤度原理と いうデータ至上主義の規範命題に従うが、頻度論は従わない • 例) 停止問題： 「有意な結果が出るまで実験を続ける」といった『観測 者の意図（停止規則）』が、計算されるp値や棄却域を変化させてしまう 問題。頻度論では「起きたかもしれない他の結果」を考慮して事前に 試行回数を固定化した形で実験計画を立てるが、そうしない場合には データの解釈の仕方が実験計画（停止規則）に依存するため、頻度論 では、尤度原理に従うことができない ⇒ 尤度主義とベイズ主義では尤度主義に従い、「尤度比のみでデー タ解釈が決定されるべき」と考えるため、この停止問題をそもそもいか なる意味でも問題だと考えない。
10. 3アプローチの立ち位置 尤度視点 事後確率 視点 尤度原理に 従う 尤度原理に 従わない ・ 頻度論 ・ 尤度主義 ・ベイズ主義 ⇒ 3アプローチの役割・目的の違いは？
11. 3アプローチの比較 • 尤度主義 – 焦点: 仮説をデータが相対的に支持している度合（尤度比） – 役割: 尤度比のみに基づき、信念や行動に進む前に、データを鑑定 – 強み: データ単体の証拠力の抽出 • 頻度論 – 焦点: 実験計画 – 役割: 手続きの事前固定を厳守 – 強み: 後出し解釈の排除 • ベイズ主義 – 焦点: 仮説に関する信念（事後確率） – 役割: 事前信念と証拠を統合することで、様々な可能性を考慮 – 強み: 特定仮説への執着という独断の排除 ⇒ 頻度論は手続きの厳守により後出し解釈を排し ベイズ主義は様々な可能性を考慮して独断を排す ⇒ 最終判断の基準を他2者に移譲して役割を終了
12. 主要2アプローチの実務での主な使用法 頻度論 ベイズ主義 データの性質 均質な高解像度データ 不均質な多層的データ 得意な分析 検証的分析 探索的分析 重視すること 正当な 手続きの厳守 （騙されない） 多様な知見、 情報の有効活用 （偏らない） 主な活用例 薬の承認、 製品の検品 など 気象・災害予測、 地域別データ少量下で の地域別効果推定 など 実務家は、以下の狭間に立ち、その時々で「自分がどちらに 重きを置くか」の表明として、手法を選択する • 「分析・結論での恣意性の排除」を目指した規律的誠実さ • 「独断を排した限られた情報の統合」を目指す包括的誠実さ
13. 参考文献（順不同） 1. A. N. コルモゴロフ（2010）『確率論の基礎概念』筑摩書房 2. エリオット・ソーバー（2012）『科学と証拠：統計の哲学入門』 名古屋大学出版会 3. 大塚淳（2020）『統計学を哲学する』名古屋大学出版会 4. シャロン・バーチュ・マグレイン（2018）『異端の統計学ベイ ズ――ベイズ統計学は科学をどう変えたか』草思社 5. ピーター D. ホフ（2022）『標準ベイズ統計学』朝倉書店