oku-slide-stat2-4

数理統計学特論II 第4回正規分布と二項分布に関する推測奥牧人 (未病研究センター) 2024/07/03 1 /
42

前回の復習前回の目的区間推定の意味と検定との対応関係を理解すること前回の達成目標信頼区間の意味を説明できる。信頼区間や信頼域と検定の対応関係を説明できる。信頼区間の解釈上の注意点を説明できる。一様最強力不偏信頼域の意味を説明できる。 2 /
42

今回の位置付け 1. 前置きと準備 2. 確率と1次元の確率変数 3. 多次元の確率変数 4. 統計量と標本分布 5.
統計的決定理論の枠組み 6. ⼗分統計量 7. 推定論 8. 検定論 9. 区間推定 10. 正規分布、2項分布に関する推測その他の話題 11. 線形モデル 12. ノンパラメトリック法 13. 漸近理論 14. ベイズ法確率と統計の基礎良い点推定とは︖ 良い検定とは︖ 問題設定と準備 7章と8章に関する証明回帰分析と分散分析を統⼀的に理解常⽤される⼿法を改めて整理ベイズ統計を簡単に紹介ノンパラを簡単に紹介 3 / 42

今回の目的と達成目標目的代表的な推定と検定を最適性の観点から整理すること達成目標最適性が保証されている推定や検定を複数あげられる。最適性が保証されていない推定や検定をあげられる。通常使われるが最適ではない推定や検定をあげられる。一元配置分散分析の意味を説明できる。分割表の検定の意味を説明できる。 4
/ 42

予習用キーワードの確認スチューデントの検定ウェルチの検定対応のある検定 t t t
5 / 42

Outline 1. 正規分布に関する推測 2. 2項分布に関する推測 3. 多項分布に関する検定 6 / 42

最適性の用語の略記点推定一様最小分散不偏推定量 (UMVU) 最尤推定量 (MLE) 区間推定一様最強力不偏信頼域 (UMPU) 検定
一様最強力検定 (UMP) 一様最強力不偏検定 (UMPU) 8 / 42

記号と条件設定上側点の記号正規分布: 自由度の分布: 自由度の分布:
自由度の分布: 確率密度関数でを明示したい場合自由度の分布: 自由度の分布: 有意水準は , 信頼係数は α zα n t tα (n) n χ 2 χ 2 α (n) (l, m) F Fα (l, m) x n χ2 ~ χ2 n (x) (l, m) F ~ Fl,m (x) α 1 − α 9 / 42

1標本問題の点推定とする。の点推定は UMVU かつ MLE 　の点推定で、が既知の場合は UMVU
かつ MLE 　の点推定でが未知なら、割が UMVU, 割が MLE X1 , … , Xn i.i.d. ∼ N (μ, σ2 ) μ ¯ X = 1 n n ∑ i=1 Xi σ 2 μ 1 n n ∑ i=1 (Xi − μ) 2 σ 2 μ n − 1 n s 2 = 1 n − 1 n ∑ i=1 (Xi − ¯ X) 2 , s 2 n = 1 n n ∑ i=1 (Xi − ¯ X) 2 10 / 42

1標本問題の点推定の点推定の MLE の点推定で、一般的に用いられるものは UMVU ではないの点推定の UMVU σ sn
= 1 n n ∑ i=1 (Xi − ¯ X)2  ⎷ σ s = 1 n − 1 n ∑ i=1 (Xi − ¯ X)2  ⎷ σ s ′ = √n − 1 Γ((n − 1)/2) √2 Γ(n/2) s 11 / 42

1標本問題の区間推定の区間推定で、が既知の場合の UMPU の区間推定で、が未知の場合の UMPU の区間推定で、が未知の場合、一般的に用いられるものは UMPU
ではない μ σ 2 ¯ X ± zα/2 σ √n μ σ 2 ¯ X ± t α/2 (n − 1) s √n σ 2 μ (n − 1)s 2 χ 2 α/2 (n − 1) < σ 2 < (n − 1)s 2 χ 2 1−α/2 (n − 1) 12 / 42

1標本問題の区間推定、続きの区間推定で、が未知の場合の UMPU ここで , は以下を満たすように決める σ 2 μ
(n − 1)s 2 λ2 < σ 2 < (n − 1)s 2 λ1 λ1 λ2 ∫ λ 2 λ 1 ~ χ 2 n−1 (x)dx = 1 − α λ1 ~ χ 2 n−1 (λ1 ) = λ2 ~ χ 2 n−1 (λ2 ) 13 / 42

実際どのくらい違うのか青線が一般的に用いられるもの、赤線が不偏で最適な場合 14 / 42

2標本問題 2標本問題には、対応の無い場合と有る場合がある。対応ありの場合、のようにペアになっている。例、同じ人の治療前と治療後の何かの測定値そうでない場合は対応なし例、薬を飲んだ人と、偽薬を飲んだ別の
人の測定値対応ありの場合は通常として1標本問題に帰着させる。以降では対応なしの2標本問題のみを考える。 (X1 , Y1 ), … , (Xn , Yn ) n n m Zi = Yi − Xi 15 / 42

2標本問題の点推定とが独立、 , とする。の点推定は UMVU かつ MLE の点推定で、
, が未知の場合の MLE の点推定で、 , が未知の場合の UMVU X Y X ∼ N (μ1 , σ 2 1 ) Y ∼ N (μ2 , σ 2 2 ) μ2 − μ1 ˆ μ2 − μ1 = ¯ Y − ¯ X σ 2 2 /σ 2 1 μ1 μ2 ˆ σ 2 2 /σ 2 1 = ∑ n i=1 (Yi − ¯ Y ) 2 /n ∑ m i=1 (Xi − ¯ X)2 /m σ 2 2 /σ 2 1 μ1 μ2 ˆ σ 2 2 /σ 2 1 = ∑ n i=1 (Yi − ¯ Y ) 2 /(n − 1) ∑ m i=1 (Xi − ¯ X)2 /(m − 3) 16 / 42

2標本問題の区間推定の区間推定で、 , が既知の場合の UMPU 同上、でが未知の場合の UMPU ここで
はプールされた分散 μ2 − μ1 σ 2 1 σ 2 2 ¯ Y − ¯ X ± zα/2 √ σ 2 1 m + σ 2 2 n σ 2 1 = σ 2 2 = σ 2 σ 2 ¯ Y − ¯ X ± t α/2 (n + m − 2) √ s2 p m + s2 p n s 2 p s 2 p = ∑ m i=1 (Xi − ¯ X) 2 + ∑ n i=1 (Yi − ¯ Y ) 2 m + n − 2 17 / 42

2標本問題の区間推定、続き引き続きの区間推定で、 , が未知で、かつ、等しいと仮定できない場合、正確な信頼区間を求められないベーレンス・フィッシャー問題と呼ばれる近似的なウェルチの信頼区間が用いられるここで ,
は , それぞれの不偏分散自由度は以下の式により定められる。 μ2 − μ1 σ 2 1 σ 2 2 ¯ Y − ¯ X ± t α/2 (k) √ s2 1 m + s2 2 n s 2 1 s 2 2 X Y k (s 2 1 /m + s 2 2 /n) 2 k = s 4 1 m2 (m − 1) + s 4 2 n2 (n − 1) 18 / 42

2標本問題の区間推定、続きの区間推定で、以下は UMPU ではない ( , は未知) UMPU は以下ここで
, は以下を満たすように決める σ 2 2 /σ 2 1 μ1 μ2 1 Fα/2 (n − 1, m − 1) s 2 2 s 2 1 < σ 2 2 σ 2 1 < 1 F1−α/2 (n − 1, m − 1) s 2 2 s 2 1 1 λ2 s 2 2 s 2 1 < σ 2 2 σ 2 1 < 1 λ1 s 2 2 s 2 1 λ1 λ2 ∫ λ2 λ 1 ~ Fn−1,m−1 (x)dx = 1 − α λ1 ~ Fn−1,m−1 (λ1 ) = λ2 ~ Fn−1,m−1 (λ2 ) 19 / 42

1標本問題のの検定 1標本に話を戻してとする。の片側検定と両側検定が既知の場合の片側検定の UMP が既知の場合の両側検定
の UMPU μ X1 , … , Xn i.i.d. ∼ N (μ, σ2 ) μ P1 P2 (P1 ) H0 : μ ≤ μ0 vs. H1 : μ > μ0 (P2 ) H0 : μ = μ0 vs. H1 : μ ≠ μ0 σ 2 P1 Z = √n( ¯ X − μ0 ) σ > zα ⇒ reject σ2 P2 |Z| > z α/2 ⇒ reject 20 / 42

1標本問題のの検定、続きが未知の場合の片側検定の UMPU 片側なのに UMPU なのはが局外母数のためが未知の場合の両側検定
の UMPU μ σ 2 P1 t = √n( ¯ X − μ0 ) s > tα (n − 1) ⇒ reject σ 2 σ 2 P2 |t| > t α/2 (n − 1) ⇒ reject 21 / 42

1標本問題のの検定の片側検定 , と両側検定が既知の場合の片側検定の UMP が既知の場合の片側検定の
UMP σ 2 σ 2 P3 P4 P5 (P3 ) H0 : σ 2 ≤ σ 2 0 vs. H1 : σ 2 > σ 2 0 (P4 ) H0 : σ 2 ≥ σ 2 0 vs. H1 : σ 2 < σ 2 0 (P5 ) H0 : σ 2 = σ 2 0 vs. H1 : σ 2 ≠ σ 2 0 μ P3 χ 2 = ∑ n i=1 (Xi − μ) 2 σ2 0 > χ 2 α (n) ⇒ reject μ P4 χ 2 < χ 2 1−α (n) ⇒ reject 22 / 42

1標本問題のの検定、続きが既知の場合の両側検定で、以下は UMPU ではない UMPU は以下ここで ,
は以下を満たすように決める (自由度 ) σ 2 μ P5 χ 2 > χ 2 α/2 (n) or χ 2 < χ 2 1−α/2 (n) ⇒ reject χ 2 > λ2 or χ 2 < λ1 ⇒ reject λ1 λ2 n ∫ λ2 λ 1 ~ χ 2 n (x)dx = 1 − α λ1 ~ χ 2 n (λ1 ) = λ2 ~ χ 2 n (λ2 ) 23 / 42

1標本問題のの検定、続きが未知の場合は、をで置き換え、自由度をからに置き換えれば良い。が未知の場合の片側検定の UMPU
かつ UMP が未知の場合の片側検定の UMPU が未知の場合の両側検定は先ほどと同様ずつ分けたものは UMPU ではなく、UMPU は別の形 σ 2 μ μ ¯ X n n − 1 μ P3 χ 2 = ∑ n i=1 (Xi − ¯ X) 2 σ 2 0 > χ 2 α (n − 1) ⇒ reject μ P4 χ 2 < χ 2 1−α (n − 1) ⇒ reject μ P 5 α/2 24 / 42

2標本問題の差の検定に関する片側検定と両側検定 , が既知の場合の片側検定の UMP , が既知の場合の両側検定の
UMPU μ2 − μ1 P6 P7 (P6 ) H0 : μ2 ≤ μ1 vs. H1 : μ2 > μ1 (P7 ) H0 : μ1 = μ2 vs. H1 : μ1 ≠ μ2 σ2 1 σ2 2 P 6 Z = ¯ Y − ¯ X √σ2 1 /m + σ2 2 /n > zα ⇒ reject σ2 1 σ2 2 P7 |Z| > z α/2 ⇒ reject 25 / 42

2標本問題の差の検定、続きでが未知の場合の片側検定の UMPU ここではプールされた分散同上、両側検定の UMPU
実用上、2標本の差の検定は良く使われる。等分散を仮定する場合はスチューデントの検定と呼ばれる。 σ 2 1 = σ 2 2 = σ 2 σ 2 P6 t = ¯ Y − ¯ X √s2 p /m + s2 p /n > tα (m + n − 2) ⇒ reject s 2 p P7 |t| > t α/2 (m + n − 2) ⇒ reject t 26 / 42

2標本問題の差の検定、続き , が未知で、かつ、等しいと仮定できない場合、ウェルチの検定が用いられる。最適性は保証されない。片側検定の場合 , は
, それぞれの不偏分散、自由度は前述両側検定の場合 σ 2 1 σ 2 2 t P6 t = ¯ Y − ¯ X √s 2 1 /m + s 2 2 /n > tα (k) ⇒ reject s 2 1 s 2 2 X Y k P7 |t| > t α/2 (k) ⇒ reject 27 / 42

2標本問題の分散比の検定に関する片側検定と両側検定 , が未知の場合のの UMPU 同上、両側検定でずつ分けたものは
UMPU でない区間推定について前述した方法を使えば UMPU この場合の UMPU はバートレットの検定とも等価 σ 2 2 /σ 2 1 P8 P9 (P 8 ) H 0 : σ 2 2 ≤ σ 2 1 vs. H 1 : σ 2 2 > σ 2 1 (P9 ) H0 : σ 2 1 = σ 2 2 vs. H1 : σ 2 1 ≠ σ 2 2 μ1 μ2 P8 F = s 2 2 s2 1 > Fα (n − 1, m − 1) ⇒ reject P9 α/2 28 / 42

等分散検定について補足 2標本の差の検定では、等分散を仮定できる場合にスチューデントの検定、できない場合にウェルチの検定を使う。以下は個人的な意見である。等分散の仮定が成り立つかどうかを等分散検定で判断すべきでないと思う。通常の有意水準 %で有意でないことは、等分散であること
を積極的に支持するものではない。分布を用いた等分散検定は正規分布からの逸脱に弱く、実用的とは考えにくい。どちらか分からない場合は、等分散検定せずにウェルチの検定を使えば良いと思う。 t t 5 F t 29 / 42

一元配置分散分析対応のない標本は共通と仮定は番目の標本のサイズ、総数検定問題全平均と群毎の平均 k Xij
∼ N (μi , σ 2 ), i = 1, … , k, j = 1, … , ni σ 2 ni i n = n1 + ⋯ + nk H0 : μ1 = ⋯ = μk vs. H1 : μi ≠ μj , ∃μi , μj ¯ ¯ X = 1 n k ∑ i=1 n i ∑ j=1 Xij , ¯ Xi = 1 ni n i ∑ j=1 Xij 30 / 42

一元配置分散分析、続き郡間平方和郡内平方和全平方和 ( を満たす) WH = k ∑
i=1 ( ¯ Xi − ¯ ¯ X) 2 WE = k ∑ i=1 ni ∑ j=1 (Xij − ¯ Xi ) 2 WT = WH + WE WT = k ∑ i=1 ni ∑ j=1 (Xij − ¯ ¯ X) 2 31 / 42

一元配置分散分析、続き帰無仮説のもとでとは互いに独立でとなるので、検定は尤度比検定とも等価 WH WE WH σ2
∼ χ 2 (k − 1), WE σ2 ∼ χ 2 (n − k) F = WH /(k − 1) WE /(n − k) > F α (k − 1, n − k) ⇒ reject 32 / 42

2項分布の点推定と検定とする。の点推定は UMVU かつ MLE の両側検定 (片側も同様) は、が大きいときの近似
を用いて X ∼ Bin(n, p) p ^ p = X n p H0 : p = p0 vs. H1 : p ≠ p0 n X ⋅ ∼ N (np, np(1 − p)) √n( ^ p − p0 ) √p0 (1 − p0 ) > z α/2 ⇒ reject 34 / 42

2項分布の区間推定近似的な検定との対応を考えるなら、区間推定は以下になるしかし、通常はでをに変えたが用いられる。 2n ^ p
+ z 2 α/2 ± √4z2 α/2 n ^ p(1 − ^ p) + z4 α/2 2(n + z 2 α/2 ) ^ p ⋅ ∼ N (p, p(1 − p)/n) p ^ p ^ p ± z α/2 √ ^ p(1 − ^ p) n 35 / 42

分割表の検定分割表 C1 C2 C2 R1 R2 多項分布とみなす ( は総数)
のため、自由度は r × c X 11 X 12 X 13 X 21 X 22 X 23 n p(x11 , … , xrc ) = n! x11 ! ⋯ xrc ! p x 11 11 ⋯ p xrc rc ∑ pij = 1 rc − 1 37 / 42

分割表の検定、続き行と列が独立であることを帰無仮説とするは行の周辺確率は列の周辺確率の自由度は自由度の差はに基づく期待度数 H0
: pij = pi∙ p∙j , ∀i, j p i∙ i p∙j j H0 r + c − 2 rc − 1 − (r + c − 2) = (r − 1)(c − 1) H0 ^ Xij = n ^ pij = n ^ pi∙ ^ p∙j = 1 n c ∑ j′ =1 Xij′ r ∑ i′ =1 Xi′ j 38 / 42

分割表の検定、続きが十分大きいとき、以下の検定が用いられる観測度数 (observed count) と期待度数 (expected count) の頭文字を使って次のように書くことがある。
n χ 2 = ∑ i,j (Xij − ^ Xij ) 2 ^ Xij > χ 2 α ((r − 1)(c − 1)) ⇒ reject ∑ (O − E) 2 E 39 / 42

まとめ代表的な推定と検定を最適性の観点から整理しました。 1. 正規分布に関する推測 ! 最適性が保証されている推定や検定を複数あげられる? ! 最適性が保証されていない推定や検定をあげられる? ! 通常使われるが最適ではない推定や検定をあげられる?
! 一元配置分散分析の意味を説明できる? 2. 2項分布に関する推測 3. 多項分布に関する検定 ! 分割表の検定の意味を説明できる? 40 / 42

小テスト Moodleで小テストに回答して下さい。期限は今週中 (日曜の23:59まで) とします。繰り返し受験して構いません。最高得点で成績をつけます。 41 / 42

次回の予習用キーワード線形部分空間直交行列基底 42 / 42

oku-slide-stat2-4

oku-slide-stat2-4

More Decks by Makito Oku

Other Decks in Education

Featured

Transcript