Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
同じデータでもP値が変わる話/key_considerations_in_NHST
Search
florets1
September 02, 2023
Science
1
1.2k
同じデータでもP値が変わる話/key_considerations_in_NHST
florets1
September 02, 2023
Tweet
Share
More Decks by florets1
See All by florets1
率の平均を求めてはいけない/Do_Not_Average_Rates
florets1
10
14k
請求と支払を照合する技術/using_full_join_in_r
florets1
2
160
応用セッション_同じデータでもP値が変わる話/key_considerations_in_NHST_2
florets1
1
960
お名前から性別を推測する/Guessing_gender_from_name
florets1
1
190
バタフライ効果/butterfly_effect
florets1
0
190
尤度/likelihood
florets1
3
820
待ち行列のシミュレーション/queue_simulation
florets1
0
200
%hogehoge%で二項演算子/create_binary_operators_in_r_language
florets1
0
200
データフレームを操作/how_to_manipulate_dataframes
florets1
0
290
Other Decks in Science
See All in Science
BMI 研究はなぜ同じ失敗を繰り返すのか(日本BMI研究会, 2021.11.5)
ykamit
1
2.1k
はじめての「相関と因果とエビデンス」入門:“動機づけられた推論” に抗うために
takehikoihayashi
16
5.9k
Ph.D. defense "Convex Manifold Approximation for Tensors"
gkazunii
0
210
Leveraging conformal prediction for calibrated probabilistic time series forecasts to accelerate the renewable energy transition
ingevandenende
2
290
PRML Chapter 1 (1.3-1.6)
snkmr
1
120
A Theory of Scrum Team Effectiveness 〜『ゾンビスクラムサバイバルガイド』の裏側にある科学〜
bonotake
15
5.7k
第4回ナレッジグラフ勉強会 Knowledge Graph Embedding
maruru0090
0
110
『データ可視化学入門』を PythonからRに翻訳した話
bob3bob3
1
400
大規模言語モデルの開発
chokkan
PRO
55
18k
Mastering Feature Engineering: Mining the Hidden Salary Formula with CakeResume
tlyu0419
0
180
WeMeet Group - 採用資料
wemeet
0
460
Cultivating Instinct
kytrinyx
0
100
Featured
See All Featured
Designing the Hi-DPI Web
ddemaree
276
33k
Building Applications with DynamoDB
mza
88
5.7k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
27
2.4k
Large-scale JavaScript Application Architecture
addyosmani
504
110k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
501
140k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
19
7k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
71
14k
Building Better People: How to give real-time feedback that sticks.
wjessup
356
18k
VelocityConf: Rendering Performance Case Studies
addyosmani
321
23k
10 Git Anti Patterns You Should be Aware of
lemiorhan
650
58k
The World Runs on Bad Software
bkeepers
PRO
61
8.9k
Code Reviewing Like a Champion
maltzj
516
39k
Transcript
1 2023.09.02 Tokyo.R #108 同じデータでもP値が変わる話
2 統計的仮説検定 同じデータからは同じ検定結果が得られるもの と考えられがちですが 実際には必ずしもその通りではありません。
3 例えば コイン投げをして24回中7回が表になるという単純な データを考えてみましょう。 このようなデータでも、実験の設定や投げる回数の制 約によって、統計的仮説検定の結果が変わることがあ るのです。
4 コインを1回投げる 𝑝 𝑦 𝜃 = 𝜃𝑦(1 − 𝜃)(1−𝑦) 𝜃
= 0.5 ベルヌーイ分布 y=1 は表, y=0 は裏
5 コインをN回投げる 裏裏表表裏裏表裏裏裏裏裏裏裏裏裏表裏裏表表裏裏表 表が出る確率 θ 投げる回数 N 表の回数 z 二項分布
6 統計的仮説検定の流れ 帰無仮説をたてる ↓ 標本分布を計算する ↓ データを観測してP値を求める
7 帰無仮説をたてる ある統計量がある値と等しいということを帰無仮説と して設定します。 例) コインの裏表が出る確率が50%と等しい 平均値が等しい
8 標本分布を計算する 帰無仮説が成り立つ場合にその統計量が従うであろう 確率分布、標本分布を計算します。 例) コインの裏表が出る確率 → 二項分布など 平均値 →
t分布など
9 データを観測してP値を求める 実際に観測された値、もしくはそれ以上に極端な値が 標本分布に占める面積、つまりそのような値が観測さ れる確率(P値)を求めます。
10 P値があらかじめ設定したしきい値(たとえば5%)よ りも小さければ、そもそも帰無仮説が間違っていたの だと結論づけます。 逆に小さくなければ帰無仮説を棄却せず、判断を保留 します。 P値で判断
11 コインを24回投げて7回表が出た このコインは公平か。 データ観測者の意図 コインを24回投げると決めていた。結果として7回表 がでた。
12 標本分布 表が出る確率 θ 投げる回数 N 表の回数 z
13 データを観測 θ = 0.5 N = 24 z =
7 P値 = 0.064 Sample Proportion z/N p(z/N)
14 Rのコード
15 コインを24回投げて7回表が出た このコインは公平か。 データ観測者の意図 7回表が出るまで投げ続けると決めていた。結果として 24回投げた。 ↓ 23回投げた時点で6回表が出ており、24回目では表が 出た。
16 標本分布 N-1回投げた時点でz-1回表が出て N回目は表
17 データを観測 θ = 0.5 z = 7 N =
24 P値 = 0.017 Sample Proportion z/N p(z/N)
18 Rのコード
19 投げる回数N 表が出る回数 z • Nを固定する意図ではP値=0.064(判断を保留) • zを固定する意図ではP値=0.017(帰無仮説を棄却) 同じデータを観測しても、観測者の意図によって 検定結果が変わる!
20 意外にも 観察者の意図やデータ収集の方法が、統計的な結果に 影響を与える可能性があるのです。 このような現象は、統計的な検定の限界や留意すべき 要点を浮き彫りにします。単に数値を見るだけではな く、実験の文脈や条件を正しく理解することの重要性 を示しています。
21 参考書 飯塚修平. ウェブ最適化ではじめる機械学習. オライ リー・ジャパン, 2020 John K. Kruschke.
Doing Bayesian Data Analysis: A Tutorial with R, JAGS, and Stan EDITION 2. Academic Press, 2014