Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
情報マイニング特論 輪講資料「詳細釣り合い条件」
Search
Yumeto Inaoka
December 08, 2018
Technology
0
200
情報マイニング特論 輪講資料「詳細釣り合い条件」
2018年12月7日の情報マイニング特論で発表。
Yumeto Inaoka
December 08, 2018
Tweet
Share
More Decks by Yumeto Inaoka
See All by Yumeto Inaoka
文献紹介: Quantity doesn’t buy quality syntax with neural language models
yumeto
1
170
文献紹介: Open Domain Web Keyphrase Extraction Beyond Language Modeling
yumeto
0
230
文献紹介: Self-Supervised_Neural_Machine_Translation
yumeto
0
150
文献紹介: Comparing and Developing Tools to Measure the Readability of Domain-Specific Texts
yumeto
0
160
文献紹介: PAWS: Paraphrase Adversaries from Word Scrambling
yumeto
0
140
文献紹介: Beyond BLEU: Training Neural Machine Translation with Semantic Similarity
yumeto
0
260
文献紹介: EditNTS: An Neural Programmer-Interpreter Model for Sentence Simplification through Explicit Editing
yumeto
0
330
文献紹介: Decomposable Neural Paraphrase Generation
yumeto
0
220
文献紹介: Analyzing the Limitations of Cross-lingual Word Embedding Mappings
yumeto
0
220
Other Decks in Technology
See All in Technology
Ретроспективный взгляд на Vue 3. Даша Сабурова, Vue-разработчик Lamoda Tech
lamodatech
0
1.1k
「どこにある?」の解決。生成AI(RAG)で効率化するガバメントクラウド運用
toru_kubota
2
290
Long journey of Continuous Delivery at Mercari
hisaharu
1
200
“プロダクトを好きになれるか“も QAエンジニア転職の大事な判断基準だと思ったの
tomodakengo
0
110
AI とペアプロしてわかった 3 つのヒューマンエラー
takahiroikegawa
1
650
やさしい認証認可
minorun365
PRO
29
12k
新規プロダクト開発、AIでどう変わった? #デザインエンジニアMeetup
bengo4com
0
410
会社紹介資料 / Sansan Company Profile
sansan33
PRO
6
370k
API の仕様から紐解く「MCP 入門」 ~MCP の「コンテキスト」って何だ?~
cdataj
0
130
本部長の代わりに提案書レビュー! KDDI営業が毎日使うAIエージェント「A-BOSS」開発秘話
minorun365
PRO
11
1.4k
Monorepo Error Management: Automated Runbooks and Team-Targeted Alert Distribution
biwashi
1
170
Kubernetesで作るAIプラットフォーム
oracle4engineer
PRO
2
250
Featured
See All Featured
Side Projects
sachag
454
42k
Visualization
eitanlees
146
16k
Making the Leap to Tech Lead
cromwellryan
134
9.3k
Facilitating Awesome Meetings
lara
54
6.4k
Speed Design
sergeychernyshev
30
990
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.8k
Why Our Code Smells
bkeepers
PRO
337
57k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
106
19k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
161
15k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
3k
Practical Orchestrator
shlominoach
188
11k
The Art of Programming - Codeland 2020
erikaheidi
54
13k
Transcript
4.4 詳細釣り合い条件 稲岡 夢人
前回は・・・ 遷移核から定常分布を求めた 実際は・・・ 事後分布に従う乱数が欲しい → 事後分布が定常分布になるような遷移核を導く 2
マルコフ連鎖モンテカルロ法 (Markov chain MonteCarlo methods; MCMC) サンプリングしたい分布が定常分布となるような マルコフ連鎖を構成する方法 (遷移核を見つける) サンプリングしたい分布を目標分布という
今回の目標分布は事後分布(既知) 3
遷移核の導出において • 遷移核によっては定常分布をもたない • 今回は定常分布を持つような遷移核が欲しい → どのような条件下だと定常分布に収束するか 4
詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 標本空間の全ての事象の組i, jに関して 式(4.13) が満たされるときマルコフ連鎖は定常分布に収束 ネクタイ問題はこれを満たす 式(4.14) ~ (4.16) 5
詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 ◦ 詳細釣り合い条件を満たすように遷移核を 選べば必ず定常分布に収束する × 定常分布に収束するような遷移核は必ず 詳細釣り合い条件を満たす 6
詳細釣り合い条件の意味 両辺を添え字iに関して和を取る 左辺シグマ内の総和は1 7
詳細釣り合い条件の意味 式(4.11)と見かけ上は同じだが、式(4.11)は 遷移の途中であっても成り立つ恒等式 上式は目標分布 と が同一の分布 である制約の下で遷移核 に成り立つ条件式 8
連続型確率変数での詳細釣り合い条件 離散型の場合は全ての事象の組i, jで成立を確認 連続型の場合は任意の2点θ, θ’で成立を確認する 必要がある 9
詳細釣り合い条件のイメージ f(θ’) : f(θ) = 1:a とすると f(θ|θ’) : f(θ’|θ)=a:1 10 0
5 0.5 θ θ’ f(θ’|θ) f(θ|θ’) f()
詳細釣り合い条件 結果としてθに移動してくる確率密度f(θ)は、 11 発射地点θ’からθに飛んでくる確率密度の あらゆる発射地点に関する平均確率密度が θの確率密度となる → f(θ)の大きさに比例してθに飛んでくる
詳細釣り合い条件 初期状態を中心部から遠くにとっても、 乱数列は中心部へ急速に引き寄せられる 12 0 50 0.5 θ θ’ f(θ’|θ)
f(θ|θ’) f()