Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
情報マイニング特論 輪講資料「詳細釣り合い条件」
Search
Yumeto Inaoka
December 08, 2018
Technology
0
170
情報マイニング特論 輪講資料「詳細釣り合い条件」
2018年12月7日の情報マイニング特論で発表。
Yumeto Inaoka
December 08, 2018
Tweet
Share
More Decks by Yumeto Inaoka
See All by Yumeto Inaoka
文献紹介: Quantity doesn’t buy quality syntax with neural language models
yumeto
1
150
文献紹介: Open Domain Web Keyphrase Extraction Beyond Language Modeling
yumeto
0
190
文献紹介: Self-Supervised_Neural_Machine_Translation
yumeto
0
130
文献紹介: Comparing and Developing Tools to Measure the Readability of Domain-Specific Texts
yumeto
0
140
文献紹介: PAWS: Paraphrase Adversaries from Word Scrambling
yumeto
0
120
文献紹介: Beyond BLEU: Training Neural Machine Translation with Semantic Similarity
yumeto
0
230
文献紹介: EditNTS: An Neural Programmer-Interpreter Model for Sentence Simplification through Explicit Editing
yumeto
0
300
文献紹介: Decomposable Neural Paraphrase Generation
yumeto
0
200
文献紹介: Analyzing the Limitations of Cross-lingual Word Embedding Mappings
yumeto
0
200
Other Decks in Technology
See All in Technology
Classmethod AI Talks(CATs) #16 司会進行スライド(2025.02.12) / classmethod-ai-talks-aka-cats_moderator-slides_vol16_2025-02-12
shinyaa31
0
110
Culture Deck
optfit
0
420
Larkご案内資料
customercloud
PRO
0
650
Developers Summit 2025 浅野卓也(13-B-7 LegalOn Technologies)
legalontechnologies
PRO
0
710
分解して理解する Aspire
nenonaninu
1
120
組織貢献をするフリーランスエンジニアという生き方
n_takehata
1
1.3k
2024.02.19 W&B AIエージェントLT会 / AIエージェントが業務を代行するための計画と実行 / Algomatic 宮脇
smiyawaki0820
13
3.3k
現場の種を事業の芽にする - エンジニア主導のイノベーションを事業戦略に装着する方法 -
kzkmaeda
2
2.1k
ホワイトボードチャレンジ 説明&実行資料
ichimichi
0
130
リーダブルテストコード 〜メンテナンスしやすい テストコードを作成する方法を考える〜 #DevSumi #DevSumiB / Readable test code
nihonbuson
11
7.2k
インフラをつくるとはどういうことなのか、 あるいはPlatform Engineeringについて
nwiizo
5
2.6k
明日からできる!技術的負債の返済を加速するための実践ガイド~『ホットペッパービューティー』の事例をもとに~
recruitengineers
PRO
3
390
Featured
See All Featured
Optimising Largest Contentful Paint
csswizardry
34
3.1k
Bootstrapping a Software Product
garrettdimon
PRO
306
110k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
12
960
Writing Fast Ruby
sferik
628
61k
Music & Morning Musume
bryan
46
6.3k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
33
2.1k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
46
2.3k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
Designing for Performance
lara
604
68k
Practical Orchestrator
shlominoach
186
10k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
133
33k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
7k
Transcript
4.4 詳細釣り合い条件 稲岡 夢人
前回は・・・ 遷移核から定常分布を求めた 実際は・・・ 事後分布に従う乱数が欲しい → 事後分布が定常分布になるような遷移核を導く 2
マルコフ連鎖モンテカルロ法 (Markov chain MonteCarlo methods; MCMC) サンプリングしたい分布が定常分布となるような マルコフ連鎖を構成する方法 (遷移核を見つける) サンプリングしたい分布を目標分布という
今回の目標分布は事後分布(既知) 3
遷移核の導出において • 遷移核によっては定常分布をもたない • 今回は定常分布を持つような遷移核が欲しい → どのような条件下だと定常分布に収束するか 4
詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 標本空間の全ての事象の組i, jに関して 式(4.13) が満たされるときマルコフ連鎖は定常分布に収束 ネクタイ問題はこれを満たす 式(4.14) ~ (4.16) 5
詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 ◦ 詳細釣り合い条件を満たすように遷移核を 選べば必ず定常分布に収束する × 定常分布に収束するような遷移核は必ず 詳細釣り合い条件を満たす 6
詳細釣り合い条件の意味 両辺を添え字iに関して和を取る 左辺シグマ内の総和は1 7
詳細釣り合い条件の意味 式(4.11)と見かけ上は同じだが、式(4.11)は 遷移の途中であっても成り立つ恒等式 上式は目標分布 と が同一の分布 である制約の下で遷移核 に成り立つ条件式 8
連続型確率変数での詳細釣り合い条件 離散型の場合は全ての事象の組i, jで成立を確認 連続型の場合は任意の2点θ, θ’で成立を確認する 必要がある 9
詳細釣り合い条件のイメージ f(θ’) : f(θ) = 1:a とすると f(θ|θ’) : f(θ’|θ)=a:1 10 0
5 0.5 θ θ’ f(θ’|θ) f(θ|θ’) f()
詳細釣り合い条件 結果としてθに移動してくる確率密度f(θ)は、 11 発射地点θ’からθに飛んでくる確率密度の あらゆる発射地点に関する平均確率密度が θの確率密度となる → f(θ)の大きさに比例してθに飛んでくる
詳細釣り合い条件 初期状態を中心部から遠くにとっても、 乱数列は中心部へ急速に引き寄せられる 12 0 50 0.5 θ θ’ f(θ’|θ)
f(θ|θ’) f()