Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
情報マイニング特論 輪講資料「詳細釣り合い条件」
Search
Yumeto Inaoka
December 08, 2018
Technology
0
120
情報マイニング特論 輪講資料「詳細釣り合い条件」
2018年12月7日の情報マイニング特論で発表。
Yumeto Inaoka
December 08, 2018
Tweet
Share
More Decks by Yumeto Inaoka
See All by Yumeto Inaoka
文献紹介: Quantity doesn’t buy quality syntax with neural language models
yumeto
1
110
文献紹介: Open Domain Web Keyphrase Extraction Beyond Language Modeling
yumeto
0
150
文献紹介: Self-Supervised_Neural_Machine_Translation
yumeto
0
110
文献紹介: Comparing and Developing Tools to Measure the Readability of Domain-Specific Texts
yumeto
0
110
文献紹介: PAWS: Paraphrase Adversaries from Word Scrambling
yumeto
0
78
文献紹介: Beyond BLEU: Training Neural Machine Translation with Semantic Similarity
yumeto
0
200
文献紹介: EditNTS: An Neural Programmer-Interpreter Model for Sentence Simplification through Explicit Editing
yumeto
0
250
文献紹介: Decomposable Neural Paraphrase Generation
yumeto
0
170
文献紹介: Analyzing the Limitations of Cross-lingual Word Embedding Mappings
yumeto
0
160
Other Decks in Technology
See All in Technology
元インフラエンジニアに成る / Human Resources to Human Relations
bobtani
4
920
開発生産性大幅アップ!Postman VS Code拡張機能
nagix
2
380
一生覚えておきたい「システム開発=コミュニケーション」〜初めての実務案件振り返りLT〜
maimyyym
0
140
Databricks における 『MLOps』
databricksjapan
2
170
Cloud Native Java with Spring Boot (CNCF Aarhus, April 2024)
thomasvitale
1
170
JAWS-UG Bedrock Claude Night
yamahiro
3
610
いつか使うかも貯金してたらめちゃめちゃ機能が増えてた話
riyaamemiya
0
150
TechFeed Experts Night#27 〜 フロントエンドフレームワーク最前線 (Svelte)
baseballyama
1
520
【NW X Security JAWS#3】L3-4:AWS環境のIPv6移行に向けて知っておきたいこと
shotashiratori
0
260
MLOpsの「壁」を乗り越える、LINEヤフーの Data Quality as Code
lycorptech_jp
PRO
5
530
長期間TiDBを使ってきた話 @ 私たちはなぜNewSQLを使うのかTiDB選定5社が語る選定理由と活用LT / Experiences with TiDB Over Time
chibiegg
2
900
Kernel MemoryでAzure OpenAI Serviceとお手軽データソース連携
mitsuzono
1
250
Featured
See All Featured
Web development in the modern age
philhawksworth
202
10k
Designing on Purpose - Digital PM Summit 2013
jponch
110
6.5k
Dealing with People You Can't Stand - Big Design 2015
cassininazir
357
22k
We Have a Design System, Now What?
morganepeng
43
6.8k
How to name files
jennybc
65
93k
Embracing the Ebb and Flow
colly
80
4.1k
The Cost Of JavaScript in 2023
addyosmani
16
3.9k
Music & Morning Musume
bryan
41
5.6k
How To Stay Up To Date on Web Technology
chriscoyier
782
250k
Making Projects Easy
brettharned
108
5.5k
Thoughts on Productivity
jonyablonski
58
3.8k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
221
21k
Transcript
4.4 詳細釣り合い条件 稲岡 夢人
前回は・・・ 遷移核から定常分布を求めた 実際は・・・ 事後分布に従う乱数が欲しい → 事後分布が定常分布になるような遷移核を導く 2
マルコフ連鎖モンテカルロ法 (Markov chain MonteCarlo methods; MCMC) サンプリングしたい分布が定常分布となるような マルコフ連鎖を構成する方法 (遷移核を見つける) サンプリングしたい分布を目標分布という
今回の目標分布は事後分布(既知) 3
遷移核の導出において • 遷移核によっては定常分布をもたない • 今回は定常分布を持つような遷移核が欲しい → どのような条件下だと定常分布に収束するか 4
詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 標本空間の全ての事象の組i, jに関して 式(4.13) が満たされるときマルコフ連鎖は定常分布に収束 ネクタイ問題はこれを満たす 式(4.14) ~ (4.16) 5
詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 ◦ 詳細釣り合い条件を満たすように遷移核を 選べば必ず定常分布に収束する × 定常分布に収束するような遷移核は必ず 詳細釣り合い条件を満たす 6
詳細釣り合い条件の意味 両辺を添え字iに関して和を取る 左辺シグマ内の総和は1 7
詳細釣り合い条件の意味 式(4.11)と見かけ上は同じだが、式(4.11)は 遷移の途中であっても成り立つ恒等式 上式は目標分布 と が同一の分布 である制約の下で遷移核 に成り立つ条件式 8
連続型確率変数での詳細釣り合い条件 離散型の場合は全ての事象の組i, jで成立を確認 連続型の場合は任意の2点θ, θ’で成立を確認する 必要がある 9
詳細釣り合い条件のイメージ f(θ’) : f(θ) = 1:a とすると f(θ|θ’) : f(θ’|θ)=a:1 10 0
5 0.5 θ θ’ f(θ’|θ) f(θ|θ’) f()
詳細釣り合い条件 結果としてθに移動してくる確率密度f(θ)は、 11 発射地点θ’からθに飛んでくる確率密度の あらゆる発射地点に関する平均確率密度が θの確率密度となる → f(θ)の大きさに比例してθに飛んでくる
詳細釣り合い条件 初期状態を中心部から遠くにとっても、 乱数列は中心部へ急速に引き寄せられる 12 0 50 0.5 θ θ’ f(θ’|θ)
f(θ|θ’) f()