Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
情報マイニング特論 輪講資料「詳細釣り合い条件」
Search
Yumeto Inaoka
December 08, 2018
Technology
0
220
情報マイニング特論 輪講資料「詳細釣り合い条件」
2018年12月7日の情報マイニング特論で発表。
Yumeto Inaoka
December 08, 2018
Tweet
Share
More Decks by Yumeto Inaoka
See All by Yumeto Inaoka
文献紹介: Quantity doesn’t buy quality syntax with neural language models
yumeto
1
190
文献紹介: Open Domain Web Keyphrase Extraction Beyond Language Modeling
yumeto
0
240
文献紹介: Self-Supervised_Neural_Machine_Translation
yumeto
0
160
文献紹介: Comparing and Developing Tools to Measure the Readability of Domain-Specific Texts
yumeto
0
170
文献紹介: PAWS: Paraphrase Adversaries from Word Scrambling
yumeto
0
160
文献紹介: Beyond BLEU: Training Neural Machine Translation with Semantic Similarity
yumeto
0
280
文献紹介: EditNTS: An Neural Programmer-Interpreter Model for Sentence Simplification through Explicit Editing
yumeto
0
340
文献紹介: Decomposable Neural Paraphrase Generation
yumeto
0
230
文献紹介: Analyzing the Limitations of Cross-lingual Word Embedding Mappings
yumeto
0
230
Other Decks in Technology
See All in Technology
まだ間に合う! StrandsとBedrock AgentCoreでAIエージェント構築に入門しよう
minorun365
PRO
10
480
モバイルアプリ研修
recruitengineers
PRO
5
1.5k
Browser
recruitengineers
PRO
6
1.9k
DuckDB-Wasmを使って ブラウザ上でRDBMSを動かす
hacusk
1
130
ZOZOTOWNフロントエンドにおけるディレクトリの分割戦略
zozotech
PRO
18
5.9k
生成AI時代のデータ基盤
shibuiwilliam
1
710
Goss: Faiss向けの新しい本番環境対応 Goバインディング #coefl_go_jp
bengo4com
1
1.4k
新規案件の立ち上げ専門チームから見たAI駆動開発の始め方
shuyakinjo
0
590
AIとTDDによるNext.js「隙間ツール」開発の実践
makotot
6
790
Figma + Storybook + PlaywrightのMCPを使ったフロントエンド開発
yug1224
10
3.4k
Vault meets Kubernetes
mochizuki875
0
140
「AI2027」を紐解く ― AGI・ASI・シンギュラリティ
masayamoriofficial
0
150
Featured
See All Featured
Navigating Team Friction
lara
189
15k
Making the Leap to Tech Lead
cromwellryan
134
9.5k
Why Our Code Smells
bkeepers
PRO
339
57k
Building Flexible Design Systems
yeseniaperezcruz
328
39k
Unsuck your backbone
ammeep
671
58k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
9
790
Making Projects Easy
brettharned
117
6.4k
A Tale of Four Properties
chriscoyier
160
23k
Rebuilding a faster, lazier Slack
samanthasiow
83
9.1k
What's in a price? How to price your products and services
michaelherold
246
12k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
248
1.3M
Transcript
4.4 詳細釣り合い条件 稲岡 夢人
前回は・・・ 遷移核から定常分布を求めた 実際は・・・ 事後分布に従う乱数が欲しい → 事後分布が定常分布になるような遷移核を導く 2
マルコフ連鎖モンテカルロ法 (Markov chain MonteCarlo methods; MCMC) サンプリングしたい分布が定常分布となるような マルコフ連鎖を構成する方法 (遷移核を見つける) サンプリングしたい分布を目標分布という
今回の目標分布は事後分布(既知) 3
遷移核の導出において • 遷移核によっては定常分布をもたない • 今回は定常分布を持つような遷移核が欲しい → どのような条件下だと定常分布に収束するか 4
詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 標本空間の全ての事象の組i, jに関して 式(4.13) が満たされるときマルコフ連鎖は定常分布に収束 ネクタイ問題はこれを満たす 式(4.14) ~ (4.16) 5
詳細釣り合い条件 マルコフ連鎖が定常分布に収束する十分条件 ◦ 詳細釣り合い条件を満たすように遷移核を 選べば必ず定常分布に収束する × 定常分布に収束するような遷移核は必ず 詳細釣り合い条件を満たす 6
詳細釣り合い条件の意味 両辺を添え字iに関して和を取る 左辺シグマ内の総和は1 7
詳細釣り合い条件の意味 式(4.11)と見かけ上は同じだが、式(4.11)は 遷移の途中であっても成り立つ恒等式 上式は目標分布 と が同一の分布 である制約の下で遷移核 に成り立つ条件式 8
連続型確率変数での詳細釣り合い条件 離散型の場合は全ての事象の組i, jで成立を確認 連続型の場合は任意の2点θ, θ’で成立を確認する 必要がある 9
詳細釣り合い条件のイメージ f(θ’) : f(θ) = 1:a とすると f(θ|θ’) : f(θ’|θ)=a:1 10 0
5 0.5 θ θ’ f(θ’|θ) f(θ|θ’) f()
詳細釣り合い条件 結果としてθに移動してくる確率密度f(θ)は、 11 発射地点θ’からθに飛んでくる確率密度の あらゆる発射地点に関する平均確率密度が θの確率密度となる → f(θ)の大きさに比例してθに飛んでくる
詳細釣り合い条件 初期状態を中心部から遠くにとっても、 乱数列は中心部へ急速に引き寄せられる 12 0 50 0.5 θ θ’ f(θ’|θ)
f(θ|θ’) f()