Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Variational Auto Encoderでの Disentangled表現
Search
Kosuke Miyoshi
November 03, 2016
Research
0
590
Variational Auto Encoderでの Disentangled表現
※ Speaker Deck内ではURLリンクがクリックできないので、クリックしたい場合はpdfをダウンロードしてください
Kosuke Miyoshi
November 03, 2016
Tweet
Share
More Decks by Kosuke Miyoshi
See All by Kosuke Miyoshi
Representation Learning with Contrastive Predictive Coding
miyosuda
1
150
Sutton "Reinforcement Learning" 2nd Edition Ch13: Policy Gradient Methods
miyosuda
0
180
Sutton "Reinforcement Learning" 2nd Edition Ch7: n-step Bootstrapping
miyosuda
0
71
Sutton "Reinforcement Learning" 2nd Edition Ch6: TD-learning
miyosuda
0
68
SCAN
miyosuda
0
780
TensorFlow & DeepMind Lab & UNREAL
miyosuda
1
2.5k
Other Decks in Research
See All in Research
PetiteSRE_GenAIEraにおけるインフラのあり方観察
ichichi
0
270
新規のC言語処理系を実装することによる 組込みシステム研究にもたらす価値 についての考察
zacky1972
1
320
「熊本県内バス・電車無料デー」の振り返りとその後の展開@土木計画学SS:成功失敗事例に学ぶ公共交通運賃設定
trafficbrain
0
210
Weekly AI Agents News! 11月号 論文のアーカイブ
masatoto
0
290
移動ビッグデータに基づく地理情報の埋め込みベクトル化
tam1110
0
240
機械学習でヒトの行動を変える
hiromu1996
1
530
知識強化言語モデルLUKE @ LUKEミートアップ
ikuyamada
0
200
書き手はどこを訪れたか? - 言語モデルで訪問行動を読み取る -
hiroki13
0
140
言語モデルLUKEを経済の知識に特化させたモデル「UBKE-LUKE」について
petter0201
0
200
文化が形作る音楽推薦の消費と、その逆
kuri8ive
0
240
AWS 音声基盤モデル トーク解析AI MiiTelの音声処理について
ken57
0
130
Global Evidence Summit (GES) 参加報告
daimoriwaki
0
240
Featured
See All Featured
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
47
5.2k
Music & Morning Musume
bryan
46
6.3k
RailsConf 2023
tenderlove
29
1k
Designing Experiences People Love
moore
140
23k
Speed Design
sergeychernyshev
27
790
Art, The Web, and Tiny UX
lynnandtonic
298
20k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
7k
Imperfection Machines: The Place of Print at Facebook
scottboms
267
13k
[RailsConf 2023] Rails as a piece of cake
palkan
53
5.2k
Typedesign – Prime Four
hannesfritz
40
2.5k
Large-scale JavaScript Application Architecture
addyosmani
511
110k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
4
410
Transcript
7BSJBUJPOBM"VUP&ODPEFSͰͷ %JTFOUBOHMFEදݱ OBSSBUJWFOJHIUTגࣜձࣾࡾ߁༞ શΞʔΩςΫνϟୈճ4*(8#"Φϑձ
&BSMZ7JTVBM$PODFQU-FBSOJOHXJUI 6OTVQFSWJTFE%FFQ-FBSOJOH Irina Higgins, Loic Matthey, Xavier Glorot, Arka Pal,
Benigno Uria, Charles Blundell, Shakir Mohamed, Alexander Lerchner Google DeepMind, 2016 ͱΓ͋͛Δจ ˞όʔδϣϯʹΑͬͯύϥϝʔλ͕େ͖͘ҧ͍ͬͯΔɻ࠷৽ͷWΛར༻
%JTFOUBOHMFE SFQSFTFOUBUJPO w ҙຯۭؒͷදݱΛɺҐஔɺαΠζɺFUDʜͳͲͷߏ ཁૉͷύϥϝʔλʹ͔Εͨঢ়ଶͰ֫ಘ͍ͨ͠ w 7BSJBUJPOBM"VUP&ODPEFSͷજࡏมͰ͜ΕΒͷ දݱΛڭࢣͳ͠Ͱ֫ಘͰ͖ͳ͍͔ʁ
7BSJBUJPOBM"VUP&ODPEFS 9 [ 9` FODPEFS EFDPEFS αϯϓϦϯά
7BSJBUJPOBM"VUP&ODPEFS zͷࣄޙۙࣅq(z|x) (=Τϯίʔμͷग़ྗ ͱ N(0,I)ͱͷڑΛ࠷খԽ ෮ݩޡࠩΛ࠷খԽ
Ќͩͱzͷࣄޙۙࣅq(z|x)ΛΑΓ N(0,I)ʹ͚ۙͮΑ͏ͱ͢Δ ਖ਼ଇԽ߲ʹЌΛಋೖ Ќͷࢹ֮࿏ʹ͋ΔύϥϝʔλʁΛۙࣅ
w Y࠲ඪ Z࠲ඪͦΕͧΕύλʔϯ w TDBMFύλʔϯ w ճసύλʔϯ w ΦϒδΣΫτͷܗ ପԁɺϋʔτɺ࢛֯
ύλʔϯ Yͷը૾ݸΛજࡏมݸͷ7"&Ͱֶश [ FODPEFS EFDPEFS αϯϓϦϯά ͷμ,σ
Ќ Ќ
N(0, I)ʹٵ͍ࠐ·Εͯ͠·͍ͬͯΔ જࡏมݸͷ͏ͪͷͻͱͭͷЖ͚ͩΛม͑ͯΓΛݻఆ ֤જࡏม͕ύϥϝʔλ͝ͱʹ ͔Ε͍ͯΔ જࡏมͷࢄ જࡏมͷЖΛdͰ ಈ͔͢
%FFQ.JOEʹΑΔͦͷଞͷ࣮ݧ݁Ռ IUUQUJOZVSMDPNKHCZ[LF "UBSJ %໎࿏FUD…
7"&Ͱ%JTFOUBOHMF͞ΕΔʹ w ม͕࿈ଓͰຶʹαϯϓϦϯά͞Ε͍ͯΔ w ཁૉ͕౷ܭతʹಠཱ w ੑ͕ݮΒ͞Ε͍ͯΔ
w ີʹαϯϓϦϯά͞Ε͍ͯΕɺೋ͕ͭผͷΦϒδΣΫτͩͱೝࣝͰ͖Δ
ಈ͖͕࿈ଓͰີʹαϯϓϦϯά͞Ε͍ͯΕɺ ಉ͡ΦϒδΣΫτͩͱೝࣝͰ͖Δ ͜ΕΒೋͭͷύυϧಉ͡ΦϒδΣΫτͩΖ͏͔ʁ
࠶ݱݕূ ETIBQF
࠶ݱݕূ #SFBLPVU ΫϦοΫͰ࠶ੜ wϒϩοΫͷมԽ͕ͭͬͨજࡏมʹ·͕ͨͬͯऔΕ͍ͯΔ จͷ༷ͳύυϧͷಈ͖είΞͷมԽ·ͩऔΕ͍ͯͳ͍ wЌΛڧ͘͢Δͱͬͯ͘Δજࡏมݮͬͯ͘Δ͕ɺಉ࣌ʹϘέ ۩߹͕େ͖͘ͳͬͯύυϧ͕ফ͑ͯ͠·͏ [ [
[