Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
EMNLP2014読み会 "Efficient Non-parametric Estimati...
Search
Yuya Unno
November 24, 2014
Research
0
19
EMNLP2014読み会 "Efficient Non-parametric Estimation of Multiple Embeddings per Word in Vector Space"
Yuya Unno
November 24, 2014
Tweet
Share
More Decks by Yuya Unno
See All by Yuya Unno
深層学習で切り拓くパーソナルロボットの未来 @東京大学 先端技術セミナー 工学最前線
unnonouno
0
17
深層学習時代の自然言語処理ビジネス @DLLAB 言語・音声ナイト
unnonouno
0
38
ベンチャー企業で言葉を扱うロボットの研究開発をする @東京大学 電子情報学特論I
unnonouno
0
34
PFNにおけるセミナー活動 @NLP2018 言語処理研究者・技術者の育成と未来への連携WS
unnonouno
0
9
進化するChainer @JSAI2017
unnonouno
0
17
予測型戦略を知るための機械学習チュートリアル @BigData Conference 2017 Spring
unnonouno
0
11
深層学習フレームワーク Chainerとその進化
unnonouno
0
16
深層学習による機械とのコミュニケーション @DeNA TechCon 2017
unnonouno
0
24
最先端NLP勉強会 “Learning Language Games through Interaction” @第8回最先端NLP勉強会
unnonouno
0
12
Other Decks in Research
See All in Research
SSII2025 [SS1] レンズレスカメラ
ssii
PRO
2
1.1k
AIスパコン「さくらONE」のLLM学習ベンチマークによる性能評価 / SAKURAONE LLM Training Benchmarking
yuukit
0
350
EcoWikiRS: Learning Ecological Representation of Satellite Images from Weak Supervision with Species Observation and Wikipedia
satai
3
140
Stealing LUKS Keys via TPM and UUID Spoofing in 10 Minutes - BSides 2025
anykeyshik
0
120
心理言語学の視点から再考する言語モデルの学習過程
chemical_tree
2
590
GPUを利用したStein Particle Filterによる点群6自由度モンテカルロSLAM
takuminakao
0
280
生成的推薦の人気バイアスの分析:暗記の観点から / JSAI2025
upura
0
260
データxデジタルマップで拓く ミラノ発・地域共創最前線
mapconcierge4agu
0
210
Towards a More Efficient Reasoning LLM: AIMO2 Solution Summary and Introduction to Fast-Math Models
analokmaus
2
800
2025/7/5 応用音響研究会招待講演@北海道大学
takuma_okamoto
1
190
cvpaper.challenge 10年の軌跡 / cvpaper.challenge a decade-long journey
gatheluck
3
310
多言語カスタマーインタビューの“壁”を越える~PMと生成AIの共創~ 株式会社ジグザグ 松野 亘
watarumatsuno
0
120
Featured
See All Featured
Thoughts on Productivity
jonyablonski
70
4.8k
Imperfection Machines: The Place of Print at Facebook
scottboms
268
13k
Agile that works and the tools we love
rasmusluckow
330
21k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
36
2.5k
GitHub's CSS Performance
jonrohan
1032
460k
YesSQL, Process and Tooling at Scale
rocio
173
14k
Reflections from 52 weeks, 52 projects
jeffersonlam
352
21k
Making the Leap to Tech Lead
cromwellryan
135
9.5k
Speed Design
sergeychernyshev
32
1.1k
Writing Fast Ruby
sferik
628
62k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
358
30k
Gamification - CAS2011
davidbonilla
81
5.4k
Transcript
Efficient Non-parametric Estimation of Multiple Embeddings per Word in Vector
Space Arvind Neelakantan, Jeevan Shankar, Alexandre Passos, Andrew McCallum ®Preferred Infrastructure ~ôø (@unnonouno) EMNLP2014 @PFI
nìûÏ ~ôø (@unnonouno) ! nÕǽ6ODKPYARbF6ÿå ! ´ò½5&7'+6:2" ! NLP¾q/fµt©k2014- !
rc§¨Û¹IBM¢ýÊPFI
îÓ NLP¾q/fYANS ! YANSIbXJBZ9o ! ¾qÊÒl40ÈãØ9/¾qÊÒln Ã/ÊÒ>4;$4/¸2: ! s6¤jCbJR@/»5üç !
d0mê* $ ! YANSĀ3o ! ǽfecfyg.ĀÑf> 2" ! à-;õ3f*""
þ ! word2vec>ÙÉ )1(/àÇ.í/× WEPa>Á; ! àÇ/å+ÇÂĄă¥¿>tx.¥ ! ×WEPa/>n*4;w5«£ );
ù*=;Skip-gram [Mikolov+13] éā 0 Ă * ; $(&#%'
{*=;Skip-gram ! àÇ/WEPa v(wt ) +GbODKP/WEP a v(c) /|Ð>IF\AQ.<;
Ă * ;
Multi Sense Skip-gram (MSSG) model 1. ÞÚàÇ/GbODKPWEPa9æG bODKP>±h 2. ×âÀ/g9iËGbODKP/ßú
$ ×>ó 3. #/×.v¼";×WEPa>ó 4. ó<$×WEPa.Ý')ÞÚGbOD KPz );+.";Skip-gram+ t!
ù*=;MSSG $(&#%'"! " Skip-gram
{*=;MSSG ! ó $×WEPa>¯% ! àÇ/WEPa0×ï.ª:GbODKP /WEPa01(%ª;
@aH`LZ*=;MSSG ! ÞÚGbO DKP> ¯')× >ó"; G Qu ;%
Non-Parametric MSSG (NP-MSSG) model ! MSSG*0×WEPa/04¬&%'$ ! NP-MSSG*0<>n*4; ! 4w0àö.2*+GbODKPWEP
a/æÆ¶$9} ×WEPa> Í";%
NP-MSSG.;×/ó/Ôw ! 2*+ÆGbODKPh $9}9 ×Ëä>²:)8 ! k(wt )02*wt .²:)$×/ !
vcontext 0wt /æGbODKPWEPa ! (wt , k)0kË/×/GbODKPg¦
q/2+4 ! MSSG ! àÇ.v )kÅ/×WEPa>²:);S_ [ Mkè !
" ! ! ó<$×WEPa>¯')ñ.Skip-gram ! NP-MSSG ! kÅ/×WEPa>²:);/0t! ! "# ! ó<$×WEPa*Skip-gram";/0t!
Ì¡°Apple ! ° +J^VK<.p<;
Ì¡°Run) ! ×/Ąă-àÇ.0º/×WEPa³Á<;
×/ßú >*;/Ì localSimiËú$×t¹/÷ÖcÜ
·Î ! 01+?,t!Ì>6')$(^o^) ! E_K>n*z";w.áð )$ /*?-/*/ +ëÄ ! ÞÚàÇ*4;8:QD][bP/P
TNE*4$1nÕ-"; ! S_F_UWEPa>¯