Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
EMNLP2014読み会 "Efficient Non-parametric Estimati...
Search
Yuya Unno
November 24, 2014
Research
0
18
EMNLP2014読み会 "Efficient Non-parametric Estimation of Multiple Embeddings per Word in Vector Space"
Yuya Unno
November 24, 2014
Tweet
Share
More Decks by Yuya Unno
See All by Yuya Unno
深層学習で切り拓くパーソナルロボットの未来 @東京大学 先端技術セミナー 工学最前線
unnonouno
0
17
深層学習時代の自然言語処理ビジネス @DLLAB 言語・音声ナイト
unnonouno
0
38
ベンチャー企業で言葉を扱うロボットの研究開発をする @東京大学 電子情報学特論I
unnonouno
0
29
PFNにおけるセミナー活動 @NLP2018 言語処理研究者・技術者の育成と未来への連携WS
unnonouno
0
9
進化するChainer @JSAI2017
unnonouno
0
17
予測型戦略を知るための機械学習チュートリアル @BigData Conference 2017 Spring
unnonouno
0
9
深層学習フレームワーク Chainerとその進化
unnonouno
0
16
深層学習による機械とのコミュニケーション @DeNA TechCon 2017
unnonouno
0
23
最先端NLP勉強会 “Learning Language Games through Interaction” @第8回最先端NLP勉強会
unnonouno
0
12
Other Decks in Research
See All in Research
ノンパラメトリック分布表現を用いた位置尤度場周辺化によるRTK-GNSSの整数アンビギュイティ推定
aoki_nosse
0
320
EOGS: Gaussian Splatting for Efficient Satellite Image Photogrammetry
satai
4
250
90 分で学ぶ P 対 NP 問題
e869120
17
7.5k
Generative Models 2025
takahashihiroshi
21
11k
Mathematics in the Age of AI and the 4 Generation University
hachama
0
160
電通総研の生成AI・エージェントの取り組みエンジニアリング業務向けAI活用事例紹介
isidaitc
1
230
利用シーンを意識した推薦システム〜SpotifyとAmazonの事例から〜
kuri8ive
1
200
Towards a More Efficient Reasoning LLM: AIMO2 Solution Summary and Introduction to Fast-Math Models
analokmaus
2
230
在庫管理のための機械学習と最適化の融合
mickey_kubo
3
1.1k
Vision And Languageモデルにおける異なるドメインでの継続事前学習が性能に与える影響の検証 / YANS2024
sansan_randd
1
110
「エージェントって何?」から「実際の開発現場で役立つ考え方やベストプラクティス」まで
mickey_kubo
0
120
SSII2025 [SS1] レンズレスカメラ
ssii
PRO
2
950
Featured
See All Featured
Build your cross-platform service in a week with App Engine
jlugia
231
18k
A designer walks into a library…
pauljervisheath
207
24k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
35
2.3k
The Cost Of JavaScript in 2023
addyosmani
51
8.5k
Making Projects Easy
brettharned
116
6.3k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
34
3k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
13k
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
addyosmani
7
700
A better future with KSS
kneath
239
17k
Git: the NoSQL Database
bkeepers
PRO
430
65k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
26
2.9k
Fireside Chat
paigeccino
37
3.5k
Transcript
Efficient Non-parametric Estimation of Multiple Embeddings per Word in Vector
Space Arvind Neelakantan, Jeevan Shankar, Alexandre Passos, Andrew McCallum ®Preferred Infrastructure ~ôø (@unnonouno) EMNLP2014 @PFI
nìûÏ ~ôø (@unnonouno) ! nÕǽ6ODKPYARbF6ÿå ! ´ò½5&7'+6:2" ! NLP¾q/fµt©k2014- !
rc§¨Û¹IBM¢ýÊPFI
îÓ NLP¾q/fYANS ! YANSIbXJBZ9o ! ¾qÊÒl40ÈãØ9/¾qÊÒln Ã/ÊÒ>4;$4/¸2: ! s6¤jCbJR@/»5üç !
d0mê* $ ! YANSĀ3o ! ǽfecfyg.ĀÑf> 2" ! à-;õ3f*""
þ ! word2vec>ÙÉ )1(/àÇ.í/× WEPa>Á; ! àÇ/å+ÇÂĄă¥¿>tx.¥ ! ×WEPa/>n*4;w5«£ );
ù*=;Skip-gram [Mikolov+13] éā 0 Ă * ; $(&#%'
{*=;Skip-gram ! àÇ/WEPa v(wt ) +GbODKP/WEP a v(c) /|Ð>IF\AQ.<;
Ă * ;
Multi Sense Skip-gram (MSSG) model 1. ÞÚàÇ/GbODKPWEPa9æG bODKP>±h 2. ×âÀ/g9iËGbODKP/ßú
$ ×>ó 3. #/×.v¼";×WEPa>ó 4. ó<$×WEPa.Ý')ÞÚGbOD KPz );+.";Skip-gram+ t!
ù*=;MSSG $(&#%'"! " Skip-gram
{*=;MSSG ! ó $×WEPa>¯% ! àÇ/WEPa0×ï.ª:GbODKP /WEPa01(%ª;
@aH`LZ*=;MSSG ! ÞÚGbO DKP> ¯')× >ó"; G Qu ;%
Non-Parametric MSSG (NP-MSSG) model ! MSSG*0×WEPa/04¬&%'$ ! NP-MSSG*0<>n*4; ! 4w0àö.2*+GbODKPWEP
a/æÆ¶$9} ×WEPa> Í";%
NP-MSSG.;×/ó/Ôw ! 2*+ÆGbODKPh $9}9 ×Ëä>²:)8 ! k(wt )02*wt .²:)$×/ !
vcontext 0wt /æGbODKPWEPa ! (wt , k)0kË/×/GbODKPg¦
q/2+4 ! MSSG ! àÇ.v )kÅ/×WEPa>²:);S_ [ Mkè !
" ! ! ó<$×WEPa>¯')ñ.Skip-gram ! NP-MSSG ! kÅ/×WEPa>²:);/0t! ! "# ! ó<$×WEPa*Skip-gram";/0t!
Ì¡°Apple ! ° +J^VK<.p<;
Ì¡°Run) ! ×/Ąă-àÇ.0º/×WEPa³Á<;
×/ßú >*;/Ì localSimiËú$×t¹/÷ÖcÜ
·Î ! 01+?,t!Ì>6')$(^o^) ! E_K>n*z";w.áð )$ /*?-/*/ +ëÄ ! ÞÚàÇ*4;8:QD][bP/P
TNE*4$1nÕ-"; ! S_F_UWEPa>¯