Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
EMNLP2014読み会 "Efficient Non-parametric Estimati...
Search
Yuya Unno
November 24, 2014
Research
0
15
EMNLP2014読み会 "Efficient Non-parametric Estimation of Multiple Embeddings per Word in Vector Space"
Yuya Unno
November 24, 2014
Tweet
Share
More Decks by Yuya Unno
See All by Yuya Unno
深層学習で切り拓くパーソナルロボットの未来 @東京大学 先端技術セミナー 工学最前線
unnonouno
0
15
深層学習時代の自然言語処理ビジネス @DLLAB 言語・音声ナイト
unnonouno
0
38
ベンチャー企業で言葉を扱うロボットの研究開発をする @東京大学 電子情報学特論I
unnonouno
0
28
PFNにおけるセミナー活動 @NLP2018 言語処理研究者・技術者の育成と未来への連携WS
unnonouno
0
8
進化するChainer @JSAI2017
unnonouno
0
16
予測型戦略を知るための機械学習チュートリアル @BigData Conference 2017 Spring
unnonouno
0
7
深層学習フレームワーク Chainerとその進化
unnonouno
0
16
深層学習による機械とのコミュニケーション @DeNA TechCon 2017
unnonouno
0
22
最先端NLP勉強会 “Learning Language Games through Interaction” @第8回最先端NLP勉強会
unnonouno
0
11
Other Decks in Research
See All in Research
EBPMにおける生成AI活用について
daimoriwaki
0
290
資産間の相関関係を頑健に評価する指標を用いたファクターアローケーション戦略の構築
nomamist
0
150
Prithvi-EO-2.0: A Versatile Multi-Temporal Foundation Model for Earth Observation Applications
satai
3
190
PostgreSQLにおける分散トレーシングの現在 - 第50回PostgreSQLアンカンファレンス
seinoyu
0
260
チュートリアル:Mamba, Vision Mamba (Vim)
hf149
6
2.3k
Poster: Feasibility of Runtime-Neutral Wasm Instrumentation for Edge-Cloud Workload Handover
chikuwait
0
400
メタヒューリスティクスに基づく汎用線形整数計画ソルバーの開発
snowberryfield
3
800
国際会議ACL2024参加報告
chemical_tree
1
450
IM2024
mamoruk
0
240
ECCV2024読み会: Minimalist Vision with Freeform Pixels
hsmtta
1
440
ベイズ的方法に基づく統計的因果推論の基礎
holyshun
0
850
Large Vision Language Model (LVLM) に関する最新知見まとめ (Part 1)
onely7
24
6.1k
Featured
See All Featured
A Modern Web Designer's Workflow
chriscoyier
693
190k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
40
2k
How to train your dragon (web standard)
notwaldorf
91
5.9k
Intergalactic Javascript Robots from Outer Space
tanoku
270
27k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
33
2.8k
Designing on Purpose - Digital PM Summit 2013
jponch
117
7.1k
Building Flexible Design Systems
yeseniaperezcruz
328
38k
Music & Morning Musume
bryan
46
6.4k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
30
4.6k
Become a Pro
speakerdeck
PRO
26
5.2k
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.7k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
49k
Transcript
Efficient Non-parametric Estimation of Multiple Embeddings per Word in Vector
Space Arvind Neelakantan, Jeevan Shankar, Alexandre Passos, Andrew McCallum ®Preferred Infrastructure ~ôø (@unnonouno) EMNLP2014 @PFI
nìûÏ ~ôø (@unnonouno) ! nÕǽ6ODKPYARbF6ÿå ! ´ò½5&7'+6:2" ! NLP¾q/fµt©k2014- !
rc§¨Û¹IBM¢ýÊPFI
îÓ NLP¾q/fYANS ! YANSIbXJBZ9o ! ¾qÊÒl40ÈãØ9/¾qÊÒln Ã/ÊÒ>4;$4/¸2: ! s6¤jCbJR@/»5üç !
d0mê* $ ! YANSĀ3o ! ǽfecfyg.ĀÑf> 2" ! à-;õ3f*""
þ ! word2vec>ÙÉ )1(/àÇ.í/× WEPa>Á; ! àÇ/å+ÇÂĄă¥¿>tx.¥ ! ×WEPa/>n*4;w5«£ );
ù*=;Skip-gram [Mikolov+13] éā 0 Ă * ; $(&#%'
{*=;Skip-gram ! àÇ/WEPa v(wt ) +GbODKP/WEP a v(c) /|Ð>IF\AQ.<;
Ă * ;
Multi Sense Skip-gram (MSSG) model 1. ÞÚàÇ/GbODKPWEPa9æG bODKP>±h 2. ×âÀ/g9iËGbODKP/ßú
$ ×>ó 3. #/×.v¼";×WEPa>ó 4. ó<$×WEPa.Ý')ÞÚGbOD KPz );+.";Skip-gram+ t!
ù*=;MSSG $(&#%'"! " Skip-gram
{*=;MSSG ! ó $×WEPa>¯% ! àÇ/WEPa0×ï.ª:GbODKP /WEPa01(%ª;
@aH`LZ*=;MSSG ! ÞÚGbO DKP> ¯')× >ó"; G Qu ;%
Non-Parametric MSSG (NP-MSSG) model ! MSSG*0×WEPa/04¬&%'$ ! NP-MSSG*0<>n*4; ! 4w0àö.2*+GbODKPWEP
a/æƶ$9} ×WEPa> Í";%
NP-MSSG.;×/ó/Ôw ! 2*+ÆGbODKPh $9}9 ×Ëä>²:)8 ! k(wt )02*wt .²:)$×/ !
vcontext 0wt /æGbODKPWEPa ! (wt , k)0kË/×/GbODKPg¦
q/2+4 ! MSSG ! àÇ.v )kÅ/×WEPa>²:);S_ [ Mkè !
" ! ! ó<$×WEPa>¯')ñ.Skip-gram ! NP-MSSG ! kÅ/×WEPa>²:);/0t! ! "# ! ó<$×WEPa*Skip-gram";/0t!
Ì¡°Apple ! ° +J^VK<.p<;
Ì¡°Run) ! ×/Ąă-àÇ.0º/×WEPa³Á<;
×/ßú >*;/Ì localSimiËú$×t¹/÷ÖcÜ
·Î ! 01+?,t!Ì>6')$(^o^) ! E_K>n*z";w.áð )$ /*?-/*/ +ëÄ ! ÞÚàÇ*4;8:QD][bP/P
TNE*4$1nÕ-"; ! S_F_UWEPa>¯