Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Speaker Deck
PRO
Sign in
Sign up for free
NLP2019報告
Atom
March 25, 2019
0
78
NLP2019報告
Atom
March 25, 2019
Tweet
Share
More Decks by Atom
See All by Atom
文献紹介 / Structure-based Knowledge Tracing: An Influence Propagation View
roraidolaurent
0
29
文献紹介 / Knowledge Tracing with GNN
roraidolaurent
0
31
文献紹介 / Non-Intrusive Parametric Reduced Order Models withHigh-Dimensional Inputs via Gradient-Free Active Subspace
roraidolaurent
0
16
ニューラルネットワークのベイズ推論 / Bayesian inference of neural networks
roraidolaurent
1
2.2k
Graph Convolutional Networks
roraidolaurent
0
110
文献紹介 / A Probabilistic Annotation Model for Crowdsourcing Coreference
roraidolaurent
0
33
文献紹介Deep Temporal-Recurrent-Replicated-Softmax for Topical Trends over Time
roraidolaurent
0
58
文献紹介/ Bayesian Learning for Neural Dependency Parsing
roraidolaurent
0
60
ポッキー数列の加法定理 / Pocky number additon theorem
roraidolaurent
0
77
Featured
See All Featured
Teambox: Starting and Learning
jrom
121
7.6k
Become a Pro
speakerdeck
PRO
3
770
Writing Fast Ruby
sferik
612
57k
Practical Orchestrator
shlominoach
178
8.6k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
3
430
GraphQLの誤解/rethinking-graphql
sonatard
24
6.1k
ParisWeb 2013: Learning to Love: Crash Course in Emotional UX Design
dotmariusz
100
5.9k
We Have a Design System, Now What?
morganepeng
35
2.9k
Docker and Python
trallard
27
1.5k
Design by the Numbers
sachag
271
17k
Code Reviewing Like a Champion
maltzj
506
37k
For a Future-Friendly Web
brad_frost
164
7.4k
Transcript
NLP2019 報告会 第25回言語処理学会 報告会 2019/3/25 長岡技術科学大学 自然言語処理研究室 吉澤 亜斗武
Contents 1. 興味をもった発表 (手法) ・E5-1:ExpertとImitatorの混合ネットワークによる 大規模半教師あり学習 ・E6-1:Conditional VAEに基づく多様性を考慮したイベント予測 2. 所感
・テーマセッション:A4/D4 ・興味をもたせるプレゼン ・研究する上で 2
ExpertとImitatorの混合ネットワークによる大規模半教師あり学習 ・半教師あり学習を現実的な時間でスケーラブルな学習したい. ・少量のラベル付きデータで学習する際,偽の特徴量を見抜くの が難しい.(分類:“this is a”) ・従来の手法:Expert(LSTMとMLPで構成) ・部分的な特徴量を抽出するCNN:Imitator を加えて, 並列計算を可能にした.
3
ExpertとImitatorの混合ネットワークによる大規模半教師あり学習 4
ExpertとImitatorの混合ネットワークによる大規模半教師あり学習 ・Expert はラベル付きデータによって学習し,Imitator は Expert を真似るようにラベルなしデータで学習する. ・偽の特徴量は,大量のラベルなしデータによって抽出されない ・単に学習が並列計算できるだけでなく,分類タスクにおいて 汎化性能の向上が確認できた ・理論上は他のタスクにも使えるはず
5
Conditional VAEに基づく多様性を考慮したイベント予測 ・多様性のあるイベント予測をしたい. ・Conditional VAE をモデルとし,さらに出力から入力信号に 復元するreconstructorを追加し,目的関数を組み込む. ・クラウドソーシングによって評価し,妥当性・多様性ともに ベースラインを上回った. 6
Conditional VAEに基づく多様性を考慮したイベント予測 7
2. 所感 8 ・D4:談話研究と言語処理,人工知能研究の連携に向けて ポライトネスやラポールの必然性を実感する一方で, 対話・人工知能へどのように応用していくか? ・A4:実世界にグラウンドされた言語処理 概念をいかに獲得していくか?
2. 所感 9 ・興味をもたせるプレゼン YANSで話した人が研究について熱心に語っており,一番興味 がプレゼンが上手だった. ・研究する上で サーベイは重要.(学会こわい)