Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
NLP2019報告
Search
Atom
March 25, 2019
0
110
NLP2019報告
Atom
March 25, 2019
Tweet
Share
More Decks by Atom
See All by Atom
文献紹介 / Structure-based Knowledge Tracing: An Influence Propagation View
roraidolaurent
0
90
文献紹介 / Knowledge Tracing with GNN
roraidolaurent
0
94
文献紹介 / Non-Intrusive Parametric Reduced Order Models withHigh-Dimensional Inputs via Gradient-Free Active Subspace
roraidolaurent
0
56
ニューラルネットワークのベイズ推論 / Bayesian inference of neural networks
roraidolaurent
2
2.8k
Graph Convolutional Networks
roraidolaurent
0
230
文献紹介 / A Probabilistic Annotation Model for Crowdsourcing Coreference
roraidolaurent
0
69
文献紹介Deep Temporal-Recurrent-Replicated-Softmax for Topical Trends over Time
roraidolaurent
0
100
文献紹介/ Bayesian Learning for Neural Dependency Parsing
roraidolaurent
0
120
ポッキー数列の加法定理 / Pocky number additon theorem
roraidolaurent
0
210
Featured
See All Featured
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
31
2.2k
Gamification - CAS2011
davidbonilla
81
5.4k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
656
61k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
The Art of Programming - Codeland 2020
erikaheidi
55
13k
Code Review Best Practice
trishagee
70
19k
Faster Mobile Websites
deanohume
309
31k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.4k
Typedesign – Prime Four
hannesfritz
42
2.8k
Visualization
eitanlees
147
16k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
16k
Building Adaptive Systems
keathley
43
2.7k
Transcript
NLP2019 報告会 第25回言語処理学会 報告会 2019/3/25 長岡技術科学大学 自然言語処理研究室 吉澤 亜斗武
Contents 1. 興味をもった発表 (手法) ・E5-1:ExpertとImitatorの混合ネットワークによる 大規模半教師あり学習 ・E6-1:Conditional VAEに基づく多様性を考慮したイベント予測 2. 所感
・テーマセッション:A4/D4 ・興味をもたせるプレゼン ・研究する上で 2
ExpertとImitatorの混合ネットワークによる大規模半教師あり学習 ・半教師あり学習を現実的な時間でスケーラブルな学習したい. ・少量のラベル付きデータで学習する際,偽の特徴量を見抜くの が難しい.(分類:“this is a”) ・従来の手法:Expert(LSTMとMLPで構成) ・部分的な特徴量を抽出するCNN:Imitator を加えて, 並列計算を可能にした.
3
ExpertとImitatorの混合ネットワークによる大規模半教師あり学習 4
ExpertとImitatorの混合ネットワークによる大規模半教師あり学習 ・Expert はラベル付きデータによって学習し,Imitator は Expert を真似るようにラベルなしデータで学習する. ・偽の特徴量は,大量のラベルなしデータによって抽出されない ・単に学習が並列計算できるだけでなく,分類タスクにおいて 汎化性能の向上が確認できた ・理論上は他のタスクにも使えるはず
5
Conditional VAEに基づく多様性を考慮したイベント予測 ・多様性のあるイベント予測をしたい. ・Conditional VAE をモデルとし,さらに出力から入力信号に 復元するreconstructorを追加し,目的関数を組み込む. ・クラウドソーシングによって評価し,妥当性・多様性ともに ベースラインを上回った. 6
Conditional VAEに基づく多様性を考慮したイベント予測 7
2. 所感 8 ・D4:談話研究と言語処理,人工知能研究の連携に向けて ポライトネスやラポールの必然性を実感する一方で, 対話・人工知能へどのように応用していくか? ・A4:実世界にグラウンドされた言語処理 概念をいかに獲得していくか?
2. 所感 9 ・興味をもたせるプレゼン YANSで話した人が研究について熱心に語っており,一番興味 がプレゼンが上手だった. ・研究する上で サーベイは重要.(学会こわい)