Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
NLP2019報告
Search
Atom
March 25, 2019
0
110
NLP2019報告
Atom
March 25, 2019
Tweet
Share
More Decks by Atom
See All by Atom
文献紹介 / Structure-based Knowledge Tracing: An Influence Propagation View
roraidolaurent
0
91
文献紹介 / Knowledge Tracing with GNN
roraidolaurent
0
97
文献紹介 / Non-Intrusive Parametric Reduced Order Models withHigh-Dimensional Inputs via Gradient-Free Active Subspace
roraidolaurent
0
56
ニューラルネットワークのベイズ推論 / Bayesian inference of neural networks
roraidolaurent
2
2.8k
Graph Convolutional Networks
roraidolaurent
0
230
文献紹介 / A Probabilistic Annotation Model for Crowdsourcing Coreference
roraidolaurent
0
69
文献紹介Deep Temporal-Recurrent-Replicated-Softmax for Topical Trends over Time
roraidolaurent
0
100
文献紹介/ Bayesian Learning for Neural Dependency Parsing
roraidolaurent
0
120
ポッキー数列の加法定理 / Pocky number additon theorem
roraidolaurent
0
210
Featured
See All Featured
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
55
3k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
46
7.7k
Build your cross-platform service in a week with App Engine
jlugia
232
18k
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
10
870
Context Engineering - Making Every Token Count
addyosmani
7
260
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
37
2.6k
It's Worth the Effort
3n
187
28k
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
115
20k
Stop Working from a Prison Cell
hatefulcrawdad
271
21k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
508
140k
Bash Introduction
62gerente
615
210k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
285
14k
Transcript
NLP2019 報告会 第25回言語処理学会 報告会 2019/3/25 長岡技術科学大学 自然言語処理研究室 吉澤 亜斗武
Contents 1. 興味をもった発表 (手法) ・E5-1:ExpertとImitatorの混合ネットワークによる 大規模半教師あり学習 ・E6-1:Conditional VAEに基づく多様性を考慮したイベント予測 2. 所感
・テーマセッション:A4/D4 ・興味をもたせるプレゼン ・研究する上で 2
ExpertとImitatorの混合ネットワークによる大規模半教師あり学習 ・半教師あり学習を現実的な時間でスケーラブルな学習したい. ・少量のラベル付きデータで学習する際,偽の特徴量を見抜くの が難しい.(分類:“this is a”) ・従来の手法:Expert(LSTMとMLPで構成) ・部分的な特徴量を抽出するCNN:Imitator を加えて, 並列計算を可能にした.
3
ExpertとImitatorの混合ネットワークによる大規模半教師あり学習 4
ExpertとImitatorの混合ネットワークによる大規模半教師あり学習 ・Expert はラベル付きデータによって学習し,Imitator は Expert を真似るようにラベルなしデータで学習する. ・偽の特徴量は,大量のラベルなしデータによって抽出されない ・単に学習が並列計算できるだけでなく,分類タスクにおいて 汎化性能の向上が確認できた ・理論上は他のタスクにも使えるはず
5
Conditional VAEに基づく多様性を考慮したイベント予測 ・多様性のあるイベント予測をしたい. ・Conditional VAE をモデルとし,さらに出力から入力信号に 復元するreconstructorを追加し,目的関数を組み込む. ・クラウドソーシングによって評価し,妥当性・多様性ともに ベースラインを上回った. 6
Conditional VAEに基づく多様性を考慮したイベント予測 7
2. 所感 8 ・D4:談話研究と言語処理,人工知能研究の連携に向けて ポライトネスやラポールの必然性を実感する一方で, 対話・人工知能へどのように応用していくか? ・A4:実世界にグラウンドされた言語処理 概念をいかに獲得していくか?
2. 所感 9 ・興味をもたせるプレゼン YANSで話した人が研究について熱心に語っており,一番興味 がプレゼンが上手だった. ・研究する上で サーベイは重要.(学会こわい)