Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
文献紹介: Generating Sentences from a Continuous Space
Search
Yumeto Inaoka
May 11, 2018
Research
410
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
文献紹介: Generating Sentences from a Continuous Space
2018/05/11の文献紹介で発表
Yumeto Inaoka
May 11, 2018
Transcript
15 slides
Generating Sentences from a Continuous Space Samuel R. Bowman, Luke
Vilnis, Oriol Vinyals, Andrew M. Dai, Rafal Jozefowicz & Samy Bengio. Proceedings of the 20th SIGNLL Conference on Computational Natural Language Learning (CoNLL), pages 10–21, 2016. 文献紹介 2018/05/11 長岡技術科学大学 自然言語処理研究室 稲岡 夢人
Abstract •文全体の分散表現を組込んだRNNベースの Variational AutoEncoderに関する研究 •スタイル、話題、構文的特徴などの文全体の特徴をモデル化 •文間の潜在空間の経路を調べることで、その間にある文を 新たに生成することができる !2
Abstract •提案モデルを学習させる際の問題を解決する手法の提案 •欠落した語を復元させる効果を実証 •文の潜在空間について興味深い特性について調査 •提案モデルを言語モデルとして使用することについて 否定的な結果を提示 !3
Introduction •RNNLMは状態に基づいて文を単語毎に生成 ← トピックや構文的特徴など文全体の特徴を解釈可能な 状態で出力しない •Variational AutoEncoderの構造を用いたモデルに 実用的な訓練手法を利用 → 文全体の特徴を連続潜在変数として捕捉
!4
Unsupervised sentence encoding •Sequence AutoEncoder → 中間の表現からは妥当な文が出力できない •Skip-thought model •Paragraph
Vector !5
Variational AutoEncoder •潜在変数を確率分布に落とし込んだモデル •潜在変数を単一の点としてではなく潜在空間の領域と なるように学習 → 一般にはガウス分布になるよう近づける •学習では真の分布とEncoderの分布のKL divergenceと 入出力の差を損失としてそれを小さくする
!6
VAE for sentences •single-layer LSTMをencoder, decoderに用いる テキストのVAEを提案 !7
Optimization •非ゼロなKL-divergence項と小さなcross entropyを 持つようなエンコーダが理想的 •普通の実装ではKL-divergence項は0になる •KL cost annealingを用いる !8
Optimization •エンコーダに対して強いデコーダを弱めるために Word dropout and historyless decodingを行う •入力系列の単語を確率的にUNKに置換 !9
Experiments (Language Modeling) •Penn Treebankを用いて言語モデルを学習 •NLLとPPLで評価 •VAEの方が悪い結果であるが、Inputless Decoderでは KL lossを含めても性能が向上
!10
Experiments (Imputing missing words) •VAEは欠落語の入力に適している !11
Impact of word dropout •100% word keepでは典型的な文が出力 0% word keepでは文法的でない文が出力
!12
Sampling from the posterior •エンコーダの出力分布の平均、3つのサンプルをデコード •文長とトピックは捉えられている •文が長くなると出力は多様になる !13
Homotopies •variationalの方が中間の文が 文法的でトピックが一貫する !14
Conclusion •自然言語文にVAEを使用する方法の提案 •提案モデルによる欠落語の復元の効果を示した •潜在変数間のサンプリングから一貫性のある多様な文を 生成できることを示した !15
More Decks by Yumeto Inaoka
See All by Yumeto Inaoka
文献紹介: Quantity doesn’t buy quality syntax with neural language models
yumeto
1
230
文献紹介: Open Domain Web Keyphrase Extraction Beyond Language Modeling
yumeto
0
300
文献紹介: Self-Supervised_Neural_Machine_Translation
yumeto
0
200
文献紹介: Comparing and Developing Tools to Measure the Readability of Domain-Specific Texts
yumeto
0
220
文献紹介: PAWS: Paraphrase Adversaries from Word Scrambling
yumeto
0
250
文献紹介: Beyond BLEU: Training Neural Machine Translation with Semantic Similarity
yumeto
0
340
文献紹介: EditNTS: An Neural Programmer-Interpreter Model for Sentence Simplification through Explicit Editing
yumeto
0
440
文献紹介: Decomposable Neural Paraphrase Generation
yumeto
0
260
文献紹介: Analyzing the Limitations of Cross-lingual Word Embedding Mappings
yumeto
0
310
Other Decks in Research
See All in Research
ハードウェア研究で国際トップ会議を目指す!IROS 2027での論文採択を目指して
ayatokanada
7
4.2k
TESSERA: Temporal Embeddings of Surface Spectra for Earth Representation and Analysis
satai
3
130
L’albédo:levier d’atténuation du changement climatique dans les systèmes fourragers
institutdelelevage
PRO
0
170
Model Predictive Control for Uncertain Systems: Robust & Data-Driven Designs
kohlerjohannes
0
230
【令和7年度版】内航船 VS 外航船 早見表
anikisencyo
0
220
Bilan travail en élevage : première restitution des enquêtes 2025-2026
institutdelelevage
PRO
0
300
Des solutions pour pâturer davantage en hiver
institutdelelevage
PRO
0
140
Hitting the buffers
beale
0
410
Détection des lésions podales par thermographie infrarouge chez les bovins et les ovins
institutdelelevage
PRO
0
130
Adapter les bergeries aux fortes chaleurs
institutdelelevage
PRO
0
180
フィジカルAIの社会実装に向けて -AIエージェントからAgentic Roboticsへ-
hf149
1
2.8k
Les émissions de méthane entérique en élevage laitier : Enjeux et travaux menés en Afrique de l’Ouest et en France
institutdelelevage
PRO
0
160
Featured
See All Featured
How STYLIGHT went responsive
nonsquared
100
6.4k
The Organizational Zoo: Understanding Human Behavior Agility Through Metaphoric Constructive Conversations (based on the works of Arthur Shelley, Ph.D)
kimpetersen
PRO
0
540
The Straight Up "How To Draw Better" Workshop
denniskardys
239
140k
Neural Spatial Audio Processing for Sound Field Analysis and Control
skoyamalab
0
620
How To Speak Unicorn (iThemes Webinar)
marktimemedia
1
640
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
9
1.7k
Evolving SEO for Evolving Search Engines
ryanjones
0
360
A brief & incomplete history of UX Design for the World Wide Web: 1989–2019
jct
2
570
Lightning Talk: Beautiful Slides for Beginners
inesmontani
PRO
2
850
The AI Search Optimization Roadmap by Aleyda Solis
aleyda
2
6.4k
SEO in 2025: How to Prepare for the Future of Search
ipullrank
3
3.9k
Noah Learner - AI + Me: how we built a GSC Bulk Export data pipeline
techseoconnect
PRO
0
490