Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
文献紹介: Controlling Politeness in Neural Machine Translation via Side Constraints
Search
Yumeto Inaoka
July 18, 2017
Technology
0
110
文献紹介: Controlling Politeness in Neural Machine Translation via Side Constraints
2017/07/18の文献紹介で発表
Yumeto Inaoka
July 18, 2017
Tweet
Share
More Decks by Yumeto Inaoka
See All by Yumeto Inaoka
文献紹介: Quantity doesn’t buy quality syntax with neural language models
yumeto
1
120
文献紹介: Open Domain Web Keyphrase Extraction Beyond Language Modeling
yumeto
0
160
文献紹介: Self-Supervised_Neural_Machine_Translation
yumeto
0
120
文献紹介: Comparing and Developing Tools to Measure the Readability of Domain-Specific Texts
yumeto
0
120
文献紹介: PAWS: Paraphrase Adversaries from Word Scrambling
yumeto
0
87
文献紹介: Beyond BLEU: Training Neural Machine Translation with Semantic Similarity
yumeto
0
210
文献紹介: EditNTS: An Neural Programmer-Interpreter Model for Sentence Simplification through Explicit Editing
yumeto
0
260
文献紹介: Decomposable Neural Paraphrase Generation
yumeto
0
180
文献紹介: Analyzing the Limitations of Cross-lingual Word Embedding Mappings
yumeto
0
160
Other Decks in Technology
See All in Technology
[2024最新版]AWS Control Towerを使ったセキュアなマルチアカウント環境の作り方
hiashisan
0
270
AWS IAMのアンチパターン/AWSが考える最低権限実現へのアプローチ概略(JAWS-UG朝会#59資料改修20分版)
htan
0
330
簡単に始めるSnowflakeの機械学習
nayuts
1
190
ゆめみのアクセシビリティの現在地と今後
ryokatsuse
3
290
Matterport を使ってクラスメソッド各拠点のバーチャルオフィスツアーを作成してみた
wakatsuki
0
160
コミュニティサービスに「あなたへ」フィードを リリースするまでの試行錯誤
takapy
1
140
クラウド利用者の「責任」をどう果たす?AWSセキュリティ対策のススメ #AWSSummit
hiashisan
0
270
AIエージェントを現場に導入する目線とは
masahiro_nishimi
1
1.5k
AWSサービスメニュー開発をしていてAWSを好きだ!と感じた瞬間
toru_kubota
0
130
Classmethod Odyssey 登壇資料
yamahiro
0
390
楽しくGoを学び合う、LayerXの勉強会文化 / LayerX's study culture of having fun and learning Go together
ar_tama
2
350
AI研修【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
130
Featured
See All Featured
The World Runs on Bad Software
bkeepers
PRO
63
11k
Practical Orchestrator
shlominoach
185
10k
Become a Pro
speakerdeck
PRO
15
4.8k
Bash Introduction
62gerente
607
210k
jQuery: Nuts, Bolts and Bling
dougneiner
61
7.4k
Documentation Writing (for coders)
carmenintech
63
4.2k
Building Your Own Lightsaber
phodgson
101
5.9k
Producing Creativity
orderedlist
PRO
340
39k
The Cost Of JavaScript in 2023
addyosmani
31
4.7k
No one is an island. Learnings from fostering a developers community.
thoeni
17
2.8k
What's in a price? How to price your products and services
michaelherold
239
11k
Principles of Awesome APIs and How to Build Them.
keavy
124
16k
Transcript
Controlling Politeness in Neural Machine Translation via Side Constraints Rico
Sennrich, Barry Haddow, Alexandra Birch Proceedings of NAACL-HLT 2016, pages 35–40 1 文献紹介(2017/07/18) 自然言語処理研究室 稲岡 夢人
概要 • 敬語のない元言語の翻訳で出力の敬語制御 • 敬語の制御にSide Constraintsを使用 • 英語→ドイツ語において性能が向上 2
NMT with Side Constraints • ニューラルネットに丁寧さを示す追加の 入力機能を与える • テスト時はユーザが丁寧さを入力 •
入力文の最後にトークンとして Side Constraintsを追加 → Attention-based encoder-decoder モデルであればSide Constraintsに 注意を払うことを学習できる 3
訓練セットへの自動注釈 • 事前に訓練セットに注釈をつける • 注釈は文レベルで付ける → ソースとターゲットで単語レベルの 対応を持たないため 4
訓練セットへの自動注釈 • ParZu(Sennrich et al., 2013)を用いて ルールに基づいて形態論的な注釈をつける • 命令形の動詞を含む文はinformalに分類 5
実験 • 訓練コーパス:OpenSubtitles (映画字幕丁 寧な文の対が48万 丁寧でない文の対が109万 • Groundhogを使用してAttention-based encoder-decoder NMTシステムを訓練
• Side Constraintsに過度な依存をしない ように半分の確率でラベル付けした 6
結果 • informalに限定した翻訳の98%はinformal または中立 • 丁寧な文に限定した翻訳の96%は 丁寧または中立 7
結果 • 参照文をもとにSide Constraintsを与えるオ ラクル実験ではBLEUが3.2改善 8
結果 • Side ConstraintsはNMTにオーバライド されることがある → 弱い制約なため 9
結果 • ランダムサンプルにおいても同様に Side Constraintsが有効である 10
結論 • 丁寧さの注釈を訓練の追加入力として統合し てNMTの敬語生成を制御できる • 丁寧さがユーザに指定される前提であるが 将来はソーステキストから自動的に予測する ことを目指す • 本稿では丁寧さの制御に焦点を当てている
が、幅広い現象にSide Constraintsを適用 できる可能性がある 11