Upgrade to Pro — share decks privately, control downloads, hide ads and more …

文献紹介: Controlling Politeness in Neural Machine Translation via Side Constraints

文献紹介: Controlling Politeness in Neural Machine Translation via Side Constraints

2017/07/18の文献紹介で発表

Yumeto Inaoka

July 18, 2017
Tweet

More Decks by Yumeto Inaoka

Other Decks in Technology

Transcript

  1. Controlling Politeness in
    Neural Machine Translation
    via Side Constraints
    Rico Sennrich, Barry Haddow, Alexandra Birch
    Proceedings of NAACL-HLT 2016, pages
    35–40
    1
    文献紹介(2017/07/18)
    自然言語処理研究室 稲岡 夢人

    View full-size slide

  2. 概要
    ● 敬語のない元言語の翻訳で出力の敬語制御
    ● 敬語の制御にSide Constraintsを使用
    ● 英語→ドイツ語において性能が向上
    2

    View full-size slide

  3. NMT with Side Constraints
    ● ニューラルネットに丁寧さを示す追加の
    入力機能を与える
    ● テスト時はユーザが丁寧さを入力
    ● 入力文の最後にトークンとして
    Side Constraintsを追加
    → Attention-based encoder-decoder
      モデルであればSide Constraintsに
      注意を払うことを学習できる
    3

    View full-size slide

  4. 訓練セットへの自動注釈
    ● 事前に訓練セットに注釈をつける
    ● 注釈は文レベルで付ける
    → ソースとターゲットで単語レベルの
      対応を持たないため
    4

    View full-size slide

  5. 訓練セットへの自動注釈
    ● ParZu(Sennrich et al., 2013)を用いて
    ルールに基づいて形態論的な注釈をつける
    ● 命令形の動詞を含む文はinformalに分類
    5

    View full-size slide

  6. 実験
    ● 訓練コーパス:OpenSubtitles (映画字幕丁
    寧な文の対が48万
    丁寧でない文の対が109万
    ● Groundhogを使用してAttention-based
    encoder-decoder NMTシステムを訓練
    ● Side Constraintsに過度な依存をしない
    ように半分の確率でラベル付けした
    6

    View full-size slide

  7. 結果
    ● informalに限定した翻訳の98%はinformal
    または中立
    ● 丁寧な文に限定した翻訳の96%は
    丁寧または中立
    7

    View full-size slide

  8. 結果
    ● 参照文をもとにSide Constraintsを与えるオ
    ラクル実験ではBLEUが3.2改善
    8

    View full-size slide

  9. 結果
    ● Side ConstraintsはNMTにオーバライド
    されることがある
    → 弱い制約なため
    9

    View full-size slide

  10. 結果
    ● ランダムサンプルにおいても同様に
    Side Constraintsが有効である
    10

    View full-size slide

  11. 結論
    ● 丁寧さの注釈を訓練の追加入力として統合し
    てNMTの敬語生成を制御できる
    ● 丁寧さがユーザに指定される前提であるが
    将来はソーステキストから自動的に予測する
    ことを目指す
    ● 本稿では丁寧さの制御に焦点を当てている
    が、幅広い現象にSide Constraintsを適用
    できる可能性がある
    11

    View full-size slide