B3 勉強会 第十回

Transcript

1. B3 勉強会 第十回 (2016/03/14) 長岡技術科学大学 B3 桾澤 優希 機械翻訳 (2)
2. 機械翻訳(おさらい) ▪ ある言語(原言語)から別の言語(目的言語)へのコン ピュータ処理による翻訳 ▪ 言語は社会の慣習であり、慣習は言語依存であるため、 言語間に存在するズレによって機械翻訳は難しい物に なっている ▪ 語彙のズレ ▪ 語順の違い ▪ 構造のズレ ▪ 明示する表現の違い
3. 統計的機械翻訳(おさらい) ▪ 大量の対訳文データを用いて語の対応や語順の並び替 えを統計的に学習し、それに基づき翻訳 ▪ 与えられた原言語の文jに対して、目的言語の様々な文 eの中から、jがeに翻訳される確率P(e|j)が最大になる をその翻訳と考える = arg max (|) = arg max () () = arg max (|)()
4. 統計的機械翻訳(おさらい) NULL I bought a book yesterday I bought bought book yesterday NULL I bought bought book yesterday は 私 を 買った 本 昨日 私 は 昨日 本 を 買った Fertility モデル NULL generation モデル Lexicon モデル Distortion モデル e: 目的言語 j: 原言語
5. 統計的機械翻訳(おさらい) ▪ 単語アライメント ▪ 翻訳生成過程の単語の対応付け NULL I bought a book yesterday 私 は 昨日 本 を 買った e: 目的言語 a: アライメント j1 j2 j3 j4 j5 j6 j: 原言語 1, 0, 5, 4, 2, 2 ( )
6. 句に基づく統計翻訳 ▪ IBMモデルは単語を個別に扱っているため、言語モデルで の文の自然さを考慮しても十分な精度の翻訳を行うこと は困難であった。 ▪ 単語ではなく句(phrase)を単位として翻訳を行う、句に 基づく統計翻訳(phrase-based SMT)が提案される ▪ ここでの「句」は単語の並びを意味する
7. 句に基づく統計翻訳 NULL I bought a book yesterday 私 は 昨日 本 を 買った NULL I bought a book yesterday 私 は 昨日 本 を 買った 私 は 昨 日 本 を 買 っ た I bought a book yesterday 私 は 昨 日 本 を 買 っ た I bought a book yesterday 私 は 昨 日 本 を 買 っ た I bought a book yesterday 私 は 昨 日 本 を 買 っ た I bought a book yesterday
8. 句に基づく統計翻訳 ▪ この結果から単語対応と整合する句対応をすべて採用す る。 ▪ I ⇔ 私 , I ⇔ 私は , bought ⇔ を買った , book ⇔ 本 yesterday ⇔ 昨日 , bought a ⇔ を買った , book yesterday ⇔ 昨日本 , a book yesterday ⇔ 昨日本 bought a book ⇔ 本を買った bought a book yesterday ⇔ 昨日本を買った I bought a book yesterday ⇔ 私は昨日本を買った ▪ 句対応を採用した時、その外に単語対応する単語は残ら ないようにする ▪ bought a book yesterday ⇔ 昨日 本 を という対応は bought ⇔ 買う の単語対応が 外に出るので採用しない
9. 句に基づく統計翻訳 ▪ 句対応から句翻訳確率は対訳コーパス中の対応関係か ら最尤推定にて求めることができる。 ▪ と はそれぞれ英語の句, 日本語の句 ( | )はその対応の対訳コーパスにおける頻度 = ( | ) ( | )
10. 句に基づく統計翻訳 ▪ 対数線形モデルを用いた手法 ▪ 組成関数 (, )の重み付き和 ▪ 句の翻訳確率を含めて様々な手がかりで組成関数を 設計することができる = arg max (|) = arg max 1 exp × (, ) = arg max × (, )
11. 句に基づく統計翻訳 ▪ デコーディング ▪ 原言語文に対して確率値が最大となる目的言語文を探索する ▪ 句に基づく翻訳では、句を単位として目的言語分を文頭から 順に生成していく ▪ これまでと同様の日本語文を入力すれば、順に翻訳して I bought a book yesterday. を得る ▪ 英語側は文頭から作成するが、日本語の句はどの順でも良い ▪ “a book yesterday”で始まる文も生成可能 ▪ 文頭から翻訳の途中結果のスコアを随時計算し、 枝刈りしながら探索を進める。 ▪ オープンソースのデコーディングのソフト → moses等
12. 構文の利用 ▪ 日英,英日翻訳のように語順、性質が大きく異る言語間 の翻訳には限界がある → 構文を利用する ▪ 構文に基づく統計翻訳 ▪ 単語アライメントを行ったうえで、構文解析を行い、単語の対応関係 をその上にマップすることで構造を持った翻訳断片の対応を学習する。 ▪ 状況に応じて一方の言語の構造解析を行うことが一般的 ▪ 例)英語のマニュアルを様々な言語に翻訳する ▪ 原言語側の英文の構造解析のみを行い、目的言語側は構造は扱わず に単語列として扱う。
13. 構文の利用 ▪ 事前並び替え ▪ 日本語の構造は主辞が後ろに来る性質があるため、英日翻訳を考 える場合は原言語の英語の構造解析を行い、主辞が後ろに来るよう に並び替えを行う ▪ 語順の大きな違いがなくなることにより、句に基づく統計翻訳でうまく 扱うことが可能になる。 ▪ 用例翻訳 ▪ 両言語の構文解析を行い、翻訳用例に対して大きさの制限を設け ず、できるだけ大きな用例を用いた用例を優先する。 ▪ 人間の専門家による翻訳の支援などにおいても有効
14. 用例に基づく翻訳 知られている ことが 高い 有用性が CTは 光 対訳コーパス 知られている ことが 高い 有用性が 方式は この is known it that has method this usefulness high CTは 光 増やす CT optical increases is known it that has CT optical usefulness high
15. 機械翻訳の評価 ▪ BLEU値 ▪ 翻訳システムの翻訳文中の単語列が参照訳に含まれる割合を1- gram,2-gram,3-gram,4-gramについてそれぞれ計算して相乗 平均を取る ▪ 翻訳文が短いほうが有利であるから翻訳文が参照訳よりも短い場合 にはペナルティを乗じる ▪ 評価尺度は荒っぽく、翻訳システムの質を十分に評価できるものとは 言えない という意見もある。 ▪ 簡単に評価が行えるという利点が大きい。
16. 参考文献 ▪ 黒橋 禎夫, 自然言語処理, 放送大学教育振興会 (2015.3.20) pp.167-181