文献紹介：Preposition Sense Disambiguation and Representation

Transcript

1. Preposition Sense Disambiguation and Representation Hongyu Gong, Jiaqi Mu, Suma Bhat, Pramod Viswanath 2018 11/26 文献紹介 長岡技術科学大学 自然言語処理研究室 福嶋　真也 Proceedings of the 2018 Conference on Empirical Methods in Natural Language Processing, pages 1510–1521 Brussels, Belgium, October 31 - November 4, 2018.
2. 2 Abstract • 前置詞の語義曖昧性解消 • 前置詞周辺の語の単語ベクトルを利用した 特徴ベクトルを使用 • ２つのデータセットでSOTAに匹敵、もしくは それより優れた結果を出した。
3. 3 introduction • 英語における前置詞 – 多義性を持つ語形変化のない語 – 頻出する語の一つ 従来の計算言語学的なアプローチでは曖昧性解消は困難 （Saint-Dizier、2006） →前置詞自身の多義性、イディオムでの出現
4. 4 introduction • 前置詞の語義曖昧性 （意味はTPP(Litkowski and Hargraves, 2005)で 定義されたもの）
5. 5 Preposition Sense Disambiguation • 提案手法 左右の文脈の情報に加え、それらの相互作用も特徴として加味 する ・Left Context feature vl 　前置詞の左に出現するkl個の単語ベクトルの平均 ・Right Context feature vr 前置詞の右に出現するkr個の単語ベクトルの平均
6. 6 Preposition Sense Disambiguation ・Context-interplay feature vinter 　左右の文脈語の相互作用をモデル化したもの。 以下の式で表される。 vr,vl：左右の文脈語の単語ベクトル a,b：定数
7. 7 Experiments on Sense Disambiguation • Dataset ・SemEval ・OEC Word Embeddingの学習にはEnglish Wikipediaを使用 preposition training test SemEval 34 16557 9096 OEC 34 3587 ※OECはテストセットのみ
8. 8 Experiments on Sense Disambiguation 使用した手法 • 教師あり学習 ・SVM ・MLP ・weighted k-nearest neigh-bor • 教師なし学習 ・k-means
9. 9 Experiments on Sense Disambiguation Result ・教師なし学習での結果
10. 10 Experiments on Sense Disambiguation Result ・教師あり学習での結果
11. 11 Experiments on Sense Disambiguation Result ・教師あり学習での結果 他の結果との比較
12. 12 Conclusion • 文脈の前後の特徴を利用した前置詞の語義曖昧性解消 について研究。 • 提案手法は標準的なPSDのタスクにおいて 上手く機能した。
14. 14 Appendix • なぜ左右の文脈語の相互作用を特徴量として使用した？ A.左右の文脈語の単語ベクトルの平均のみでは解くのが 難しい場合があるため
15. 15 Appendix 例： Training ・a cup of medicine　(‘contents’) ・professor of humanity (‘possessor’) ・professor of mathematics (‘field’) Test ・professor of medicine　(‘field’)