文献紹介：Bidirectional Inter-dependencies of Subjective Expressions and Targets and their Value for Joint Model

動画
http://youtu.be/TgoJsgT2CsA?list=UUhwtfJp9l_thFbFDWXoGWEQ

Transcript

1. 文献紹介 2014/05/01 長岡技術科学大学 自然言語処理研究室 岡田 正平
2. 紹介する文献 2
3. 文献情報 Roman Klinger and Philipp Cimiano. Bidirectional Inter-dependencies of Subjective Expressions and Targets and their Value for Joint Model. Proceedings of the 51st Annual Meeting of the ACL, pp. 848-854. 2013 3
4. 概要 • Opinion mining における subjective expression と target の相互依存性を扱う – 既存研究は1方向しか扱っていない • 双方向の関係を扱うsubjective expression お よび target を抽出するモデルの提案 4
5. 背景 5
6. 背景 sentiment analysis や opinion mining  subjective term, polarity, targetの同定 e.g.) I like the low weight of the camera. subjective: “like” target: “low weight” polarity: positive • これらは相互依存関係にあるのでは？ 6
7. 扱う問題 • subject termについての知識が完全な場合と 不完全な場合の比較 • targetについての知識が完全な場合のsubject termの予測への影響 • targetについての知識が不完全な場合はどう か（学習したモデルからの予測） 7
8. IMPERATIVELY DEFINED FACTOR GRAPH 8
9. Factor Graph • factor と variable からなる2部グラフ • 多変数関数の factorize に対応 9 wikipedia “factor graph” より転載 1 , 2 , 3 = 1 1 2 1 , 2 3 1 , 2 4 (2 , 3 )
10. Factor Graph • ベイズ推定の応用（誤り訂正など）に用い られるらしい • NLPではn-gram言語モデルとか？ 10
11. Imperatively Defined Factor Graph • variable に 入力変数集合 x と出力変数集合 y がある • 入出力変数の部分集合 x , y を引数とする関 数 x , y が factor Ψ • 言い換えれば，(x , y )から得られる特徴量が factor? 11
12. Imperatively Defined Factor Graph A factor template consists of parameters { }, sufficient statistic functions { }, and a description of an arbitrary relationship between variables, yielding a set of tuples x , y （元の文献より引用） • ここ（特に description が何か）の理解が不十分 12
13. Imperatively Defined Factor Graph • 確率分布が次式で表現される • y x = 1 (x) ∏ ∏ exp(∑ (x , y )) 𝑘=1 x,y ∈ ∈T • 全 factor とパラメータの線形結合 13
14. 抽出モデル 14
15. Model | variable • variable は subjective term と target • 複数トークンからなる表現に対応すべく span として表現 • = , , , はトークン列中の span の左端・右端の位置 ∈ {target, subjective} 15
16. Model | factor template • factor template は大きく分けて2種類 – single span template – inter-span template 16
17. Model | single span template • トークンのPOSタグ (POS) • トークンの文字列（小文字） (W) • トークンのPOSタグ&文字列の組み合わせ (POS-W) • span内のPOSタグ列 (POS-SEQ) 17
18. Model | inter-span template • 以下の3つと，single span template の組合わせ – target の span が subjective term に隣接する名詞を 含むか ([NO-]CLOSE-NOUN-x） – 他クラスの span が同じ文中に存在するか ([NO- ]BOTH-x) – target と subject 間に単一の係り受け関係があるか ([NO-]ONE-EDGE-x) 18
19. 例（元の文献より転載） 19
20. Model | サンプリング • MCMC法により推定を行う • 1回のサンプルごとに各 span は class を変え られるか，1トークン分伸ばすか縮められる 20
21. 実験 21
22. 対象データ • J.D. Power and Associates Sentiment Corpora – 車とカメラについてのblog – subjective term と target についてアノテート済 • Twitter data set – Stanford parser を用いないため，ONE-EDGEの 特徴量は使えない 22
23. 実験項目 1. subjective term の推定→ target の推定 2. target の推定→ subjective term の推定 3. 完全な subjective term の知識を利用した target の推定 4. 完全な target の知識を利用した subjective term の推定 23
24. 実験結果 | camera data set 24
25. 実験結果 | car data set 25
26. 実験結果 | Twitter data set 26
27. まとめ • subjective term と target は相互に依存して いることが認められた • その影響の仕方は非対称的だった • パイプライン的に処理する場合には，先に subjective term を推定した方がいい 27