論文紹介：「CR-GIS: Improving Conversational Recommendation via Goal-aware Interest Sequence Modeling」

This deck explains the paper "CR-GIS: Improving Conversational Recommendation via Goal-aware Interest Sequence Modeling".

Transcript

1. CR-GIS: Improving Conversational Recommendation via Goal-aware Interest Sequence Modeling Inaba Lab. M2. Ryutaro Asahara
2. 論文について • Jinfeng Zhou, Bo Wang, Zhitong Yang, Dongming Zhao, Kun Huang, Ruifang He, and Yuexian Hou. 2022. CR-GIS: Improving Conversational Recommendation via Goal-aware Interest Sequence. In Proceedings of the 29th International Conference on Computational Linguistics, pages 400–411, Gyeongju, Republic of Korea. International Committee on Computational Linguistics. • 選んだ理由 • 推薦対話の論文のため • ユーザ表現を目標アイテムの表現に近づけるという点が興味深かった
3. 背景・課題 • 先行研究ではユーザの関心をシーケンスとして捉えていない • アイテムとして対話から抽出するのみ • 言及された順序を考慮していない • 既存の推薦対話では正解アイテムを明示的に 学習に利用していない • ユーザの好みに一貫性があると考える • ユーザの好みをシーケンスを考慮してモデル化
4. アプローチ • スターグラフによってユーザの好みをグラフ化 • ユーザが好む各アイテムから，一貫した選好表現𝑠! を作成 • この表現を正解アイテムの表現と近づけることで， 高品質なユーザ表現を得る
5. 提案手法 – CR-GISフレームワーク
6. 提案手法 – 概要 • 推薦アイテムから構築した知識グラフをRGCNでエンコード • SGNNによってユーザアイテムの関係を考慮してさらに埋め込みを計算 • ユーザアイテムを使って潜在的な興味を表すノード𝑠! を計算 • 𝑠! を正解のアイテムと近づける ことでユーザ表現を得るイメージ
7. 提案手法 – Goal-oriented Recommendation ここから解説
8. 提案手法 – アイテムの抽出 • 推薦アイテムから構築した知識グラフをRGCNでエンコード • 対話履歴中に現れたアイテムを抽出して，該当する埋め込みを得る （Lookup Table） • 該当する埋め込み 𝒔𝟏 , 𝒔𝟐 , 𝒔𝟑 …, 𝒔𝒌 を使って スターグラフを構築
9. 提案手法 – スターグラフの構築 • 𝒔𝟏 , 𝒔𝟐 , 𝒔𝟑 …, 𝒔𝒌 の埋め込みの平均値を𝒔𝒙 （スターノード）とする • 𝒔𝟏 , 𝒔𝟐 , 𝒔𝟑 …, 𝒔𝒌 は全てスターノードに接続 • 加えて，出現順にも接続 • 構築したスターグラフを SGNN (Star Graph Neural Network) に入力
10. 提案手法 – SGNN • SGNNに入力して𝑖番目のノード表現𝑠 ' ())を計算 • 先行研究(Li et al., 2016)より，隣接行列𝐴+と𝐴,を用いる 𝜎：シグモイド関数 𝜌：tanh関数 𝑠 ! (#)：𝑙層目の𝑖番目のノードの埋め込み 𝐴%：順方向の隣接行列 𝐴&：逆方向の隣接行列 𝐴! %：𝑖行目の𝐴% 𝐴! &：𝑖行目の𝐴&
11. 提案手法 – 正解アイテムによる学習 • 「ユーザアイテムの情報が集約された表現」𝑠! と「目標のアイテム表現」 𝑔- を対象学習によって近づける + 𝑔' ：正解以外からランダムにサンプリング したアイテムの表現（負例）
12. 提案手法 – ユーザ表現の計算 • 最終的なユーザ表現𝑃' ./0を計算 𝑠( )：SGNNから出力された𝑛番目のノード の埋め込み 𝑃：学習可能な重み
13. 提案手法 – ユーザ表現の計算 • 最終的なユーザ表現𝑃' ./0を計算 𝑒! ：i番目の候補アイテム
14. 提案手法 – 推薦モジュールの損失 • Goal-oriented Recommendationモジュールの全体の損失を計算 • ユーザ表現のクロスエントロピー損失を計算 • 相互情報量を使った損失𝐿1+1 を加算
15. 提案手法 – Goal-aware Conversation ここを解説
16. 提案手法 – トークンレベルスターグラフの構築 • 発話をトークンレベルに分割してスターグラフを構築 • スターノードは先程と同じく全ノードの平均値で初期化
17. 提案手法 – トークンレベルでエンコード • 各ノードの埋め込みとスターノードの埋め込みを以下で初期化 • Multi Head Attentionでℎ ',- (3)と𝑠 4,- (3)を更新する ℎ !,' (+,-)：１つ前のタイムステップにおけるトークン埋め込み ℎ !,',- (+,-)：１つ前のタイムステップにおける１つ前のトークン埋め込み ℎ !,',- (+,-)：１つ前のタイムステップにおける１つ後のトークン埋め込み 𝑠 .,! (+,-)：１つ前のタイムステップにおけるスターノードの埋め込み
18. 提案手法 – 発話表現の獲得 • 各発話の表現を得る 𝜑：MLP() 𝜓：MHA()
19. 提案手法 – 発話レベルのスターグラフを構築 • 各発話表現𝑢' を使って再度スターグラフを構築
20. 提案手法 – 発話レベルでエンコード • Multi Head Attentionでℎ ' (3)と𝑠4 (3)を更新する 𝑒!,' ：𝑖番目の発話に出現する𝑗番目のアイテムの埋め込み
21. 提案手法 – 応答生成 • 𝐻4 を事前学習なしのTransformer Decoderに入力して応答を生成 • 全体の損失を計算 • 応答生成確率の負の対数尤度を損失とする 𝜑：MLP()
22. 実験 – 実験設定 • データセット • どちらも中国語の推薦対話用データセット • OpenDialKG (Moon et al., 2019) • TG-ReDial • 自動評価指標 • 推薦 • Recall@1,10,25 • 応答生成 • BLEU-1,2 • Distinction-1,2 • HIT
23. 実験 – ベースライン • textCNN • 発話をCNNエンコードして推薦を行う • Transformer • 事前学習なしのTransformer • KBRD • Dbpediaを使った推薦モジュールを採用 • KGSF • DbpediaとConceptNetを融合させた推薦モジュール • CRFR • 強化学習によって推薦モジュールを学習 • C2-CRS • 対照学習によって推薦モジュールを学習
24. 実験 – 推薦性能 • w/o GoInfo. • 正解アイテムとスターノード間の相互情報量損失の項をなくす • w/o ImpEnc. • スターグラフを構築せず，アイテムの表現をconcatしてユーザ表現とする • w/o SeqEnc • Sequence Encoderを削除
25. 実験 – 応答生成性能 • w/o GoInfo. • 正解アイテムとスターノード間の相互情報量損失の項をなくす • w/o Align • 発話をエンコードする際に推薦モジュールの表現を用いない • w/o HiStar. • 対話履歴のエンコードにスターグラフを用いず，階層型Transformerを用いる
26. 実験 – 人間による評価 • Flu.：流暢さ • Coher.：一貫性 • Info.：情報性 • Proact.：積極性
27. 実験 – 発話数による応答性能の変化 • どの手法よりも提案手法CR-GISが最高性能 • どの手法においても発話数4がピーク
28. 不十分な点や弱点は？ • ユーザの好みが一貫していないときはノイズになりうる • 相互情報量は分布が等しい時最大値をとるため，スターノードの初期値（ユーザ アイテムの平均）があまりにもかけ離れていると性能が下がりそう • 目標アイテムの一貫性がない場合はスターノードが上手く学習できなそう
29. 不十分な点や弱点は？ • ユーザの好みが一貫していないときはノイズになりうる • 相互情報量は分布が等しい時最大値をとるため，スターノードの初期値（ユーザ アイテムの平均）があまりにもかけ離れていると性能が下がりそう • 目標アイテムの一貫性がない場合はスターノードが上手く学習できなそう • 目標アイテムそれぞれとの相互情報量を計算するより目標アイテムの表現を１つに 集約する手法があるといいかも？