【論文ゼミ】SSE-PT: Sequential Recommendation Via Personalized Transformer

計算知能・マルチメディア研究室 論文ゼミ
紹介論文: https://dl.acm.org/doi/10.1145/3383313.3412258

Transcript

1. 論⽂紹介 原 弥⿇⼈ 0 SSE-PT: Sequential Recommendation Via Personalized Transformer
2. ⽬次 • 論⽂の概要 • どんな分野か • 先⾏研究 • 提案⼿法 • 実験 • まとめ・疑問点 1
3. 論⽂の概要 2 論⽂情報 タイトル : SSE-PT: Sequential Recommendation Via Personalized Transformer 引⽤数 : 22回 学会 : RecSys September 22-26, 2020 レコメンド分野のトップカンファレンス 著者情報 著者 : Liwei Wu, Shuqing Li, Cho-Jui Hsieh, James Sharpnack 所属 : University of California, Davis University of California, Los Angles
4. 論⽂の概要 3 • SSE-PTと呼ばれるTransformerベースのモデルでsequential recommendationの問題を解決した • ユーザーエンベディングを追加することでパーソナライズ • SSE正則化を⽤いて過学習を防ぐ • 5つのデータセットにおいてSoTAを達成
5. どんな分野か 4 Recommendationの種類 • General Recommendation • Graph Recommendation • Knowledge Aware Recommendation • Sequential Recommendation ユーザーの好み・嗜好は固定ではなく変化するものという仮定
6. どんな分野か 5 猿 も ⽊ から 落ちる Sequential Recommendation NLP 次単語予測
7. どんな分野か 6 ⾃然⾔語処理の発展に伴うレコメンドシステムの遷移
8. 先⾏研究 7 Kang, Wang-Cheng, and Julian McAuley. "Self-attentive sequential recommendation." ICDM2018 SASRec Sequential RecommendationにTransformerを適⽤したモデル ユーザーにパーソナライズされていない︕ Transformer
9. 提案⼿法 8 SSE-PT ユーザーベクトルを追加︕
10. 提案⼿法 9 Embedding Layer 𝑣 ∶ アイテム 𝑢 ∶ ユーザー ベクトル化 ⻑さ𝑇に満たないときはpaddingとして𝟎で埋める
11. 提案⼿法 10 Transformer Encoder
12. 提案⼿法 11 Transformer Encoder ⼊⼒ 出⼒
13. 提案⼿法 12 Transformer Encoder • Wは学習によって変化していく • Wによって柔軟に
14. 提案⼿法 13 Transformer Encoder ⼆層のニューラルネットワーク
15. 提案⼿法 14 Prediction Layer ︓Transformer encoderの最後の タイムスタンプにおけるoutput : 時間 𝑡 でユーザー 𝑖 がアイテム 𝑙 を選ぶ確率 : loss関数 次に選んだであろうアイテム Log(1) = 0 Log(1-0) = 0 類似度
16. 提案⼿法 15 SSE-PT ベクトル化 前後関係を考慮したベクトル
17. 提案⼿法 16 Stochastic Shared Embeddings 2019年に同著者らが発表した⼿法 Wu, Liwei, et al. "Stochastic shared embeddings: Data-driven regularization of embedding layers.” (2019) ある⼀定の確率でエンベディングを他のものと置き換える
18. 実験 18 環境 CPU : 40-core Intel Xeon E5-2630 v4 @2.20GHz GPU : GTX 1080 データセット • Steam dataset • Movielens1M, Movielens10M • Amazon product review dataset(Beauty, Games) 評価指標 • Recall ･･･ユーザが実際に嗜好したアイテムのうちレコメンドリストでカバーした割合 • NDCG･･･おすすめ順の適合度を合計し，正規化したもの
19. 実験 19 SSE-PTを⻑いシーケンスでも対応できるようにした版 （性能⽐較）
20. 実験 20 （アテンションの可視化）
21. 実験 21 （Training Speed）
22. 疑問点 22 • 未知のユーザーが来たら推論がうまくいかないのではないか • Positive itemとnegative itemのリストはどのように作成しているのか
23. まとめ 23 • SSE-PTと呼ばれるTransformerベースのモデルでsequential recommendationの問題を解決した • ユーザーエンベディングを追加することでパーソナライズ • SSE正則化を⽤いて過学習を防ぐ • 5つのデータセットにおいてSoTAを達成
24. Appendix 24