論⽂紹介 原 弥⿇⼈ 0 Personalized Transfer of User Preferences for Cross-domain Recommendation

⽬次 • 論⽂の概要 • どんな分野か • この論⽂がやりたいこと • 事前知識 • 提案⼿法 • 実験 • まとめ 1

論⽂の概要 2 論⽂情報 タイトル : Personalized Transfer of User Preferences for Cross-domain Recommendation 学会 : WSDM February 21–25, 2022, Tempe, AZ, USA ( 採択率20% ) Web・データマイニング分野のトップカンファレンス 著者情報 著者 : Yongchun Zhu, Zhenwei Tang, Yudan Liu, Fuzhen Zhuang, Ruobing Xie, Xu Zhang, Leyu Lin, Qing He 所属 : Institute of Computing Technology, Institute of Artificial Intelligence, University of Chinese Academy of Sciences, WeChat, Beihang University

論⽂の概要 3 • クロスドメインレコメンデーションによってコールドスタート問題へ対処 • ユーザーにパーソナライズしたブリッジ関数を⽣成するPTUPCDRというフ レームワークを提案 • 実世界のデータセットでコールドスタート、ウォームスタートの両⽅で 精度向上

どんな分野か 4 レコメンデーションとは 商品やサービスをおすすめする機能

どんな分野か 5 Cold-start問題 : : New User : No History Data Recommender System ? 新しいユーザーには推薦がうまくできない

どんな分野か 6 Cross-domain Recommendation(CDR) New User Cross-domain Recommendation 使っていた 使いはじめた 履歴データ 履歴データなし ソースドメイン ターゲット ドメイン

この論⽂がやりたいこと 7 従来⼿法 提案⼿法の概要 • ユーザーの興味を移⾏するのに共通の Bridgeを使⽤ • インタラクション履歴を使⽤ • ユーザーごとに異なるBrigeを作成 異なるドメインの複雑な関係を捉えられない パーソナライズによって表現を多様化

事前知識 8 レコメンデーションの種類 • General Recommendation • Graph Recommendation • Knowledge Aware Recommendation • Sequential Recommendation 協調フィルタリング Matrix Factorization ･･･

事前知識 9 Matrix Factorization(MF) R 誤差を最⼩化することでUとVを算出 勾配降下法で誤差を最⼩化

事前知識 10 Matrix Factorization(MF) R u : 元気度 ⼤⼈度 過激度 1.2 0.6 0.3 ユーザーベクトル アイテムベクトル v : アクション ロマンス コメディ 1.8 1.2 1.1 イメージ ̂ 𝑟!" = 𝒖! 𝒗" 予測値 :

提案⼿法 11 PTUPCDR = ! 𝒖! s : t : このフレームワークがやっていることを⼀⾔でいうと ソースドメイン(NETFLIX)のユーザーベクトルを ターゲットドメイン(amazon)のベクトルへと変換する # 𝒓!

提案⼿法 12 Characteristic Encoder アクション ロマンス コメディ 1.8 1.2 1.1 0.9 0.3 1.8 1.2 0.4 1.2 1.6 0.8 0.8 attention 0.2 0.05 0.3 0.4 1.4 0.7 1.0 ユーザーの特徴ベクトル attention ⼆層のネットワーク (θがパラメータ) softmax (合計が1) : 注意機構 characteristic embedding : ユーザーの伝達特徴ベクトル × × × × k次元

提案⼿法 13 Meta Network Meta network Bridge function 1.4 0.7 1.0 ユーザーの特徴ベクトル ⼆層のネットワーク (Φがパラメータ) Bridge functionのパラメータ 変換したユーザーベクトル どんな形でも定義できる (この論⽂ではlinear layer) バラメータ(重み) 変換

提案⼿法 14 Task-oriented Optimization = ! 𝒖! # 𝒓! 従来のLOSS 提案のLOSS 予測したユーザー 正解(ground-truth) ! 𝒖! : 予測したユーザー # 𝒓! : 予測したレイティング インタラクションが少ないユーザーではユーザーベクトルが不⼗分な可能性 • 不⼗分なベクトルの影響を軽減 • レイティングの数だけ学習サンプルが確保できる レイティングの数は(ユーザー数)×(アイテム数)

提案⼿法 15 Algorithm 1. 事前学習ステージ MFによってソースドメイン、ターゲットドメイン両⽅の ユーザーベクトルとアイテムベクトルを得る 2. メタステージ 両⽅のドメインに履歴があるユーザーを⽤いて、 モデル(characteristic encoder, meta network)を学習する 3. 推論ステージ 予測したユーザーベクトルとターゲットドメインの アイテムベクトルを⽤いてレイティングを予測する

実験 16 データセット • Amazon 5段階評価データセット • Movie, Music, Book 評価指標 • MAE ･･･ 予測値と実測値の差の平均 • RMSE ･･･ 予測値と実測値の⼆乗平均の平⽅根 ⼩さいほどよい

実験 17 実験の詳細 source domain target domain • ⼀部の重複ユーザーのターゲットドメインの評価を削除し、テストユーザーとする • テストユーザーの割合をβとし、βを80%, 50%, 20%にして実験 test user test userの割合 β%

実験 18 （性能⽐較） すべてのタスクでベースラインを上回る コールドスタート問題に有効

実験 19 （他のレコメンドモデルへの適⽤） MFの⼀般化 ニューラルネットワークベース 素の状態 クロスドメインの ライバル 提案 様々なベースモデルで最良の結果 異なるモデルにも適応可能

実験 20 （Warm-startでの実験） Warm-startにおいても最良の結果 Cold-start、Warm-startの両⽅で有⽤ Warm-start : ターゲットドメインの履歴が少ないユーザーへの対処 : 履歴が数個のみなど 少量の履歴を初期の埋め込みベクトルとして使⽤ Cold-start Warm-start 提案 提案

実験 21 （なぜ精度が上がったのか） EMCDRとPTUPCDRにおけるユーザーの埋め込みの可視化 変換されたユーザーベクトル ターゲットモデルのユーザーベクトル (ground truths) • EMCDRでは変換されたベクトルが集中している ソースとターゲットの複雑な関係を捉えられない • PTUPCDRでは特徴空間に散らばっている 表現⼒が⾼く性能が⾼くなっている

Case Study 22 CDを買ったことがないユーザーに 映画の履歴を使ってCDを推薦する ⽬標 attention 視聴履歴 推薦に成功したCD • 重要度を考慮し推薦ができている (ハードロックとSFはと関係性が⾼く刺激的) • ドラマ、コメディのノイズの影響を受けていない Attentionが有効に働いている

まとめ 23 • クロスドメインレコメンデーションによってコールドスタート問題へ対処 • ユーザーにパーソナライズしたブリッジ関数を⽣成するPTUPCDRというフ レームワークを提案 • 実世界のデータセットでコールドスタート、ウォームスタートの両⽅で 精度向上