LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation

Transcript

1. LightGCN: Simplifying and Powering Graph Convolution Network for Recommendation [He+, SIGIR 2020] • テーマ • 情報推薦向けに単純化したGCNモデルを提案 • 概要 • GCNを用いた協調フィルタリングの手法である Neural Graph Collaborative Filtering (NGCF) [Wang+, SIGIR 2019] の構造を単純化したLightGCNを提案 • 結果 • NGCFよりも計算コスト、精度の両面で性能向上 1
2. Neural Graph Collaborative Filtering (NGCF) [Wang+, SIGIR 2019] • GCNを用いてユーザ・アイテム間の相互関係を考慮した 埋め込み表現を得る手法 • それらの内積をとってリンクごとにスコアを得る 2
3. Neural Graph Collaborative Filtering (NGCF) [Wang+, SIGIR 2019] 3 ユーザ埋め込みベ クトル アイテム埋め込み ベクトル ユーザ𝑢に隣接 するアイテム𝑖 アイテム𝑖に隣接 するユーザ𝑢
4. NGCFの各要素を取り除く • NGCFの各要素を取り除き、単純化したモデルの精度を検証 • NGCF-f: 特徴変換行列 , を取り除く • NGCF-n: 非線形関数σを取り除く • NGCF-fn: , とσの両方を取り除く 4
5. NGCFの各要素を取り除く • 非線形関数σを取り除くと精度は下がるが、特徴変換行列 , を 取り除くと精度が上がる • 両方取り除くと最も精度が高くなる 5
6. LightGCN • 各層では近傍ノードの特徴量の和を取るだけ • 各層の出力の重み付き和（ ）を最終的な出力とする • 学習するパラメータはノードの初期特徴量 , のみ 6
7. LightGCN 7
8. 結果 8 • 精度、収束速度の両面でLightGCNが優れている • Gowalla: ユーザを推薦？（位置情報を利用したSNS） • Yelp2018: お店を推薦（≒食べログ） • Amazon-book: 本を推薦
9. 結果 • 精度、収束速度の両面でLightGCNが優れている • Gowalla: ユーザを推薦？（位置情報を利用したSNS） • Yelp2018: お店を推薦（≒食べログ） • Amazon-book: 本を推薦 9
10. 単純化して精度が上がる理由の考察 • 一般的なGCNのノード分類タスクでは、ノードに意味的な特徴量が 付与される（e.g. 論文のdoc2vec） • ユーザ・アイテム間の関係を表すグラフにおいては、 ノードの初期特徴量がIDを表すone-hotベクトルでしかない → 特徴変換や非線形関数をかける操作がより良い特徴量を学習する ことに貢献しない • 単純な入力に複雑すぎる操作を加えても意味ない、というイメージ 10
11. まとめ • テーマ • 情報推薦向けに単純化したGCNモデルを提案 • 概要 • GCNを用いた協調フィルタリングの手法である Neural Graph Collaborative Filtering (NGCF) [Wang+, SIGIR 2019] の構造を単純化したLightGCNを提案 • 結果 • NGCFよりも計算コスト、精度の両面で性能向上 11