Siamese neural networks in recommendation

Transcript

1. Siamese neural networks in recommendation Newbees論⽂読み会 ⾶⽥ 祥弥
2. ⽬次 • 概要 • Siamese Neural Networks（SNN） • 適⽤分野 • 適⽤タスク • 順伝播構造のアルゴリズム • 評価指標 • 今後の課題
3. 概要 Siamese neural network（SNN）のRecommender Systems（RS）への適⽤⽂献がこれまで になく、そのため、本論⽂はそれらをサーベイし、以下に沿って⼿法や課題について詳説している。 • SNNをRSに適⽤する最新の⼿法（~2023）について • 対象となるRSのタスク、SNNの適⽤⽅法、評価⽅法について • ⽂献や実験的観点から考えられるSNNxRSにおけるギャップや課題について
4. Siamese Neural Networks (SNN) 1993年より2つの署名の類似度を測定するタスクで使われるようになり、代表的なアーキテクチャ として、Pairs(1993)とTriplets(2015)形式のものがある。
5. Siamese Neural Networks (SNN): Pair形式 • ⼊⼒には類似度を測りたい2画像を⽤いる。順伝播の際に2つのnetwork間で重みを共有する形 で学習が進む。 • 各networkから抽出した特徴ベクトルから 損失関数により類似度（距離）を推定する。 • 損失関数にはBinary Cross Entropyや Contrastive lossが⽤いられる。
6. Siamese Neural Networks (SNN): Triplets形式 • ⼊⼒は3つあり、anchorには何かしらの画像、positiveにはanchorと類似した画像、negative にはanchorと類似していない画像を⼊⼒する。 • 順伝播構造はPairs形式と同じ であるが損失関数が異なる。 • 損失関数にはTriplet Lossが ⽤いられる。 A, P, Nはanchor, positive, negative αはpositiveとnegativeのマージン（=1） e()は各⼊⼒パラメータの埋め込み
7. 適⽤分野 SNNによるRSは2018年まで⽂献がなく、ここ数年で発展してきている。 主にEC、ファッション、映画、動画などで適⽤されており、⼊⼒データには画像だけでなく、 テキストや⾳が利⽤されることもある。
8. 適⽤タスク RSにおけるSNNの利⽤⽬的として、純粋な予測のために使⽤する場合と、特徴量抽出を⾏う場合 がある。 順伝播構造は両⽅に⽤いられ、クラスタリングやLTRは後者として中間データで利⽤することを⽬ 的としている。
9. 順伝播構造のアルゴリズム 順伝播構造を利⽤する場合には、主に5つのアーキテクチャが利⽤されており、 2023年の時点では最もCNNが利⽤されている。 TransformerやGCN（Graph Conv Network）などは発表から数年ほどの論⽂であるため、適⽤ 例が少ないものと思われる。
10. 評価指標 RSの領域がエラーメトリクスよりもランキングメトリクス を考慮する傾向がある。 また、そのことから⼀般的な評価指標とされる、 Recall@K, Presicion@K, Accuracy, AUC, F1, NDCG, MRR, HR などが利⽤されている。
11. 今後の課題 • 未だ発展途上の領域であるため、アルゴリズムや損失関数などの提案により、改善する余地が ある。 • どの研究も精度以外の評価指標（多様性やカバレッジなど）を考慮できていないため、バイアス （⼈気度合いによる偏り）が起こる可能性がある。 • SNNのRS適⽤領域が乏しく且つ、シンプルなアルゴリズムであるため、未適⽤の主な領域 （Web、SNS等）へ適⽤することで、新たなプラスな⾯での寄与を促すことが必要である。