Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Siamese neural networks in recommendation
Search
Syouya Tobita
June 06, 2024
Research
0
7
Siamese neural networks in recommendation
論文読み会@Newbees
Syouya Tobita
June 06, 2024
Tweet
Share
More Decks by Syouya Tobita
See All by Syouya Tobita
Matching theory based recommender systems in online dating
tobi_kite
0
6
Pose Estimationの汎用的な評価指標について
tobi_kite
0
340
Other Decks in Research
See All in Research
SSII2024 [PD] SSII、次の30年への期待
ssii
PRO
2
1.2k
VAR モデルによる OSS プロジェクト同士が生存性に与える 影響の分析
noppoman
0
160
動物倫理学ことはじめ:人間以外の動物との倫理的な付き合い方を考える
takeshit_m
0
320
-SSII技術マップを通して見る過去・現在,そして未来-
hf149
1
350
F0に基づいて伸縮された画像文字からの音声合成 [ASJ2024春]
nehi0615
0
140
独立成分分析を用いた埋め込み表現の視覚的な理解
momoseoyama
3
610
1on1ガイドへの想い(chachaki編)
chachakix
0
120
SSII2024 [OS2] 画像、その先へ 〜モーション解析への誘い〜
ssii
PRO
1
820
SSII2024 [OS2] GPT-4Vで画像認識は終わるのか(オープニング)
ssii
PRO
0
500
20240523 Japan Investment Conference 2024
cfajapan
0
710
The past, present, and future of local-first
ept
0
170
眠眠ガチャ:ガチャを活用した睡眠意欲向上アプリの開発 / EC71inui
yumulab
1
340
Featured
See All Featured
Scaling GitHub
holman
457
140k
The Power of CSS Pseudo Elements
geoffreycrofte
63
5.1k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
34
9k
What the flash - Photography Introduction
edds
64
11k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
34
6.2k
Building Adaptive Systems
keathley
33
2k
The Invisible Side of Design
smashingmag
294
50k
How GitHub Uses GitHub to Build GitHub
holman
471
290k
Pencils Down: Stop Designing & Start Developing
hursman
117
11k
Building Your Own Lightsaber
phodgson
101
5.8k
What's in a price? How to price your products and services
michaelherold
238
11k
Done Done
chrislema
178
15k
Transcript
Siamese neural networks in recommendation Newbees論文読み会 飛田 祥弥
目次 • 概要 • Siamese Neural Networks(SNN) • 適用分野 •
適用タスク • 順伝播構造のアルゴリズム • 評価指標 • 今後の課題
概要 Siamese neural network(SNN)のRecommender Systems(RS)への適用文献がこれまでになく、 そのため、本論文はそれらをサーベイし、以下に沿って手法や課題について詳説している。 • SNNをRSに適用する最新の手法(~2023)について • 対象となるRSのタスク、SNNの適用方法、評価方法について
• 文献や実験的観点から考えられるSNNxRSにおけるギャップや課題について
Siamese Neural Networks (SNN) 1993年より2つの署名の類似度を測定するタスクで使われるようになり、代表的なアーキテクチャとし て、Pairs(1993)とTriplets(2015)形式のものがある。
Siamese Neural Networks (SNN): Pair形式 • 入力には類似度を測りたい2画像を用いる。順伝播の際に2つのnetwork間で重みを共有する形で学習 が進む。 • 各networkから抽出した特徴ベクトルから
損失関数により類似度(距離)を推定する。 • 損失関数にはBinary Cross Entropyや Contrastive lossが用いられる。
Siamese Neural Networks (SNN): Triplets形式 • 入力は3つあり、anchorには何かしらの画像、positiveにはanchorと類似した画像、negativeには anchorと類似していない画像を入力する。 • 順伝播構造はPairs形式と同じ
であるが損失関数が異なる。 • 損失関数にはTriplet Lossが 用いられる。 A, P, Nはanchor, positive, negative αはpositiveとnegativeのマージン(=1) e()は各入力パラメータの埋め込み
適用分野 SNNによるRSは2018年まで文献がなく、ここ数年で発展してきている。 主にEC、ファッション、映画、動画などで適用されており、入力データには画像だけでなく、テキス トや音が利用されることもある。
適用タスク RSにおけるSNNの利用目的として、純粋な予測のために使用する場合と、特徴量抽出を行う場合があ る。 順伝播構造は両方に用いられ、クラスタリングやLTRは後者として中間データで利用することを目的とし ている。
順伝播構造のアルゴリズム 順伝播構造を利用する場合には、主に5つのアーキテクチャが利用されており、 2023年の時点では最もCNNが利用されている。 TransformerやGCN(Graph Conv Network)などは発表から数年ほどの論文であるため、適用例が少 ないものと思われる。
評価指標 RSの領域がエラーメトリクスよりもランキングメトリクス を考慮する傾向がある。 また、そのことから一般的な評価指標とされる、 Recall@K, Presicion@K, Accuracy, AUC, F1, NDCG,
MRR, HR などが利用されている。
今後の課題 • 未だ発展途上の領域であるため、アルゴリズムや損失関数などの提案により、改善する余地が ある。 • どの研究も精度以外の評価指標(多様性やカバレッジなど)を考慮できていないため、バイアス(人気 度合いによる偏り)が起こる可能性がある。 • SNNのRS適用領域が乏しく且つ、シンプルなアルゴリズムであるため、未適用の主な領域(Web、 SNS等)へ適用することで、新たなプラスな面での寄与を促すことが必要である。
End of file