Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Siamese neural networks in recommendation
Search
Newbees Inc
June 06, 2024
Research
0
110
Siamese neural networks in recommendation
Newbees Inc
June 06, 2024
Tweet
Share
More Decks by Newbees Inc
See All by Newbees Inc
Matching theory-based recommender systems in online dating
newbees
0
120
Newbees採用資料(2025.01更新)
newbees
2
45k
Goで並⾏処理を⽤いた 画像処理を実装した話|株式会社Newbees
newbees
0
260
Other Decks in Research
See All in Research
ロボット学習における大規模検索技術の展開と応用
denkiwakame
1
130
Sat2City:3D City Generation from A Single Satellite Image with Cascaded Latent Diffusion
satai
3
100
Unsupervised Domain Adaptation Architecture Search with Self-Training for Land Cover Mapping
satai
3
190
Time to Cash: The Full Stack Breakdown of Modern ATM Attacks
ratatata
0
160
Large Language Model Agent: A Survey on Methodology, Applications and Challenges
shunk031
17
10k
[論文紹介] Intuitive Fine-Tuning
ryou0634
0
120
Language Models Are Implicitly Continuous
eumesy
PRO
0
280
Adaptive Experimental Design for Efficient Average Treatment Effect Estimation and Treatment Choice
masakat0
0
120
多言語カスタマーインタビューの“壁”を越える~PMと生成AIの共創~ 株式会社ジグザグ 松野 亘
watarumatsuno
0
130
2025/7/5 応用音響研究会招待講演@北海道大学
takuma_okamoto
1
220
GPUを利用したStein Particle Filterによる点群6自由度モンテカルロSLAM
takuminakao
0
350
引力・斥力を制御可能なランダム部分集合の確率分布
wasyro
0
260
Featured
See All Featured
Rails Girls Zürich Keynote
gr2m
95
14k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
Optimising Largest Contentful Paint
csswizardry
37
3.4k
Visualization
eitanlees
148
16k
KATA
mclloyd
32
15k
What’s in a name? Adding method to the madness
productmarketing
PRO
23
3.7k
Done Done
chrislema
185
16k
What's in a price? How to price your products and services
michaelherold
246
12k
Keith and Marios Guide to Fast Websites
keithpitt
411
22k
Connecting the Dots Between Site Speed, User Experience & Your Business [WebExpo 2025]
tammyeverts
9
580
How to train your dragon (web standard)
notwaldorf
96
6.3k
GraphQLの誤解/rethinking-graphql
sonatard
73
11k
Transcript
Siamese neural networks in recommendation Newbees論⽂読み会 ⾶⽥ 祥弥
⽬次 • 概要 • Siamese Neural Networks(SNN) • 適⽤分野 •
適⽤タスク • 順伝播構造のアルゴリズム • 評価指標 • 今後の課題
概要 Siamese neural network(SNN)のRecommender Systems(RS)への適⽤⽂献がこれまで になく、そのため、本論⽂はそれらをサーベイし、以下に沿って⼿法や課題について詳説している。 • SNNをRSに適⽤する最新の⼿法(~2023)について • 対象となるRSのタスク、SNNの適⽤⽅法、評価⽅法について
• ⽂献や実験的観点から考えられるSNNxRSにおけるギャップや課題について
Siamese Neural Networks (SNN) 1993年より2つの署名の類似度を測定するタスクで使われるようになり、代表的なアーキテクチャ として、Pairs(1993)とTriplets(2015)形式のものがある。
Siamese Neural Networks (SNN): Pair形式 • ⼊⼒には類似度を測りたい2画像を⽤いる。順伝播の際に2つのnetwork間で重みを共有する形 で学習が進む。 • 各networkから抽出した特徴ベクトルから
損失関数により類似度(距離)を推定する。 • 損失関数にはBinary Cross Entropyや Contrastive lossが⽤いられる。
Siamese Neural Networks (SNN): Triplets形式 • ⼊⼒は3つあり、anchorには何かしらの画像、positiveにはanchorと類似した画像、negative にはanchorと類似していない画像を⼊⼒する。 • 順伝播構造はPairs形式と同じ
であるが損失関数が異なる。 • 損失関数にはTriplet Lossが ⽤いられる。 A, P, Nはanchor, positive, negative αはpositiveとnegativeのマージン(=1) e()は各⼊⼒パラメータの埋め込み
適⽤分野 SNNによるRSは2018年まで⽂献がなく、ここ数年で発展してきている。 主にEC、ファッション、映画、動画などで適⽤されており、⼊⼒データには画像だけでなく、 テキストや⾳が利⽤されることもある。
適⽤タスク RSにおけるSNNの利⽤⽬的として、純粋な予測のために使⽤する場合と、特徴量抽出を⾏う場合 がある。 順伝播構造は両⽅に⽤いられ、クラスタリングやLTRは後者として中間データで利⽤することを⽬ 的としている。
順伝播構造のアルゴリズム 順伝播構造を利⽤する場合には、主に5つのアーキテクチャが利⽤されており、 2023年の時点では最もCNNが利⽤されている。 TransformerやGCN(Graph Conv Network)などは発表から数年ほどの論⽂であるため、適⽤ 例が少ないものと思われる。
評価指標 RSの領域がエラーメトリクスよりもランキングメトリクス を考慮する傾向がある。 また、そのことから⼀般的な評価指標とされる、 Recall@K, Presicion@K, Accuracy, AUC, F1, NDCG,
MRR, HR などが利⽤されている。
今後の課題 • 未だ発展途上の領域であるため、アルゴリズムや損失関数などの提案により、改善する余地が ある。 • どの研究も精度以外の評価指標(多様性やカバレッジなど)を考慮できていないため、バイアス (⼈気度合いによる偏り)が起こる可能性がある。 • SNNのRS適⽤領域が乏しく且つ、シンプルなアルゴリズムであるため、未適⽤の主な領域 (Web、SNS等)へ適⽤することで、新たなプラスな⾯での寄与を促すことが必要である。