Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Siamese neural networks in recommendation
Search
Newbees Inc
June 06, 2024
Research
130
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
Siamese neural networks in recommendation
Newbees Inc
June 06, 2024
More Decks by Newbees Inc
See All by Newbees Inc
Matching theory-based recommender systems in online dating
newbees
0
140
Newbees採用資料(2026.04更新)
newbees
2
54k
Goで並⾏処理を⽤いた 画像処理を実装した話|株式会社Newbees
newbees
0
310
Other Decks in Research
See All in Research
正規分布と最適化について
koide3
1
290
Model Discovery and Graph Simulation: A Lightweight Gateway to Chaos Engineering
anatolykr
0
210
計算情報学研究室(数理情報学第7研究室)2026
tomohirokoana
0
620
Research Engineerという仕事 / Research Engineering: Bridging Research and Business
chck
1
230
機械学習で作った ポケモン対戦bot で 遊ぼう!
fufufukakaka
0
340
Unified Audio Source Separation (Defense Slides)
kohei_1979
1
620
(SIGQS17) Frasco-VS:フラグメントに基づく薬剤候補化合物選抜の量子アニーリングによる実現
keisukeyanagisawa
PRO
0
150
National high-resolution cropland classification of Japan with agricultural census information and multi-temporal multi-modality datasets
satai
3
350
第64回CV・PRML勉強会 論文紹介:Linguistic Priors for Visual Decoupling: Towards Symmetric Vision-Brain Alignment
sokikatayama
0
130
研究室単位での自律的 IPv6接続性確立に向けたAS共同運用モデルの提案と実証
reokashiwa
PRO
0
140
Sleuthcon Keynote - How Cybercriminals (ab)use AI
fr0gger
0
240
Fukui Shibiten 39 - AI Art
butchi
0
140
Featured
See All Featured
Evolving SEO for Evolving Search Engines
ryanjones
0
240
[RailsConf 2023] Rails as a piece of cake
palkan
59
6.7k
How STYLIGHT went responsive
nonsquared
100
6.2k
Building a A Zero-Code AI SEO Workflow
portentint
PRO
0
630
Effective software design: The role of men in debugging patriarchy in IT @ Voxxed Days AMS
baasie
0
440
Into the Great Unknown - MozCon
thekraken
41
2.6k
The Mindset for Success: Future Career Progression
greggifford
PRO
0
410
The Art of Programming - Codeland 2020
erikaheidi
57
14k
Bash Introduction
62gerente
615
220k
Docker and Python
trallard
47
3.9k
Data-driven link building: lessons from a $708K investment (BrightonSEO talk)
szymonslowik
1
1.2k
Embracing the Ebb and Flow
colly
88
5.1k
Transcript
Siamese neural networks in recommendation Newbees論⽂読み会 ⾶⽥ 祥弥
⽬次 • 概要 • Siamese Neural Networks(SNN) • 適⽤分野 •
適⽤タスク • 順伝播構造のアルゴリズム • 評価指標 • 今後の課題
概要 Siamese neural network(SNN)のRecommender Systems(RS)への適⽤⽂献がこれまで になく、そのため、本論⽂はそれらをサーベイし、以下に沿って⼿法や課題について詳説している。 • SNNをRSに適⽤する最新の⼿法(~2023)について • 対象となるRSのタスク、SNNの適⽤⽅法、評価⽅法について
• ⽂献や実験的観点から考えられるSNNxRSにおけるギャップや課題について
Siamese Neural Networks (SNN) 1993年より2つの署名の類似度を測定するタスクで使われるようになり、代表的なアーキテクチャ として、Pairs(1993)とTriplets(2015)形式のものがある。
Siamese Neural Networks (SNN): Pair形式 • ⼊⼒には類似度を測りたい2画像を⽤いる。順伝播の際に2つのnetwork間で重みを共有する形 で学習が進む。 • 各networkから抽出した特徴ベクトルから
損失関数により類似度(距離)を推定する。 • 損失関数にはBinary Cross Entropyや Contrastive lossが⽤いられる。
Siamese Neural Networks (SNN): Triplets形式 • ⼊⼒は3つあり、anchorには何かしらの画像、positiveにはanchorと類似した画像、negative にはanchorと類似していない画像を⼊⼒する。 • 順伝播構造はPairs形式と同じ
であるが損失関数が異なる。 • 損失関数にはTriplet Lossが ⽤いられる。 A, P, Nはanchor, positive, negative αはpositiveとnegativeのマージン(=1) e()は各⼊⼒パラメータの埋め込み
適⽤分野 SNNによるRSは2018年まで⽂献がなく、ここ数年で発展してきている。 主にEC、ファッション、映画、動画などで適⽤されており、⼊⼒データには画像だけでなく、 テキストや⾳が利⽤されることもある。
適⽤タスク RSにおけるSNNの利⽤⽬的として、純粋な予測のために使⽤する場合と、特徴量抽出を⾏う場合 がある。 順伝播構造は両⽅に⽤いられ、クラスタリングやLTRは後者として中間データで利⽤することを⽬ 的としている。
順伝播構造のアルゴリズム 順伝播構造を利⽤する場合には、主に5つのアーキテクチャが利⽤されており、 2023年の時点では最もCNNが利⽤されている。 TransformerやGCN(Graph Conv Network)などは発表から数年ほどの論⽂であるため、適⽤ 例が少ないものと思われる。
評価指標 RSの領域がエラーメトリクスよりもランキングメトリクス を考慮する傾向がある。 また、そのことから⼀般的な評価指標とされる、 Recall@K, Presicion@K, Accuracy, AUC, F1, NDCG,
MRR, HR などが利⽤されている。
今後の課題 • 未だ発展途上の領域であるため、アルゴリズムや損失関数などの提案により、改善する余地が ある。 • どの研究も精度以外の評価指標(多様性やカバレッジなど)を考慮できていないため、バイアス (⼈気度合いによる偏り)が起こる可能性がある。 • SNNのRS適⽤領域が乏しく且つ、シンプルなアルゴリズムであるため、未適⽤の主な領域 (Web、SNS等)へ適⽤することで、新たなプラスな⾯での寄与を促すことが必要である。