Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Siamese neural networks in recommendation
Search
Syouya Tobita
June 06, 2024
Research
0
210
Siamese neural networks in recommendation
論文読み会@Newbees
Syouya Tobita
June 06, 2024
Tweet
Share
More Decks by Syouya Tobita
See All by Syouya Tobita
Matching theory based recommender systems in online dating
tobi_kite
0
89
Pose Estimationの汎用的な評価指標について
tobi_kite
0
690
Other Decks in Research
See All in Research
空間音響処理における物理法則に基づく機械学習
skoyamalab
0
190
音声感情認識技術の進展と展望
nagase
0
470
競合や要望に流されない─B2B SaaSでミニマム要件を決めるリアルな取り組み / Don't be swayed by competitors or requests - A real effort to determine minimum requirements for B2B SaaS
kaminashi
0
760
HU Berlin: Industrial-Strength Natural Language Processing with spaCy and Prodigy
inesmontani
PRO
0
230
Satellites Reveal Mobility: A Commuting Origin-destination Flow Generator for Global Cities
satai
3
510
ACL読み会2025: Can Language Models Reason about Individualistic Human Values and Preferences?
yukizenimoto
0
130
製造業主導型経済からサービス経済化における中間層形成メカニズムのパラダイムシフト
yamotty
0
480
AWSの耐久性のあるRedis互換KVSのMemoryDBについての論文を読んでみた
bootjp
1
460
Collective Predictive Coding and World Models in LLMs: A System 0/1/2/3 Perspective on Hierarchical Physical AI (IEEE SII 2026 Plenary Talk)
tanichu
1
250
都市交通マスタープランとその後への期待@熊本商工会議所・熊本経済同友会
trafficbrain
0
120
ロボット学習における大規模検索技術の展開と応用
denkiwakame
1
210
20年前に50代だった人たちの今
hysmrk
0
140
Featured
See All Featured
SEOcharity - Dark patterns in SEO and UX: How to avoid them and build a more ethical web
sarafernandez
0
120
Heart Work Chapter 1 - Part 1
lfama
PRO
5
35k
KATA
mclloyd
PRO
34
15k
Avoiding the “Bad Training, Faster” Trap in the Age of AI
tmiket
0
79
Leading Effective Engineering Teams in the AI Era
addyosmani
9
1.6k
Imperfection Machines: The Place of Print at Facebook
scottboms
269
14k
Hiding What from Whom? A Critical Review of the History of Programming languages for Music
tomoyanonymous
2
420
Bash Introduction
62gerente
615
210k
The Limits of Empathy - UXLibs8
cassininazir
1
220
The agentic SEO stack - context over prompts
schlessera
0
640
Designing Powerful Visuals for Engaging Learning
tmiket
0
240
HU Berlin: Industrial-Strength Natural Language Processing with spaCy and Prodigy
inesmontani
PRO
0
230
Transcript
Siamese neural networks in recommendation Newbees論文読み会 飛田 祥弥
目次 • 概要 • Siamese Neural Networks(SNN) • 適用分野 •
適用タスク • 順伝播構造のアルゴリズム • 評価指標 • 今後の課題
概要 Siamese neural network(SNN)のRecommender Systems(RS)への適用文献がこれまでになく、 そのため、本論文はそれらをサーベイし、以下に沿って手法や課題について詳説している。 • SNNをRSに適用する最新の手法(~2023)について • 対象となるRSのタスク、SNNの適用方法、評価方法について
• 文献や実験的観点から考えられるSNNxRSにおけるギャップや課題について
Siamese Neural Networks (SNN) 1993年より2つの署名の類似度を測定するタスクで使われるようになり、代表的なアーキテクチャとし て、Pairs(1993)とTriplets(2015)形式のものがある。
Siamese Neural Networks (SNN): Pair形式 • 入力には類似度を測りたい2画像を用いる。順伝播の際に2つのnetwork間で重みを共有する形で学習 が進む。 • 各networkから抽出した特徴ベクトルから
損失関数により類似度(距離)を推定する。 • 損失関数にはBinary Cross Entropyや Contrastive lossが用いられる。
Siamese Neural Networks (SNN): Triplets形式 • 入力は3つあり、anchorには何かしらの画像、positiveにはanchorと類似した画像、negativeには anchorと類似していない画像を入力する。 • 順伝播構造はPairs形式と同じ
であるが損失関数が異なる。 • 損失関数にはTriplet Lossが 用いられる。 A, P, Nはanchor, positive, negative αはpositiveとnegativeのマージン(=1) e()は各入力パラメータの埋め込み
適用分野 SNNによるRSは2018年まで文献がなく、ここ数年で発展してきている。 主にEC、ファッション、映画、動画などで適用されており、入力データには画像だけでなく、テキス トや音が利用されることもある。
適用タスク RSにおけるSNNの利用目的として、純粋な予測のために使用する場合と、特徴量抽出を行う場合があ る。 順伝播構造は両方に用いられ、クラスタリングやLTRは後者として中間データで利用することを目的とし ている。
順伝播構造のアルゴリズム 順伝播構造を利用する場合には、主に5つのアーキテクチャが利用されており、 2023年の時点では最もCNNが利用されている。 TransformerやGCN(Graph Conv Network)などは発表から数年ほどの論文であるため、適用例が少 ないものと思われる。
評価指標 RSの領域がエラーメトリクスよりもランキングメトリクス を考慮する傾向がある。 また、そのことから一般的な評価指標とされる、 Recall@K, Presicion@K, Accuracy, AUC, F1, NDCG,
MRR, HR などが利用されている。
今後の課題 • 未だ発展途上の領域であるため、アルゴリズムや損失関数などの提案により、改善する余地が ある。 • どの研究も精度以外の評価指標(多様性やカバレッジなど)を考慮できていないため、バイアス(人気 度合いによる偏り)が起こる可能性がある。 • SNNのRS適用領域が乏しく且つ、シンプルなアルゴリズムであるため、未適用の主な領域(Web、 SNS等)へ適用することで、新たなプラスな面での寄与を促すことが必要である。
End of file