Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Siamese neural networks in recommendation
Search
Newbees Inc
June 06, 2024
Research
130
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
Siamese neural networks in recommendation
Newbees Inc
June 06, 2024
More Decks by Newbees Inc
See All by Newbees Inc
Matching theory-based recommender systems in online dating
newbees
0
140
Newbees採用資料(2026.04更新)
newbees
2
54k
Goで並⾏処理を⽤いた 画像処理を実装した話|株式会社Newbees
newbees
0
310
Other Decks in Research
See All in Research
技術は予測を代補する:スティグレールの三次的記憶論と予測処理パラダイムの交差
ktanishima
0
110
AIを叩き台として、 「検証」から「共創」へと進化するリサーチ
mela_dayo
0
320
Cross-Media Information Spaces and Architectures
signer
PRO
0
320
計算情報学研究室(数理情報学第7研究室)2026
tomohirokoana
0
700
LLM Compute Infrastructure Overview
karakurist
2
1.6k
2026年版中小企業白書・小規模企業白書の概要
ozekinote
0
130
260624_NLP-colloquium: Hubness
de9uch1
1
150
Anthropic が提案する LLM の内部状態を自然言語で説明可能にした Natural Language Autoencoders / Natural Language Autoencoders Produce Unsupervised Explanations of LLM Activations
shunk031
0
150
NII S. Koyama's Lab Research Overview AY2026
skoyamalab
0
460
「AIとWhyを深堀る」をAIと深堀る
iflection
0
540
老舗ものづくり企業でリサーチが変革を起こすまで - 三菱重工DXの実践
skydats
0
240
Fukui Shibiten 39 - AI Art
butchi
0
160
Featured
See All Featured
Building Better People: How to give real-time feedback that sticks.
wjessup
370
20k
Taking LLMs out of the black box: A practical guide to human-in-the-loop distillation
inesmontani
PRO
3
2.3k
Getting science done with accelerated Python computing platforms
jacobtomlinson
2
370
State of Search Keynote: SEO is Dead Long Live SEO
ryanjones
0
240
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
254
22k
WENDY [Excerpt]
tessaabrams
11
39k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
666
130k
Building a Scalable Design System with Sketch
lauravandoore
463
34k
コードの90%をAIが書く世界で何が待っているのか / What awaits us in a world where 90% of the code is written by AI
rkaga
62
45k
GitHub's CSS Performance
jonrohan
1033
470k
Site-Speed That Sticks
csswizardry
13
1.4k
Imperfection Machines: The Place of Print at Facebook
scottboms
270
14k
Transcript
Siamese neural networks in recommendation Newbees論⽂読み会 ⾶⽥ 祥弥
⽬次 • 概要 • Siamese Neural Networks(SNN) • 適⽤分野 •
適⽤タスク • 順伝播構造のアルゴリズム • 評価指標 • 今後の課題
概要 Siamese neural network(SNN)のRecommender Systems(RS)への適⽤⽂献がこれまで になく、そのため、本論⽂はそれらをサーベイし、以下に沿って⼿法や課題について詳説している。 • SNNをRSに適⽤する最新の⼿法(~2023)について • 対象となるRSのタスク、SNNの適⽤⽅法、評価⽅法について
• ⽂献や実験的観点から考えられるSNNxRSにおけるギャップや課題について
Siamese Neural Networks (SNN) 1993年より2つの署名の類似度を測定するタスクで使われるようになり、代表的なアーキテクチャ として、Pairs(1993)とTriplets(2015)形式のものがある。
Siamese Neural Networks (SNN): Pair形式 • ⼊⼒には類似度を測りたい2画像を⽤いる。順伝播の際に2つのnetwork間で重みを共有する形 で学習が進む。 • 各networkから抽出した特徴ベクトルから
損失関数により類似度(距離)を推定する。 • 損失関数にはBinary Cross Entropyや Contrastive lossが⽤いられる。
Siamese Neural Networks (SNN): Triplets形式 • ⼊⼒は3つあり、anchorには何かしらの画像、positiveにはanchorと類似した画像、negative にはanchorと類似していない画像を⼊⼒する。 • 順伝播構造はPairs形式と同じ
であるが損失関数が異なる。 • 損失関数にはTriplet Lossが ⽤いられる。 A, P, Nはanchor, positive, negative αはpositiveとnegativeのマージン(=1) e()は各⼊⼒パラメータの埋め込み
適⽤分野 SNNによるRSは2018年まで⽂献がなく、ここ数年で発展してきている。 主にEC、ファッション、映画、動画などで適⽤されており、⼊⼒データには画像だけでなく、 テキストや⾳が利⽤されることもある。
適⽤タスク RSにおけるSNNの利⽤⽬的として、純粋な予測のために使⽤する場合と、特徴量抽出を⾏う場合 がある。 順伝播構造は両⽅に⽤いられ、クラスタリングやLTRは後者として中間データで利⽤することを⽬ 的としている。
順伝播構造のアルゴリズム 順伝播構造を利⽤する場合には、主に5つのアーキテクチャが利⽤されており、 2023年の時点では最もCNNが利⽤されている。 TransformerやGCN(Graph Conv Network)などは発表から数年ほどの論⽂であるため、適⽤ 例が少ないものと思われる。
評価指標 RSの領域がエラーメトリクスよりもランキングメトリクス を考慮する傾向がある。 また、そのことから⼀般的な評価指標とされる、 Recall@K, Presicion@K, Accuracy, AUC, F1, NDCG,
MRR, HR などが利⽤されている。
今後の課題 • 未だ発展途上の領域であるため、アルゴリズムや損失関数などの提案により、改善する余地が ある。 • どの研究も精度以外の評価指標(多様性やカバレッジなど)を考慮できていないため、バイアス (⼈気度合いによる偏り)が起こる可能性がある。 • SNNのRS適⽤領域が乏しく且つ、シンプルなアルゴリズムであるため、未適⽤の主な領域 (Web、SNS等)へ適⽤することで、新たなプラスな⾯での寄与を促すことが必要である。