Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Siamese neural networks in recommendation
Search
Syouya Tobita
June 06, 2024
Research
0
180
Siamese neural networks in recommendation
論文読み会@Newbees
Syouya Tobita
June 06, 2024
Tweet
Share
More Decks by Syouya Tobita
See All by Syouya Tobita
Matching theory based recommender systems in online dating
tobi_kite
0
84
Pose Estimationの汎用的な評価指標について
tobi_kite
0
650
Other Decks in Research
See All in Research
20250605_新交通システム推進議連_熊本都市圏「車1割削減、渋滞半減、公共交通2倍」から考える地方都市交通政策
trafficbrain
0
770
「どう育てるか」より「どう働きたいか」〜スクラムマスターの最初の一歩〜
hirakawa51
0
860
Hiding What from Whom? A Critical Review of the History of Programming languages for Music
tomoyanonymous
0
160
不確実性下における目的と手段の統合的探索に向けた連続腕バンディットの応用 / iot70_gp_rff_mab
monochromegane
2
170
電力システム最適化入門
mickey_kubo
1
920
GPUを利用したStein Particle Filterによる点群6自由度モンテカルロSLAM
takuminakao
0
270
EcoWikiRS: Learning Ecological Representation of Satellite Images from Weak Supervision with Species Observation and Wikipedia
satai
3
140
最適化と機械学習による問題解決
mickey_kubo
0
170
時系列データに対する解釈可能な 決定木クラスタリング
mickey_kubo
2
940
snlp2025_prevent_llm_spikes
takase
0
170
[輪講] SigLIP 2: Multilingual Vision-Language Encoders with Improved Semantic Understanding, Localization, and Dense Features
nk35jk
2
1k
数理最適化に基づく制御
mickey_kubo
6
730
Featured
See All Featured
RailsConf 2023
tenderlove
30
1.2k
Building Applications with DynamoDB
mza
96
6.6k
Creating an realtime collaboration tool: Agile Flush - .NET Oxford
marcduiker
31
2.2k
Docker and Python
trallard
46
3.6k
For a Future-Friendly Web
brad_frost
180
9.9k
Git: the NoSQL Database
bkeepers
PRO
431
66k
The Straight Up "How To Draw Better" Workshop
denniskardys
236
140k
jQuery: Nuts, Bolts and Bling
dougneiner
64
7.9k
Rails Girls Zürich Keynote
gr2m
95
14k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
48
9.7k
Bash Introduction
62gerente
615
210k
Designing for humans not robots
tammielis
253
25k
Transcript
Siamese neural networks in recommendation Newbees論文読み会 飛田 祥弥
目次 • 概要 • Siamese Neural Networks(SNN) • 適用分野 •
適用タスク • 順伝播構造のアルゴリズム • 評価指標 • 今後の課題
概要 Siamese neural network(SNN)のRecommender Systems(RS)への適用文献がこれまでになく、 そのため、本論文はそれらをサーベイし、以下に沿って手法や課題について詳説している。 • SNNをRSに適用する最新の手法(~2023)について • 対象となるRSのタスク、SNNの適用方法、評価方法について
• 文献や実験的観点から考えられるSNNxRSにおけるギャップや課題について
Siamese Neural Networks (SNN) 1993年より2つの署名の類似度を測定するタスクで使われるようになり、代表的なアーキテクチャとし て、Pairs(1993)とTriplets(2015)形式のものがある。
Siamese Neural Networks (SNN): Pair形式 • 入力には類似度を測りたい2画像を用いる。順伝播の際に2つのnetwork間で重みを共有する形で学習 が進む。 • 各networkから抽出した特徴ベクトルから
損失関数により類似度(距離)を推定する。 • 損失関数にはBinary Cross Entropyや Contrastive lossが用いられる。
Siamese Neural Networks (SNN): Triplets形式 • 入力は3つあり、anchorには何かしらの画像、positiveにはanchorと類似した画像、negativeには anchorと類似していない画像を入力する。 • 順伝播構造はPairs形式と同じ
であるが損失関数が異なる。 • 損失関数にはTriplet Lossが 用いられる。 A, P, Nはanchor, positive, negative αはpositiveとnegativeのマージン(=1) e()は各入力パラメータの埋め込み
適用分野 SNNによるRSは2018年まで文献がなく、ここ数年で発展してきている。 主にEC、ファッション、映画、動画などで適用されており、入力データには画像だけでなく、テキス トや音が利用されることもある。
適用タスク RSにおけるSNNの利用目的として、純粋な予測のために使用する場合と、特徴量抽出を行う場合があ る。 順伝播構造は両方に用いられ、クラスタリングやLTRは後者として中間データで利用することを目的とし ている。
順伝播構造のアルゴリズム 順伝播構造を利用する場合には、主に5つのアーキテクチャが利用されており、 2023年の時点では最もCNNが利用されている。 TransformerやGCN(Graph Conv Network)などは発表から数年ほどの論文であるため、適用例が少 ないものと思われる。
評価指標 RSの領域がエラーメトリクスよりもランキングメトリクス を考慮する傾向がある。 また、そのことから一般的な評価指標とされる、 Recall@K, Presicion@K, Accuracy, AUC, F1, NDCG,
MRR, HR などが利用されている。
今後の課題 • 未だ発展途上の領域であるため、アルゴリズムや損失関数などの提案により、改善する余地が ある。 • どの研究も精度以外の評価指標(多様性やカバレッジなど)を考慮できていないため、バイアス(人気 度合いによる偏り)が起こる可能性がある。 • SNNのRS適用領域が乏しく且つ、シンプルなアルゴリズムであるため、未適用の主な領域(Web、 SNS等)へ適用することで、新たなプラスな面での寄与を促すことが必要である。
End of file