Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Speaker Deck
PRO
Sign in
Sign up for free
About Spectral Clustering
Shunya Ueta
October 16, 2014
Research
0
2.7k
About Spectral Clustering
Spectral Clusteringというクラスタリング手法についての基本的な説明のスライドです。
@MMA_LAB
Shunya Ueta
October 16, 2014
Tweet
Share
More Decks by Shunya Ueta
See All by Shunya Ueta
Query Understanding for Search Engines. Chap2 Query Classification
hurutoriya
0
150
Introducing "Challenges and research opportunities in eCommerce search and recommendations"
hurutoriya
0
120
Auto Content Moderation in C2C e-Commerce at OpML20
hurutoriya
0
330
TFX: A tensor flow-based production-scale machine learning platform
hurutoriya
0
110
Applied machine learning at facebook a datacenter infrastructure perspective HPCA18
hurutoriya
0
110
machine learning tips in the python world PRMLer Night
hurutoriya
1
490
パターン認識と機械学習 第1章 #PRML学ぼう PRML輪講 #2 / PRML Seminar 2 go to introduction in machine learning
hurutoriya
0
2.4k
複数人でコードを書く際のFist Step
hurutoriya
0
310
Other Decks in Research
See All in Research
20221219TXPMedical勉強会
tadook
1
340
第20回チャンピオンズミーティング・サジタリウス杯ラウンド2集計 / Umamusume Sagittarius 2022 Round2
kitachan_black
0
700
知られざるAmazonとAWSのScientist
icoxfog417
0
1.5k
Furm: 家具移動アプリケーションの提案 / IOTS2022-tsujinaga
yumulab
0
210
セレンディピティはトキメキの夢を見せるか?
kuri8ive
1
760
[CFML勉強会#7] EconMLに実装されている異質処置効果の推定手法の紹介・再考
fullflu
0
380
最先端NLP論文紹介:Revisiting the Uniform Information Density Hypothesis (EMNLP2021). Linguistic Dependencies and Statistical Dependence (EMNLP2021).
kuribayashi4
3
320
研究会発表資料.pdf
supikiti
3
250
日本のZ世代における自己の外見の捉え方とケアの実態に関するリサーチ(SUMMARY版)
rs125
0
1.3k
対話型AIの構築における工夫とデータセットの重要性 - 素早くデータを構築し検証するためには
yag_ays
3
2.5k
Transformer / Vision and Languageの基礎
sgnm
1
370
Tecnologias Emergentes: reflexões a partir da Intelectualidade de Milton Santos
taisso
0
150
Featured
See All Featured
Building Flexible Design Systems
yeseniaperezcruz
314
35k
Fontdeck: Realign not Redesign
paulrobertlloyd
74
4.3k
What's in a price? How to price your products and services
michaelherold
233
9.7k
Facilitating Awesome Meetings
lara
33
4.6k
What's new in Ruby 2.0
geeforr
336
30k
Docker and Python
trallard
30
1.9k
A Philosophy of Restraint
colly
193
15k
Gamification - CAS2011
davidbonilla
75
4.1k
Web Components: a chance to create the future
zenorocha
304
40k
Making the Leap to Tech Lead
cromwellryan
116
7.6k
The Straight Up "How To Draw Better" Workshop
denniskardys
225
130k
Practical Orchestrator
shlominoach
178
8.9k
Transcript
About Spectral Clustering Univ. of Tsukuba MMA Lab Shunya
Ueta
目次 1. Spectral Graph 1. About 2. Graph
Laplacian Matrix 3. 応用例 2. Spectral Clustering 3. 実装 2
About Spectral Graph 歴史: 1950年代~ 目的:
グラフの特徴とグラフの固有値・固有ベクトル を結びつける 応用例: Spectral Clustering 画像領域分割 3
Graph Laplacian matrix 4 定義: 4 2 3
5 1 [ 0 1 0 1 0 ] [ 1 0 1 1 0 ] [ 0 1 0 0 1 ] [ 1 1 0 0 1 ] [ 0 0 1 1 0 ] [ 2 0 0 0 0 ] [ 0 3 0 0 0 ] [ 0 0 2 0 0 ] [ 0 0 0 3 0 ] [ 0 0 0 0 2 ] AG DG G n頂点無向グラフ G = (V, E) : AG : DG : Gの近接行列 Gの次数行列 LG = DG AG ラプラシアン行列 [ 2 -‐1 0 -‐1 0 ] [ -‐1 3 -‐1 -‐1 0 ] [ 0 -‐1 2 0 -‐1 ] [ -‐1 -‐1 0 3 -‐1 ] [ 0 0 -‐1 -‐1 2 ] LG = =
Spectral Graphの応用例 画像領域分割 : 画素毎の類似画像 5
Spectral Graphの応用例 画像領域分割 6
Spectral Grapth の応用例 Spectral Clustering 7
Spectral Clustering 8 P次元 n 個 .
. . 目的 p次元のデータn個を kクラスタに分類したい グラフ表現 データをグラフで表す Laplacian matrix グラフの行列表現 n n 対称行列 固有値集合(スペクトラム)を求める 固有ベクトルを小さいものから k番目までを選定 k n
Graph Laplacian matrix 9 定義: 4 2 3
5 1 [ 0 1 0 1 0 ] [ 1 0 1 1 0 ] [ 0 1 0 0 1 ] [ 1 1 0 0 1 ] [ 0 0 1 1 0 ] [ 2 0 0 0 0 ] [ 0 3 0 0 0 ] [ 0 0 2 0 0 ] [ 0 0 0 3 0 ] [ 0 0 0 0 2 ] AG DG G n頂点無向グラフ G = (V, E) : AG : DG : Gの近接行列 Gの次数行列 LG = DG AG ラプラシアン行列 [ 2 -‐1 0 -‐1 0 ] [ -‐1 3 -‐1 -‐1 0 ] [ 0 -‐1 2 0 -‐1 ] [ -‐1 -‐1 0 3 -‐1 ] [ 0 0 -‐1 -‐1 2 ] LG = =
ProperLes of Laplacian matrix 10 1. Lは部分対角優位行列なので全ての固有値は 0 以上
2. L の最小固有値は 0 であり、対応する固有ベクトルは全要素1の n 次元ベクトル 3. 固有値0の個数はグラフの連結部の数 連結部A 連結部B Laplacian matrix グラフの行列表現 対称行列 A B 1 1 1 0 0 0 I 0 = x x 固有値 対角行列
ProperLes of Laplacian matrix 11 1. Lは部分対角優位行列なので全ての固有値は 0 以上
2. L の最小固有値は 0 であり、対応する固有ベクトルは全要素1の n 次元ベクトル 3. 固有値0の個数はグラフの連結部の数 連結部A 連結部B Laplacian matrix グラフの行列表現 対称行列 A B 0 0 0 1 1 1 I 0 = x x 固有値 対角行列
Spectral Clustering 12 理想的なグラフ状態 各行に対して各列の要素が クラスタを示している
k n 1 1 0 0 0 0 0 1 0 0 i番目の行はあるデータX_i が所属するクラスタを 示している 0 0 0 1 1