Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
One-Class Convolutional Neural Network
Search
Masanori YANO
May 09, 2019
Science
0
1.2k
One-Class Convolutional Neural Network
論文LT会で作成したOC-CNN論文の説明資料です。
Masanori YANO
May 09, 2019
Tweet
Share
More Decks by Masanori YANO
See All by Masanori YANO
Novelty Detection Via Blurring
msnr
0
450
Y-Net: Joint Segmentation and Classification for Diagnosis of Breast Biopsy Images
msnr
0
520
Pyramid-Based Fully Convolutional Networks for Cell Segmentation
msnr
0
490
Free-Form Image Inpainting with Gated Convolution
msnr
0
920
Memorizing Normality to Detect Anomaly: Memory-augmented Deep Autoencoder for Unsupervised Anomaly Detection
msnr
0
600
Move Evaluation in Go Using Deep Convolutional Neural Networks
msnr
1
790
AlphaX: eXploring Neural Architectures with Deep Neural Networks and Monte Carlo Tree Search
msnr
0
1.1k
Towards Understanding Chinese Checkers with Heuristics, Monte Carlo Tree Search, and Deep Reinforcement Learning
msnr
0
440
SRCNN: Image Super Resolution Using CNN
msnr
0
560
Other Decks in Science
See All in Science
General Parasitology
uni_of_nomi
0
120
山形とさくらんぼに関するレクチャー(YG-900)
07jp27
1
220
MoveItを使った産業用ロボット向け動作作成方法の紹介 / Introduction to creating motion for industrial robots using MoveIt
ry0_ka
0
160
第61回コンピュータビジョン勉強会「BioCLIP: A Vision Foundation Model for the Tree of Life」
x_ttyszk
1
1.5k
事業会社における 機械学習・推薦システム技術の活用事例と必要な能力 / ml-recsys-in-layerx-wantedly-2024
yuya4
3
230
Snowflakeによる統合バイオインフォマティクス
ktatsuya
0
490
トラブルがあったコンペに学ぶデータ分析
tereka114
2
900
インフラだけではない MLOps の話 @事例でわかるMLOps 機械学習の成果をスケールさせる処方箋 発売記念
icoxfog417
2
580
ABEMAの効果検証事例〜効果の異質性を考える〜
s1ok69oo
4
2.1k
位相的データ解析とその応用例
brainpadpr
1
610
Snowflake上でRを使う: RStudioセットアップとShinyアプリケーションのデプロイ
ktatsuya
0
420
最適化超入門
tkm2261
14
3.3k
Featured
See All Featured
A Modern Web Designer's Workflow
chriscoyier
693
190k
Rails Girls Zürich Keynote
gr2m
94
13k
The MySQL Ecosystem @ GitHub 2015
samlambert
250
12k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.3k
Put a Button on it: Removing Barriers to Going Fast.
kastner
59
3.5k
How to Ace a Technical Interview
jacobian
276
23k
A Tale of Four Properties
chriscoyier
156
23k
The Straight Up "How To Draw Better" Workshop
denniskardys
232
140k
Building a Modern Day E-commerce SEO Strategy
aleyda
38
6.9k
Side Projects
sachag
452
42k
How to train your dragon (web standard)
notwaldorf
88
5.7k
Scaling GitHub
holman
458
140k
Transcript
画像処理&機械学習 論文LT会 #2 One-Class Convolutional Neural Network 2019年5月9日(木) 矢農 正紀
(Masanori YANO)
論文 2 One-Class Convolutional Neural Network 論文のURL: https://arxiv.org/abs/1901.08688 実装のURL: https://github.com/otkupjnoz/oc-cnn
⇒ 著者は、アメリカ東海岸のJohns Hopkins University IEEE Signal Processing Letters Volume 26に採録 Second AuthorのPatel助教は、異常検知の論文が多い 選んだ理由 ・異常検知の手法に関心があった ※ 1クラス分類 = 異常(Anomaly) ∪ 新規性(Novelty) ・arXiv論文を検索してみたら上位で、わりと新しかった ・つよそうな題名で、シンプルなアプローチが好み
異常検知とは 3 画像や、時系列データなどから自動的に異常を検出 ⇒ 各社がソフトウェア・サービスをリリースしている状況 [例1] ISP(システム計画研究所) ・gLupe 数十枚の正常データのみで異常検知、学習も数秒 [例2]
PFN(Preferred Networks) ・Preferred Networks Visual Inspection 良品画像100枚と不良品画像20枚から異常検知が可能 ・ファナックとの共同開発によるAI新機能 (1) モータの故障の予兆を異常度で監視: 深層学習 (2) ロボットが撮影した画像の良否判定: 機械学習 深層学習ではなく
1クラス分類(One-Class Classification)とは 4 一種類の、特定のクラスに対する分類を行う ・教師データには、負例のデータが含まれないため難しい ・異常(Anomaly)や新規性(Novelty)の検出に応用される 1クラス分類のアプローチ ・SVM(サポートベクターマシン)ベースの手法が多い ・CNNの中間層から、SVMなどを使って解く手法も多い ・オートエンコーダを使う方法が多く、最近はGANやVAEも
・One-Class Neural Networkは、最適化手順に工夫あり ・Patel助教は、他のデータセットも使う学習手法を提案 Learning Deep Features for One-Class Classification 論文のURL: https://arxiv.org/abs/1801.05365 実装例: https://qiita.com/shinmura0/items/cfb51f66b2d172f2403b ⇒ 本論文は追加データ不要で、かつend-to-endと主張
本論文の手法 5 CNNの特徴量と同じ長さの正規乱数データを加える ・ミニバッチ数が64であれば、正規乱数データも64セット ・損失関数は、合計128データの交差エントロピーの平均 ・本論文の評価では、正規分布の平均0&分散0.01で統一 One-Class Convolutional Neural Networkのアーキテクチャ
本論文の評価結果 6 新規性(Novelty)検知のデータセット3種類で評価 ・OC-CNN: 本論文の手法 ・OC-SVM+: OC-CNNの判別をNNではなくSVMで実施 (本論文の主軸はOC-CNNだが、OC-SVM+も高い性能) 学習済みのVGG16を使用して評価した結果の比較 (論文には、学習済みのAlexNetを使用した結果も掲載)
本論文で評価している3種類のデータセット
まとめ 7 1クラス分類に対する、CNNベースの新手法を提案 ・疑似的な負例のデータとして、正規乱数データを追加 ・データセットを用いた評価でも、一貫して良い性能 ・今後は、検出(detection)と分類を合体させた手法の開発 (すでに、本論文を引用した新規性の検出の論文を発表) 所感 ・シンプルで、2019年発表の新しい手法であることが驚き ・ただ、正規乱数のパラメータで境界面を調節できそうで、
異常検知に使えるのであれば、実用の観点では興味深い [参考] 深層学習の異常検知サーベイ Deep Learning for Anomaly Detection: A Survey 論文のURL: https://arxiv.org/abs/1901.03407