Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
One-Class Convolutional Neural Network
Search
Masanori YANO
May 09, 2019
Science
0
1.3k
One-Class Convolutional Neural Network
論文LT会で作成したOC-CNN論文の説明資料です。
Masanori YANO
May 09, 2019
Tweet
Share
More Decks by Masanori YANO
See All by Masanori YANO
Novelty Detection Via Blurring
msnr
0
520
Y-Net: Joint Segmentation and Classification for Diagnosis of Breast Biopsy Images
msnr
0
560
Pyramid-Based Fully Convolutional Networks for Cell Segmentation
msnr
0
560
Free-Form Image Inpainting with Gated Convolution
msnr
0
1k
Memorizing Normality to Detect Anomaly: Memory-augmented Deep Autoencoder for Unsupervised Anomaly Detection
msnr
0
680
Move Evaluation in Go Using Deep Convolutional Neural Networks
msnr
1
850
AlphaX: eXploring Neural Architectures with Deep Neural Networks and Monte Carlo Tree Search
msnr
0
1.2k
Towards Understanding Chinese Checkers with Heuristics, Monte Carlo Tree Search, and Deep Reinforcement Learning
msnr
0
500
SRCNN: Image Super Resolution Using CNN
msnr
0
710
Other Decks in Science
See All in Science
生成AIと学ぶPythonデータ分析再入門-Pythonによるクラスタリング・可視化をサクサク実施-
datascientistsociety
PRO
4
1.7k
03_草原和博_広島大学大学院人間社会科学研究科教授_デジタル_シティズンシップシティで_新たな_学び__をつくる.pdf
sip3ristex
0
550
mathematics of indirect reciprocity
yohm
1
160
CV_3_Keypoints
hachama
0
200
2025-06-11-ai_belgium
sofievl
1
140
機械学習 - 授業概要
trycycle
PRO
0
220
データマイニング - コミュニティ発見
trycycle
PRO
0
130
Cross-Media Information Spaces and Architectures (CISA)
signer
PRO
3
31k
Gemini Prompt Engineering: Practical Techniques for Tangible AI Outcomes
mfonobong
2
140
メール送信サーバの集約における透過型SMTP プロキシの定量評価 / Quantitative Evaluation of Transparent SMTP Proxy in Email Sending Server Aggregation
linyows
0
970
テンソル分解による糖尿病の組織特異的遺伝子発現の統合解析を用いた関連疾患の予測
tagtag
2
200
A Guide to Academic Writing Using Generative AI - A Workshop
ks91
PRO
0
120
Featured
See All Featured
Art, The Web, and Tiny UX
lynnandtonic
301
21k
GraphQLとの向き合い方2022年版
quramy
49
14k
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3.4k
Designing for Performance
lara
610
69k
Agile that works and the tools we love
rasmusluckow
329
21k
RailsConf & Balkan Ruby 2019: The Past, Present, and Future of Rails at GitHub
eileencodes
139
34k
Chrome DevTools: State of the Union 2024 - Debugging React & Beyond
addyosmani
7
790
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.4k
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
15
1.6k
Large-scale JavaScript Application Architecture
addyosmani
512
110k
It's Worth the Effort
3n
185
28k
Raft: Consensus for Rubyists
vanstee
140
7k
Transcript
画像処理&機械学習 論文LT会 #2 One-Class Convolutional Neural Network 2019年5月9日(木) 矢農 正紀
(Masanori YANO)
論文 2 One-Class Convolutional Neural Network 論文のURL: https://arxiv.org/abs/1901.08688 実装のURL: https://github.com/otkupjnoz/oc-cnn
⇒ 著者は、アメリカ東海岸のJohns Hopkins University IEEE Signal Processing Letters Volume 26に採録 Second AuthorのPatel助教は、異常検知の論文が多い 選んだ理由 ・異常検知の手法に関心があった ※ 1クラス分類 = 異常(Anomaly) ∪ 新規性(Novelty) ・arXiv論文を検索してみたら上位で、わりと新しかった ・つよそうな題名で、シンプルなアプローチが好み
異常検知とは 3 画像や、時系列データなどから自動的に異常を検出 ⇒ 各社がソフトウェア・サービスをリリースしている状況 [例1] ISP(システム計画研究所) ・gLupe 数十枚の正常データのみで異常検知、学習も数秒 [例2]
PFN(Preferred Networks) ・Preferred Networks Visual Inspection 良品画像100枚と不良品画像20枚から異常検知が可能 ・ファナックとの共同開発によるAI新機能 (1) モータの故障の予兆を異常度で監視: 深層学習 (2) ロボットが撮影した画像の良否判定: 機械学習 深層学習ではなく
1クラス分類(One-Class Classification)とは 4 一種類の、特定のクラスに対する分類を行う ・教師データには、負例のデータが含まれないため難しい ・異常(Anomaly)や新規性(Novelty)の検出に応用される 1クラス分類のアプローチ ・SVM(サポートベクターマシン)ベースの手法が多い ・CNNの中間層から、SVMなどを使って解く手法も多い ・オートエンコーダを使う方法が多く、最近はGANやVAEも
・One-Class Neural Networkは、最適化手順に工夫あり ・Patel助教は、他のデータセットも使う学習手法を提案 Learning Deep Features for One-Class Classification 論文のURL: https://arxiv.org/abs/1801.05365 実装例: https://qiita.com/shinmura0/items/cfb51f66b2d172f2403b ⇒ 本論文は追加データ不要で、かつend-to-endと主張
本論文の手法 5 CNNの特徴量と同じ長さの正規乱数データを加える ・ミニバッチ数が64であれば、正規乱数データも64セット ・損失関数は、合計128データの交差エントロピーの平均 ・本論文の評価では、正規分布の平均0&分散0.01で統一 One-Class Convolutional Neural Networkのアーキテクチャ
本論文の評価結果 6 新規性(Novelty)検知のデータセット3種類で評価 ・OC-CNN: 本論文の手法 ・OC-SVM+: OC-CNNの判別をNNではなくSVMで実施 (本論文の主軸はOC-CNNだが、OC-SVM+も高い性能) 学習済みのVGG16を使用して評価した結果の比較 (論文には、学習済みのAlexNetを使用した結果も掲載)
本論文で評価している3種類のデータセット
まとめ 7 1クラス分類に対する、CNNベースの新手法を提案 ・疑似的な負例のデータとして、正規乱数データを追加 ・データセットを用いた評価でも、一貫して良い性能 ・今後は、検出(detection)と分類を合体させた手法の開発 (すでに、本論文を引用した新規性の検出の論文を発表) 所感 ・シンプルで、2019年発表の新しい手法であることが驚き ・ただ、正規乱数のパラメータで境界面を調節できそうで、
異常検知に使えるのであれば、実用の観点では興味深い [参考] 深層学習の異常検知サーベイ Deep Learning for Anomaly Detection: A Survey 論文のURL: https://arxiv.org/abs/1901.03407