論文LT会で作成したOC-CNN論文の説明資料です。
画像処理&機械学習 論文LT会 #2One-Class Convolutional Neural Network2019年5月9日(木)矢農 正紀 (Masanori YANO)
View Slide
論文2One-Class Convolutional Neural Network論文のURL: https://arxiv.org/abs/1901.08688実装のURL: https://github.com/otkupjnoz/oc-cnn⇒ 著者は、アメリカ東海岸のJohns Hopkins UniversityIEEE Signal Processing Letters Volume 26に採録Second AuthorのPatel助教は、異常検知の論文が多い選んだ理由・異常検知の手法に関心があった※ 1クラス分類 = 異常(Anomaly) ∪ 新規性(Novelty)・arXiv論文を検索してみたら上位で、わりと新しかった・つよそうな題名で、シンプルなアプローチが好み
異常検知とは3画像や、時系列データなどから自動的に異常を検出⇒ 各社がソフトウェア・サービスをリリースしている状況[例1] ISP(システム計画研究所)・gLupe数十枚の正常データのみで異常検知、学習も数秒[例2] PFN(Preferred Networks)・Preferred Networks Visual Inspection良品画像100枚と不良品画像20枚から異常検知が可能・ファナックとの共同開発によるAI新機能(1) モータの故障の予兆を異常度で監視: 深層学習(2) ロボットが撮影した画像の良否判定: 機械学習深層学習ではなく
1クラス分類(One-Class Classification)とは4一種類の、特定のクラスに対する分類を行う・教師データには、負例のデータが含まれないため難しい・異常(Anomaly)や新規性(Novelty)の検出に応用される1クラス分類のアプローチ・SVM(サポートベクターマシン)ベースの手法が多い・CNNの中間層から、SVMなどを使って解く手法も多い・オートエンコーダを使う方法が多く、最近はGANやVAEも・One-Class Neural Networkは、最適化手順に工夫あり・Patel助教は、他のデータセットも使う学習手法を提案Learning Deep Features for One-Class Classification論文のURL: https://arxiv.org/abs/1801.05365実装例: https://qiita.com/shinmura0/items/cfb51f66b2d172f2403b⇒ 本論文は追加データ不要で、かつend-to-endと主張
本論文の手法5CNNの特徴量と同じ長さの正規乱数データを加える・ミニバッチ数が64であれば、正規乱数データも64セット・損失関数は、合計128データの交差エントロピーの平均・本論文の評価では、正規分布の平均0&分散0.01で統一One-Class Convolutional Neural Networkのアーキテクチャ
本論文の評価結果6新規性(Novelty)検知のデータセット3種類で評価・OC-CNN: 本論文の手法・OC-SVM+: OC-CNNの判別をNNではなくSVMで実施(本論文の主軸はOC-CNNだが、OC-SVM+も高い性能)学習済みのVGG16を使用して評価した結果の比較(論文には、学習済みのAlexNetを使用した結果も掲載)本論文で評価している3種類のデータセット
まとめ71クラス分類に対する、CNNベースの新手法を提案・疑似的な負例のデータとして、正規乱数データを追加・データセットを用いた評価でも、一貫して良い性能・今後は、検出(detection)と分類を合体させた手法の開発(すでに、本論文を引用した新規性の検出の論文を発表)所感・シンプルで、2019年発表の新しい手法であることが驚き・ただ、正規乱数のパラメータで境界面を調節できそうで、異常検知に使えるのであれば、実用の観点では興味深い[参考] 深層学習の異常検知サーベイDeep Learning for Anomaly Detection: A Survey論文のURL: https://arxiv.org/abs/1901.03407