CompML:PaperReading-PHM-No.1

CompMLで論文読み会をした際の、PHM (Prognostics and Health Management)に関する、2論文の発表資料です。

Transcript

1. CompML PHM No.1 SATO, Ryosuke
2. CompML 目次 • 問題設定 • 関連研究 • Dual task LSTM ◦ 実験 ◦ 手法 • Dual LSTM ◦ 手法 ◦ 実験 • まとめ 資料タイトルが「意味の広い単語 +No」なの は、以下の2つの理由からです。 - 今回は2つの論文を読んだ - 会が連続開催&発表(どちらも予定)
3. CompML Title & Author ① Shi, Z., & Chehade, A. (2020). A Dual-LSTM Framework Combining Change Point Detection and Remaining Useful Life Prediction. Reliability Engineering & System Safety, 107257.
4. CompML Title & Author ② Miao, H., Li, B., Sun, C., & Liu, J. (2019). Joint learning of degradation assessment and RUL prediction for aeroengines via dual-task deep LSTM networks. IEEE Transactions on Industrial Informatics, 15(9), 5023-5032.
5. CompML 問題設定
6. CompML 問題設定 ❖ 研究領域 ➢ PHM: Prognostics and Health Management ❖ タスク ➢ RUL 推定: Remaining Useful Life ❖ データ ➢ C-MAPSS
7. CompML PHM: Prognostics and Health Management “故障検知や不具合カ所の特定・診断、 残寿命の予測などを行 い、(略)「設備のダウンタイムを極小化」と「品質低下の抑制」に貢 献します。”Microsoft Partner Network • HI : Health Index ◦ システムの健康状態を表す指標 • HS : Health State ◦ DS: Degradation Stage とも呼ばれる事がある ◦ HIの値からいくつかの Stageに分割したラベル • RUL : 残存耐用時間、Remaining Useful Life ◦ システムが故障するまでの時間 fig) Lei, Y., Li, N., Guo, L., Li, N., Yan, T., & Lin, J. (2018). Machinery health prognostics: A systematic review from data acquisition to RUL prediction. Mechanical Systems and Signal Processing, 104, 799-834.
8. CompML C-MAPSS: Commercial Modular AeroPropulsion System Simulation PHM08 のコンペティション用にNASAが公開した、 航空機エンジンのシミュレーションデータセット • 各時刻ごと ◦ i=4つのセット(FD001~004) ◦ M i 個のエンジン ◦ T m (=故障時刻) まで ◦ N m 個のセンサデータ ◦ 合計 4 * M i * T m *N m 個のデータ • 各エンジンの故障ラベル
9. CompML C-MAPSS: Commercial Modular AeroPropulsion System Simulation PHM08 のコンペティション用にNASAが公開した、 航空機エンジンのシミュレーションデータセット • 各時刻ごと ◦ i=4つのセット(FD001~004) ◦ M i 個のエンジン ◦ T m (=故障時刻) まで ◦ N m 個のセンサデータ ◦ 合計 4 * M i * T m *N m 個のデータ • 各エンジンの故障ラベル Data Set: FD001 Train trjectories: 100 Test trajectories: 100 Conditions: ONE (Sea Level) Fault Modes: ONE (HPC Degradation) Data Set: FD002 Train trjectories: 260 Test trajectories: 259 Conditions: SIX Fault Modes: ONE (HPC Degradation) Data Set: FD003 Train trjectories: 100 Test trajectories: 100 Conditions: ONE (Sea Level) Fault Modes: TWO (HPC Degradation, Fan Degradation) Data Set: FD004 Train trjectories: 248 Test trajectories: 249 Conditions: SIX Fault Modes: TWO (HPC Degradation, Fan Degradation)
10. CompML C-MAPSS: Commercial Modular AeroPropulsion System Simulation PHM08 のコンペティション用にNASAが公開した、 航空機エンジンのシミュレーションデータセット • 各時刻ごと ◦ i=4つのセット(FD001~004) ◦ M i 個のエンジン ◦ T m (=故障時刻) まで ◦ N m 個のセンサデータ ◦ 合計 4 * M i * T m *N m 個のデータ • 各エンジンの故障ラベル 例) FD001, エンジン1, sensor1,2,7
11. CompML C-MAPSS: Commercial Modular AeroPropulsion System Simulation PHM08 のコンペティション用にNASAが公開した、 航空機エンジンのシミュレーションデータセット • 各時刻ごと ◦ i=4つのセット(FD001~004) ◦ M i 個のエンジン ◦ T m (=故障時刻) まで ◦ N m 個のセンサデータ ◦ 合計 4 * M i * T m *N m 個のデータ • 各エンジンの故障ラベル 各種センサ
12. CompML C-MAPSS: Commercial Modular AeroPropulsion System Simulation PHM08 のコンペティション用にNASAが公開した、 航空機エンジンのシミュレーションデータセット • 各時刻ごと ◦ i=4つのセット(FD001~004) ◦ M i 個のエンジン ◦ T m (=故障時刻) まで ◦ N m 個のセンサデータ ◦ 合計 4 * M i * T m *N m 個のデータ • 各エンジンの故障ラベル 故障ラベル例) Engine1: 112 Engine2: 98 …
13. CompML C-MAPSS: Commercial Modular AeroPropulsion System Simulation PHM08 のコンペティション用にNASAが公開した、 航空機エンジンのシミュレーションデータセット • 各時刻ごと ◦ i=4つのセット(FD001~004) ◦ M i 個のエンジン ◦ T m (=故障時刻) まで ◦ N m 個のセンサデータ ◦ 合計 4 * M i * T m *N m 個のデータ • 各エンジンの故障ラベル 故障ラベル例) Engine1: 112 Engine2: 98 … 【まとめ】 C-MAPSSデータを用いて、 RUL(故障時間) の予測をしたい
14. CompML 関連研究
15. CompML PHM内研究領域の分類 PHMは大別して以下のアプローチに分割できる 1. model-based Approach 2. Data-driven Approach a. 古典的な統計的手法 i. ARIMA-SVM ii. Gaussian Process Regression iii. Continuous Hidden Markov Model e.t.c. b. Neural Networks ← 今回紹介する手法のメイントピックはここ
16. CompML PHM内研究領域の分類 NNによるRUL推定をもう少し細かく分割見ると… • RNN (GRUやLSTMを含む) モデルを直接回帰 ◦ input : センサーデータ ◦ output : 回帰曲線 • 変化点検知を考慮したRNNモデル ◦ input : センサーデータ ◦ output : 回帰曲線, Health Index OR Change Point ◦ e.g.) ▪ Dual-task LSTM (Miao et al. 2019) ▪ Dual LSTM (Zunya et al. 2020) e.t.c.
17. CompML 手法 - DSラベルの作成方法 RNNで直接回帰した(変化点検知しない)場合… データセットに故障した時刻が保持されていれば、 RUL = (故障時刻 - 現在時刻) を教師データとして回帰分析を行える。 問題点 システムに2つの潜在的な状態があると仮定する 正常状態 : ほとんど劣化しない 故障状態 : 劣化速度が加速する この場合、RUL推定精度が大幅に下がる可能性がある → 改善のため変化点検知を取り入れたい 変化点検知無し での線型回帰
18. CompML Dual-task LSTM
19. CompML 手法 - モデル全体像 センサデータから2つのタスクを解くLSTMを考える input : 各時系列になったセンサーデータ output : RUL, DS(Degradation Stage) Loss = L RUL + L DS
20. CompML 手法 - 教師データ作成 (DS & RUL) a) DBSCAN + Kernel PCA b) Weibull Failure Rate Function i) 平滑化手法の一つ (ここでは説明を割愛 ) c) Degradation Stageを決定 i) 初期状態を0に揃える ii) Stage0 : 0~0.01 Stage1-4 : 0.1刻み Stage5- : … d) DSが0→1になる時刻を変化点として、 RULを算出する Ding, C., & He, X. (2004, July). K-means clustering via principal component analysis. In Proceedings of the twenty-first international conference on Machine learning (p. 29).
21. CompML 手法 - 教師データ作成 (DS & RUL) a) DBSCAN + Kernel PCA b) Weibull Failure Rate Function i) 平滑化手法の一つ (ここでは説明を割愛 ) c) Degradation Stageを決定 i) 初期状態を0に揃える ii) Stage0 : 0~0.01 Stage1-4 : 0.1刻み Stage5- : … d) DSが0→1になる時刻を変化点として、 RULを算出する Ding, C., & He, X. (2004, July). K-means clustering via principal component analysis. In Proceedings of the twenty-first international conference on Machine learning (p. 29).
22. CompML 実験 IMP = 1 - (Dual-task LSTM / DeepLSTM)
23. CompML Dual-task LSTM
24. CompML 手法 - モデル全体像 2つのLSTMを用意 1. 変化点検知 2. RUL予測 2stepでLSTMを学習する LSTM1 → LSTM2 変化点検知の教師データには、 同著者の別論文のデータを用いた
25. CompML 手法 - モデル全体像 2つのLSTMを用意 1. 変化点検知 2. RUL予測 2stepでLSTMを学習する LSTM1 → LSTM2 変化点検知の教師データには、 同著者の別論文のデータを用いた
26. CompML 手法 - モデル全体像 Step1: 変化点検知 Step2: RUL推定
27. CompML 実験 ※ スライド作者注 FD002&4の実験結果が無く、理由も明記ナシ。 恣意的な実験の可能性もあるため、要検証。
28. CompML まとめ
29. CompML まとめ • 紹介した事 ◦ PHMの説明といくつかの大枠のアプローチ種別 ◦ PHMでよく使われるデータ (C-MAPSS)の内容 ◦ Data-DrivenなRNN用いて、HI(HS) とRUL予測を同時に行う論文を 2つ ▪ Dual-task LSTM ▪ Dual LSTM • PHM(RUL推定)の特徴的な課題 ◦ 教師データの存在しない「システムの健康状態」の認知・検出 ◦ 多種多様なセンサデータからの故障時間推定