Trend Classification of InSAR Displacement Time Series Using SAE–CNN 篠原崇之 1 第4回 SatAI.challenge勉強会 この資料に出てくる図は引用を明記しない場合は Li et al. (2024), “Trend Classification of InSAR Displacement Time Series Using SAE–CNN”, Remote Sens. より引用

目次 
 2 ● 自己紹介スライド
 ● 手法の概要（研究の1ページサマリ紹介） 
 ● 研究の背景（Introduction） 
 ● 手法（Method）
 ● 実験（Experimet）
 ● まとめ（Conclusion） 
 ● 個人的な謎


3 発表者紹介 This image was generated by ChatGPT

自己紹介 
 4 研究テーマ ：データ基盤、点群深層学習、人間中心 AI、３次元モデリング、サロゲートモデル 4 X(旧 Twitter) LinkedIn 産総研 - デジタルツイン構築と利活用 - 物理シミュレーションの近似を行うAI - （産総研のサッカー部） 篠原 崇之

5 手法の概要 This image was generated by ChatGPT

Trend Classification of InSAR Displacement Time Series Using SAE–CNN 
 6 ● 干渉SAR時系列処理（Persistent Scatterer InSAR, PSInSAR）によって、地盤の変位をモ ニタリング可能になった
 ● しかし、実利用を考えると変位が人間の生活 にどのような影響を与えるのかの「分類」が 必要だが、現状では自動処理できていない 現状になる
 ● PS-InSARの時系列変位データに対して、 「安定」「線形」「減速」「加速」「エラー」の分 類を行うAurtoEncoderとCNNを組み合わせ た分類手法(SAE-CNN)を提案
 ● Sentinel-1を用いた実験結果として、
 昆明市F1 Scoreで0.952を示した
 
 


7 研究の背景 This image was generated by ChatGPT

● 干渉SAR時系列処理がここ２０年で普及した 
 ● それに伴い広範囲にわたって地盤変動の時系列変化を計算できるようになった 
 ● しかし、地盤等の変動データが大量にあったとしても人間が目視で見て異常検知を行うので活かせない 
 背景: 干渉SAR時系列処理 
 8 大量にある時系列の変動データから自動で異常検知を行う必要がある 
 干渉SAR時系列処理で 大量の地盤変動データ が集まるが......

● SARはマイクロ波を地上に照射して地面から跳ね返ってきたマイクロ波の位相と強度を見ている 
 ● 一般的な干渉SARは２時期の位相差から波長に応じたLOS（衛星の視線）方向の地盤変動を計算できる 
 ○ ただし、位相は外乱要素によって乱れることがある 
 背景: 干渉SAR時系列処理(そもそもの干渉SARとは) 
 9 SARは位相も観測 ２時期の位相差から地盤変動を計算 (干渉SAR) CRISP Research, “Microwave Remote Sensing” より引用 同じ観測条件で 2回観測したデータ 国土地理院 , “SAR（合成開口レーダー / Synthetic Aperture Radar）とは”より引用

● 通常の２時期の干渉SARでは大気や衛星軌道やDEMのノイズが乗ってしまう 
 ● 多時期に渡って位相が安定した画素（Parmanent Scatter点, PS点）だけ使用すれば、 
 上記のノイズを軽減可能 
 背景: 干渉SAR時系列処理(時系列干渉SAR, PS-InSARとは) 
 10 多時期の干渉SAR画像 建物やダムなどの人工物は位相が安定 University of Leeds, “StaMPS” より引用 赤がPS点 人工物と 自然物で位相の 挙動が変わる

● PS点のみを用いて干渉結果からLOS方向の変動量を計算する(PS-InSAR) 
 ● 微小な地表変動を広範囲にミリメートル/年オーダーの精度で観測可能 
 背景: 干渉SAR時系列処理(時系列干渉SAR, PS-InSARとは) 
 11 PS-InSARによる変動の計算結果 地盤沈下や橋梁のモニタリングに使用可能 University of Leeds, “StaMPS” より引用 時系列の変動 が得られると Bakon et al. (2014), “Infrastructure Non-linear Deformation Monitoring Via Satellite Radar Interferometry”, Procedia Technology. より引用 Bakon et al. (2014), “How Groundwater Level Fluctuations and Geotechnical Properties Lead to Asymmetric Subsidence: A PSInSAR Analysis of Land Deformation over a Transit Corridor in the Los Angeles Metropolitan Area”, Procedia Technology. より引用 橋
 梁
 地
 盤
 沈
 下


● 従来の統計的アプローチ 
 ○ 線形回帰、統計的検定、ウェーブレット解析など 
 ■ 限定された事前定義モデルでは実世界の複雑な変動を説明することが困難 
 ■ 大気アーティファクトや地形誤差などのノイズの影響を受けやすい 
 ● ML/深層学習ベース 
 ○ 教師無し学習[Festa+, 2023][Rygus+, 2023] 
 ■ クラスタリング結果の解釈に専門家の知見が必要 
 ■ 低次元空間へのマッピング方法や初期値への依存が大きい 
 ○ 教師あり学習
 ■ 手で作成する特徴量が必要[Mirmazloumi+, 2022] 
 ■ LSTMを用いた手法だと性能を出すには教師データが足りない[Kulshrestha+, 2022] 
 
 背景: 関連研究 
 12 Kulshrestha et al. (2022), “Use of LSTM for Sinkhole-Related Anomaly Detection and Classification of InSAR Deformation Time Series”, JSTARS より引用 Rygus et al. (2023), “A Clustering Approach for the Analysis of InSAR Time Series: Application to the Bandung Basin (Indonesia)”, Remote Sens より引用

● 解決したいこと①
 ○ 教師あり学習を解くために、手動の特徴量設計をなくしたい 
 ＝>深層学習ベースの手法を採用 
 ● 解決したいこと②
 ○ 教師ラベルが少なくても深層学習モデルを学習させたい 
 =>AutoEncoderの事前学習を行う 
 ● 問題設定は地盤変動の５クラス分類 
 ○ 安定(緑色): 有意な変動が無い 
 ○ 線形(黄色): 時間とともに一定の速度で変化 
 ○ 加速(赤色): 異なる速度を持つ区間がある 
 ○ 減速(青色): 時間とともに変動速度が減少 
 ○ エラー(黒色): 干渉SAR処理時のエラーでジャンプ 
 背景: 研究目的 
 13 AutoEncoderと1D CNNを組み合わせて地盤変動の種類を分類する 


14 手法 This image was generated by ChatGPT

● 以下の4つのフローで構成 
 ○ PS InSAR処理: 干渉SAR多時期処理で時系列地盤変動データを取得 
 ○ SAE学習: 時系列地盤変動データの事前学習 
 ○ 1D CNN学習: SAEの特徴量から５クラス分類のモデルを獲得 
 ○ 分類: 学習済みモデルで対象地域全域を推論 
 手法: 全体フロー 
 15

● 以下の4つのフローで構成 
 ○ PS InSAR処理: 干渉SAR多時期処理で時系列地盤変動データを取得 
 ○ SAE学習: 時系列地盤変動データの事前学習 
 ○ 1D CNN学習: SAEの特徴量から５クラス分類のモデルを獲得 
 ○ 分類: 学習済みモデルで対象地域全域を推論 
 手法: 全体フロー 
 16

● Stacked Auto Encoderの事前学習 
 ○ Auto Encoderを段階的に学習させるStacked Auto Encoder(SAE)を用いる 
 ○ 隠れ層が2つのMLPで構成 
 ■ 1段目を学習後、1段目は固定して2段目を学習させる 
 ■ 分類も同時に学習するマルチタスク 
 ○ 学習済みのエンコーダーを用いて特徴量を算出して、1D CNNによる分類へ渡す 
 手法: SAE学習 
 17

● 分類モデル(1D CNN)の学習 
 ○ SAEで取得した特徴量から分類 
 ○ 1DCNN部分だけ学習させる 
 手法: SAE学習 
 18 学習済み
 SAE
 ❄
 特 徴 量
 🔥1DCNN

19 実験 This image was generated by ChatGPT

● データセット
 ○ 急速な都市化により地盤変動が生じている中国の昆明を対象に、2017年1月24日から2022年9月19日ま で、調査地域で171枚のSentinel-1(アセンディング軌道)を収集 
 ■ 中国のニュースを見たら、 
 地盤沈下でビルが傾いている例があった 
 ● 干渉SAR時系列処理 
 ○ StaMPSを用いてPS InSAR処理を実行し、 
 合計561,839個の点で地盤変動データを獲得 
 ○ 右図は年間平均変動速度を示しており、 
 主にS1、S2、S3の湖畔に集中 
 ● 学習データ
 ○ 561,839個のうち5000点に 
 安定、線形、加速、減速、エラー 
 の真値ラベルを付けた 
 ○ 検証データは上記から1500点抽出して 
 分類精度検証
 実験: 実験の設定 
 20

● 比較手法
 ○ 提案手法からSAEの事前学習を抜いた 
 ○ 伝統的な機械学習
 ■ ランダムフォレスト
 ■ SVM
 実験: 学習済みモデルによる分類結果 
 21 Model Accuracy Precision Recall F1-Score the proposed CNN w/ SAE 0.951 0.953 0.952 0.952 CNN w/o SAE 0.887 0.897 0.887 0.891 RF 0.878 0.889 0.879 0.883 SVM 0.832 0.858 0.836 0.846 提案手法が比較対象よりも高い分類性能を示す 


● 比較手法
 ○ 提案手法からSAEの事前学習を抜いた 
 ○ 伝統的な機械学習
 ■ ランダムフォレスト
 ■ SVM
 実験: 学習済みモデルによる分類結果 
 22 提案手法がSoTAで特に減速パターンで分類性能が向上 


● SAEのボトルネックに対してt-SNEによる特徴量の可視化 
 実験: SAEによる特徴量 
 23 深い層の特徴量の方がクラスタとして分離できている 
 元の時系列変動 中間層1(浅い方) 中間層2(深い方)

● 地盤変動している場所を観察すると、潜在的なリスクを検出できた 
 実験: 昆明全域に訓練済みモデルを適用 
 24 高速道路での 地盤変動を発見

● 地盤変動している場所を観察すると、潜在的なリスクを検出できた 
 実験: 昆明全域に訓練済みモデルを適用 
 25 住宅地での地盤変動を発見

● 地盤変動している場所を観察すると、潜在的なリスクを検出できた 
 実験: 昆明全域に訓練済みモデルを適用 
 26 違法建築エリアでの地盤変動を発見

● 線形、加速、減速のカテゴリーについて、 
 分類されたデータの平均値と標準偏差を 
 可視化すると(a)のようになる 
 ● 全部は見れないので、ピックアップして 
 時系列変動を可視化してみた(b) 
 ○ それぞれのカテゴリーは、定性的には 
 正しい分類ができていそう 
 
 実験: 昆明全域に訓練済みモデルを適用 
 27 減速 線形 加速

28 結論 This image was generated by ChatGPT

● SAEとCNNを組み合わせた深層学習手法で、都市環境におけるPSInSARの時系列地盤変動を分類。 
 ● 学習済みモデルによって、検証データに対する精度0.951、適合率0.953、再現率0.952、F1スコア0.952を達成。 
 ● 中国昆明市全域に学習済みモデルを適用して、未知の地盤変動リスクを検出できた。 
 
 まとめ 
 29

30 個人的な謎 This image was generated by ChatGPT

● イントロダクションで問題としていたLSTMベースとの比較が無い 
 ● 訓練/検証が最終的な評価の対象地域に入っているけど分け方それで良いのか 
 ● Stacked Auto Encoderと1D CNNの具体的な最適化方法(訓練の戦略)がわからない 
 ● 現地調査がないので、結局よくわからない 
 
 
 謎 
 31