Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
[JSAI22] Flare Transformer: Solar Flare Predict...
Search
Semantic Machine Intelligence Lab., Keio Univ.
PRO
June 10, 2022
Technology
1.1k
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
[JSAI22] Flare Transformer: Solar Flare Prediction using Magnetograms and Sunspot Physical Features
Semantic Machine Intelligence Lab., Keio Univ.
PRO
June 10, 2022
More Decks by Semantic Machine Intelligence Lab., Keio Univ.
See All by Semantic Machine Intelligence Lab., Keio Univ.
[RSJ26] Building a VLA Model Based on Self-Distilled Classification
keio_smilab
PRO
0
200
[RSJ26] AnoleVLA: Lightweight Vision-Language-Action Model with Deep State Space Models for Mobile Manipulation
keio_smilab
PRO
0
140
[RSJ26] NarrativeFlow: Flow-Based Vision-Language-Action Model Using Robot Velocity Fields
keio_smilab
PRO
0
170
[RSJ26] Flow as Flow: Modeling Robot Velocity Fields as Probability Velocity Fields
keio_smilab
PRO
1
220
[RSJ26] Hierarchy-Aware Multimodal Retrieval-Augmented Generation for Embodied Question Answering
keio_smilab
PRO
1
180
[MIRU26] Open-Vocabulary Intention-Guided Object Detection in Diverse Scenes
keio_smilab
PRO
0
210
[Journal club] Evo-1: Lightweight Vision-Language-Action Model with Preserved Semantic Alignment
keio_smilab
PRO
0
49
[MIRU26] To What Extent Does MLLM-as-a-Judge Exhibit Cross-Model Preference Bias?
keio_smilab
PRO
0
290
[Journal club] FlashVID: Efficient Video Large Language Models via Training-free Tree-based Spatiotemporal Token Merging
keio_smilab
PRO
0
38
Other Decks in Technology
See All in Technology
俺の仕事は AIに奪われないし、たぶんその BIも要らない
hikaruri
0
470
Omarchy Quattro の日本語設定周り
simosako
2
180
空間オーディオで過去の 自分(ゴースト)と競うランニング 〜HealthKitのルートを足音に変える実装〜
nao_randd
0
220
目の前の楽しいが人生を変える - コミュニティの螺旋の歩き方と楽しむコツ / change your life
soudai
PRO
4
610
開発投資の期待値を上げるプロダクトロードマップづくり ~プロダクトエンジニアが越境して事業を伸ばす~
kekekenta
1
170
The Agent Builder Loop from Daily Work to OSS
minorun365
PRO
3
200
作品が生態系になった ─ Mini Tokyo 3D から世界へ
nagix
0
190
アクセスキーこわい やめかたと漏らさない工夫
sassssan68
1
240
Issue 駆動でスペシャリストの意図を届ける、AI 実装のアクセシビリティ向上
thkt
0
110
銀行勘定系システムにおける開発プロセス刷新×AIによる環境モダナイゼーション / Development Process Transformation and AI-Driven Environment Modernization
muit
0
2.2k
omasushiというライブラリを作った
polidog
PRO
0
230
絵ではじめるKubernetesセキュリティ
aoi1
3
570
Featured
See All Featured
Git: the NoSQL Database
bkeepers
PRO
432
67k
How to Think Like a Performance Engineer
csswizardry
28
2.8k
From Legacy to Launchpad: Building Startup-Ready Communities
dugsong
0
330
Designing for Timeless Needs
cassininazir
1
480
Fashionably flexible responsive web design (full day workshop)
malarkey
409
67k
Build The Right Thing And Hit Your Dates
maggiecrowley
39
3.4k
The B2B funnel & how to create a winning content strategy
katarinadahlin
PRO
1
520
Money Talks: Using Revenue to Get Sh*t Done
nikkihalliwell
0
500
The Mindset for Success: Future Career Progression
greggifford
PRO
0
490
We Analyzed 250 Million AI Search Results: Here's What I Found
joshbly
1
1.9k
The Straight Up "How To Draw Better" Workshop
denniskardys
239
140k
Heart Work Chapter 1 - Part 1
lfama
PRO
10
36k
Transcript
Flare Transformer: 磁場画像と物理特徴量を用いた太陽フレア予測 兼田寛大 1, 飯田紡 1, 西塚直人 2, 久保勇樹
2, 杉浦孔明 1 1 慶應義塾大学, 2 NICT
太陽フレア:太陽表面上の黒点周辺で発生する爆発現象 背景:大規模な太陽フレアは甚大な被害をもたらす 2 NASA, https://svs.gsfc.nasa.gov/4491 ⇒ 各国の機関(米:NOAA, 日:NICT)で監視・予報 発生を事前に予測できれば, 被害を最小限に抑えることが可能
太陽フレア予測は非常に重要 保険会社による被害予想額 ⇒ 約1600億ドル@北米 太陽フレアによる被害 1989年 カナダ・ケベック州の大規模停電 2003年 小惑星探査機はやぶさに損傷 2022年 SpaceX社の人工衛星に被害
既存研究:既存の太陽フレア予測モデルの予測性能は十分ではない 3 タスク 代表的手法 概要 時系列予測 DeepAR [Salinias+, IJF20] RNNを用いた時系列予測モデル
Informer [Zhou+, AAAI21] Transformerを用いた時系列予測モデル 太陽フレア予測 [Park+, ApJ18] Full-disk太陽画像を入力としたCNNベースのモデル DeFN [Nishizuka+, ApJ18] 黒点レベルの物理特徴量を入力としたモデル [Zhou+, AAAI21] [Park+, ApJ18] [Nishizuka+, ApJ18]
問題設定:太陽画像および物理特徴量を用いた太陽フレアの予測 4 • 対象タスク:時刻 t から24時間以内に発生する最大太陽フレアのクラスを予測 • 出力 – 太陽フレアクラス
[X/M/C/O] – 1時間以内のX線ピーク値に よって分類 • 入力 1. 磁場画像 2. 黒点レベルの物理特徴量 クラス 発生頻度 規模・被害 X 低 高 大 小 M C O • Atmospheric Imaging Assembly (AIA)およびSDOで撮影された 太陽画像から抽出した, 時系列特徴量を含む物理特徴量 • Solar Dynamic Observatory(SDO) にて1時間間隔で撮影された 太陽全体の磁気画像
問題設定:クラスがインバランスなため,評価方法が重要 5 本タスクの特徴 1. 大きな被害をもたらす可能性のある X/Mクラスの太陽フレア予測が重要 2. X/Mクラスは発生頻度が低い 本分野における標準的な尺度で評価 •
Gandin–Murphy–Gerrity score (GMGS) • True skill statistics (TSS) • Brier skill score (BSS) 1% 8% 32% 59% X-class M-class C-class O-class クラスの内訳(2010-2017)
提案手法:Flare Transformer 新規性 • 磁場画像を扱う Magnetogram Module • 黒点レベルの物理特徴量を 扱うSunspot
Feature Module • 両モジュールにおいて transformer型注意機構を導入 • 新たにGMGS損失および BSS損失を導入
Flare Transformer:磁場画像と物理特徴量を入力とし,予測確率を出力 - 入力 時刻 から に おける磁場画像および 90種類の物理特徴量 7
- 出力 各フレアクラスの 予測確率を表す 4次元ベクトル
Flare Transformer:磁場画像と物理特徴量を扱うMM, SFMを導入 8 Magnetogram Module / Sunspot Feature Module
• 磁場画像/物理特徴量から 特徴量を抽出 • / 層のtransformer 層によって時系列関係を モデル化 Informer[Zhou+, AAAI21]の 注意機構構造を導入
• 損失関数: を最小化するように学習 ◦ 損失関数:クロスエントロピー損失,BSS損失, GMGS損失の加重和 9 Cross Entropy Loss
BSS Loss GMGS Loss Cross Entropy Loss BSS Loss GMGS Loss サンプル数 クラス数 予測確率 正解ラベル BSS Loss GMGS Loss サンプル数 クラス数 予測確率 正解ラベル GMGS Loss サンプル数 クラス数 予測確率 正解ラベル
実験設定:磁場画像と物理特徴量のセット 10 • データセット – 2010-2017年における合計61315サンプル – 1h間隔の磁場画像と90種の物理特徴量のセット – 時系列交差検証をベースとした分割
Training Set Test Set 期間 サンプル数 期間 サンプル数 2010-2013 29247 2014 8127 2010-2014 37374 2015 8155 2010-2015 45529 2016 7795 2010-2016 53324 2017 7991 1% 8% 32% 59% X-class M-class C-class O-class クラスの内訳(2010-2017)
定量的結果:GMGS,TSSにおいて専門家を上回る予測性能を達成 11 GMGS ↑ TSS≧M ↑ BSS≧M ↑ DeFN [Nishizuka+,
AsJ18] 0.38±0.14 0.41±0.15 -0.02±0.78 DeFN-R [Nishizuka+, AsJ20] 0.30±0.06 0.28±0.16 0.04±0.98 提案手法(FT) 0.50±0.06 0.53±0.11 0.08±0.97 提案手法(改良版) 0.50±0.19 0.53±0.11 0.22±0.68 専門家予測 [Kubo+, AsJ18][Murray, SW17] 0.48 0.50 0.16 • 全ての尺度において,ベースライン手法であるDeFNとDeFN-R および専門家予測を上回る +0.20 +0.25 +0.18
Ablation Studies:磁場画像および物理特徴量を扱うことで性能向上 12 GMGS ↑ TSS≧M ↑ BSS≧M ↑ (a)
w/o Ft-k+1:t 0.220±0.116 0.198±0.371 -1.766±0.225 (b) NV = 1, Nf = 1 0.516±0.089 0.485±0.082 0.052±1.052 (c) NV = 2, Nf = 2 0.563±0.070 0.551±0.123 0.011±0.965 (d) NV = 1, Nf = 2 0.503±0.059 0.530±0.112 0.082±0.974 • Ablation (a):入力を磁場画像のみとした場合 物理特徴量および磁場画像の双方を扱うことで各スコアが向上 +0.283 +0.332 +1.846 • Ablation (b):SFMにおけるtransformer層を削減した場合 • Ablation (c) :MMにおけるtransformer層を追加した場合 :各スコアが若干変動
エラー分析:XクラスフレアをMクラスとして予測することがボトルネック 13 • 混同行列からGMGSへの影響を調査 • (観測ラベル➙予測ラベル) 混同行列の 成分 GMGSのスコア行列の 成分
実際は【Xクラス】である太陽フレアを【Mクラス】 と予測してしまうことが1番のボトルネック このボトルネックを改善することで, より正確な太陽フレア予測が可能になると考えられる 0 0.02 0.04 0.06 0.08 0.1 0.12 0.14 0.16 X➙M M➙C C➙O M➙O X➙O
まとめ 14 • 磁場画像および黒点領域の物理特徴を, Magnetogram Moduleおよび Sunspot Feature Moduleで扱う Flare
Transformerモデルを提案 • GMGS損失およびBSS損失を導入する ことで,太陽フレア予測分野において 標準的なGMGSとBSSをバランスさせた • 結果として,GMGSとTSSにおいて ベースライン手法および専門家予測を 上回る予測を達成