Models Tell Us about Time Series Analysis LLMの時系列分析への今後の応用を予測。時系列分析モデルの世代を分類 • 統計的モデル(1950年代〜2000年代)：ARIMA, Holt-Winters、タスク特化型 • ニューラルネットワークモデル(2010年代)：ドメイン特化型だがタスク非依存 • 事前学習モデル(2022年)：大規模な時系列データで事前学習し、ドメイン非依存およびタスク非 依存で時系列タスクをこなす • LLM中心モデル(2024年)：LLMを活用することで、予測だけでなく、より複雑なタスクをこなすこと を期待 出典 Position Paper: What Can Large Language Models Tell Us about Time Series Analysis
Models Tell Us about Time Series Analysis 出典 Position Paper: What Can Large Language Models Tell Us about Time Series Analysis LLMの時系列分析での活用アプローチを提案・予 測 • 時系列データそのもの、既存の分析手法を 強化 • LLMの知識と推論能力を用いて、優れた予 測モデルを構築 • 時系列分析エージェント
Activate LLM's Ability for Time Series 現在のLLMの文脈で時系列(TS)タスクを達成する2つの方法 • LLM-for-TS (モデル中心) ◦ 時系列データ用の大規模モデルを設計、各タスク用にファインチューニング ◦ もしくは既存の事前学習済LLMを時系列タスク向けにファインチューニング • TS-for-LLM (データ中心) ◦ 時系列データをLLMが扱いやすい形に変換し、LLMで時系列データを扱う • TESTは、LLMを用いて時系列データを処理する手法（ TS-for-LLM） 出典 TEST: Text Prototype Aligned Embedding to Activate LLM's Ability for Time Series
for Time Series Forecasting LLMで時系列予測タスクをこなす手法の提案（ TS-for-LLM） • 入力と出力をプロンプトに変換し、文から文を生成するタスクとして LLMで時系列予測を行う ◦ e.g.) 「5月1日から15日までの気温は、15度、16度、14度、...」 • プロンプトに渡すことで、定性/4M情報を時系列予測での利用可能性 • LLMも時系列予測も本質的にシーケンス（系列）を扱うタスクのため、時系列データにも適してい ると考察 出典 PromptCast: A New Prompt-based Learning Paradigm for Time Series Forecasting
Models Tell Us about Time Series Analysis LLMの時系列分析への今後の応用を予測。時系列分析モデルの世代を分類 • 統計的モデル(1950年代〜2000年代)：ARIMA, Holt-Winters、タスク特化型 • ニューラルネットワークモデル(2010年代)：ドメイン特化型だがタスク非依存 • 事前学習モデル(2022年)：大規模な時系列データで事前学習し、ドメイン非依存およびタスク非 依存で時系列タスクをこなす • LLM中心モデル(2024年)：LLMを活用することで、予測だけでなく、より複雑なタスクをこなすこと を期待 出典 Position Paper: What Can Large Language Models Tell Us about Time Series Analysis
Models Tell Us about Time Series Analysis LLMの時系列分析への今後の応用を予測。時系列分析モデルの世代を分類 • 統計的モデル(1950年代〜2000年代)：ARIMA, Holt-Winters、タスク特化型 • ニューラルネットワークモデル(2010年代)：ドメイン特化型だがタスク非依存 • 事前学習モデル(2022年)：大規模な時系列データで事前学習し、ドメイン非依存およびタスク非 依存で時系列タスクをこなす • LLM中心モデル(2024年)：LLMを活用することで、予測だけでなく、より複雑なタスクをこなすこと を期待 出典 Position Paper: What Can Large Language Models Tell Us about Time Series Analysis 時系列基盤モデルは事前学習モデルに該当
• Decoder Only Architecture、時系列データに適した工夫 • Google検索トレンド、Wikipedia、電力、交通、気象などの実データと合成データを学習に使用 • 評価実験では、複数のベンチマークデータセットでゼロショットの性能を評価し、個別にチューニ ングした教師あり手法と同等以上の予測精度を達成 出典：A decoder-only foundation model for time-series forecasting
rkaga
gam0022
izumin5210
mackey0225
seike460
satoshi7190
furukawayasuto
petamoriken
taro28
krpk1900
murabayashi
irof
kakao
tanoku
csswizardry
shpigford
paulrobertlloyd
bluesmoon
morganepeng
eitanlees
aarron
aki_iinuma
deanohume
sstephenson
