【IoT-Tech Meetup #1】時系列データをChatGPTで読み解いてみる

by SORACOM

Slide 1

Slide 1 text

時系列データを ChatGPT で読み解いてみる May 30, 2023 IoT-Tech Meetup 第 1 回株式会社ソラコム内田学

Slide 2

Slide 2 text

「IoT-Tech Meetup」は、ソラコムが持つIoTや周辺技術の知見を共有していく、無料のオンラインイベント IoTを活用するエンジニアの方に役立つ内容を企画・定期開催 https://soracom.connpass.com

Slide 3

Slide 3 text

自己紹介 • 内田学 / Manabu Uchida • 株式会社ソラコム • ソリューションアーキテクト • Cloud / SRE / Developer • Call me jet • comes from the Japanese rock band Blanky Jet City. • I ❤️ BJC!! @uchimanajet7

Slide 4

Slide 4 text

前提と目的前提 • IoT デバイスは大量の時系列データを生成します。このデータの多くはテキスト形式であり、その解析と理解は重要な課題となっています。目的 • ChatGPT を利用して、時系列データから価値ある情報を手軽に生成することにチェレンジしてみました。 • これにより、時系列データへの理解と ChatGPT 利用ノウハウの蓄積が期待できます。 • さらに、API を活用して他のシステムと連携することで、データをより効果的に活用し、システム全体の機能性を向上させることが期待できます。

Slide 5

Slide 5 text

確認 • この資料やデモは、作成時点の情報に基づいています。 • 新たなリリースや変更が行われている可能性があります。 • これらの変更があった場合には、情報が古かったり、デモの動作に影響を与える可能性があります。 • ChatGPT についての疑問点の解消やノウハウの共有、そして楽しいディスカッションを促進するために作成しています。 • もちろん資料作成に ChatGPT を利用しています。 • 資料は読み物としても使えるようにしているため、話す内容はポイントを中心に説明をしていきます。

Slide 6

Slide 6 text

LLM と ChatGPT

Slide 7

Slide 7 text

LLM と ChatGPT LLM (Large Language Model) GTP-3 GTP-4 ChatGPT GPT-3 based ChatGPT GPT-4 based GTP-3.5 ChatGPT GPT-3.5 based

Slide 8

Slide 8 text

ChatGPT API 利用時の考慮ポイント 1. トークン制限 • API リクエストは、入力と出力の合計で利用可能なトークン数に制限があります。これは、非常に長いテキストを処理することができないことを意味します。例えば、数千語の長い文章を一度に生成することはできません。 2. データのプライバシー • API を通じて送信されるすべてのデータは、OpenAI のプライバシーポリシーに従います。したがって、機密情報や個人を特定可能な情報を含むテキストを生成することは避けるべきです。 3. リアルタイム情報 • ChatGPT はそのままではリアルタイムの情報を取得する能力がありませが、現時点では有償版の PLUS においては、プラグインを使用してWebサイトの検索や情報取得ができます。

Slide 9

Slide 9 text

ChatGPT API 利用時の考慮ポイント 4. 知識の更新 • ChatGPT の知識はある時点の訓練データに基づいており、訓練データの収集時点以降の情報については知識を持っていません。最新の情報を利用する場合は、ユーザー自身でプラグインによるインプットや、必要な情報での Fine-tuning が必要です。 5. 情報の正確性 • ChatGPT は時々、正確性が不明な情報を生成する可能性があります。これは、モデルが訓練データから学習したパターンに基づいてテキストを生成ためです。一方で、生成した内容の理由や経緯を一緒に出力できるので、そこを含めて内容を確認することで、検証の助けとなります。 6. 数値計算が苦手 • ChatGPT は数値計算を行う能力がありますが、複雑な計算や特定の種類の計算では、計算を上手く行えないことがあります。

Slide 10

Slide 10 text

IoT と時系列データ

Slide 11

Slide 11 text

IoT と時系列データ • IoT のセンサーデータは時間の経過とともに変化する値を記録するものが多いため、時系列データとなります。 • この時系列データを分析することで、センサーが測定する物理的な状態のパターンやトレンドを確認できます。 • 特定の状況やイベントや状態に基づいて収集される場合もあるため、必ずしも連続した時系列データであるとは限りません。

Slide 12

Slide 12 text

時系列データのメリット予測分析 • 例えば、過去の気温データを分析することで、未来の気温を予測できます。これは、エネルギー需要の予測や農作物の収穫予測などに利用できます。状態モニタリング • 例えば、機器の稼働状態を時系列データとして追跡することで、異常なパターン（例えば、予期しない温度上昇や振動）を早期に検出し、故障を予防できます。パフォーマンス評価 • 例えば、過去の売上データを分析することで、販売戦略の効果を評価したり、将来の売上目標を設定できます。

Slide 13

Slide 13 text

時系列データの考慮ポイントデータ量 • 例えば、1 秒ごとにデータを送信するセンサーが 1,000 台ある場合、24 時間で 86,400,000 のデータポイントが生成されます。このような大量のデータを効率的に処理し、保存するためには、適切なデータベースや分析ツールが必要です。データの品質 • 例えば、センサーの故障や通信の中断により、一部のデータが欠損している場合があります。このような欠損値は、時系列分析の精度に影響を与える可能性があります。

Slide 14

Slide 14 text

時系列データの分析障壁 1. 欠損値 • 例えば、稼働時間を監視する IoT デバイスがあり、そのデバイスが一時的に故障した場合、その期間のデータが欠損します。この欠損値をどのように補完するか（前後の値で補間する、平均値で補間するなど）は、分析の結果に大きな影響を与えます。 2. 季節性とトレンド • 例えば、エネルギー消費量のデータは、季節（夏はエアコン、冬は暖房など）や時間帯（昼間は電力消費が高いなど）によって変動する傾向があります。これらのパターンを認識し、モデルに組み込むことは重要です。 3. ノイズと外れ値 • 例えば、温度センサーのデータには、センサーの精度や環境の微小な変動によるノイズが含まれる可能性があります。このノイズを適切にフィルタリングすることで、真の温度のトレンドをより正確に把握できます。

Slide 15

Slide 15 text

時系列データの分析障壁 4. 大量のデータ • IoT デバイスは大量のデータを生成します。例えば、1 秒ごとにデータを送信するセンサーが 1,000 台あると、1 日で 86,400,000 のデータポイントが生成されます。このような大量のデータを効率的に処理し、保存するためには、適切なデータベースや分析ツールが必要です。 5. 時間と共にパターンが変わる • 例えば、日々の気温を記録しているとします。季節によって気温は大きく変化し夏は暑く、冬は寒くなります。このように時間の経過とともにデータの傾向が変わる、そのパターンや動きが一定ではなく、時間と共に変化するという性質を持っています。障壁の突破には適切な「ツール」と「スキル」が必要です

Slide 16

Slide 16 text

時系列データと ChatGPT

Slide 17

Slide 17 text

時系列データと ChatGPT • ChatGPT や他の大規模な言語モデル（LLM）は、自然言語の理解と生成に優れています。 • 時系列データを分析する場合、特定の障壁を直接的に解決する能力は限定的です。 • 使い方を工夫することで間接的にサポートすることが可能です。 • 時系列データの前処理やモデリングに直接的に対処する能力は限定的であり、これらのタスクは他の専門的なツールや手法を使用することが必要です。

Slide 18

Slide 18 text

時系列データと ChatGPT 時系列データアラート予測モデルクエリ ChatGPT データの解釈と説明異常検出のアラート自然言語クエリ利用者 ChatGPT を解説・翻訳のインターフェースとして利用する

Slide 19

Slide 19 text

データの解釈と説明 • LLM や ChatGPT は、時系列データの分析結果を解釈し、人間が理解しやすい形で説明できます。特に複雑な分析結果を非専門家に伝える際に有用です。 • 例えば、ある企業が時系列データを用いて売上予測モデルを作成したとします。このモデルの出力やその意味を理解するのは難しいかもしれません。ここで ChatGPT を使用すると、モデルの出力を人間が理解しやすい言葉で説明し、予測の背後にある主要な要因を明らかにできるかもしれません。

Slide 20

Slide 20 text

異常検出のアラート • LLM や ChatGPTは、異常検出アルゴリズムからのアラートを人間が理解しやすい形で生成できます。これにより、異常の詳細とその可能な影響を迅速に理解できます。 • 例えば、機器の稼働状態を監視する IoT デバイスがあり、異常検出アルゴリズムが異常なパターンを検出したとします。ChatGPT は、この異常の詳細とその可能な影響を説明するアラートメッセージを生成できます。

Slide 21

Slide 21 text

自然言語クエリ • LLM や ChatGPT は、自然言語クエリを解析し、それに基づいて時系列データから特定の情報を抽出します。これにより、専門的なクエリ言語を学ぶことなく、ユーザーがデータに対する質問を行えます。 • 例えば、あるユーザーが「昨日の平均気温は何度だった？」という質問をしたとします。ChatGPT は、この自然言語クエリを解析し、適切なデータベースから必要な情報を抽出するためのクエリを生成することができます。

Slide 22

Slide 22 text

API でチャットする

Slide 23

Slide 23 text

API を使ってチャットする GPS マルチユニット SORACOM Edition IoT SIM SORACOM プラットフォームユーザー（*1）Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度湿度 Unified Endpoint Colaboratory (*1) (*2) （*2）https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) make (iPaaS) （*3）https://www.make.com/en/integromat-evolves-to-make (*3)

Slide 24

Slide 24 text

Slide 25

Slide 25 text

Slide 26

Slide 26 text

API を使ってチャットする • まずは Colaboratory (以下、 Colab)を使って、チャットができるところまでを確認します。 • Python のライブラリは、OpenAI のAPIリファレンスページにも紹介がある openai/openai-python を利用します。 • 利用するモデルは GPT-3.5 系のモデル「gpt-3.5-turbo」です。 • 単純にチャットが行えることだけでなく、API を利用する際にポイントとなる temperature と messages/role/system について動作を確認します。

Slide 27

Slide 27 text

[Demo]

Slide 28

Slide 28 text

API を使ってチャットする • role / system を使うと、回答にキャラ付け = 回答への制約を付けられます。 • 指定した制約が必ず反映されるとは限りません。 • 利用しているモデルによって振る舞いが異なります。 • Temperature はランダム性に関係するパラメータで、0 に近づくとランダム性がなくなっていきま

Slide 29

Slide 29 text

API を使って時系列データを準備する GPS マルチユニット SORACOM Edition IoT SIM SORACOM プラットフォームユーザー（*1）Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度湿度 Unified Endpoint Colaboratory (*1) (*2) （*2）https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) make (iPaaS) （*3）https://www.make.com/en/integromat-evolves-to-make (*3)

Slide 30

Slide 30 text

API を使って時系列データを準備する • SORACOM API を使って、SORACOM Harvest に蓄積されている時系列データを取得します。 • データは Colab 上で整形し、今回必要な温度と湿度だけを選択します。 • ChatGPT と会話するトークンよりも、添付するデータの方が文字数が多くトークンを多く消費します。消費を抑えるための工夫が必要です。 • Colab 上では、 Pandas をはじめとしたデータ分析ライブラリが利用できるため、修正や確認をしながら調整が行えるのが便利です。

Slide 31

Slide 31 text

[Demo]

Slide 32

Slide 32 text

API を使って時系列データを準備する • 今回利用するのは、温度と湿度の時系列データです。 • 時系列データは 1 分間隔でデバイスから送信されたものです。 • デバイスは室内に設置してあり、現在も稼働中です。 • 温度と湿度のデータは、デバイスから送信されたものをそのまま利用します。 • 日時については、送信されたデータはミリ秒までの精度がありますが、今回は秒までに切り捨てて利用します。

Slide 33

Slide 33 text

API を使って時系列データを準備する https://platform.openai.com/tokenizer 1 時間分の編集済みデータでも多くのトークンを消費します

Slide 34

Slide 34 text

Slide 35

Slide 35 text

API を使ってチャットの結果を連携する • 時系列データを添付して、ChatGPT とチャットをします。 • チャットした結果を他のシステムに連携します。 • 連携を行いやすいように「JSON 形式」の回答を ChatGPT に指示します。 • 「make」というiPaaS に Webhook として連携します。 • 連携が成功すると、最終的に Slack にチャットした結果のメッセージが投稿されます。

Slide 36

Slide 36 text

[Demo]

Slide 37

Slide 37 text

API を使ってチャットの結果を連携する • 未来予測や、内容の分析、モニタリング値の提案など、チャットのプロンプトを工夫することで、それっぽい回答を得ることができました。 • 内容の正確さや、実際に利用できるかは検証しながら確認が必要という認識です。 • JSON 形式を指定しても、正しく回答されないこともありました。 • チャットとして人が対応できる場合は問題ないですが、システムとして連携する場合には考慮が必要となります。 • ChatGPT API 用のモジュールがある iPaas もあるようです。

Slide 38

Slide 38 text

まとめ • LLM に全部お任せできるわけではなく、得意な部分で適切に利用することで、手軽に効果が得られる場合があります。 • 専用のモデルやツールのわかりにくい部分を、解釈や補足する様な使い方が良さそうでした。 • 専門的な知識や勘所がわからなくても、新しい発見やひらめきを試せる可能性がありました。 • 時系列データをインプットする際にはトークンのハードリミットに注意してください。

Slide 39

Slide 39 text

まとめ • データについてはバルクインポートの様なトークンにカウントされない方法に期待したいですね。 • 指定した回答形式にならない場合もあるため、システムとして連携していくには LangChain をはじめとしたフレームワークの利用も検討すると良さそうに感じました。 • プラグインが解放されているので、プラグインとして利用できる形で作っていくと利用は広がりそうです。 • まだまだ進歩すると思うので継続していろいろ試しつつ、皆さんの実例も聞いてみたいです！

Slide 40

Slide 40 text

Appendix • OpenAI • https://openai.com/ • https://platform.openai.com/docs/api-reference/chat/create • https://github.com/openai/openai-python • make • https://www.make.com/en • slack • https://slack.com/intl/ja-jp/ • Colaboratory • https://colab.research.google.com/ • SORACOM • https://users.soracom.io/ja-jp/

Slide 41

Slide 41 text

Appendix • LangChain • https://langchain.com/ • https://github.com/hwchase17/langchain • トークンのカウント • https://github.com/openai/tiktoken • https://github.com/openai/openai- cookbook/blob/main/examples/How_to_count_tokens_with_tiktoken.ipynb • https://github.com/openai/openai-cookbook • https://platform.openai.com/tokenizer

Slide 42

Slide 42 text

IoTの「つなぐ」を簡単に You Create. We Connect.