IoTが産み出すデータを「生成系AI」で活かすテクニック 【SORACOM Discovery 2023】

最近注目されている生成系AIについて、IoTにおける活用方法や他のシステムとの連携方法について紹介します。まずはIoTの基礎から説明し、IoTが生成する「時系列データ」と生成AIの関係性、そしてその活用方法を解説します。また、データを分析するためのプロンプトやTipsも紹介します。そして、データ分析結果を他のシステムにインプットすることで、生成AIを活用したシステム連携を実現できるかどうかについて、APIの簡単なデモを交えて説明します。

株式会社ソラコム ソリューションアーキテクト　内田 学

Transcript

1. IoTが産み出すデータを「生成系AI」で 活かすテクニック 株式会社 ソラコム ソリューションアーキテクト 内田 学
2. 本日のハッシュタグ #SORACOM @SORACOM_PR fb.com/soracom.jp youtube.com/@SORACOM_Japan instagram.com/soracom.official 使用例 他には… • #SORACOM IoTやDXの話を聞きにきた • キーノートは2日目！ #SORACOM #SORACOM の検索で、最新情報が！
3. 自己紹介 • 内田 学 / Manabu Uchida • 株式会社ソラコム • ソリューションアーキテクト • Cloud / SRE / Developer @uchimanajet7
4. このセッションについて • IoT が産み出すデータから、生成系 AI を利用して価 値ある情報を得る手段を模索する。 • 生成系 AI の基本と API 使用による他システム連携の 簡単なデモを紹介します。 • この資料やデモは作成時点の情報に基づいています。
5. IoT が産み出すデータは2系統 「状態」と「時系列」 湿度 10:00 35.5% 10:15 41.6% 10:30 40.3% 今の湿度は？ = 状態 過去の傾向は？ = 時系列 マイコン等 10:00 35.5% 10:15 41.6% 10:30 40.3% 10:30現在 40.3%
6. 時系列データを基に生成系 AI に 分析や未来予測をしてもらう 過去 現在 未来 時系列データ 35.5% 41.6% 40.3% ！ 生成系 AI
7. 時系列データ分析のキーポイント 過去 現在 未来 時系列データ 35.5% 41.6% 40.3% 欠損値 季節性と トレンド ノイズと 外れ値 大量の データ 時間と共に パターンが 変化 分析の 「ツール」と 「スキル」を 生成系 AIで 代用する
8. 分析や未来予測に生成系 AI を用いる 利点 • 事前学習が不要 • 理由を回答させることで、妥当性を(人間が)検証可能 気を付けたい点 • 与えるデータサイズの調整 • 冪等性が無い (同じデータから別の予測が導き出される可能性がある)
9. LLM と生成系 AI LLM (Large Language Model) GPT-3 GPT-4 ChatGPT GPT-3 based ChatGPT GPT-4 based GPT-3.5 ChatGPT GPT-3.5 based
10. ChatGPT の API を利用する 利点 • ChatGPT を API から呼び出せる • システム・サービスに組み込んで利用できる 気を付けたい点 • 与えるデータサイズ (トークン数) の調整が必要 • 訓練データ外の必要な情報は別途与える必要がある
11. 時系列データと ChatGPT 時系列データ アラート 予測モデル クエリ ChatGPT データの 解釈と説明 異常検出の アラート 自然言語 クエリ 利用者 ChatGPT を解説・翻訳のイン ターフェースとして利用する
12. API を使ってチャットする GPS マルチユニット SORACOM Edition IoT SIM ユーザー （*1）Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度 湿度 Unified Endpoint Colaboratory (*1) (*2) （*2）https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) Make (iPaaS) （*3）https://www.make.com/en/integromat-evolves-to-make (*3)
13. ChatGPT API を使ったチャット • Colaboratory (以下、 Colab)でチャット機能を確認する。 • 使用ライブラリは openai/openai-python • モデルは GPT-3.5 系の gpt-3.5-turbo • temperature や messages/role/system の 役割も合わせて確認する。
14. ChatGPT API を使ったチャット GPS マルチユニット SORACOM Edition IoT SIM ユーザー （*1）Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度 湿度 Unified Endpoint Colaboratory (*1) (*2) （*2）https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) Make (iPaaS) （*3）https://www.make.com/en/integromat-evolves-to-make (*3)
15. ChatGPT API を使ったチャット Demo
17. ChatGPT API を使ったチャット • messages/role/system を使うと、回答に制約をつけら れる。 • 指示した制約が必ず反映されるとは限らない。 • モデルによって挙動が異なる場合がある。 • temperature はランダム性を調整パラメータ。 • 0近づくほどランダム性は減る。
18. API を使って時系列データを準備する • SORACOM API で SORACOM Harvest から時系列 データを取得する。 • トークン使用量の節約のため、Colab 上で温度と湿 度だけに編集する。 • Pandas 等のライブラリを利用して、編集や確認を 行いながらデータを準備する。
19. API を使って時系列データを準備する GPS マルチユニット SORACOM Edition IoT SIM ユーザー （*1）Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度 湿度 Unified Endpoint Colaboratory (*1) (*2) （*2）https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) Make (iPaaS) （*3）https://www.make.com/en/integromat-evolves-to-make (*3)
20. API を使って時系列データを準備する Demo
22. API を使って時系列データを準備する https://platform.openai.com/tokenizer 1 時間分の編集済みデータでも多くの トークンを消費する
23. API を使ってチャットの結果を連携する GPS マルチユニット SORACOM Edition IoT SIM ユーザー （*1）Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度 湿度 Unified Endpoint Colaboratory (*1) (*2) （*2）https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) Make (iPaaS) （*3）https://www.make.com/en/integromat-evolves-to-make (*3)
24. API を使ってチャットの結果を連携する • 時系列データを用いてチャットし、結果を他サービ スと連携する。 • JSON 形式の回答を指示し、Webhook で iPaaS の Make と連携する。 • Slackへ結果が投稿される。
25. API を使ってチャットの結果を連携する Demo
28. API を使ってチャットの結果を連携する • プロンプトを工夫し未来予測、分析、モニタリング 値の提案等を得られた。 • 実利用は内容を含めて検証・確認が必要。 • JSON 形式指示は期待通りにならない場合もある。 • サービス連携で利用する場合は考慮が必要。
29. 分析や未来予測に生成系 AI を用いる 利点 • 事前学習が不要 • 理由を回答させることで、妥当性を(人間が)検証可能 気を付けたい点 • 与えるデータサイズの調整 • 冪等性が無い (同じデータから別の予測が導き出される可能性がある)
30. まとめ • AIの得意分野で上手く利用すると、手軽に効果が得ら れる場合がある。 • 専門知識や勘所がなくても、新たな発見やアイデアを 試せる。 • データのインプット時には、トークン数の上限に注意。
31. SORACOM の願い クラウド ⇒ 多くの Web サービス SORACOM ⇒ 多くの IoT システム 日本から、世界から、たくさんの IoT プレイヤーが生まれますように
32. IoTの「つなぐ」を簡単に You Create. We Connect.