Slide 1

Slide 1 text

IoTが産み出すデータを「生成系AI」で 活かすテクニック 株式会社 ソラコム ソリューションアーキテクト 内田 学

Slide 2

Slide 2 text

本日のハッシュタグ #SORACOM @SORACOM_PR fb.com/soracom.jp youtube.com/@SORACOM_Japan instagram.com/soracom.official 使用例 他には… • #SORACOM IoTやDXの話を聞きにきた • キーノートは2日目! #SORACOM #SORACOM の検索で、最新情報が!

Slide 3

Slide 3 text

自己紹介 • 内田 学 / Manabu Uchida • 株式会社ソラコム • ソリューションアーキテクト • Cloud / SRE / Developer @uchimanajet7

Slide 4

Slide 4 text

このセッションについて • IoT が産み出すデータから、生成系 AI を利用して価 値ある情報を得る手段を模索する。 • 生成系 AI の基本と API 使用による他システム連携の 簡単なデモを紹介します。 • この資料やデモは作成時点の情報に基づいています。

Slide 5

Slide 5 text

IoT が産み出すデータは2系統 「状態」と「時系列」 湿度 10:00 35.5% 10:15 41.6% 10:30 40.3% 今の湿度は? = 状態 過去の傾向は? = 時系列 マイコン等 10:00 35.5% 10:15 41.6% 10:30 40.3% 10:30現在 40.3%

Slide 6

Slide 6 text

時系列データを基に生成系 AI に 分析や未来予測をしてもらう 過去 現在 未来 時系列データ 35.5% 41.6% 40.3% ! 生成系 AI

Slide 7

Slide 7 text

時系列データ分析のキーポイント 過去 現在 未来 時系列データ 35.5% 41.6% 40.3% 欠損値 季節性と トレンド ノイズと 外れ値 大量の データ 時間と共に パターンが 変化 分析の 「ツール」と 「スキル」を 生成系 AIで 代用する

Slide 8

Slide 8 text

分析や未来予測に生成系 AI を用いる 利点 • 事前学習が不要 • 理由を回答させることで、妥当性を(人間が)検証可能 気を付けたい点 • 与えるデータサイズの調整 • 冪等性が無い (同じデータから別の予測が導き出される可能性がある)

Slide 9

Slide 9 text

LLM と生成系 AI LLM (Large Language Model) GPT-3 GPT-4 ChatGPT GPT-3 based ChatGPT GPT-4 based GPT-3.5 ChatGPT GPT-3.5 based

Slide 10

Slide 10 text

ChatGPT の API を利用する 利点 • ChatGPT を API から呼び出せる • システム・サービスに組み込んで利用できる 気を付けたい点 • 与えるデータサイズ (トークン数) の調整が必要 • 訓練データ外の必要な情報は別途与える必要がある

Slide 11

Slide 11 text

時系列データと ChatGPT 時系列データ アラート 予測モデル クエリ ChatGPT データの 解釈と説明 異常検出の アラート 自然言語 クエリ 利用者 ChatGPT を解説・翻訳のイン ターフェースとして利用する

Slide 12

Slide 12 text

API を使ってチャットする GPS マルチユニット SORACOM Edition IoT SIM ユーザー (*1)Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度 湿度 Unified Endpoint Colaboratory (*1) (*2) (*2)https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) Make (iPaaS) (*3)https://www.make.com/en/integromat-evolves-to-make (*3)

Slide 13

Slide 13 text

ChatGPT API を使ったチャット • Colaboratory (以下、 Colab)でチャット機能を確認する。 • 使用ライブラリは openai/openai-python • モデルは GPT-3.5 系の gpt-3.5-turbo • temperature や messages/role/system の 役割も合わせて確認する。

Slide 14

Slide 14 text

ChatGPT API を使ったチャット GPS マルチユニット SORACOM Edition IoT SIM ユーザー (*1)Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度 湿度 Unified Endpoint Colaboratory (*1) (*2) (*2)https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) Make (iPaaS) (*3)https://www.make.com/en/integromat-evolves-to-make (*3)

Slide 15

Slide 15 text

ChatGPT API を使ったチャット Demo

Slide 16

Slide 16 text

No content

Slide 17

Slide 17 text

ChatGPT API を使ったチャット • messages/role/system を使うと、回答に制約をつけら れる。 • 指示した制約が必ず反映されるとは限らない。 • モデルによって挙動が異なる場合がある。 • temperature はランダム性を調整パラメータ。 • 0近づくほどランダム性は減る。

Slide 18

Slide 18 text

API を使って時系列データを準備する • SORACOM API で SORACOM Harvest から時系列 データを取得する。 • トークン使用量の節約のため、Colab 上で温度と湿 度だけに編集する。 • Pandas 等のライブラリを利用して、編集や確認を 行いながらデータを準備する。

Slide 19

Slide 19 text

API を使って時系列データを準備する GPS マルチユニット SORACOM Edition IoT SIM ユーザー (*1)Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度 湿度 Unified Endpoint Colaboratory (*1) (*2) (*2)https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) Make (iPaaS) (*3)https://www.make.com/en/integromat-evolves-to-make (*3)

Slide 20

Slide 20 text

API を使って時系列データを準備する Demo

Slide 21

Slide 21 text

No content

Slide 22

Slide 22 text

API を使って時系列データを準備する https://platform.openai.com/tokenizer 1 時間分の編集済みデータでも多くの トークンを消費する

Slide 23

Slide 23 text

API を使ってチャットの結果を連携する GPS マルチユニット SORACOM Edition IoT SIM ユーザー (*1)Google, Public domain, ウィキメディア・コモンズ経由で API SORACOM Harvest 温度 湿度 Unified Endpoint Colaboratory (*1) (*2) (*2)https://slack.com/intl/ja-jp/media-kit ChatGPT (GPT-3.5 turbo) Make (iPaaS) (*3)https://www.make.com/en/integromat-evolves-to-make (*3)

Slide 24

Slide 24 text

API を使ってチャットの結果を連携する • 時系列データを用いてチャットし、結果を他サービ スと連携する。 • JSON 形式の回答を指示し、Webhook で iPaaS の Make と連携する。 • Slackへ結果が投稿される。

Slide 25

Slide 25 text

API を使ってチャットの結果を連携する Demo

Slide 26

Slide 26 text

No content

Slide 27

Slide 27 text

No content

Slide 28

Slide 28 text

API を使ってチャットの結果を連携する • プロンプトを工夫し未来予測、分析、モニタリング 値の提案等を得られた。 • 実利用は内容を含めて検証・確認が必要。 • JSON 形式指示は期待通りにならない場合もある。 • サービス連携で利用する場合は考慮が必要。

Slide 29

Slide 29 text

分析や未来予測に生成系 AI を用いる 利点 • 事前学習が不要 • 理由を回答させることで、妥当性を(人間が)検証可能 気を付けたい点 • 与えるデータサイズの調整 • 冪等性が無い (同じデータから別の予測が導き出される可能性がある)

Slide 30

Slide 30 text

まとめ • AIの得意分野で上手く利用すると、手軽に効果が得ら れる場合がある。 • 専門知識や勘所がなくても、新たな発見やアイデアを 試せる。 • データのインプット時には、トークン数の上限に注意。

Slide 31

Slide 31 text

SORACOM の願い クラウド ⇒ 多くの Web サービス SORACOM ⇒ 多くの IoT システム 日本から、世界から、たくさんの IoT プレイヤーが生まれますように

Slide 32

Slide 32 text

IoTの「つなぐ」を簡単に You Create. We Connect.