IoTとは？SORACOM アップデート 2023 & 生成AIとの付き合い方

2023年12月15日開催『SORACOM UG四国 勉強会 in 丸亀　IoT･AI事例をLTで! with 忘年会』で、ソラコム松下(max)が発表した資料です。

Transcript

1. IoT とは？SORACOM アップデート 2023 と 生成 AIとの付き合い方 Dec. 16, 2023 SORACOM UG 四国 in 丸亀 株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 (Max / @ma2shita)
2. 株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 (まつした こうへい) "Max" • 静岡県民 🗻 新幹線通勤族 🚅 • 講演や執筆を中心に活動、登壇数600以上/累計 • 経歴: 東証二部ハードウェアメーカーで情シス、 EC 事業、IoT 事業開発を経て2017年より現職 • 好きな言葉「論よりコード」 • X(旧Twitter): @ma2shita • 好きな SORACOM サービス SORACOM Funnel メタデータサービス • AWS re:Invent に行ってきました ← NEW!! WiJG?, Public domain, via Wikimedia Commons
3. 運営のみなさん ありがとうございます！
4. @SORACOM_PR fb.com/soracom.jp イベントの振り返りに！ ハッシュタグ #SORACOMUG #SORACOM フォローや チャンネル登録を是非！ youtube.com/c/SORACOM_Japan instagram.com/soracom.official
5. クラウド センサー/デバイス “モノ” ネットワーク 現場をデジタル化 現場とクラウドをつなげる デジタルデータの活用 モノやコトをデジタル化 人手に頼らずデータを集める、現場を動かす IoT とは？
6. IoT は “IT や ICT の広がった姿” ICT IoT IT あらゆるモノをネットにつなげてデジタル社会を実現
7. SORACOM は IoT の「つなぐ」を簡単に IoT デバイス クラウドサービス ✓ 遠隔操作 ✓ メンテナンス ✓ 蓄積・見える化 ✓ アラート通知 センサ キット IoT 通信 IoT SIM LPWA パートナー デバイス パートナークラウド (AWS / Microsoft / Google) Wi-Fi / 有線 3G / LTE / 5G LTE-M 通信 デバイス クラウド型 カメラサービス 衛星通信
8. IoT 向けデータ通信サービス SORACOM Air for セルラー 特定地域向け(日本) plan-D plan-DU plan-K2 SORACOM IoT SIM NTT ドコモ (3G/LTE/LTE-M) plan-KM1 KDDI LTE回線 KDDI LTE-M 回線 日本の3キャリア含む 180を超える国と地域 グローバル SORACOM IoT SIM plan01s planX3 planP1 ・・・
9. 600万を超える IoT 契約回線と実績 600万を超える IoT が 活躍している社会へ 出所: “IoTプラットフォームSORACOMの契約回線数が600万を突破”. ソラコム プレスリリース. 2023-10-25. https://soracom.com/ja-jp/news/20231025-6million-iot-devices-connected/, (参照 2023-10-25). ※海外法人からの提供を含む SORACOM Air の総回線数。SORACOM Air for セルラー、Sigfox、LoRaWANを含む。
10. SORACOM のパラダイムシフト モノ インターネット クラウド モノ インターネット クラウド
11. IoT イノベーションを加速させるプラットフォーム CLI & SDK SORACOM CLI(Go) Web インターフェース User Console データ転送支援 SORACOM Beam クラウドアダプタ SORACOM Funnel データ収集・蓄積 SORACOM Harvest プライベート接続 SORACOM Canal IoT向けデータ通信 SORACOM Air for Cellular (2G, 3G, LTE, LTE-M, 5G) LPWA (Sigfox, LoRaWAN) 専用線接続 SORACOM Direct 仮想専用線 SORACOM Door API Web API Sandbox コネクティビティ ネットワーク インタフェース SIM認証・証明 SORACOM Endorse デバイス管理 SORACOM Inventory 透過型トラフィック処理 SORACOM Junction データ分析・検索 SORACOM Query セキュアプロビジョニング SORACOM Krypton アクセス権限管理 SORACOM Access Management アプリケーション デバイスLAN SORACOM Gate 24/365サポート 診断機能 Technical Support USB ドングル / セルラーモジュール / マイコンモジュール / ボタン / カメラ デバイス オンデマンドリモートアクセス SORACOM Napter クラウドファンクション SORACOM Funk ダッシュボード作成/共有 SORACOM Lagoon パケットキャプチャ SORACOM Peek インラインプロセッシング SORACOM Orbit VPG 監査ログ API Audit Log Wi-Fi, 有線 インターネット セキュアリンクサービス SORACOM Arc Satellite(衛星) インターネット/ メッセージングサービス メディア転送 SORACOM Relay ソリューション SORACOM Global Platform エッジプロセッシング SORACOM Mosaic Soracom Cloud Camera Services ソラカメ SMS配信 Soracom Cloud SMS Delivery 多要素認証サポート Soracom Cloud MFA eSIM データ通信 Soracom Mobile
12. プラットフォームと SORACOM プラットフォームとは 非機能要件を解決する機能が パーツ・サービスとして提供 SORACOM は IoT の手間を解決する機能が パーツ・サービスとして提供 目的に合わせたシステム・IoT が 素早く・無駄なく創れる
13. 非機能要件とは AWS re:Invent 2023 / CTO Keynote より 1. セキュリティ 2. コンプライアンス ― 法令順守 3. アクセシビリティ 4. パフォーマンス ― 性能 5. アベイラビリティ ― 可用性 6. スケーラビリティ ― 拡張性 7. メンテナンス性 8. コスト ― 初期と維持費 9. サスティナビリティ ― 持続可能性
14. IoT の手間を解決できる SORACOM 遠隔操作 IoT アプリ構築 ダッシュボード作成・共有 SORACOM Lagoon データ転送支援 SORACOM Beam 閉域ネットワーク オンデマンドリモートアクセス SORACOM Napter 専有ゲートウェイ Virtual Private Gateway SORACOM アイコンセット 情報セキュリティ チェックシート パブリッククラウド利用 Web コンソールと API サポートプラン ？→！
15. SORACOM のロードマップと開発サイクル お客様の実現したいことや フィードバックを聞く プラットフォームとして どうすれば役に立てるか考える プラットフォームとして 提供すべき最小限の機能を実装 お客様へ早期に提供 Private β、Limited Preview 等 いかにこのサイクルを速く回すか ビジネス/開発/運用を一体にする
16. SORACOM 2023年のアップデート 1/2 1月 • SORACOM Krypton が Azure IoT Hub に対応 • 利用料金ダッシュボードの提供を開始 2月 • IoT ゲートウェイ「SmartFitPRO シリーズ」スターター キット取り扱い開始 • データ通信量 API 提供開始 • SORACOM Beam の AWS SigV4 ヘッダ生成対象に Amazon Location Service が追加 • Soracom LTE-M Button #でかボタン 取り扱い開始 3月 • 欧州のお客様向け、ユーロ決済対応 • 産業用 LTE ルーター「UD-LT2」取り扱い開始 • SORACOM Beam の AWS SigV4 ヘッダ生成対象に Amazon SageMaker が追加 • サポートプランのオンライン切り替えに対応 • SIM 詳細画面の個別 URL 4月 • SORACOM Air for セルラー plan-D の初期費用を値下げ • セッション履歴内の通信方式の詳細化 • SORACOM Lagoon 3 提供開始 5月 • バイナリーパーサーが CBOR に対応 • 大容量アップロード向け SIM「plan-DU」に100GBバンド ルの提供開始 • US 3キャリア対応サブスクリプション「plan-US-max」 提 供開始 6月 • ソラカメのクラウドモーション検知 “無制限録画” ライセン ス提供開始 • SORACOM Beam が Google IoT Core 互換サービス “ClearBlade” に対応
17. 2023年7月: 日本最大級の IoT カンファレンス SORACOM Discovery 2023
18. SORACOM 2023年のアップデート 2/2 7月 • ¼サイズ「エコ SIM」提供開始 • NAT 配下のデバイスへアクセスできる「SIM ベースルー ティング機能」提供開始 • スイッチユーザー機能提供開始 • GhatGPT で IoT データ分析ができる 「SORACOM Harvest Intelligence」提供開始 • VPG Type-F のサイズ統合と大規模向け VPG Type-G 提 供開始 • 分析基盤サービス「SORACOM Query」 • メディア転送サービス「SORACOM Relay」 • SORACOM アイコンセット v2.3 提供開始 8月 • plan01s の対応国と地域を拡大 • Raspberry Pi 専用 4G (LTE) 通信モジュール「4GPi」取り 扱い開始 9月 • LTE ルーター２機種の値下げ • ソラカメのオンライン無償トライアルを提供開始 • 新ログイン画面の提供開始 • SORACOM STARLINK BUSINESS キット取り扱い開始 • Soracom Cloud MFA 提供開始 10月 • SORACOM Napter の利用通信回線の選択機能 • SORACOM セルラーパック for Amazon Monitron の取り扱 い開始 • ソラカメ対応カメラのスリープ・再起動操作のSORACOM ユーザーコンソール対応 11月 • IoT SIM の操作・状態変更履歴 • ソラカメ対応カメラの設定変更 API • ソラカメの Web コンソール内における、録画映像のタイム ラインバー対応
19. 最新情報は changelog.soracom.io blog.soracom.com
20. IoT と IoT プラットフォーム「SORACOM」 IoT は 「あたりまえ」へ プラットフォームとは 非機能要件を解決できる 機能が揃う場 SORACOM で IoT 向けサービスが揃う SORACOM の進化は 皆さんの声が源泉 クラウドの力で 進化と革新 600万を超える IoT 契約回線を通じて IoT 社会を支える
21. 生成 AI との付き合い方
22. 生成 AI の認知は高いが、活用はこれから 出所: 野村総研. “アンケート調査にみる「生成AI」のビジネス利用の実態と意向”. レポート | デジタルエコノミー. 2020-6-13. https://www.nri.com/jp/knowledge/report/lst/2023/cc/0613_1, (参照 2023-11-16). ➢ ビジネスパーソンにおける「生成AI」の認知率は50％を超え、男性で高い傾向 ➢ AIにはプラスとマイナスのイメージがある
23. Pixel シリーズ「消しゴムマジック」 AI を活用して写真に写りこんだ人などの不要なものを検出し、数タップで 消去できる機能です。 ― https://support.google.com/photos/thread/223378348/
24. 十分に発達した科学技術は、 魔法と見分けがつかない。 ― クラークの三法則、第三法則より
26. 生成 AI の実行 LLM × PE PE: プロンプトエンジニアリング
27. 基盤モデル = “常識” 株式会社スマートドライブ主催「Mobility Transformation 2023」(9/23) より 基盤モデルとは 大量かつ多様なデータで訓練され、 多様な用途におけるタスクに適応 できるモデル※1 ※1 Stanford University Human-Centered Artificial Intelligence, Machine Learning Reflections on Foundation Models 人間の経験や知識の如く 「常識を獲得」
29. “AI” における生成 AI (GenAI) の位置づけ 生成 AI (Generative AI; GenAI) • 機械学習(ML) における分類「識別モデル」と「生成モデル」のうち、生成に着目した呼称。 • 実装例には、画像を生成するモデルや、自然言語を扱う大規模言語モデル(LLM)がある。 出典: 西脇 文彦. “生成AIが実現している機能の6類型”. DIAMOND ハーバード・ビジネス・レビュー. 2023-06-09. https://dhbr.diamond.jp/articles/-/9676, (参照 2023-08-10). 従来の ML や深層学習(DL)と異なる点 ➢ これまでは「学習」と「推論(生成)」の２つの作業が 不可欠。特に学習は専門知識や費用が必要だった。 ➢ 生成 AI は学習済みモデル(基盤モデル)が提供され、 利用者による学習作業が不要で、成果が得られる。
30. 『 LLM は、何でも知ってるな 』
31. 何でもは知らないわよ。 知ってることだけ ― 〈物語〉シリーズ 羽川翼
32. LLM を使いこなす「プロンプトエンジニアリング」 LLM は「LLM が知っている事を基に、予測を生成する」 ➢ LLM が知っていることを引き出す手法が、プロンプトエンジニアリング(PE)
33. プロンプトエンジニアリングを学ぶ Prompt Engineering Guide https://www.promptingguide.ai/ 日本語: https://www.promptingguide.ai/jp プロンプトエンジニアリング自体の基礎から、 LLM 全般に対するテクニックを解説 ※英語版が最新 Best practices for prompt engineering with OpenAI API https://help.openai.com/en/articles/6654000-best-practices-for- prompt-engineering-with-openai-api OpenAI が提供する API を使いこなす 8 つの Tips だが、他の LLM 向けにも通ずる内容
34. プロンプトエンジニアリングは発展期 1/2 GPT-4に選択肢を与えるとき、順序を入れ替えるだけで性能に大きな変化が あることが明らかに 出所: AIDB. “GPT-4に選択肢を与えるとき、順序を入れ替えるだけで性能に大きな変化があることが明らかに”. AIDB. 2020-08-30. https://aiboom.net/archives/54690, (参照 2023-08-31). 選択肢の順序が変更されることで、モデルの性能に 13%から75%もの大きな変動が生じたという点 コンピューターの原則 GIGO Garbage In, Garbage Out を意識すると、より良い結果が得られる
35. プロンプトエンジニアリングは発展期 2/2 出所: Cheng Li, Jindong Wang, Yixuan Zhang, Kaijie Zhu, Wenxin Hou, Jianxun Lian, Fang Luo, Qiang Yang, Xing Xie. “Large Language Models Understand and Can be Enhanced by Emotional Stimuli”. arXiv:2307.11760. 2023-07-14. https://arxiv.org/abs/2307.11760, (参照 2023-11-10). 参照: AIDB, https://x.com/ai_database/status/1720257299212873914?s=20 2023-11-3. (参照 2023-11-10). 大規模言語モデルは感情的刺激を理解し、 それによって強化されうる
36. 生成 AI との付き合い方 Copilot ー よき友 Whisper 等 ChatGPT 以外のプロダクト利用、 GPTs(GPT Builder)、RAG 等 Function Calling、Assistant API Azure OpenAI Service、Amazon Bedrock 等 私たちの生産性を上げる Embed ー 部品 製品に革新を組み込む
37. Copilot ― よき友 開発や業務支援に LLM を用いる ➢ ドキュメント要約やレビュー • 途中参加PJに対する議事録要約 や検索、専門用語の読み替えを RAG(検索拡張生成) で実現する ➢ コードや回路の設計、生成 ➢ デバッグ計画のドラフト ※ RAG: Retrieval Augmented Generation; 検索拡張生成 ※ プロンプトや取り込ませるデータがどのように取り扱われるかは、規約や構成を確認する必要あり
38. Copilot ― よき友 開発や業務支援に LLM を用いる AWS IoT TwinMaker で 故障個所を明確化 Amazon Q で行うべき作業の提示や、 問い合わせ回答を自動化 ※ EXPO 内 AWS “Industrial Zone” デモ
39. Amazon Bedrock ― 基盤モデル選択の自由 https://www.youtube.com/watch?v=8clH7cbnIQw&t=1390s
40. AWS の「Generative AI Stack」 https://www.youtube.com/watch?v=PMfn9_nTDbM&t=6470s 基盤モデル強化のための「インフラ」 基盤モデルやLLMで構築するための「ツール」 ➢ Amazon Bedrock 基盤モデルを活かすための「アプリケーション」 ➢ Amazon Q、Amazon CodeWhisperer
41. ソラコムにおける生成 AI への取り組み状況 1. 研究と新規開発 ➢ ChatGPT Plus 契約費用の全額補助 ➢ 松尾研究所と共同で「IoT × GenAI Lab」を設立 生成 AI 研究、新規プロダクト開発、顧客向けプロサービス 提供を行うチームを設立 2. 情報発信や共有 ➢ IoT 技術の勉強会「IoT-Tech Meetup」で “ChatGPT × IoT” を テーマに開催 <https://soracom.connpass.com/> 3. プラットフォームへの実装と提供 ➢ IoTデータの分析を生成 AI で行える 「SORACOM Harvest Intelligence」を提供 時系列データを対象にしたプロンプト支援で、トレンドや 異常・欠損などの洞察がワンクリックで得られる 株式会社松尾研究所 経営企画マネージャー 上田 雄登 氏 株式会社スマートドライブ主催 「Mobility Transformation 2023」(2023/9/23) より SORACOM Harvest Intelligence / プロンプト一覧 (2023年11月現在)
42. ビジネスで用いられるどのテクノロジーにも当てはまる第一の法則は、 効率の良い業務を自動化すれば、効率がさらに良くなるということだ。 第二の法則は、効率の悪い業務を自動化すれば、さらに効率が悪くなる ということだ ― 『ビル・ゲイツ 未来を語る』 ― 外山, 健. (2016). テクノロジーは貧困を救わない. 日本: みすず書房. ※下線と太字は筆者加筆
43. 半分の真実は、偽りよりも怖い ― フォイヒータスレーベン｢警句集｣
44. 生成 AI への評価と気を付けるべき点 誤: 生成 AI は使えない 正: 生成 AI を適切に使えていない 例) • 小説を書くのに適した道具は？ • 会計処理を行うのに適した道具は？ ワープロ スプレッド シート 適した道具がある 今は、いろいろな事に使ってみる時期 評価を忘れずに
45. 成果を共有することが、今は重要 https://newsdig.tbs.co.jp/articles/-/892974 https://b.hatena.ne.jp/entry/s/newsdig.tbs.co.jp/articles/-/892974 様々な意見があって然るべき
47. IoT の「つなぐ」を簡単に You Create. We Connect.