【EdgeTech+ West 2025】LLM/VLA 選びはスタートにすぎない「エッジAI」を本気で動かす設計と実装

2025年7月25日開催『EdgeTech+ West 2025』で、ソラコム松下(max)が発表した資料です。

Transcript

1. LLM/VLA 選びはスタートにすぎない 「エッジAI」を本気で動かす設計と実装 July 25, 2025 EdgeTech+ West 2025 株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 “Max” @ma2shita
2. 株式会社ソラコム テクノロジー・エバンジェリスト 松下 享平 (まつした こうへい) "Max" • 静岡県民 新幹線通勤族 • 講演や執筆を中心に活動、登壇数700以上/累計 • 好きな言葉「論よりコード」 • X(旧Twitter): @ma2shita • 好きな SORACOM サービス: • SORACOM Funnel • soracom-cli WiJG?, Public domain, via Wikimedia Commons
3. ロボットアーム(SO-101) + SmolVLM + MCP & 生成 AI
4. ソラコムのビジョンとミッション Making Things Happen for a world that works together 私たちがつくるのは、共鳴し合う世界です。 モノや人がつながり、それぞれの価値が増幅しあい 想像を超える未来が次々と生まれていく。 通信、クラウド、AIといったテクノロジーを だれもが使えるようにして、 志を共にするパートナーたちと共に世界をよくする イノベーションへとつなげる。 IoTと、その先へ。 株式会社ソラコム / SORACOM, INC. 代表取締役社長 玉川 憲 拠点 日本、英国、米国 事業概要 IoT 通信とプラットフォームサービスの提供 証券コード 147A (東京証券取引所 グロース市場)
5. ソラコムが提供するグローバル IoT プラットフォーム
6. ソラコムにおける生成 AI への取り組み状況 生成 AI の社会実装、研究と環境づくり ⚫ 松尾研究所と共同で「IoT × GenAI Lab」を設立 (2023年7月) ⚫ 「OpenAI API プラットフォーム エンタープライズ契約」を締結 (2025年7月) 生成 AI を組み込んだ IoT 向けサービス ⚫ 蓄積済の IoT データを、生成 AI で分析ができる SORACOM Harvest Intelligence (2023年7月) ⚫ ローコードで IoT デバイスと生成 AI をつなげられる SORACOM Flux (フラックス) (2024年7月) ⚫ IoT と周辺データを生成AI + SQL で一括分析できる SORACOM Query (2025年7月) ⚫ 業務支援のための生成 AI ボット SaaS Wisora (ウィソラ) (2025年7月) (2025年7月現在)
7. 出典: 株式会社ソラコム. “三菱電機とソラコム・松尾研究所「IoT × GenAI Lab」が、 IoTと生成AIを応用した空調機器制御の実証実験を実施”. プレスリリース. 2024-07-11. https://soracom.com/ja/news/20240711-iot-genai-poc-report, (参照 2024-08-13). 複数のデータを基に意思決定 • センサーから得られた環境データ • 外部の天気情報から得られた環境データ • 空調機器の設定温度 • 空調利用位置検知システムの情報（画像/ 室内の温度のヒートマップ等） • 感性情報（オフィス勤務者からの快適性についての定期的なフィードバック） 生成 AI の効果 ― IoT × GenAI Lab の成果 多角的な入力データが 高精度な成果へ
8. AI フィジカルとデジタルの両方、現実世界のすべてを AI につなぎ、 より良い未来を創造するリアルワールドAIプラットフォームへと進化します 2025年 7月 発表
9. 生成 AI のポイント 生成 AI 従来の機械学習(ML)や深層学習(DL)と 異なる点 《これまで》 ⚫ 学習フェーズと推論フェーズ ⚫ 専門知識が必須 《 生成 AI 》 ✓ 学習フェーズが不要 ― すぐ結果が得られる ✓ 専門知識が不要 ― 誰でも使える ⚫ 膨大な学習データを基に、 人間の判断や創造を支援する技術 ⚫ 答えを見つけ出すだけでなく、 答えを “創り出す” 用途にも広がる ［キーワード］ 基盤モデル: 学習済みモデル 例) GPT-4o、DeepSeek、 Stable Diffusion プロンプト: 基盤モデルから情報を引き出す 指示文
10. 生成 AI が活きるユースケースと要素技術 マルチモーダル情報の認識 ✓ 人以外からのデータ入力 ✓ 物体認識、 OCR、文字起こし マルチモーダル AI SLM (小規模言語モデル) ✓ 独立動作 ― オフラインファースト ✓ プロンプトジェネレーター ― クラウド・LLM への前処理 オフライン・ LLM 協調 UX 物理世界へのフィードバック ✓ 操作のアシスト ✓ 機器間の協調動作 デジタルツイン RAG (検索強化生成) ファインチューニング データ加工・処理の自動化 ✓ 読み替え、整形や名寄せ ✓ 他データとの “意味による” 結合 時系列データへの適用 ✓ トレンドの言語化 ✓ 欠落データ発見や補完 ✓ 未来予測 時系列基盤モデル 生成AI ユースケース ５ 詳細はブログで
11. 生成 AI との付き合い方 Copilot ー よき友 GPTs(GPT Builder)、RAG、 AI エージェント等 ストリーミングレスポンス、MCP Azure OpenAI Service、Amazon Bedrock 等 代わりに AI に働いてもらう Embed ー 部品 製品に AI を組み込む
12. ス ラ イ ド 3 【再掲】
13. 生成 AI をサービスや製品に組み込む アーキテクチャー API 型 開発元が直接 API を提供 • OpenAI API（GPT-4o） • Anthropic API（Claude） • DeepSeek [API] • Amazon Bedrock • Azure OpenAI Service • Vertex AI (Google Cloud) • Llama (Facebook) • Phi (Microsoft) • DeepSeek [基盤モデル] 複数の基盤モデルや AIOps や ガードレール等の 非機能要件向けの機能も利用可能 最新の基盤モデルがマネージドで 提供され、API 呼び出しだけで 即時利用 データの完全なコントロールが可能、 ネットワーク接続に依存しない環境 ※ IaaS やローカルデバイス プラットフォーム型 クラウドプロバイダーが運用・提供 セルフホスト型 基盤モデルを自前※で運用・利用
14. https://docs.m5stack.com/en/module/Module-llm (参照 2024-11-10) 出所: Don Reisinger. “MS、小型AIモデル「Phi-3-mini」を発表--性能は「GPT-3.5」に匹敵”. ZDNET Japan. 2024-04-24. https://japan.zdnet.com/article/35218152/, (参照 2024-11-06). 出所: IoTNEWS編集部. “セレンス、マイクロソフトと協業し車載向けの組込み型SLMモデル「CaLLM Edge」を 発表”. IoTNews. 2024-11-21. https://iotnews.jp/maas-case/258367/, (参照 2024-11-21). 出所: MONOist. “ラズパイ5にAIキットが登場、処理性能は13TOPS”. MONOist. 2024-06-05. https://monoist.itmedia.co.jp/mn/articles/2406/05/news086.html, (参照 2024-11-10).
15. ハードウェア単体 = クラウド非依存の 生成 AI 環境が整い始めている
16. https://ollama.com/search
17. ollama run gemma3:1b on RPi5 (text) ※編集無し
18. ollama run gemma3[:4b] on RPi5 (vision) ※時間編集済み
19. エッジ AI の疑問点（？） どの LLM / VLA(基盤モデル) が 適しているのか？ Phiシリーズ? DeepSeek? Gemmaシリーズ? 問い自体が 誤り
20. テクノロジーと社会の変化 1995～ 2005～ 2015～ デジタル化 インフラ データ活用 デジタル化 2025～ インフラ • 5G、LPWA、 衛星通信 データ活用 • 生成 AI IT インター ネット クラウド IoT 1994年 NSPIXP-1 運用開始 2006年 AWS サービス開始 2015年 SORACOM サービス開始 出典: (1) JPNIX, インターネット歴史の一幕：日本の最初のIX、NSPIXP-1, 慶應義塾大学環境情報学部/WIDEプロジェクト 中村 修, https://www.nic.ad.jp/ja/newsletter/No48/0330.html, 2011年7月 (2025年3月25日閲覧) (2) AWS Whitepaper, Overview of Amazon Web Services, Amazon Web Services, https://docs.aws.amazon.com/whitepapers/latest/aws-overview/introduction.html, 2024年8月27日 (2025年3月25日閲覧) (3) SORACOM 公式ブログ, IoT プラットフォーム SORACOM リリース！, Ken, https://blog.soracom.com/ja-jp/2015/09/30/lift-off/, 2015年9月30日 (2025年3月25日閲覧)
21. トラディッショナル デバイスと クラウドファースト デバイス 出荷時が最高の状態 時間と共に劣化 ソフトウェア更新は無い 買い替え理由は 「新しいソフトウェアでないと 使い物にならないから」 出荷時は最小の状態 時間と共に成長 ソフトウェア更新は必携 買い替え理由は 「新しいハードウェアによる 新たな体験を得たいから」 トラディッショナル・デバイス クラウドファースト・デバイス
22. 通信でAI・クラウドを「ハードウェアに組み込む」 CPU や マイコン 通信 モジュール ファームウェア スピーカー マイク AI AI CPU や マイコン ファームウェア スピーカー マイク クラウドファースト・デバイス：通信の先に「限界の無い」世界 トラディショナル・デバイス：ハードウェアの限界が、機能の限界
23. 機能の数と、使いこなせる人の数は反比例 使いこなせる人の数 少 多 機能の数 少 多 スマートフォン 専用機 《ボタン等》 = お客様に 学習してもらう量
24. どの LLM / VLA(基盤モデル) が 適しているのか？ どうやって LLM / VLA を 更新し続けていくのか？ エッジ AI の【正しい】疑問の持ち方 ✓ API 型 開発元が直接 API を提供 プラットフォーム型 クラウドプロバイダーが運用・提供 セルフホスト型 基盤モデルを自前※で運用・利用 LLM / VLA クラウド配置 LLM / VLA デバイス配置 API コール + 通信環境 OTA (Over the Air) + 通信環境 進化する技術を扱うなら、更新は不可欠
25. そもそも … ？ 《 こんなに苦労して 》 エッジ AI の必要性はどこに？
26. エッジ AI の道筋 ⚫ 設備の異常・故障予知 ⚫ 画像からの品質チェック ⚫ ロボのティーティング工数削減 ⚫ 顧客の導線分析 目的が特定でき、かつ即時性が求められる業務 SLM (小規模言語モデル) ✓ 独立動作 ― オフラインファースト ✓ プロンプトジェネレーター ― クラウド・LLM への前処理 オフライン・ LLM 協調 UX 物理世界へのフィードバック ✓ 操作のアシスト ✓ 機器間の協調動作 デジタルツイン
27. 生成 AI を取り巻くエコシステム セキュリティとガバナンス プライバシー保護、ガードレール、透明性 継続的デリバリー 評価、モニタリング、デプロイ モデル強化 RAG、ファインチューニング、 蒸留/生徒モデル ユーティリティ ライブラリ・フレームワーク、 インテグレーション コミュニティ インターフェイス プロンプト、AI エージェント、 MCP 基盤モデル LLM、SLM、 目的特化 コンサルテーション LLM: 大規模言語モデル SLM: 小規模言語モデル RAG: 検索強化生成 内製
28. エッジ AI 実装の課題 部材価格、調達と互換性 ⚫ 推論速度と要求スペック ⚫ 高単価部品、EOL 対策設計 消費電力、電源確保 ⚫ 省電力化との両立が困難 LLMOps の実装 ⚫ 継続的デリバリー、セキュリティとガバナンス
29. エッジ AI の実装戦略 API 型 開発元が直接 API を提供 プラットフォーム型 クラウドプロバイダーが運用・提供 セルフホスト型 基盤モデルを自前※で運用・利用 LLM / VLA クラウド配置 LLM / VLA デバイス配置 API コール + 通信環境 OTA (Over the Air) + 通信環境 ローエンド デバイス リッチ デバイス
30. ソラコムが提供するグローバル IoT プラットフォーム 【再掲】
31. 5G あらゆる通信技術とユースケースをカバーする SORACOM IoT SIMとプラン 高速・多機能 省電力 LTE LTE-M NB-IoT NTN 3G Cat.1 bis グローバル LTE-M planX3 オールレンジ IoT plan01s グローバル Limited Preview KDDI回線 5G/LTE plan-K2 衛星 IoT planNT1 大容量アップロード plan-DU AI・カメラ・ロボティクス時代 “フィジカル” をつなげる 10GB ～ MB ～ GB バイナリ ～ KB 1TBの先へ 小容量 大容量 100GB ～ テラバイト級 アップロード向けプランも ご用意
32. IoT を製品へ “組み込む” ― コネクテッドデバイスを支える SORACOM 2025年 6月 発表
33. 800万を超える IoT 契約回線と実績 800万を超える IoT が 社会を支えている 出所: “IoTプラットフォームSORACOMの契約回線数が、800万を突破”. ソラコム プレスリリース. 2025-07-16. https://soracom.com/ja/news/20250716-8million-iot-devices-connected, (参照 2025-07-17). ※海外法人からの提供を含む SORACOM Air の総回線数。SORACOM Air for セルラー、Sigfox、LoRaWANを含む。 2025年 7月 発表
34. 課題の言語化から、プロジェクト・継続稼働まで ― SORACOM のビジネス支援 現場課題の 言語化 IoT プロジェクトの 立ち上げ IoT プロジェクトの 初動成果 IoT の 継続稼働 AI ボットと壁打ちで言語化 教えて！ソラコムのMax デバイス・ソリューション・AI のプロに相談できる SORACOM パートナースペース 3か月で成果を出す SORACOM はじめてサポート 24時間365日対応の有償サポート プライオリティサポートプラン ワークショップ型プロジェクト支援 SORACOM Booster Pack 技術からビジネスまでの包括コンサルティング SORACOM プロフェッショナルサービス 無料 オンラインで 契約できます
35. IoTの「つなぐ」を簡単に Making Things Happen for a world that works together