AIEdgeAgent事例.pdf

Transcript

1. AI Edge Agent時代のSLM活用事例 ~業務特化型SLM on Edge~ 株式会社ヘッドウォータース 2025年3月4日
2. 2 Case1: 工場内エッジAIによるレポート生成 Phi-3-miniを量子化し、Azure IoT Edgeを導入した Windows Edge端末でレポートを作成。 オフライン環境でのレポート作成が可能となった。 Windows IoT 11 （ NUC 14 Pro+ Intel® Core Ultra 9 ） 保全レポート生成 Module SLM（Phi-3-mini）を 利用したレポートの生成 集計データのロード 監視アプリ 保全データの集計 Runtime Module （システムモジュール） Edge Agent Edge Hub Azure IoT Edge Runtime IoT Edge モジュール のデプロイ 収集データをRuntimeに 転送 （Windowsホストと Azure IoT Edge Runtime でフォルダ共有可能） 保全データの取得 IoT Edge モジュールの 死活監視 保全作業者 http://localhost： xxxxにアクセス レポート確認 Azure VM（開発用） Container Registry 管理者 デバイス管理 IoT Hub IoT Edgeモジュール （コンテナ）の開発 IoT Edgeモジュール のデプロイ定義 IoT EdgeモジュールのPush Edge IoTモジュールの参照 Blob Storage SLMを ダウン ロード データ生成用 ドキュメント登録 & 学習済みSLM登録 VM(SLM学習用 A100 GPU搭載) with Olive SLMアップロード ドキュメント ダウンロード SLMダウンロード & データ作成 & Fine Tuning
3. 3 ING（状態） コントローラー VLM1 VLM2 CAN変換器 HMI（映像/音声） Case2: 自動車オンボード向けエッジAIエージェント VLMもオフラインで利用可能。 VLMでセンサー情報と画像からリスクを検知し、車両制御装置への指示を行うWorkflowの作成。 VLM Image Encoder TextDecoder 画像 （前後左右4方向 の車載カメラ） 運転に関するシス テム情報 （速度、右左折、 ワイパーon/off） Text Encoder 車両制御情報 コンテキスト 認識結果 ユースケース例：道幅が狭いことを検知し、モニター切り替え VLM処理フロー 走行状態 画像取得 フロントワイドビュー表示 フロントワイドビュー信号に 変換 道幅評価 （信号のな い）交差点 検出 走行状態Flog＝Ture 道幅Flog＝Ture（狭い） （進行なし）交差点Flig＝Ture VLM1と同じ画像 Yes Yes No No
4. 4 Case3: オフライン環境の業務端末向けAIエージェント Phi-4-mini を Fine TuningしたAIモデルを業務端末アプリに搭載。 オフライン環境でも業務レポートを作成が可能になり、作成者と確認者の業務負担を軽減。 システム構成 Azure API (AppService) 業務端末 アプリ Phi-4-mini-8bit レポートデータ (CosmosDB) Azure Phi-4-mini- 8bit Fine Tuning 量子化 アプリ アプリデプロイ モデルダウンロード （初回アプリ起動時のみ） レポート作成業務フロー Azure レポート 作成者 業務端末 レポート作成 オフライン レポートメモ 入力 Phi-4-mini- 8bit オンライン データ連携 確認者 アプリOTA オンライン