【画像認識】 ローカル推論とクラウド推論 (Amazon Rekognition)の違い を調べてみた / investigated local inference vs cloud inference

Transcript

1. 【画像認識】 ローカル推論とクラウド推論 (Amazon Rekognition)の違い を調べてみた ほしなな
2. about me @hoshi7_n ほしなな (星 七花) 経歴 興味 趣味 AWS Expert Excellence All Certifications & Jr. Champion Recognition 謎解き キックボクシング 茶道 2023 / 04 2025 / 06 2025 / 06 新卒⼊社 2025 Japan AWS Jr. Champions 選出 2025 Japan All AWS Certifications Engineers 選出 2026 / 03 Community Builder ( AI Engineer ) 選出 X アプリケーション開発 サーバーレス スクラム
3. 遡ること4ヶ⽉前…
4. re:Inventに⾏く前のほしなな 英語よわよわ だから勉強 したいなぁ
5. re:Inventに⾏く前のほしなな 英語よわよわ だから勉強 したいなぁ 例えば、🍎を⾒た ら 「りんご」ではなく 「Apple」がすぐに でてくるような英語 脳になりたい…
6. re:Inventに⾏く前のほしなな 英語よわよわ だから勉強 したいなぁ 例えば、🍎を⾒た ら 「りんご」ではなく 「Apple」がすぐに でてくるような英語 脳になりたい… ないなら 作ればいいじゃない！
7. 写真を撮ったら英語で表⽰されるアプリを仮作成 Vision Clip(仮) • 対応OS ◦ iOSのみ • ⾔語 ◦ Swift • フレームワーク ◦ UI：SwiftUI ◦ ML推論：CoreML + Vision • 機能 ◦ カメラ‧ライブラリから英語翻訳
9. • 対応OS ◦ iOSのみ • ⾔語 ◦ Swift • フレームワーク ◦ UI：SwiftUI ◦ ML推論：CoreML + Vision • 機能 ◦ カメラ‧ライブラリから英語翻訳 お分かりの通り、精度が低い… まずは無料で試したい || ローカルで推論するよう にした Vision Clip(仮)
10. • 対応OS ◦ iOSのみ • ⾔語 ◦ Swift • フレームワーク ◦ UI：SwiftUI ◦ ML推論：CoreML + Vision • 機能 ◦ カメラ‧ライブラリから英語翻訳 お分かりの通り、精度が低い… まずは無料で試したい || ローカルで推論するよう にした Vision Clip(仮) ケチらずクラウド(AWS)上で 推論するようにしよう…
11. アーキテクチャ図
12. Amazon Rekognitionとは？ Amazon Rekognition とは - Amazon Rekognition イメージ内のラベルの検出 - Amazon Rekognition Amazon Rekognitionってなに？ クラウドベースの画像およびビデオ分析 サービス 機械学習の専⾨知識がなくても、シンプル なAPIを通じてアプリケーションに⾼度な コンピュータビジョン機能を簡単に追加 できる 今回使ったAPI、DetectLabelsについて ラベル検出のAPI レスポンスに名前や信頼度を含めてくれる
13. クラウド(Amazon Rekognition)で実⾏した結果
14. （ここからが本題）なぜ精度が上がったの？
15. ローカル推論‧クラウド推論の精度のちがい コンピューティング リソースとモデルの 規模の差 学習時間と データ量の差
16. ローカル推論‧クラウド推論の精度のちがい コンピューティング リソースとモデルの 規模の差 学習時間と データ量の差
17. ローカル (Vision & Core ML) クラウド (Amazon Rekognition) Vision フレームワーク ‧画像の前処理 ‧顔などの検出 ‧⽅向の修正 Core ML フレームワーク モデル実⾏環境 画像 端末上で推論は⾏わず、APIを叩く 今回は、画像認識の⽤途でしか使わない （推論結果と信頼度だけで⼗分）ため、 BedrockではなくRekognitionを使⽤した 再掲
18. ローカル (Vision & Core ML) Vision フレームワーク ‧画像の前処理 ‧顔などの検出 ‧⽅向の修正 Core ML フレームワーク モデル実⾏環境 画像 Vision フレームワーク 画像の前処理、顔などの検出を⾏い、Core ML へ最適なデータを渡す Core ML フレームワーク Appleシリコンに最適化されたモデル実⾏環境 モデルを統⼀された⽅法で扱い、デバイス上で 予測を完結させる Vision | Apple Developer Documentation Core ML - ⽇本語ドキュメント - Apple Developer 1. ローカルなのでデータはデバイスからでない 2. ネットワークが不要なので応答が速い 3. オフラインでも使える ローカル推論のメリット
19. ローカル (Vision & Core ML) クラウド (Amazon Rekognition) Vision フレームワーク ‧画像の前処理 ‧顔などの検出 ‧⽅向の修正 Core ML フレームワーク モデル実⾏環境 画像 端末上で推論は⾏わず、APIを叩く 今回は、画像認識の⽤途でしか使わない (推論結果と信頼度だけで⼗分）)ため、 BedrockではなくRekognitionを使⽤した 再掲
20. ローカル (Vision & Core ML) クラウド (Amazon Rekognition) Vision フレームワーク ‧画像の前処理 ‧顔などの検出 ‧⽅向の修正 Core ML フレームワーク モデル実⾏環境 画像 端末上で推論は⾏わず、APIを叩く 今回は、画像認識の⽤途でしか使わない （推論結果と信頼度だけで⼗分）ため、 BedrockではなくRekognitionを使⽤した 再掲 デバイス(CPU、GPU、 Neural Engine)上で実⾏ するため、メモリ占有量と電 ⼒消費量を最⼩限に抑える ように最適化されている ↓ 限られた範囲で推論可 クラウドサービスのため、 多くのコンピューティング リソースを使って推論可能
21. ローカル推論‧クラウド推論の精度のちがい コンピューティング リソースとモデルの 規模の差 学習時間と データ量の差
22. Amazon Rekognition とは - Amazon Rekognition このサービスは、Amazon のコンピュータビジョン科学者が 開発したものと同じ、実証済みの⾮常にスケーラブルな深層 学習テクノロジに基づいており、⽇々何⼗億もの画像やビデ オを分析できます。Rekognition は新しいデータから継続的 に学習しており、サービスに新しいラベルや機能が頻繁に追 加されています。 Amazon Rekognitionの学習について ※公式ドキュメントより引⽤
23. 学習時間とデータ量の差のイメージグラフ ローカル クラウド ⽇々継続して学習するのでなだらか アップデートごとに上がるので平ら
24. まとめ：ローカル推論‧クラウド推論の精度のちがい コンピューティングリソースとモデルの規模の差 • ローカル(Vision & CoreML) ◦ デバイス上の限られた範囲でのみ推論が可能 • クラウド(Amazon Rekognition) ◦ クラウド上の多くのリソースで推論が可能 学習時間とデータ量の差 • ローカル(Vision & CoreML) ◦ 精度の向上はアップデートのタイミング • クラウド(Amazon Rekognition) ◦ クラウド側で頻繁にトレーニングされているので常に精度が向上
25. しかし、⼀概にクラウド推論が良いとは⾔えない…
26. しかし、⼀概にクラウド推論が良いとは⾔えない… ローカル推論の良さとクラウド推論の良さを ⽣かした ハイブリッド型がおすすめ
27. AWS Device Farmを使った GenAIモバイルアプリの⾃動テストについて - Speaker Deck これが理想 re:Inventのセッションにて紹介されていました
28. AWS Device Farmを使った GenAIモバイルアプリの⾃動テストについて - Speaker Deck これが理想 re:Inventのセッションにて紹介されていました 信頼度が低い場合はクラウドへ 信頼度が⾼い&オフラインの場合はローカルで || ハイブリッド型が⼀番コスパが良い！
29. ハイブリッド型アーキテクチャ図（今後の予定）