エッジデバイスでディープラーニング! AWSを活用したエッジデバイスマネジメントの紹介/ aws-edge-device-deeplearning

エッジデバイスでディープラーニング! AWSを活用したエッジデバイスマネジメントの紹介/ aws-edge-device-deeplearning

E04bc05dadd5b740eb040e094e2bf5f5?s=128

toshitanian

March 10, 2018
Tweet

Transcript

  1. 2.

    河崎 敏弥 @toshitanian ABEJA, Inc. Platform Division Software Engineer •

    Development on cloud • IoT devices • Containers • Edge computing
  2. 3.

    ABEJA Platform 1):4*$ "-803-% $ :#&3803-% *P5،ؙثُؒ٦ة٦ *P5إٝ؟٦ 傀㶷ךر٦ة ➭ךفٓحز

    ؿؓ٦ي #JH%BUB رفٗ؎ 湊鋔 ؒحآ"* 䱿锷 ؙٓؐس"* 㷕统ה䱿锷 ♳׶ך*P5 ♴׶ך*P5 取得 蓄積 学習 デプロイ 推論・再学習
  3. 5.

    Edge features % *P5،ؙثُؒ٦ة٦ *P5إٝ؟٦ ךر٦ة ➭ךفٓحز ؿؓ٦ي #JH%BUB رفٗ؎

    湊鋔 ؒحآ"* 䱿锷 ؙٓؐس"* 㷕统ה䱿锷 ♳׶ך*P5 ♴׶ך*P5 •クラウドからエッジデバイスへデプロイ • アプリケーション • 学習したモデル •クラウドからエッジデバイスの監視 • メトリクス • システムログ
  4. 14.

    IoT での推論環境 エッジを使うべき状況 Cloud Edge (エッジと比較すると)高レイテンシ Latency 低レイテンシ 常時インターネット接続が必要 Connectivity

    オフラインでも実行可能 データ量が多い場合はクラウドに送れない Bandwidth 処理済みの少量データのみクラウドに送れる 全てのデータをクラウドに送る *Privacy ローカル環境からデータが出ない *学習データはクラウドに蓄積が必要 取得 蓄積 学習 デプロイ 推論・再学習
  5. 19.

    MQTTとIoT Ruleでログ収集 ・・・ Device Kinesis Data Streams publish AWS IoT

    Rules •デバイス上のfluentdがDockerコンテナのログを収集 •デバイス毎に決められたMQTT TopicへPublish •IoT Policyでデバイスごとに特定のTopicしかPub/Subできないように制御 •IoT Rulesを使ってKinesis Data Streamsへ流し込む •その後はよしなに… AWS IoT MQTT Broker
  6. 20.

    Parameter Storeで共通設定を管理 Device AWS System Manager Parameter Store putParameter getParameter

    •全デバイスに適用したい共通パラメータがある •デバイス管理で使うAPIサーバのURLやAPIキー •Device Shadow → 一つの設定を全デバイスで共有するのには向かない •Thing Groups attributes → AWS APIのリクエスト数制限がある •Parameter StoreにKV形式で設定を保存 •全デバイスが定期的にチェック
  7. 21.

    証明書ベースでセキュアAWSサービスを利用 Device AWS IoT credential provider IAM Role assumeRole IAM

    Policy •デバイス上のエージェントからAWSサービスへのアクセスが必要 •ECR / SSM / KMS •AWS IoT credential providerを使えばassumeRoleする事が可能 •AWS IoTで利用している証明書付きでHTTPエンドポイントにリクエスト •指定したのIAM Roleの権限を持つ一時クレデンシャルをもらえる •証明書以外の個別情報無し