機械学習エンジニアのための新サービス/DeepLens & SageMaker

re:Invent2017 で発表された新サービスについて JAWS-UG AI 支部で LT しました

Transcript

1. 機械学習エンジニアのための新サービス
   DeepLens & SageMaker
   JAWS-UG AI #6 @ Dec 14, 2017
   Ryo NAKAMARU, SUPINF Inc. / Rescale, Inc.
   

   View Slide

2. Amazon SageMaker
   

   View Slide

3. View Slide

4. SageMaker
   4
   設計 学習 デプロイ
   • ワンクリック起動
   Jupyter notebook
   • プリセットされた
   機械学習アルゴリ
   ズム群
   ▶ ▶
   • ジョブを定義し　　
   学習開始
   • 並列分散学習
   • ハイパーパラメタ　
   最適化
   • シンプルな API で　　
   モデルをデプロイ
   • フルマネージドな
   推論エンドポイント
   の提供
   

   View Slide

5. SageMaker
   • 一部機能だけの利用も OK
   ‣ 設計＋学習機能だけ使う
   ‣ 推論エンドポイントだけ使う etc..
   • 抽象度の高い SageMaker API
   • Docker を使えば学習・推論のカスタマイズも
   5
   

   View Slide

6. SageMaker API
   6
   • 学習
   from sagemaker import KMeans
   kmeans = KMeans(k=10,
   data_location=s3_data_location,
   output_path=s3_output_location,
   train_instance_type='ml.c4.8xlarge',
   train_instance_count=4,
   role=execution_iam_role)
   kmeans.fit(kmeans.record_set(train_set[0]))
   

   View Slide

7. SageMaker API
   • デプロイ
   7
   predictor = kmeans.deploy(instance_type='ml.m4.xlarge',
   initial_instance_count=1)
   

   View Slide

8. SageMaker API
   8
   • 推論
   result = predictor.predict(valid_set[0][0:100])
   

   View Slide

9. SageMaker inference bot
   9
   

   View Slide

10. AWS DeepLens
    

    View Slide

11. View Slide

12. DeepLens での推論
    12
    DeepLens
    raw data
    Local
    動画生データ
    

    View Slide

13. DeepLens での推論
    13
    DeepLens
    raw data
    Local
    results
    Greengrass
    Inference with
    推論
    

    View Slide

14. DeepLens での推論
    14
    DeepLens
    raw data
    Local
    results
    AWS
    Greengrass
    IoT Rule Lambda
    Inference with MQTT
    「ホットドック
    があったよ」
    

    View Slide

15. DeepLens へのデプロイ
    15
    DeepLens AWS
    SageMaker
    Trained
    by
    EC2
    Model
    学習
    

    View Slide

16. DeepLens へのデプロイ
    16
    DeepLens AWS
    DeepLens SageMaker
    a project
    Model
    Model
    モデルを　　
    インポート
    

    View Slide

17. DeepLens へのデプロイ
    17
    DeepLens AWS
    DeepLens
    a project
    Model
    推論 & AWS IoT
    連携の実装
    

    View Slide

18. DeepLens へのデプロイ
    18
    DeepLens AWS
    Greengrass
    Inference with
    DeepLens
    a project
    Model
    デプローイ
    

    View Slide

19. DeepLens
    • 開発者向けデバイス
    ‣ 動画を使う深層学習をローカルで手軽に回せる
    ‣ デバイスへのデプロイもとても簡単！
    • HD ビデオ & 秒間 10 億回の浮動小数点数演算能力
    • 249 USD で予約受付中（Amazon.com）
    19
    

    View Slide

20. 中丸 良 @pottava
    • AWS Certified Solutions Architect, DevOps Engineer - Professional
    • CTO at SUPINF Inc
    • Solutions Architect at Rescale, Inc.
    Profile
    20
    

    View Slide

21. Containerize your app!
    21
    • クラウド / コンテナ を強みにした受託開発運用、コンサルティング
    • 2015 年から Docker の本番運用を開始・豊富な CI / CD 事例
    • スピンフ、と読みます・・
    

    View Slide

22. Cloud HPC with
    22
    • クラウド HPC シミュレーションプラットフォームの提供
    • 2011 年初頭に設立、Peter Thiel や Microsoft から出資
    • スケーラブルなシミュレーションや機械学習を！
    

    View Slide

23. ご静聴ありがとうございました :)
    参考文献：
    • AWS re:Invent 2017: Introducing Amazon SageMaker (MCL365)
    https://www.youtube.com/watch?v=4pbXdsjZx_k
    • Amazon SageMaker – 機械学習を加速する | Amazon Web Services
    ブログ https://aws.amazon.com/jp/blogs/news/amazon-sagemaker/
    • Extend AWS DeepLens to Send SMS Notifications with AWS
    Lambda | AWS AI Blog https://aws.amazon.com/jp/blogs/ai/extend-
    aws-deeplens-to-send-sms-notifications-with-aws-lambda/
    

    View Slide