実践Amazon SageMaker - 全体像からユースケースまで

2020/06/26 Developers.IO 2020 Connect Day4のセッション2。
Amazon SageMakerの最新機能を軸に全体像と実際の利用ケースについて発表。

Transcript

1. 実践 Amazon SageMaker
   〜全体像からユースケースまで〜
   データアナリティクス事業本部
   インテグレーション部
   貞松 政史
   

   View Slide

2. 2
   ⾃⼰紹介
   ⽒名
   貞松 政史 (サダマツ マサシ)
   所属
   データアナリティクス事業本部
   インテグレーション部 機械学習チーム
   岡⼭オフィス勤務
   好きなAWSサービス
   SageMaker
   Personalize
   Forecast
   

   View Slide

3. 3
   本セッションのゴール
   Amazon SageMaker ⼤体わかった
   ü SageMaker Studioを軸とした全体像の理解
   ü SageMakerを使うと何が嬉しいか
   ü SageMakerを利⽤したなんとなくの活⽤イメージ
   

   View Slide

4. 4
   本セッションで話さないこと
   × 機械学習とは何ぞや
   × 機械学習アルゴリズムの詳細な解説
   × 全ての関連サービスに関する詳細な解説
   

   View Slide

5. 5
   おしながき
   1. Amazon SageMakerとは
   2. SageMakerの全体像
   1. SageMaker Studioを軸とした全体像
   2. 各サービスの機能とメリット
   3. SageMakerを使⽤した予測
   1. アーキテクチャの例
   2. モデル学習の流れ
   3. 作成されたモデルによる予測
   4. まとめ
   

   View Slide

6. 6
   Amazon SageMakerとは
   1. Amazon SageMakerとは
   2. SageMakerの全体像
   1. SageMaker Studioを軸とした全体像
   2. 各サービスの機能とメリット
   3. SageMakerを使⽤した予測
   1. アーキテクチャの例
   2. モデル学習の流れ
   3. 作成されたモデルによる予測
   4. まとめ
   

   View Slide

7. 7
   Amazon SageMakerとは
   ü 機械学習の完全マネージド型サービス
   ü すべての開発者やデータサイエンティストが対象
   ü 機械学習モデルを迅速に構築、学習、デプロイ
   

   View Slide

8. 8
   機械学習の実⾏における課題
   ü 実⾏環境
   • 学習の為に必要なコンピューティングパワーやストレージ
   • 機械学習モデルの開発環境
   ü 機械学習の前提知識
   • 様々な課題に対する機械学習のアルゴリズム
   ü システムの運⽤
   • 学習済みモデルのデプロイ
   • モデル性能のモニタリングや再学習・再デプロイ
   

   View Slide

9. 9
   SageMakerを使うと何が嬉しいのか︖
   ü マネージドな実⾏環境
   • スケーラブルなインスタンス
   • ホストされたJupyter Notebook上での開発
   ü ⽬的別に⽤意されたビルトインアルゴリズム
   • 分類、予測、レコメンデーションなど
   • コンソール上の操作、Notebookからの呼び出し
   • 既定のデータセットと幾つかのパラメータ設定で即座に利⽤可能
   ü その他サービスとの連携
   

   View Slide

10. 10
    SageMakerの全体像
    1. Amazon SageMakerとは
    2. SageMakerの全体像
    1. SageMaker Studioを軸とした全体像
    2. 各サービスの機能とメリット
    3. SageMakerを使⽤した予測
    1. アーキテクチャの例
    2. モデル学習の流れ
    3. 作成されたモデルによる予測
    4. まとめ
    

    View Slide

11. 11
    これまでのSageMaker (re:Invent 2019以前)
    

    View Slide

12. 12
    これまでのSageMakerの課題
    • 学習途中や学習済みモデルの情報が部分的(ブラックボックス)
    • 有効なアルゴリズムの選別は実装者の知識、経験に依る
    (ハイパーパラメータの⾃動チューニングは存在する)
    • Notebookインスタンスの起動・停⽌の管理とスケーリング
    • 開発から運⽤・保守までのプロセスを集中管理したい
    

    View Slide

13. 13
    現在のSageMakerの全体像
    https://aws.amazon.com/jp/sagemaker/
    

    View Slide

14. 14
    現在のSageMakerの全体像
    re:Invent 2019（2019年12⽉）で発表されたサービス
    

    View Slide

15. 開発環境から運⽤・保守までサポート
    SageMaker Studio
    SageMaker Notebooks
    SageMaker AutoPilot
    SageMaker Debugger
    SageMaker Experiments
    SageMaker Model Monitor
    開発・運⽤・保守
    AutoML
    開発環境・インフラ
    

    View Slide

16. 16
    SageMaker Studio
    

    View Slide

17. 17
    SageMaker Studio
    SageMaker Studio
    Keyword: 統合開発環境(IDE)
    

    View Slide

18. 18
    SageMaker Studioとは
    • SageMaker⽤のWebベースの統合開発環境(IDE)
    • ビジュアルインターフェースによる操作
    • SageMakerによる機械学習の開発プロセスを
    ⼀元的に管理できる
    • データのアップロード
    • 新規ノートブックの作成
    • モデルのトレーニングと調整
    • 結果の可視化
    • モデルのデプロイ など…
    

    View Slide

19. 19
    SageMakerのメリット・デメリット
    • メリット
    • ⼀つの画⾯で関連サービスの恩恵を受けられる
    • デメリット
    • 現状利⽤可能なリージョンが限られる
    (以下の4リージョンのみ)
    • us-east-1 ⽶国東部(オハイオ)
    • us-east-2 ⽶国東部(バージニア北部)
    • us-west-2 ⽶国⻄部(オレゴン)
    • eu-west-1 欧州(アイルランド)
    

    View Slide

20. 20
    SageMaker Notebooks
    

    View Slide

21. 21
    SageMaker Notebooks
    SageMaker Notebooks
    Keyword: スケーラブルなノートブック
    

    View Slide

22. 22
    SageMaker Notebooks
    • Notebookインスタンスの作成が不要に
    • Jupyter Notebookを数秒で利⽤開始
    • リソースのスケーリングが容易
    • 他のユーザーにNotebookの共有が可能
    

    View Slide

23. 23
    SageMaker Autopilot
    

    View Slide

24. 24
    SageMaker Autopilot
    SageMaker Autopilot
    Keyword: AutoML
    

    View Slide

25. 25
    SageMaker Autopilotとは
    • 俗に⾔うAutoML機能
    • 機械学習のプロセスを完全に制御しながら、最適な分類
    および回帰の機械学習モデルを⾃動的に作成
    • トレーニングの追跡、可視化
    

    View Slide

26. 26
    SageMaker Autopilotでできること
    • 適⽤可能な問題
    • 線形回帰
    • バイナリ分類
    • マルチクラス分類
    • ⾃動ハイパーパラメーター最適化
    • 分散トレーニング
    • インスタンスとクラスターの⾃動サイズ選択
    

    View Slide

27. 27
    SageMaker Autopilotのメリット・デメリット
    • メリット
    • 機械学習の前提知識なしで利⽤可能
    • 実⾏される多数のトレーニングを追跡・可視化できる
    • デメリット
    • 全ての問題で使⽤できるわけではない
    • 学習時間がかかる（それに伴って料⾦もかかる）
    

    View Slide

28. 28
    SageMaker Experiments
    

    View Slide

29. 29
    SageMaker Experiments
    SageMaker Experiments
    Keyword: トレーニング結果の保存と追跡
    

    View Slide

30. 30
    SageMaker Experiments
    • 機械学習モデルへの繰り返し処理を調整および追跡
    • 情報を⾃動的に収集 → 実験結果として保存
    • データセット
    • アルゴリズムのバージョン
    • モデルのパラメータ
    など…
    

    View Slide

31. 31
    保存された実験結果
    

    View Slide

32. 32
    SageMaker Debugger
    

    View Slide

33. 33
    SageMaker Debugger
    SageMaker Debugger
    Keyword: メトリックの取得とアラートルール
    

    View Slide

34. 34
    SageMaker Debuggerとは
    • トレーニング中のメトリクスをリアルタイムに取得
    • 評価値
    • 混同⾏列
    • 学習勾配
    

    View Slide

35. 35
    SageMaker Debuggerとは
    • メトリクスに対するルールを設定
    (プリセットのルールも準備されている)
    • 設定されたルールに従ってアラートをあげたり
    学習ジョブを停⽌したりできる
    • 既存コードの修正は不要
    

    View Slide

36. 36
    SageMaker Model Monitor
    

    View Slide

37. 37
    SageMaker Model Monitor
    SageMaker Model Monitor
    Keyword: コンセプトドリフトの検出
    

    View Slide

38. 38
    SageMaker Model Monitor
    • 開発者がコンセプトドリフトを検出し、修復できる
    ようになります
    • デプロイ済みのモデルでコンセプトドリフトを検出
    し、問題の原因を特定するのに役⽴つ詳細なアラー
    トを出します
    

    View Slide

39. 39
    コンセプトドリフトとは
    • デプロイされたモデルの精度に影響を及ぼす可能性のあ
    る⼤きな要因のひとつ
    • 予測の⽣成に使⽤されたデータが、モデルのトレーニングに
    使⽤されたデータと異なるケース
    • これが⽣じると予測を作るためにモデルで使⽤されるデータ
    のパターンが適応できなくなる
    

    View Slide

40. 40
    コンセプトドリフトの例
    COVID-19の影響により、短期的に⼩売のトレンドが変化
    している為に、過去のデータで学習したモデルが正常に機能
    しなくなってしまった
    https://www.technologyreview.com/2020/05/11/1001563/covid-pandemic-
    broken-ai-machine-learning-amazon-retail-fraud-humans-in-the-loop/
    MIT Technology Review
    Our weird behavior during the pandemic is messing with AI models
    

    View Slide

41. 41
    SageMakerを使⽤した予測
    1. Amazon SageMakerとは
    2. SageMakerの全体像
    1. SageMaker Studioを軸とした全体像
    2. 各サービスの機能とメリット
    3. SageMakerを使⽤した予測
    1. ユースケース
    2. モデル学習の流れ
    3. 作成されたモデルによる予測
    4. まとめ
    

    View Slide

42. 42
    ユースケース︓需要予測
    レンタル⾃転⾞の需要予測
    ⽇別のレンタル⾃転⾞の貸出台数実績データ
    平⽇/休⽇、天候などのメタデータ
    

    View Slide

43. 43
    ユースケース︓需要予測
    最終的に出来上がるモデル
    平⽇/休⽇、天候などのメタデータ
    ↓
    学習済みモデル
    ↓
    貸出台数の予測値
    

    View Slide

44. 44
    モデル学習の流れ
    学習データの配置
    学習アルゴリズムの選択
    ハイパーパラメータの設定
    ノートブックの作成
    ⼊出⼒の指定
    データの前処理
    評価・可視化の設定
    学習データの配置 (事前整形済)
    SageMaker Experimentsでモデル作成
    SageMaker Autopilotで作成実⾏
    ⼊出⼒の指定
    柔軟さが必要なモデル開発向け ⼊出⼒の形がハッキリした分類・予測向け
    今回はコチラで
    

    View Slide

45. 45
    AutopilotとExperimentsを使ってモデルを作成
    インプットの設定
    ※ S3バケットのリージョンは
    実⾏するSageMakerと同⼀にすること
    

    View Slide

46. 46
    AutopilotとExperimentsを使ってモデルを作成
    アウトプットの設定
    予測の対象
    対象の問題タイプ
    これで実⾏
    するだけ︕
    

    View Slide

47. 47
    モデル作成の実⾏
    ⾃動的にRegression(回帰)の問題と判定されている
    

    View Slide

48. 48
    ⼤量の学習ジョブが処理される
    

    View Slide

49. 49
    各学習ジョブの詳細も確認できる
    メトリックとか
    実⾏時パラメーターとか
    メトリックの⾃動収集
    ⾃動で設定されている
    • インスタンス
    • ストレージ
    • ハイパーパラメータ
    など…
    

    View Slide

50. 50
    作成されたモデルによる予測
    精度が良かったBestなモデルをデプロイしてみる
    

    View Slide

51. 51
    予測モデルのエンドポイントを作成
    

    View Slide

52. 52
    エンドポイントを呼び出して予測実⾏
    Notebookからエンドポイントを呼び出して予測結果を得てみる
    エンドポイント名
    ⼊⼒パラメーター
    予測台数
    

    View Slide

53. 53
    想定されるアーキテクチャの⼀例
    AWS Lambda
    Amazon Redshift Amazon RDS
    Amazon SageMaker
    Amazon CloudWatch
    Amazon API Gateway
    Amazon Simple Storage
    Service
    Local Computer
    エンドユーザー
    システム管理者
    or or
    etc…
    Endpoint
    Alert
    Model Monitor
    

    View Slide

54. 54
    まとめ
    1. Amazon SageMakerとは
    2. SageMakerの全体像
    1. SageMaker Studioを軸とした全体像
    2. 各サービスの機能とメリット
    3. SageMakerを使⽤した予測
    1. ユースケース
    2. モデル学習の流れ
    3. 作成されたモデルによる予測
    4. まとめ
    

    View Slide

55. 55
    まとめ
    Amazon SageMakerは機械学習の為のフルマネージ
    ドなクラウドサービス
    SageMaker Studioを軸として、各種関連サービスを
    組み合わせることで機械学習システムの構築に必要な機
    能を揃えることができる
    予測の例のように、簡単にモデル学習 → デプロイ
    → コンテンツへの適⽤が可能
    

    View Slide

56. 56
    Let’s get started!
    Amazon SageMakerでHappy ML Life!
    

    View Slide

57. View Slide

58. セッション後はアンケートへのご協力をよろしくお願いします。
    ご回答いただいた方には後日、資料を送付いたします。
    SNS投稿にはこちらをお使いください。
    #devio2020
    イベントのポータルサイトはこちら
    https://classmethod.jp/m/devio_2020_connect/
    ライブセッション録画もこちらから
    視聴できます。
    https://forms.gle/3twz4kFZR4Rwe7KE8
    14:00〜14:45
    「実践 Amazon Sagemaker - 全体像からユースケースまで」
    のアンケートはこちらからお願いします。
    Q&A Q&A
    

    View Slide