サーバーレスなマルチテナント管理 / Multi Tenant Serverless

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Slide 3

Slide 3 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. 内容についての注意点 o 本資料では、2020年9月15日現在のサービス内容および価格についてご説明しています。最新の情報はAWS公式ウェブサイト（https://aws.amazon.com）にてご確認ください。 o 資料作成には十分注意しておりますが、資料内の価格とAWS公式ウェブサイト記載の価格に相違があった場合、AWS公式ウェブサイトの価格を優先とさせていただきます。 o 価格は税抜表記となっています。日本居住者のお客様には別途消費税をご請求させていただきます。 o AWS does not offer binding price quotes. AWS pricing is publicly available and is subject to change in accordance with the AWS Customer Agreement available at https://aws.amazon.com/agreement/. Any pricing information included in this document is provided only as an estimate of usage charges for AWS services based on certain information that you have provided. Monthly charges will be based on your actual use of AWS services, and may vary from the estimates provided.

Slide 4

Slide 4 text

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

Slide 13

Slide 13 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 非機能要件をAWSサーバーレスにお任せしてみては？キャッシュ Layer7防御ビジネスロジックアクセスログスロットリングメトリックス認証認可 CICD パイプラインカナリアリリースサービス Amazon Cognito Amazon API Gateway AWS WAF AWS CodePipeline Amazon API Gateway Amazon CloudWatch Amazon API Gateway Amazon CloudWatch

Slide 14

Slide 14 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. これからお話しすること • オンプレミスでサービスを運用されている事業者の方へ • オンプレミスとの接続性の確保の方法 • サービスを公開し、課金を考えている事業者の方へ • Amazon API Gatewayを利用した課金モデルの検討 • 自社SaaSと顧客AWS環境との接続を考えている事業者の方へ • Amazon EventBridgeを利用したSaaS統合の検討

Slide 15

Slide 15 text

Slide 16

Slide 16 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. 業務APIで求められる事 • オンプレミスと連携したい • 通信をインターネット経由にしたくない • レガシーシステムをモダン化したい • 基幹システムへのリクエスト流量を制限したいオンプレミスでこれまでサービスを運営されていた事業者にとってこれらは、チャレンジングな要求なのでしょうか？

Slide 17

Slide 17 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. Amazon API Gatewayのエンドポイントタイプ • エッジロケーションにルーティング(Amazon CloudFrontディストリビューション) • リージョンに直接ルーティング • 同⼀リージョンの場合レイテンシ削減 • インターネットからのアクセスはできず、 VPC内からVPCエンドポイント(PrivateLink)経由でのみアクセス可能 • REST APIの場合３種類のエンドポイントタイプを指定可能 • これらのタイプによってクライアントからのアクセス特性を決定するエッジ最適化リージョンプライベートインターネット公開インターネット非公開インターネット公開

Slide 18

Slide 18 text

Slide 19

Slide 19 text

Slide 20

Slide 20 text

Slide 21

Slide 21 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. AWS PrivateLink • VPC エンドポイントでは、PrivateLink を使用する AWS サービスに VPC からプライベートに接続できます。 • VPC と他のサービス間のトラフィックは、 Amazon ネットワークを離れません。 VPC Endpoint

Slide 22

Slide 22 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. オンプレミスからのアクセス（DX or VPN） API Gateway AWS Lambda DynamoDB AWS Cloud VPC Internet VPC Endpoints エンドポイントタイプ • プライベート Corporate data center 企業内サーバー AWS Direct Connect Or VPN

Slide 23

Slide 23 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. オンプレミスへのアクセス（DX or VPN） API Gateway AWS Lambda AWS Cloud VPC Internet Corporate data center 企業内サーバー AWS Direct Connect Or VPN Elastic network interface VPC接続設定をした AWS Lambda

Slide 24

Slide 24 text

Slide 25

Slide 25 text

Slide 26

Slide 26 text

Slide 27

Slide 27 text

Slide 28

Slide 28 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 流量制限 API Gateway AWS Cloud VPC Internet Network Load Balancer Auto Scaling group EC2インスタンス VPCリンク AWS Lambda 流量制限キャッシュ VPC内のリソースで構築された基幹システム

Slide 29

Slide 29 text

Slide 30

Slide 30 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. マルチテナント vs シングルテナントマルチテナント • 運用コスト効率が高い • インフラと管理が統合されており、コスト効率が良い • アップグレードが簡易 • 何千ものテナントと、ユーザー利用に対して、機能を同時にアップグレード • 可用性の組み込み • 高可用の恩恵がテナントすべてに適用されるシングルテナント • カスタマイズ性が高い • テナントごとにソフトウェアまたはハードウェア構成を自由に変更可能 • 個々のセキュリティ要件、プライバシー要件に応じることができる

Slide 31

Slide 31 text

Slide 32

Slide 32 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. マルチテナントのために必要な要素 • 課金モデル • Requestのテナント識別 • テナント単位のAPI利用の許可、拒否の決定 • テナント単位のQuota, Throttling設定 • 開発者向けAPIの公開方法(第三者にAPIを公開し利用出来るようにする) • APIを提供された開発者が確認したいもの • Payloadの確認（HTTP Body等） • 実行してみたい（curl実行） • Swaggerの確認（OpenAPI形式で管理したい）

Slide 33

Slide 33 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 課金モデル • 従量課金(pay as you go) • 10回リクエストしたら$, 1000回りクエストしたら$$$など • 使用量プランのget usageで取得可能 • 料金プラン課金 • リクエスト数での課金ではなく、あらかじめテナントごとに Rate/Burstを割り当て、これを超える利用はThrottlingさせる。 • これから始めるサービスならまずは、スタンダード/ プレミアムなどの、テナント契約方式をとり、API Keyを割り振る方がスモールスタートとなる • その他の課金体系 • オンプレミスで課金していた場合で、そのままの体系を持ち込みたい場合は作り込みが必要

Slide 34

Slide 34 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 使用量プラン使用量プランについて • 閾値を超えるとHTTPステータスコード429(Too Many Requests)エラー • リトライ実装はAPIクライアント開発者の責務 (or クライアントSDKを利用) • Rate/BurstによるThrottling設定が可能 • Quota(呼び出し回数制限)の設定が可能 (日/週/月あたりのリクエスト回数) • 使用量プランについての制限 2020/09/16時点 ※ThrottlingとQuota制限は、使用プランのすべての API ステージについて集約される個々の API キーのリクエストに適用されます

Slide 35

Slide 35 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 使用量プランとThrottlingの関係 EC2上のエンドポイント AWS Lambda AWSサービスインターネットリソース API Gateway 使用量プランThrottling設定 (任意) サーバー側Throttling設定メソッド x RESTリソース API x ステージアカウント x リージョン API x ステージ (default) Rate: 10000rps Burst 5000req Rate: ( ) rps Burst ( ) req 緩和可能 Rate: ( ) rps Burst ( ) req Rate: ( ) rps Burst ( ) req 使用量プランを設定したリクエスト使用量プランを設定していないリクエスト Quota 呼び出し回数制限 ※ThrottlingとQuota制限は、使用プランのすべての API ステージについて集約される個々の API キーのリクエストに適用されます x-api-key: A x-api-key: B x-api-key: C

Slide 36

Slide 36 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 使用量プランとAPI Keyの関係 EC2上のエンドポイント AWS Lambda AWSサービスインターネットリソース API Gateway 使用量プランプレミアム使用量プランスタンダード Rate: ( 1000 ) rps Burst ( 500 ) req Quota Throttoling 100,000 / day Rate: ( 10 ) rps Burst ( 5 ) req Quota Throttoling 1,000 / day プレミアムを設定したリクエスト x-api-key: A x-api-key: B x-api-key: C x-api-key: X x-api-key: Y スタンダードを設定したリクエスト例) 顧客ごとに API Keyを払い出す ※ThrottlingとQuota制限は、使用プランのすべての API ステージについて集約される個々の API キーのリクエストに適用されます

Slide 37

Slide 37 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. 課金モデル (Pay as you go = 従量課金) aws apigateway get-usage \ --usage-plan-id 0qrdhs \ --key-id tn3gh64l3b \ --start-date "2020-08-01" \ --end-date "2020-08-31" \ --no-paginate 使用実績の確認 ( CLI ) { "usagePlanId": "0qrdhs", "startDate": "2020-08-01", "endDate": "2020-10-01", "items": { "tn3gh64l3b": [ [0, 100], [0, 100], (snipped) [10, 90], [80, 20], [80, 20] ] } } API Key単位 Dailyの使用量グラフ [Dailyの使用量, Dailyの残量] 使用実績の確認 ( Management Console) ※直近の最長90日までの実績が取得可能

Slide 38

Slide 38 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. API KeyごとにQuota拡張できる例) 月単位でQuotaを設定し払い出した API Keyを利用している顧客が、当月の使用量を使い果たした場合など • => ビジネスによっては追加費用を払えば、月内の利用Quotaを確保するオプションを設置することもできる

Slide 39

Slide 39 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. 課金モデル (料金プラン課金) • SlackやChatWorkのように、基本（初期利用）は無料でサービスを提供して、サービスの認知やサービスの機能向上を行う（フィードバックを得る） • さらなる機能利用に対しては、有料プランに誘導する（フリーミアム）使用量プランプレミアム使用量プランスタンダード Free! ￥1,600/月 API Keys API Keys サービス利用者 ※単一のAPI Keyで複数のAPI販売に利用できます。例 )

Slide 40

Slide 40 text

Slide 41

Slide 41 text

Slide 42

Slide 42 text

Slide 43

Slide 43 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. Requestのテナント識別 • API Keyを利用 (合わせて使用量プランも） • テナントごとにAPI Keyを払い出し • ClientからのRequest Headerに API Keyを指定 • API Key指定のないものは 403 Forbidden • テナント単位のAPI利用の許可、拒否の決定 • テナント単位のQuota, Throttling設定 curl -i -H 'x-api-key: maJHlflY6haJPFfw0wr077nWtFVXQdt22KdKILYz’ \ https://xxxxxxxx.execute-api.ap-northeast-1.amazonaws.com/dev/helloworld

Slide 44

Slide 44 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. 開発者向けAPIの公開方法 API販売後に、API利用をする開発者からよくあるニーズ • 第三者にAPIを公開し利用出来るようにする • どのようにAPIを周知するか • APIに対する質問の回答 • 試しに実行したい – Payload, Headerを確認したい開発者向けにはAPI Gateway Developer Portalを使うのは？

Slide 45

Slide 45 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. API Gateway Developer Portal API Gateway Developer Portal自体は、API Gateway / Lambda / Cognito / DynamoDB / S3 /CloudFront 等で構成されたサーバーレスアプリケーション。 Apache 2.0ライセンスなのでカスタマイズして独自仕様に対応もできる。 https://github.com/awslabs/aws-api-gateway-developer-portal

Slide 46

Slide 46 text

Slide 47

Slide 47 text

Slide 48

Slide 48 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. Developer Portalでなにができるのか管理者専用のUI画面からAPI Gatewayで管理されているAPIを公開 OpenAPIの定義ファイル(JSON,YAML)をアップロード • API Gatewayで管理されていないAPIも公開可能 • API を利用する開発者向け情報を提供可能お試し環境 • https://developer.exampleapigateway.com/ • user: nancy • pass: nancy1234567 – サインアップしてご利用にもなれます

Slide 49

Slide 49 text

Slide 50

Slide 50 text

Slide 51

Slide 51 text

© 2020, Amazon Web Services, Inc. or its Aﬃliates. All rights reserved. SaaSプロバイダーと顧客のAWS環境をつなぎたい Push型連携 • ポーリング • Webhook Pull型連携 • 必要に応じて API をコール • レスポンスで情報を取得 SaaS利用者 SaaS事業者リージョン VPC VPC PrivateLink Endpoints AWS PrivateLink NLB

Slide 52

Slide 52 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. SaaSプロバイダーと顧客のAWS環境をつなぎたい Push型連携 • ポーリング • Webhook → Client側の作業が必要 • ポーリングやWebhook用にサーバーが必要 • 冗長化設計の考慮も必要 Pull型連携 • 必要に応じて API をコール • レスポンスで情報を取得 SaaS利用者 SaaS事業者リージョン VPC VPC PrivateLink Endpoints AWS PrivateLink NLB 今日はこっちの話しをします

Slide 53

Slide 53 text

Slide 54

Slide 54 text

Slide 55

Slide 55 text

Slide 56

Slide 56 text

Slide 57

Slide 57 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Amazon EventBridge AWSサービス、SaaSプロバイダのためのサーバーレス型のイベントバス • 1:1 の連携（スパゲティ化）を削減 • AWSおよびSaaSアプリケーション間の連携を簡素化 • シンプルなプログラミングモデル • 完全マネージド: 利用分だけの課金

Slide 58

Slide 58 text

Slide 59

Slide 59 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. メリット SaaS パートナー • イベント出力側は利用料不要 • SaaS拡張に対する標準化された手段を提供することで、利用者/パートナーの実装時間を短縮化 • AWSアカウント間での連携で認証作業を簡素化し、セキュリティの責任から解放 • グローバルにビジビリティを強化可能利用者側 • 認証やwebhook設定のような作業をせずにSaaSからのイベントをセキュアかつスケーラブルに受信 • 簡単にAWSサービスと連携 • イベント受信のためのサーバーの準備/構成/管理が不要 • さまざまなSaaSとの連携を可視化し、1:1 連携の増加 • （スパゲティ化）を回避

Slide 60

Slide 60 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. イベントバス EventBridgeはイベントバスでイベントを受け取る。デフォルト AWSサービスカスタム独⾃のアプリケーションパートナー SaaS Amazon Simple Storage Service (S3) Amazon Elastic Compute Cloud (EC2) Amazon EventBridge Application 1 Application 2 Amazon EventBridge Amazon EventBridge

Slide 61

Slide 61 text

Slide 62

Slide 62 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. 日本でも始まる、EventBridge 対応パートナーウェブサイトやモバイルアプリを利用する個々の顧客にあわせた体験を提供する CX プラットフォーム。 EventBridge 統合機能を使用することで、顧客行動イベントを AWS のサービスに送信して、BI、分析、機械学習などに活用可能。運用中のクラウドやオンプレミスのサーバーにエージェントを 1つ入れるだけで、簡単にサーバー管理できる運用監視サービス。 Mackerel によるモニタリングで検出したイベントをトリガーに EventBridge を経由して AWS 上でさまざまなアクションを実行。初期費用・運用費用なしで、サーバーアクセス 1回あたり 0.02円で使用できるゲームサーバー機能を提供。 EventBridge を使うことで、ゲームイベント（クエストのクリア/ レベルアップ）と連携したアクションを追加拡張できます。

Slide 63

Slide 63 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. マネジメントコンソールへの反映この情報がマネジメントコンソールから参照可能になります。 • 会社情報 • ロゴ（SVG） • 統合機能の紹介記述 • アーキテクチャ図（オプション） • ユースケース紹介 • 補足情報（必要に応じて） • イベントタイプカタログ • サンプルのイベントカタログ

Slide 64

Slide 64 text

Slide 65

Slide 65 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ユースケース: リスク回避型 • セキュリティインシデント → インシデント情報の速報を通知 → 不正ログイン時に関連システムへのアクセスの一時停止を処理 → 自動オペレーションにより、重要なシステムへのアクセスを遮断 • カスタマーサービスチケット → SaaS外のシステムから顧客に関連する情報を収集して表示 → 機械学習で過去の類似チケットとその対処を提示 → サービス実装チームのIssueダッシュボードへ連携 • 金融取引イベント → 不正取引検知システムの検知イベントから各種アクションへ連動 • サービス監視 → 負荷の増加傾向からスケーリング準備やスロットリング設定を実施 → サービス監視に起因する様々なオペレーションの自動化

Slide 66

Slide 66 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. ユースケース: 状況変化へのアクション • チャットアクション → AWSサービスと連動するチャットボットを実装 → チャットを通じて注文処理のワークフローをトリガー • 顧客ステート変更 → 顧客データの変更（連絡先・メールアドレス変更）を周辺システムに伝播 → CRM オポチュニティがWonになったら請求処理へ連動 • 従業員の入社/退社 → ディレクトリ情報の変更、関連システムへのプロビジョニング → 退社社員への情報漏洩防止のためのアクセス遮断 or アクセス追跡 • 注文/請求処理からの連動 → リアルタイムの取引状況から顧客ステートを変更（例: ロイヤリティプログラムへの即時反映）

Slide 67

Slide 67 text

Slide 68

Slide 68 text

Slide 69

Slide 69 text

Slide 70

Slide 70 text

Slide 71

Slide 71 text

Slide 72

Slide 72 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. まとめ • サーバーレスとオンプレミスは排他的ではなく、共存共栄できる。 • サーバーレスの便利な機能を利用してオンプレミスの手助けをする。 • API Gatewayを上手に使って、マルチテナント課金モデルを構築可能、さらに、サービス公開までの作業を軽減し、スモールスタートできる。 • EventBridgeを利用することで、SaaSとAWSサービスとのシームレスな連携が可能になりました。 • EventBridgeは連携可能なSaaSパートナーを募集しています。

Slide 73

Slide 73 text

Slide 74

Slide 74 text

Slide 75

Slide 75 text

Slide 76

Slide 76 text

© 2020, Amazon Web Services, Inc. or its Affiliates. All rights reserved. モダナイゼーション (リアーキテクチャ) キャパシティ – コストモデルオペレーショナル – 開発モデルオンプレミスクラウド “レガシー” アーキテクチャモダンアーキテクチャ AWS EC2 AWS ECS AWS FARGATE AWS EKS コンテナ AWS ECS AWS FARGATE AWS EKS Serverless オンプレミスサーバー AWS Lambda