AWS上に構築したマイクロサービスに対する効率的な性能・負荷テストの実行方法

Slide 1

Slide 1 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS上に構築したマイクロサービスに対する効率的な性能・負荷テストの実⾏⽅法平⾕皓倫 D - 5 - 2 アマゾンウェブサービスジャパン合同会社クラウドアプリケーションアーキテクト⼩深⽥翔⼀郎アマゾンウェブサービスジャパン合同会社クラウドアプリケーションアーキテクト

Slide 2

Slide 2 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. スピーカー紹介平⾕皓倫 Akinori Hiratani 所属︓ アマゾンウェブサービスジャパン合同会社プロフェッショナルサービス本部役職︓ クラウドアプリケーションアーキテクト⼩深⽥翔⼀郎 Shoichiro Kobukata 所属︓ アマゾンウェブサービスジャパン合同会社プロフェッショナルサービス本部役職︓ クラウドアプリケーションアーキテクト

Slide 3

Slide 3 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 本セッションで扱う２つのテーマ 1. 性能・負荷テスト 2. マイクロサービス化されたシステムのテスト＜考慮すべき点＞ • テスト環境の構築やテスト実⾏のほか、テスト結果の収集、可視化、管理といった作業に⼯数がかかる • クライアント側のリソースやネットワーク帯域が⼗分でないと期待通りテストできないことがある＜考慮すべき点＞ • システム全体の性能や負荷耐性だけでなく、ボトルネック箇所を特定できる必要がある拠点 AWS マイクロサービスマイクロサービスマイクロサービスマイクロサービステストクライアントマイクロサービスマイクロサービス性能・負荷テストの実⾏イメージ

Slide 4

Slide 4 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. • プロフェッショナルサービスでの過去のお客様⽀援の事例をもとに、 AWS上のマイクロサービスに対して性能・負荷テストを⾏う際のTipsを紹介 • 本セッションで扱うAWSのソリューション／サービス – Distributed Load Testing on AWS – AWS X-Ray 本セッションの内容

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. お客様事例の概要 (1 / 2) • お客様は 10〜15 のマイクロサービスで構成されるWebシステムを構築 • 以下のようなシステム要件に沿って、システム全体の性能・負荷テストを計画 Ø システム応答時間の⽬標値︓1リクエストあたり 1秒未満 ( 注: 業務ごとに値は異なる ) Ø ピーク時のクライアント同時接続数︓10,000 台お客様拠点 AWS サービス1 クライアントサービス2 サービス3 サービス4 サービス5 ... 各サービスは Amazon ECSで構築

Slide 8

Slide 8 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. お客様事例の概要 (2 / 2) • 性能・負荷テストの実施⽅針︓ ü 本番リリースに向けた準備が佳境のため、テスト環境構築は最⼩限の⼯数で実施する ü クライアント側のリソースやネットワーク環境が問題とならないよう、 AWS上にテスト環境を構築して性能・負荷テストを実⾏する ü マイクロサービスでボトルネックとなっている箇所を特定できる仕組みを整備する Distributed Load Testing on AWS を活⽤してAWS上にテスト環境を構築 AWS X-Ray を活⽤してより詳細にテスト結果を分析

Slide 9

Slide 9 text

Slide 10

Slide 10 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. Distributed Load Testing on AWS とは • HTTP または HTTPS のエンドポイントに対して数万の同時接続をシミュレートし、負荷テストを実⾏することが可能なソリューション • AWS CloudFormation で必要なリソースをデプロイ後、 Amazon S3 にてホストされる Webコンソールにアクセスしテストを実⾏する CloudFormation テンプレート AWS

Slide 11

Slide 11 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. Distributed Load Testing on AWS の利⽤⼿順 STEP 1 AWS上に必要リソースをデプロイする STEP 2 Webコンソールにログインする STEP 3 パラメータを指定しテストを実⾏する STEP 4 実⾏結果を確認する

Slide 12

Slide 12 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 利⽤⼿順の詳細 (1 / 4) AWS上に必要リソースをデプロイする Ø ソリューションのWebページから「AWSコンソールで起動する」を実⾏ https://aws.amazon.com/jp/solutions/implement ations/distributed-load-testing-on-aws/ Ø デプロイ時に以下の情報を指定 Ø Webコンソールのユーザー名とメールアドレス Ø デプロイ時のVPC（既存または新規） STEP 1 AWS

Slide 13

Slide 13 text

Slide 14

Slide 14 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 利⽤⼿順の詳細 (3 / 4) パラメータを指定しテストを実⾏する Ø パラメータには接続先エンドポイント、並列実⾏数、テスト時間等を指定可能 Ø Test Typeで「JMeter」を指定すれば JMeter (テストフレームワーク) のシナリオファイルを利⽤可 STEP 3 Apache JMeter https://jmeter.apache.org/

Slide 15

Slide 15 text

Slide 16

Slide 16 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. お客様事例での活⽤ ü 本ソリューションを活⽤して、AWS上に迅速にテスト環境を構築 ü リリーススケジュールに影響を与えずに性能・負荷テストを実施できた AWS Distributed Load Testing on AWS お客様拠点 AWS サービス1 クライアントサービス2 サービス3 サービス4 サービス5 ...

Slide 17

Slide 17 text

Slide 18

Slide 18 text

Slide 19

Slide 19 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS X-Ray の主な機能①︓サービスマップ • 成功した呼び出し • 4xx エラー • 5xx エラー • スロットリングエラー平均レイテンシ (ms) トレース数 (trace/min) サービス名サービスの分類サービスマップ収集したトレースデータを元にサービス間で⾏われているリクエストを可視化

Slide 20

Slide 20 text

Slide 21

Slide 21 text

Slide 22

Slide 22 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 利⽤⼿順の詳細 (1 / 4) アプリケーションコードを修正する Ø 受信リクエスト / 送信リクエストをトレースするための記述が必要 Ø 利⽤する⾔語、フレームワーク、ライブラリに応じてコードを修正 STEP 1 AWS Fargate Application Load Balancer Amazon DynamoDB AWS Fargate 上流側 (Upstream) 下流側 (Downstream) ＜アプリケーションの構成例＞利⽤⾔語フレームワーク ( 受信リクエストで利⽤ ) ライブラリ ( 送信リクエストで利⽤ ) Node.js express axios, aws-sdk それぞれに応じたコードの修正を⾏う受信リクエスト送信リクエスト

Slide 23

Slide 23 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 修正例 (Node.js の例) 受信リクエストをトレースする場合の例 ( 利⽤フレームワーク: express ) const app = express(); const AWSXRay = require('aws-xray-sdk’); app.use(AWSXRay.express.openSegment('MyApp')); app.get('/', function (req, res) { res.render('index'); }); app.use(AWSXRay.express.closeSegment()); const AWSXRay = require('aws-xray-sdk’); AWSXRay.captureHTTPsGlobal(require('http’)); AWSXRay.capturePromise(); const axios = require('axios’); ... 送信リクエストをトレースする場合の例 ( 利⽤ライブラリ: axios ) 参考︓ • https://docs.aws.amazon.com/ja_jp/xray/latest/devguide/xray-instrumenting-your-app.html • https://d1.awsstatic.com/webinars/jp/pdf/services/20200526_BlackBelt_X-Ray.pdf

Slide 24

Slide 24 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 利⽤⼿順の詳細 (2 / 4) 各種AWSサービスでトレースの有効化設定を⾏う Ø サービスごとに設定⽅法が異なる STEP 2 ＜AWSサービスの構成例＞ AWSサービスに応じた有効化設定を⾏うフロントエンド(SPA) BFF バックエンド #1 AWS クライアント AWS Fargate Application Load Balancer Amazon DynamoDB AWS Fargate Amazon Aurora AWS Fargate バックエンド #2 Amazon Aurora AWS Fargate ... AWS Cloud Map お客様拠点

Slide 25

Slide 25 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 設定例 (Amazon ECS の例) • AWS X-Ray デーモンの Docker コンテナをサイドカーとして設定 ... { "name": "xray-daemon", "image": "amazon/aws-xray-daemon", "cpu": 32, "memoryReservation": 256, "portMappings" : [ { "hostPort": 0, "containerPort": 2000, "protocol": "udp" } ], } ... AWS X-Ray API AWS X-Ray デーモンコンテナアプリケーションコンテナ AWS X-Ray SDK Amazon ECS タスクアプリケーションタスク定義内の Container Definition の例

Slide 26

Slide 26 text

Slide 27

Slide 27 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 設定例 (その他のAWSサービス) • その他のAWSサービスの有効化⽅法は AWS X-Ray のドキュメントに記載 https://docs.aws.amazon.com/ja_jp/xray/latest/devguide/xray-services.html

Slide 28

Slide 28 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 利⽤⼿順の詳細 (3 / 4) AWS X-Ray の設定を変更する Ø サンプリングルール等の設定を変更 Ø サンプリングルールはX-Rayトレースデータの記録頻度を制御する設定 → 利⽤料⾦やパフォーマンスに影響 STEP 3 デフォルトのサンプリングルールは以下︓ • 1秒ごとに初回のリクエストは必ずトレース • 初回以降のリクエストは全体の5%のみトレースサンプリングルール設定デフォルトのサンプリングルール例: ヘルスチェック⽤リクエストのトレースを抑制するルール AWS X-Ray の料⾦ https://aws.amazon.com/jp/xray/pricing/

Slide 29

Slide 29 text

Slide 30

Slide 30 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. お客様事例での活⽤ ü AWS X-Ray を利⽤し、性能・負荷テスト実⾏時の応答時間やエラー発⽣有無をより細かい単位で確認し、テスト結果の妥当性を判断 ü サービスのボトルネックとなる箇所を特定しながら分析・デバッグを実施トレースリストサービスマップ AWS X-Ray

Slide 31

Slide 31 text

Slide 32

Slide 32 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. まとめ ü Distributed Load Testing on AWS と AWS X-Ray の活⽤することで、 AWS上のマイクロサービスに対する効率的な性能・負荷テストの実⾏が可能 AWS Distributed Load Testing on AWS お客様拠点 AWS サービス1 クライアントサービス2 サービス3 サービス4 サービス5 ... AWS X-Ray

Slide 33

Slide 33 text

© 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. Thank you! © 2022, Amazon Web Services, Inc. or its affiliates. All rights reserved. 平⾕皓倫 Akinori Hiratani ⼩深⽥翔⼀郎 Shoichiro Kobukata