ALB+Lambdaを活用した既存システムのMicroservice化

2019年10月21日（月）に開催されたDevLOVE様主催のイベント「諸君、私はServerlessが好きだ。」にて発表した資料です。

1. ALB + Lambda を活⽤した 既存システムのMicroservice化 Katsuhide Kayashima
2. •萱島 克英 •担当 •Cloud Migration •全社的な改善業務 •好きな技術 •ECS、EKS、GKE、Spinnaker ⾃⼰紹介
3. 今⽇お話すること ALB Lambda と を使って モノリスな既存システム を Microservice化 しようとしているお話
4. •ALB + Lambda を選択した背景 •デプロイフロー •改善ポイント (期待値込み) •監視周り Agenda + = ?
5. Keynote Presentation ALB + Lambdaを選択した背景
6. •コンシューマ向けサービスの⼤半をAWS、GCPで運⽤ •アプリケーションはContainer化されており、ECS、EKS、GKE で運⽤ •Serverless の利⽤実績は少ない状況 NAVITIMEのバックエンド
7. 既存の地図データ配信フロー Service A Service B 地図配信 Service Users ALB ALB ALB ECS ECS ECS (共通API)
8. 既存フローの問題点 Service A Service B 地図配信 Service ALB ALB ALB ECS ECS ECS •ServiceA とServiceB はリクエストを Proxingしているだけ •地図配信リクエスト数は全体リクエストの 約6割 (共通API) Users
9. 既存フローの問題点 Service A Service B 地図配信 Service ALB ALB ALB ECS ECS ECS •ServiceB には多数の 共通API が稼働 = モノリシック •EC2リソースをアクセスに合わせて無駄なく増減させるのは難しい  →無駄に起動しているEC2リソースが多少なり存在 Users (共通API)
10. これを ALB + Lambdaで剥がしたい
11. •ALB のバックエンドに Lambda が選択可能に！ (Re:invent 2018) 良いタイミングで - その１
12. •VPC内の Lambdaに対する ENIのアタッチスピードが⼤幅に向上 ! 良いタイミングで - その2
13. Lambda導⼊後のフロー Service A Service B 地図配信 Service ALB ALB ALB ECS ECS ECS (共通API) Users Lambda
14. •無駄なコンピューティングリソースの削減 •モノリスなシステムから地図リクエストが剥がされることによる耐障 害性向上 •既存ECSインスタンスのスケール戦略が楽に ALB + Lambda構成に期待している事
15. Elite Slides Keynote Presentation Deploy & Improvement
16. Deploy 地図配信 Service Jenkins ALB ECS Alarm Topic AWS CloudFormation •CloudformationでLambda、ALB Targetgroup、Alarm、Topicを作成 •aws-sam-cli で作成したtemplate をベースに必要なリソースをappend
17. デプロイ 地図配信 Service Jenkins ALB ECS Alarm Topic AWS CloudFormation •Cloudformation の Template は１つ、アプリ毎に変動する部分だけ Parameterファイル化 Deploy Template.yaml アプリA⽤パラメータファイル ＋ アプリB⽤パラメータファイル アプリC⽤パラメータファイル
18. Failover Service A Service B 地図配信 Service ALB ALB ALB ECS ECS ECS (共通API) Users Lambda Cloudformation の Stackを削除する事で、既存のルーティングに切り戻す
19. •API毎に 同時実⾏数の上限値 を設定 •上限値を超えた分は 502 がすぐに返却 改善ポイント API毎に Lambda を分けた事により、予期せぬ⼤量アクセスがあった場合でも バックエンドシステムの輻輳が起きにくくなる
20. Elite Slides Keynote Presentation 監視
21. Cloudwatch Prometheus & Grafana Datadog 監視ツール Lambda → Cloudwatchとのインテグレーションで簡単に監視できそう
22. 実施した監視項⽬ 項⽬ 監視の⽬的 Errors • Lambda⾃体でエラーが発⽣していないか？ • 例)Memory超過、Timeout Application Errors • アプリケーションでエラーが発⽣していないか？ • 例)Upstreamからエラーが返却された • 例)Runtime Error Throttle Errors • 同時実⾏数の上限を超えていないか？ Healthy Host Count • ALB → Lambdaのヘルスチェックが200で返っているか？
23. ご清聴ありがとうございました！