Web APIのAWS Lambda移行で工夫したこと

Web APIのAWS Lambda移行で工夫したこと 2024-05-22 アーキテクチャを突き詰める Online Conference https://findy.connpass.com/event/314782/ ENECHANGE株式会社 VPoT兼CTO室マネージャー
岩本隆史

岩本隆史 (iwamot) 現職：ENECHANGE 全社的な技術施策の提案～実行前職：AWS Japan クラウドサポートアソシエイト AWS Community
Builder (2024～) カテゴリ：Cloud Operations

移行の背景

電力使用量予測マイクロサービス https://enechange.jp/try/input

Elastic Beanstalk (Docker) で運用 https://aws.amazon.com/jp/elasticbeanstalk/

全社的なElastic Beanstalk卒業の気運 EOLになるプラットフォームから新しいバージョンへのアップグレードはメジャーバージョンアップになり、既存の環境とは別に新しい環境を作成する必要があります。 https://dev.classmethod.jp/articles/eb-platform-versionup-with-existing-config/

無駄なALBを発見

移行先の検討

EKS? ECS? Lambda?

EKSは学習コストがかかるので除外

APIはエンドポイント1つだけ POST /predict

Lambdaに決定

移行で工夫したこと

コンテナイメージの最適化まず、可能な時はいつでもAWS が提供するベースイメージをコンテナイメージの出発点として使用します。次に、マルチステージビルドを使用して、不要なレイヤやファイルを最終イメージに追加しないようにします。 https://aws.amazon.com/jp/blogs/news/optimizing-lambda-functions-packaged-as- container-images/ ベースイメージを python:slim から
public.ecr.aws/lambda/python に変更最終イメージから機械学習モデルの訓練データを削除

「プロビジョニングされた同時実行」の設定 Lambda が呼び出しを実行するために新しい環境を初期化しなければならない状況は、コールドスタートとして知られています。コールドスタートを緩和するため、プロビジョニングされた同時実行を使用できます。 https://docs.aws.amazon.com/ja_jp/lambda/latest/dg/lambda- concurrency.html#reserved-and-provisioned

「プロビジョニングされた同時実行」の設定使用率が50%を超えたらスケールするようApplication Auto Scalingを設定

可用性とレイテンシの監視 SLOを策定期間：28日間可用性：99.9%以上レイテンシ：正常系レスポンスの95パーセンタイルが0.08秒以下レイテンシ：正常系レスポンスの50パーセンタイルが0.06秒以下エラーバジェットのバーンレート監視を内製ツールで開始

リトライ実装の依頼 Web API パターンのクライアントで行うべきエラーハンドリングの 1 つとしてリトライがあります。リクエスト頻度の制限 (=スロットリング) や、一時的な障害、ネットワーク起因
によるエラーなど一時的なエラーにはリトライで対応します。 https://aws.amazon.com/jp/builders-flash/202307/serverless-error-handling-2/ 開発チームにAPIエラー時のリトライ実装を依頼

移行後

ALBが半減

Lambdaの料金もEC2の半額 $110/月 → $55/月

NAT Gatewayはゼロに EC2削除によりインターネット通信が消滅 $45/月 * 6台のコスト削減

可用性やレイテンシも上々

まとめ

Web APIのAWS Lambda移行で工夫したことコンテナイメージの最適化「プロビジョニングされた同時実行」の設定可用性とレイテンシの監視リトライ実装の依頼

Web APIのAWS Lambda移行で工夫したこと

Web APIのAWS Lambda移行で工夫したこと

iwamot

More Decks by iwamot

Other Decks in Technology

Featured

Transcript