スケジュール指定のFargate Spotと友達になれた話

Transcript

1. スケジュール指定のFargate Spot と友達になれた話 2024/3/7 JAWS-UG コンテナ⽀部 #26 新春⼤LT祭り 🍞 荒⽊ 🍞
2. 0 1 2 3 4 5 AWS好き Terraform好き 優しさ 勇気 トーク
3. なぜFargate Spotと 友達になろうとしているか
4. • • • • アジアパシフィック （東京） Fargate Fargate Spot 割引率 1 時間あたりの vCPU 単位 0.05056 USD 0.015168 USD 70% 1 時間あたりの GB 単位 0.00553 USD 0.001659 USD 70%
5. • • 項⽬ 説明 capacity_providers FARGATE or FARGATE_SPOT を指定 base 最⼩実⾏タスク数 weight タスク数⽐率
6. • • • • • • •
7. • • • • •
8. • 本番環境で常時Fargate Spotを使いたい • ただリスクがあるので、アクセスが減る夜間帯であれば安⼼して使えるかも しれない • そのためスケジュール指定のFargate Spotの適⽤ができるか検証したい • •
9. • resource "aws_ecs_service" "service" { name = "hoge" cluster = aws_ecs_cluster.cluster.id desired_count = 2 - launch_type = "FARGATE" platform_version = "1.4.0" enable_execute_command = true + capacity_provider_strategy { + capacity_provider = "FARGATE" + base = 1 + weight = 0 + } + + capacity_provider_strategy { + capacity_provider = "FARGATE_SPOT" + base = 0 + weight = 1 + } + ・・・略 Terraform will perform the following actions: # aws_ecs_service.service must be replaced -/+ resource "aws_ecs_service" "service" { 〜 略 ~ launch_type = "FARGATE" -> (known after apply) + capacity_provider_strategy { # forces replacement + base = 0 + capacity_provider = "FARGATE_SPOT" + weight = 1 } + capacity_provider_strategy { # forces replacement + base = 1 + capacity_provider = "FARGATE" + weight = 0 } 〜 略 } terrafor plan
10. • aws ecs update-service ¥ --capacity-provider-strategy capacityProvider=FARGATE,base=1,weight=0 capacityProvider=FARGATE_SPOT,base=0,weight=1 ¥ --cluster example-ecs-cluster ¥ --service example-ecs-service ¥ --force-new-deployment resource "aws_ecs_service" "service" { name = "hoge" cluster = aws_ecs_cluster.cluster.id desired_count = 2 - launch_type = "FARGATE" platform_version = "1.4.0" enable_execute_command = true + capacity_provider_strategy { + capacity_provider = "FARGATE" + base = 1 + weight = 0 + } + + capacity_provider_strategy { + capacity_provider = "FARGATE_SPOT" + base = 0 + weight = 1 + } + ・・・略 } No changes. Your infrastructure matches the configuration. Terraform has compared your real infrastructure against your configuration and found no differences, so no changes are needed. terrafor plan
11. というのを サンドボックス環境で検証できたので いざ開発環境で実⾏︕
12. ❯ aws ecs update-service ¥ --capacity-provider-strategy capacityProvider=FARGATE,base=1,weight=0 capacityProvider=FARGATE_SPOT,base=0,weight=1 ¥ --cluster xxx-clusster ¥ --service xxx-service ¥ --force-new-deployment
13. ❯ aws ecs update-service ¥ --capacity-provider-strategy capacityProvider=FARGATE,base=1,weight=0 capacityProvider=FARGATE_SPOT,base=0,weight=1 ¥ --cluster xxx-clusster ¥ --service xxx-service ¥ --force-new-deployment An error occurred (InvalidParameterException) when calling the UpdateService operation: Cannot force a new deployment on services with a CODE_DEPLOY deployment controller. Use AWS CodeDeploy to trigger a new deployment. ︕︕︖︖
14. • • • • • •
15. ❯ aws deploy create-deployment ¥ --application-name xxx ¥ --deployment-group-name yyy ¥ --revision '{"revisionType": "AppSpecContent", "appSpecContent": {"content": "{¥"version¥": 0.0, ¥"Resources¥": [{¥"TargetService¥": {¥"Type¥": ¥"AWS::ECS::Service¥", ¥"Properties¥": {¥"TaskDefinition¥": ¥"arn:aws:ecs:ap-northeast-1:123456789012:task-definition/xxx¥", ¥"LoadBalancerInfo¥": {¥"ContainerName¥": ¥"example-api¥", ¥"ContainerPort¥": 8080},¥"CapacityProviderStrategy¥": [{¥"Base¥":0,¥"CapacityProvider¥":¥"FARGATE_SPOT¥",¥"Weight¥":1},{¥"Base¥":0,¥"CapacityProvider¥":¥"FARGATE¥",¥"Weight¥":0}]}}}]} "}}'
16. ❯ aws deploy create-deployment ¥ --application-name xxx ¥ --deployment-group-name yyy ¥ --revision '{"revisionType": "AppSpecContent", "appSpecContent": {"content": "{¥"version¥": 0.0, ¥"Resources¥": [{¥"TargetService¥": {¥"Type¥": ¥"AWS::ECS::Service¥", ¥"Properties¥": {¥"TaskDefinition¥": ¥"arn:aws:ecs:ap-northeast-1:123456789012:task-definition/xxx¥", ¥"LoadBalancerInfo¥": {¥"ContainerName¥": ¥"example-api¥", ¥"ContainerPort¥": 8080},¥"CapacityProviderStrategy¥": [{¥"Base¥":0,¥"CapacityProvider¥":¥"FARGATE_SPOT¥",¥"Weight¥":1},{¥"Base¥":0,¥"CapacityProvider¥":¥"FARGATE¥",¥"Weight¥":0}]}}}]} "}}’ { "deploymentId": "d-WA876T2Y1" } Success!
17. resource "aws_ecs_service" "service" { name = "hoge" cluster = aws_ecs_cluster.cluster.id desired_count = 2 - launch_type = "FARGATE" platform_version = "1.4.0" enable_execute_command = true + capacity_provider_strategy { + capacity_provider = "FARGATE" + base = 1 + weight = 0 + } + + capacity_provider_strategy { + capacity_provider = "FARGATE_SPOT" + base = 0 + weight = 1 + } + ・・・略 } No changes. Your infrastructure matches the configuration. Terraform has compared your real infrastructure against your configuration and found no differences, so no changes are needed. terrafor plan •
18. ただこれを数⼗個あるAPI x 複数環境 などに適⽤していくのはしんどいぞ︖
19. そうだ、CodeDeployを使っている アプリケーションリポジトリには AppSpec.yamlがあるぞ︕
20. version: 0.0 Resources: - TargetService: Type: AWS::ECS::Service Properties: TaskDefinition: '<TASK_DEFINITION>' PlatformVersion: '1.4.0' LoadBalancerInfo: ContainerName: 'xxxxxx' ContainerPort: yyyy version: 0.0 Resources: - TargetService: Type: AWS::ECS::Service Properties: TaskDefinition: '<TASK_DEFINITION>' PlatformVersion: '14.0' LoadBalancerInfo: ContainerName: 'xxxxxx' ContainerPort: yyyy CapacityProviderStrategy: - Base: 1 CapacityProvider: 'FARGATE' Weight: 0 - Base: 0 CapacityProvider: 'FARGATE_SPOT' Weight: 1
21. • • AWS Fargate Spot タスクで Spot 終了通知を処理するにはどうすればよいですか? • > Fargate Spot の中断によりタスクが停⽌した場合、stopCode は SpotInterruption として⾔ 及されることに注意してください。 • • •
23. • • • 項⽬ 結果 Fargate Spotの稼働時間割合 99.992% 落ちた回数 106回 MTBF(平均故障間隔) 約9⽇ MTTR(平均復旧時間) 1分
24. • • まさにこれから本番環境でやろうとしています To Be Continued・・・︕
25. 完
26. • 本番環境で常時Fargate Spotを使いたい • • • 開発環境で落ちる頻度を確認しておきたい • 既存のFargateをFargate Spotにして確認する
27. • • • • • •
28. • • • •
29. Terraform will perform the following actions: # aws_ecs_service.service must be replaced -/+ resource "aws_ecs_service" "service" { 〜 略 ~ launch_type = "FARGATE" -> (known after apply) + capacity_provider_strategy { # forces replacement + base = 0 + capacity_provider = "FARGATE_SPOT" + weight = 1 } + capacity_provider_strategy { # forces replacement + base = 1 + capacity_provider = "FARGATE" + weight = 0 } 〜 略 } Plan: 1 to add, 0 to change, 1 to destroy. •
30. • • resource "aws_ecs_service" "this" { ・・・略 lifecycle { ignore_changes = [ launch_type, capacity_provider_strategy ] } } • No changes. Your infrastructure matches the configuration. Terraform has compared your real infrastructure against your configuration and found no differences, so no changes are needed.
31. という検証ができ 友達になれました
32. • • 構成概要 • EventBridge スケジューラーからECSサービスを更新する • 200以上のAWSサービスをターゲットにできるので夢が広がる • スケジュール指定はcron式とrate式で設定できる • 夜間だけ適⽤したいので、開始と終了のスケジュール設定する
33. • このときもECSサービスのデプロイメントコントローラが「ECS」で検証していた そのため実際には「CODE_DEPLOY」を考慮しなければならない
34. • • デプロイメントコントローラーの「ECS」との違い • EventBridge スケジューラーからCreateDeploymentを⽤いてECSサービ スを更新する
35. ペイロードはAppSpec.yamlと 同じような設定となる
36. こちらも本番環境でやろうとしています To Be Continued・・・︕
37. もはやFargate Spotとは友達以上の関係
38. • Fargate Spotは使える場⾯があるなら積極的に使っていきたい • （作戦 ガンガンいこうぜ︕） • Fargate Spotのリスクを許容しづらいときは夜間などに絞って利⽤ できないか探る • （作戦 いのちをだいじに︕） • ECSサービスのデプロイメントコントローラによって Fargate Spotの適⽤⽅法が異なるので注意 • ECS / CODE_DEPLOY
39. Fargate Spotと パートナーになろうとしている話 ご清聴ありがとうございました