re:Invent 2024 re:Cap コンピューティング＆コンテナ 宇宙最速のランチRecap LT会 2024/12/9

● y-ohgi ○ 株式会社topotal ■ SRE ○ JAWS-UG 東京支部 ○ X: @_y_ohgi ● Like ○ Container, TypeScript, Next.js, nail だれ

● EC2 ● ECS ● EKS Elastic Compute Cloud おはなしすること

I8g インスタンス ● ストレージ最適化インスタンス ● AWS Nitro SSD ( NVMe ) ● Graviton4プロセッサ ● 前世代I4gインスタンスと比較して60％の性能向上 ● 対応リージョン ○ バージニア北部・オレゴン EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-i8g-instances/

I7ie インスタンス ● ストレージ最適化インスタンス ● AWS Nitro SSD ( NVMe ) ● 対応リージョン ○ バージニア北部・オハイオ・オレゴン・フランクフルト・ロンドン・東京 EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-next-generation-high-density-storage-optimized-i7ie-instances/

P5en インスタンス ● HPC向けGPUインスタンスタイプ ● NVIDIA H200 Tensor Core GPU搭載 ● メモリを大量に消費する大規模モデルのトレーニング・デプロイ用途 ● P5との比較 ○ 1.7倍のGPUメモリサイズ ○ 1.5倍のメモリ帯域幅 ○ ローカルストレージのパフォーマンスが最大 2倍 ● 対応リージョン ○ オハイオ・オレゴン・東京・アトランタ EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-p5en-instances-generative-ai-hpc-generally-available/

● Trn2インスタンスが GA ● 生成AIトレーニング向けインスタンス ● AWS Trainium2を搭載 ○ 生成AI専用に設計されたチップ ● 対応リージョン ○ オハイオ（要リクエスト） ● Trn2 UltraServer（preview） ○ EC2 UltraClusterを使用し4台のTrn2インスタンスを1つのノードとして扱う ○ Trn2が16個のTrainium2を搭載に対して、UltraServerは64個搭載 Trn2 インスタンス EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-trn2-instances-available/

Allow AMI ● AMIのガバナンス新追加 ● 使用可能なAMIの制限を設定可能に。 ○ AWS Organizations全体に適用可能 ● 今までは出所や信頼性が不明なAMIを自由に使えていたためガードレール的な機能 EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-ec2-allowed-amis-enhance-ami-governance/

Image BuilderとMarketplaceの統合 ● Image BuilderのパイプラインにMarketplaceのコンポーネントが追加可能に。 ● Marketplaceで提供されるためセットアップが楽に。 ● 現在追加可能なコンポーネント一部 ○ Grafana Cloud Alloy ○ Datadog ○ Kong ○ DataMasque ○ etc... EC2 https://aws.amazon.com/about-aws/whats-new/2024/12/aws-marketplace-ec2-image-builder-components-software-vendors/

● EC2 ● ECS ● EKS Elastic Container Service おはなしすること

ECSサービスの予測スケール ● ECSサービスを機械学習で予測スケールを行う機能追加 ● サービスの需要を予測し、先立ってスケーリングを行う ● スケーリングをさせずに予測のみさせることも可能 ● 既存のオートスケールとも併用可能 ECS https://aws.amazon.com/about-aws/whats-new/2024/11/predictive-scaling-for-amazon-ecs-services/

ECSサービスの AZのリバランス ● ECSサービスの AZを均衡に保つ機能追加 ● AZ障害などでタスクが一部のAZに偏った場合にリバランスを行ってくれる ● EC2・Fargate両方対応 ● デフォルトだと無効 ECS https://aws.amazon.com/about-aws/whats-new/2024/11/amazon-ecs-az-rebalancing-speeds-mean-time-recovery-event/

ECSサービスの一貫性設定のサポート ● 前提 ○ 7月のアップデートで同一のタグでサービスを実行するとイメージの digest値を強制的に参照する よう変更があった ○ 例えばlatestタグで新しいイメージをpushしても、digest値のイメージが参照されてしまっていた ○ そのためlatestタグを参照し続ける運用ができなくなってしまった ● 今回のアップデートで digest値を参照するかを任意で設定可能になった。 ● 一貫性のサポートはバージョンを上げる必要がある。 ○ ECSエージェントは1.70.0以上 ○ Fargateは1.4.0以上 ECS https://aws.amazon.com/about-aws/whats-new/2024/11/amazon-ecs-configure-software-version-consistency/

ECSサービスのバージョニングとデプロイ履歴 ● ECSサービスのバージョニングと詳細情報を取得可能に。 ● バージョンの詳細情報 ○ デプロイがいつ開始したか ○ デプロイが成功したか・失敗したか ○ 使用しているタスク定義 ○ ロードバランサー ● 過去のバージョンの詳細情報も取得可能 ○ 90日間保持 ECS https://aws.amazon.com/about-aws/whats-new/2024/11/service-versioning-deployment-history-amazon-ecs-services/

● EC2 ● ECS ● EKS Elastic Kubernetes Service おはなしすること

EKS Auto Mode ● AWSのマネージドKubernetes ○ コンピューティング、ストレージ、ネットワークをマネージドで行ってくれる ○ AWS Load Balancer Controller・アドオン等がデフォルトで導入されている！ ● Node ( EC2 )の管理をAWSが行ってくれる ○ 責任分界点がEC2より上になる（EC2はAWSが面倒を見てくれる！） ■ コンソール上にEC2が表示されるが、sshは行えない ■ OSのパッチ適用やアップデートなども自動で行ってくれる ○ Karpenterと同等の機能が提供される ■ Podが起動していなければNodeは0台に！ ● RI/SPがサポート ● Fargateとの併用は不可 EKS https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-eks-auto-mode/

EKS Hybrid Nodes ● コントロールプレーンをEKSに、オンプレのマシンをノードとして管理することが可能に。 ● EKS Anywhereとの違いは顧客がコントロールプレーンも管理する必要がある点 EKS https://aws.amazon.com/about-aws/whats-new/2024/12/amazon-eks-hybrid-nodes/ https://aws.amazon.com/blogs/aws/use-your-on-premises-infrastructure-in-amazon-eks-clusters-with-amazon-eks-hybrid-nodes/