EKS Auto ModeでもNodeのスペックを考慮しないといけない理由

2025/09/25 Kubernetes Novice Tokyoにて発表しました。
https://k8s-novice-jp.connpass.com/event/365526/

Transcript

1. EKS Auto ModeでもNodeのスペックを 考慮しないといけない理由  2025/09/25  津川拓斗
2. 自己紹介 ロ ゴ , ア イ コ ン AI 生 成 コ ン テ ン ツ は 誤 り を 含 む 可 能 性 が あ り ま す 。 ブログ：Kisama2000のエンジニア日記
3. EKS Auto Modeとは  Control PlaneだけでなくData PlaneもAWSが管理  Karpenterがマネージドで組み込み提供  クラスタ機能をPodではなくsystemdで管理
4. EKS Auto Modeとは  Control Planeだけで なくData Planeも AWSが管理  Karpenterがマネージ ドで組み込み提供  クラスタ機能をPodでは なくsystemdで管理
5. EKS Auto Modeとは  Control Planeだけで なくData Planeも AWSが管理  Karpenterがマネージ ドで組み込み提供  クラスタ機能をPodでは なくsystemで管理
6. Karpenter  オープンソースのノードライフ サイクル管理ツール  未スケジューリングPodを検 知して最適なノードを起動  制御は NodeClass と NodePool の2つのCRD で行う
7. NodeClassの役割  ノードの環境に関する定義  主にサブネットとSG
8. NodePoolの役割  ノードそのものに関する定義  例：インスタンスタイプ、AZ、 Spot/On-Demand比率  limits.cpu や limits.memory で総リソース を制御 (例: limits.cpu=100 → 合計 100 vCPUまで)
9. NodePoolの役割  ノードそのものに関する定義  例：インスタンスタイプ、AZ、 Spot/On-Demand比率  limits.cpu や limits.memory で総リソース を制御 (例: limits.cpu=100 → 合計 100 vCPUまで)
10. NodePoolの役割  ノードそのものに関する定義  例：インスタンスタイプ、AZ、 Spot/On-Demand比率  limits.cpu や limits.memory で総リソース を制御 (例: limits.cpu=1000→ 合計 1000 vCPUまで)
11. EKS Auto Modeとは  Control Planeだけで なくData Planeも AWSが管理  Karpenterがマネージ ドで組み込み提供  クラスタ機能をPodでは なくsystemdで管理 EKS Auto Mode は、従来 Kubernetes の DaemonSet として実行されていたノード機能を、 AWS が管理するシステムプロセスとして動作させます。 これには、サービスディスカバリ、サービスロードバランシング、Pod ネットワーキング、 ブロックストレージ、クレデンシャルの払い出しといったコンポーネントが含まれます。 AWS はこれらのコンポーネントのライフサイクル管理 （セキュリティ修正のためのアップデートなど）を引き受け、 サポートされる Kubernetes バージョンに対応した新しい EKS Auto Mode AMI（Amazon Machine Image）を公開します。 さらに、EKS Auto Mode はクラスターのアップグレードや OS アップデートを自動的に処理し、 Kubernetes のスケジューリング制約を尊重しながらノードを適切に置き換えます。 これによりインフラが常に安全かつ最新の状態に保たれます。 この大幅な運用負担の削減によって、 チームはインフラ管理ではなくアプリケーション開発に専念できるようになります。
12. ワーカーノードがフラッ ピング（起動と停止の繰 り返し）してしまう  30分ほどでnodeが起動して は停止してを繰り返す  CPUが高騰していたが、 Auto Modeが自動でNodeの スペック、台数を調整して くれない  どういうこと？？？
13. CPU高騰によりKubeletが落ちていた Type Reason Age From Message ---- ------ ---- ---- ------- Normal Starting 25m kube-proxy Normal NodeHasSufficientMemory 25m (x2 over 25m) kubelet Node i-xxxxxxxxxxxxxxxxx status is now: NodeHasSufficientMemory Normal NodeAllocatableEnforced 25m kubelet Updated Node Allocatable limit across pods Normal NodeHasSufficientPID 25m (x2 over 25m) kubelet Node i-xxxxxxxxxxxxxxxxx status is now: NodeHasSufficientPID Normal NodeHasNoDiskPressure 25m (x2 over 25m) kubelet Node i-xxxxxxxxxxxxxxxxx status is now: NodeHasNoDiskPressure Normal Starting 25m kubelet Starting kubelet. Warning InvalidDiskCapacity 25m kubelet invalid capacity 0 on image filesystem Normal Synced 25m cloud-node-controller Node synced successfully Normal RegisteredNode 25m node-controller Node i-xxxxxxxxxxxxxxxxx event: Registered Node i-xxxxxxxxxxxxxxxxx in Controller Normal DisruptionBlocked 25m karpenter Node isn't initialized Normal NodeReady 25m kubelet Node i-xxxxxxxxxxxxxxxxx status is now: NodeReady Normal Ready 25m karpenter Status condition transitioned, Type: Ready, Status: False -> True, Reason: KubeletReady, Message: kubelet is posting ready status Normal Unconsolidatable 24m karpenter Can't replace with a cheaper node Normal Ready 17m karpenter Status condition transitioned, Type: Ready, Status: True -> Unknown, Reason: NodeStatusUnknown, Message: Kubelet stopped posting node status. Normal PIDPressure 17m karpenter Status condition transitioned, Type: PIDPressure, Status: False -> Unknown, Reason: NodeStatusUnknown, Message: Kubelet stopped posting node status. Normal DiskPressure 17m karpenter Status condition transitioned, Type: DiskPressure, Status: False -> Unknown, Reason: NodeStatusUnknown, Message: Kubelet stopped posting node status. Normal MemoryPressure 17m karpenter Status condition transitioned, Type: MemoryPressure, Status: False -> Unknown, Reason: NodeStatusUnknown, Message: Kubelet stopped posting node status. Normal NodeNotReady 17m node-controller Node i-xxxxxxxxxxxxxxxxx status is now: NodeNotReady cluster $
14. Karpenterの機能  Karpenter と Cluster Autoscaler を使用したクラスターコンピューティング のスケーリング - Amazon EKS より  リソースの制約により Kubernetes スケジューラがスケジュールできないポッドをモニタリングし ます。  スケジューリング不可能なポッドのスケジューリング要件 (リソースリクエスト、ノードセレクタ、ア フィニティ、許容範囲など) を評価します。  これらのポッドの要件を満たす新しいノードをプロビジョニングします。  不要になったノードを削除します。
15. EKS Auto Modeとは  Control Planeだけで なくData Planeも AWSが管理  Karpenterがマネージ ドで組み込み提供  ノードはsystemdサー ビスとして動作 EKS Auto Mode は、従来 Kubernetes の DaemonSet として実行されていたノード機能を、 AWS が管理するシステムプロセスとして動作させます。 これには、サービスディスカバリ、サービスロードバランシング、Pod ネットワーキング、 ブロックストレージ、クレデンシャルの払い出しといったコンポーネントが含まれます。 AWS はこれらのコンポーネントのライフサイクル管理 （セキュリティ修正のためのアップデートなど）を引き受け、 サポートされる Kubernetes バージョンに対応した新しい EKS Auto Mode AMI（Amazon Machine Image）を公開します。 さらに、EKS Auto Mode はクラスターのアップグレードや OS アップデートを自動的に処理し、 Kubernetes のスケジューリング制約を尊重しながらノードを適切に置き換えます。 これによりインフラが常に安全かつ最新の状態に保たれます。 この大幅な運用負担の削減によって、 チームはインフラ管理ではなくアプリケーション開発に専念できるようになります。
16. EKS Auto Modeとは  Control Planeだけで なくData Planeも AWSが管理  Karpenterがマネージ ドで組み込み提供  ノードはsystemdサー ビスとして動作 EKS Auto Mode は、従来 Kubernetes の DaemonSet として実行されていたノード機能を、 AWS が管理するシステムプロセスとして動作させます。 これには、サービスディスカバリ、サービスロードバランシング、Pod ネットワーキング、 ブロックストレージ、クレデンシャルの払い出しといったコンポーネントが含まれます。 AWS はこれらのコンポーネントのライフサイクル管理 （セキュリティ修正のためのアップデートなど）を引き受け、 サポートされる Kubernetes バージョンに対応した新しい EKS Auto Mode AMI（Amazon Machine Image）を公開します。 さらに、EKS Auto Mode はクラスターのアップグレードや OS アップデートを自動的に処理し、 Kubernetes のスケジューリング制約を尊重しながらノードを適切に置き換えます。 これによりインフラが常に安全かつ最新の状態に保たれます。 この大幅な運用負担の削減によって、 チームはインフラ管理ではなくアプリケーション開発に専念できるようになります。 KubeletはPodとして動いていない！
17. その後  応急処置としてNodePoolで立ち上がるインスタンスを制御した  “eks.amazonaws.com/instance-category”を”m”に  “eks.amazonaws.com/instance-cpu”を”8”に  とりあえずフラッピングは解消  ただし自由にスケーリングするというメリットは現状受けられず  Kubeletもdaemonsetのpodとして動かすようにすればkubeletが動いていないこともス ケーリングのトリガーにできるのかも
18. 参考文献 Karpenter と Cluster Autoscaler を使用したクラスターコンピューティングのスケーリング - Amazon EKS https://docs.aws.amazon.com/ja_jp/eks/latest/best-practices/karpenter.html re:Invent 2024: AWSがKarpenterとEKS Auto Modeで変えるKubernetes運用 https://zenn.dev/kiiwami/articles/0192561458ad0e24 EKS Auto Mode を覗いてみる | Orenge Diary https://www.ren510.dev/blog/eks-auto-mode Amazon EKS Auto Modeを使っていく - tech.guitarrapc.cóm https://tech.guitarrapc.com/entry/2025/03/09/235900 詳解: Amazon EKS Auto Mode | Amazon Web Services ブログ https://aws.amazon.com/jp/blogs/news/under-the-hood-amazon-eks-auto-mode/ 本テンプレートについて https://pages.awscloud.com/rs/112-TZM-766/images/AWS-Black-Belt_2023_Karpenter- Basic_1204_v1.pdf Getting started with Amazon EKS Auto Mode | Containers https://aws.amazon.com/jp/blogs/containers/getting-started-with-amazon-eks-auto-mode/EKS 自動モードl 用のノードプールを作成する - Amazon EKS https://docs.aws.amazon.com/ja_jp/eks/latest/userguide/create-node-pool.html EKS Auto Mode を使用してクラスターインフラストラクチャを自動化する - Amazon EKS https://docs.aws.amazon.com/ja_jp/eks/latest/userguide/automode.html