Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
EKS on Fargateは最高のJob基盤 / jawsug_bgnr
Search
h3poteto
February 13, 2020
Programming
1
980
EKS on Fargateは最高のJob基盤 / jawsug_bgnr
JAWS-UG 初心者支部#23 次回のハンズオン勉強会向けのチューター向け予習会 でのLT
h3poteto
February 13, 2020
Tweet
Share
More Decks by h3poteto
See All by h3poteto
Kubernetes上で単発のジョブを実行するkube-jobというツールを作った / kubernetesmeetuptokyo22
h3poteto
6
8.2k
Electronによるアプリケーション開発事情2018 / builderscon2018
h3poteto
9
9.9k
fluentdサーバをchefで構築するの辛かったけどDockerも別に救世主じゃなかった / tokyu ruby kaigi 12
h3poteto
0
4.6k
ECSのサービスをslack botでデプロイする // ecs-goploy
h3poteto
1
5.3k
まだRailsで消耗してるの?
h3poteto
7
4.8k
阿澄佳奈と昇竜拳
h3poteto
1
500
Other Decks in Programming
See All in Programming
GitHub Copilot and GitHub Codespaces Hands-on
ymd65536
2
140
dbt民主化とLLMによる開発ブースト ~ AI Readyな分析サイクルを目指して ~
yoshyum
3
800
NPOでのDevinの活用
codeforeveryone
0
790
なぜ適用するか、移行して理解するClean Architecture 〜構造を超えて設計を継承する〜 / Why Apply, Migrate and Understand Clean Architecture - Inherit Design Beyond Structure
seike460
PRO
3
750
WebViewの現在地 - SwiftUI時代のWebKit - / The Current State Of WebView
marcy731
0
110
PHPで始める振る舞い駆動開発(Behaviour-Driven Development)
ohmori_yusuke
2
330
Google Agent Development Kit でLINE Botを作ってみた
ymd65536
2
220
Select API from Kotlin Coroutine
jmatsu
1
230
テストから始めるAgentic Coding 〜Claude Codeと共に行うTDD〜 / Agentic Coding starts with testing
rkaga
2
370
スタートアップの急成長を支えるプラットフォームエンジニアリングと組織戦略
sutochin26
0
4.2k
既存デザインを変更せずにタップ領域を広げる方法
tahia910
1
280
Modern Angular with Signals and Signal Store:New Rules for Your Architecture @enterJS Advanced Angular Day 2025
manfredsteyer
PRO
0
200
Featured
See All Featured
Build The Right Thing And Hit Your Dates
maggiecrowley
36
2.8k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
46
9.6k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
48
2.9k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
667
120k
10 Git Anti Patterns You Should be Aware of
lemiorhan
PRO
657
60k
Optimizing for Happiness
mojombo
379
70k
The Pragmatic Product Professional
lauravandoore
35
6.7k
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.8k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.4k
Put a Button on it: Removing Barriers to Going Fast.
kastner
60
3.9k
Practical Orchestrator
shlominoach
188
11k
Transcript
EKS on Fargate は最⾼のJob 基盤 @h3poteto
⾃⼰紹介 Akira Fukushima ( 福島 明) GitHub: h3poteto twitter: @h3_poteto
仕事: SRE / LAPRAS Inc.
Fargate 使ってますか?
Fargate ってなに インスタンスの管理をすることなくDocker コンテナを動かせるエン ジン もともとECS Fargate として,ECS のノードをフルマネージドして くれていた
最近EKS on Fargate が出たことで,Kubernetes からも利⽤できるよ うになった
ノードがフルマネージドってどういう こと? AWS 側で管理されているFargate ⽤のインスタンスが存在する (我々からは⾒えない Fargate の要求があると,このインスタンスをユーザに割り当て て,そのPod 専⽤のインスタンスとして供給する
Pod が終了したらインスタンスもクラスタから除外される 我々のVPC 内に存在するEC2 とは別管理なので,EC2 ⼀覧にも出て こない もちろんインスタンスにSSH するこもとできない
None
ただしあくまでECS/EKS のノードの⼀ 部であることは変わらない
(追加設定はいるけど)普通に ECS/EKS のコンテナと同じように動く
みんなサーバーレスだって盛り上がる けど AutoScale が楽だってWeb サーバを乗 せたがるけど
むしろJob を実⾏するのに最適
Job Kubernetes のJob とかCronJob 単発実⾏で集計処理とかをやりたい 多重実⾏はやめてほしい
Web サーバとの違い ⼤抵のWeb サーバは複数台起動している リクエストはLoadBalancer で振り分けている つまり,1 台くらい落ちてもどうということはない 落ちても,⾃動復旧してくれれば問題ない Job
は,落ちたら再実⾏すれば良い?
再実⾏/ 多重実⾏可能なJob は,かなり 気を使って作る必要がある
単発実⾏したJob が 落ちない基盤であ ってほしい
通常ノードの場合 AutoScalingGroup は,ScaleOut するが当然ScaleIn も発⽣する ClusterAutoscaler はScaleIn 前にDrain を実⾏してくれるが,それは つまりJob
の再実⾏ということになる SpotInstance を使っていれば,ノードはある⽇突然死ぬ
Fargate は全ての要求を満たすのでは?
Fargate Pod が死ぬまでインスタンスは死なない そもそもAutoScalingGroup ではないのでScaleIn の対象外 他のPod が配置されることがないので,Job が終わったらすぐにノー ドを殺しても問題ない
最⾼では?
None
これを待っていた!ありがとうAWS
EKS on Fargate のつらみ
Job がComplete してもPod が残る限り ノードも残る
Fargate ノードのライフサイクル Pod がリクエストされた時点で確保 他のPod はスケジュールされない Pod がDelete されるまで残り続ける
Pod 内のコマンドが正常終了してもPod ⾃⾝が削除されるわけではない Pod はCompleted として残る
つまりCompleted したものも課⾦対象
TTL Controller k8s 上で完了したJob をクリーンアップしてくれるController ttlSecondsAfterFinished で指定された秒数後にPod を削除する まだAlpha の機能のためEKS
では使えない EKS でもFeatureGates をカスタマイズできるようにし てほしい……
Pod のENI に付与されるSG の指定がで きない
Farget のSecurityGroup EKS on Fargate のPod にはENI が付与される そこにSG が付与されることで,アクセス制限ができる
しかし付与されるSG は,EKS クラスタ本体のSG 任意のSG を指定することができないので,細かいアクセス制限がや りにくい EKS クラスタ本体のSG ⾃体もこちらで指定することができないの で,terraform で管理しにくい
DaemonSet が使えない これはどうにもならないかも……
DaemonSet が使えない EKS on Fargate ではFargate で起動したPod しかFargate ノードに配 置されない
Kubernetes のDaemonSet が配置できない Fluentd でコンテナのログを全部かき集めたり Datadog でインスタンスやコンテナのメトリクスを収集したりでき ない
VolumeMount が使えない せめてEFS は使いたいな……
VolumeMount が使えない EC2 インスタンスではないので当然EBS はAttach できない hostPath も使えない ので当然EFS も使えない
emptyDir だけは使えるが…… EFS だけはRoadmap にリクエストが上がっている: https://github.com/aws/containers-roadmap/issues/53
対応してもらえるのを楽しみにしてる