Agentless metric Collection for EKS AWS-UG横浜 #68 JAWS-UG横浜 #68 AWS re:Invent 2023 Recap Container 2024/01/20 #jawsug #jawsugyokohama 1

About us Soushi Hiruta 2 agentless metric collection for Amazon EKSについて検証してみました https://zenn.dev/clouddevcode/articles/067b17367dc71f

Agenda ▸ agentless metrics Collection for EKSとは ▸ agentless metrics Collection for EKSの仕組み ▸ まとめ ▸ Q＆A 3

agentless metrics collectorとは 4 Prometheus コレクターは、クラスター内でコレクターを実行することなく、Amazon EKS アプリケーションとインフラストラクチャからメトリックスを検出して収集するスク レイパーで構成されています。 https://aws.amazon.com/blogs/mt/how-unitary-achieved-automatic-metric-collection-with-amazon-managed-service-for-prometheus-collector/

agentless metrics collectionの仕組み 5 ● Podのprometheus metricsに対して Scraperが収集

agent less collectorの図解 6 ● Scraperを作成すると Network interfaceが 作成される。 ● inteface typeが Lambdaとなっていた。 ● なんどかScraperの作 成試したが、15分程度 はかかっているように みえる。

始め方 7 https://zenn.dev/clouddevcode/articles/067b17367dc71f

Distro for OpenTelmetryとの比較 8 AWS Distro for OpenTelemetry Agentless metrics collector 対応プラットフォーム ECS, EKS ※ECSの場合は、sidecar要 EKS 収集方法 ADOT Collector Scraper なにを収集 log, metrics ,trace metrics 送信先 Amazon managed for prometheus, X-Ray Amazon managed for prometheus 所感 sidecarで収集する場合はメモリリ ミット要 収集されるサイズに制限あり

ユースケースと適切な選択 9 ● コレクターがマルチ AZ、高可用性、および自動スケーリング

削除時の注意点 10 ● Scraper自体は個別で削除しないといけない

まとめ ● Collectorが、Mulit-AZ、高可用性、拡張性をもっている ● prometheusメトリクスだけとるのであれば利用できる。 ● トレース等もとりたいのであれば、Distro for OpenTelemetryがよさそう 11

ELYZA-japanese-Llama-2 ModelをWasmEdgeで OpenAI Compactible APIを作成 12