agentless metric collection for Amazon EKS

Transcript

1. Agentless metric Collection for EKS AWS-UG横浜 #68 JAWS-UG横浜 #68 AWS re:Invent 2023 Recap Container 2024/01/20 #jawsug #jawsugyokohama 1
2. About us Soushi Hiruta 2 agentless metric collection for Amazon EKSについて検証してみました https://zenn.dev/clouddevcode/articles/067b17367dc71f
3. Agenda ▸ agentless metrics Collection for EKSとは ▸ agentless metrics Collection for EKSの仕組み ▸ まとめ ▸ Q＆A 3
4. agentless metrics collectorとは 4 Prometheus コレクターは、クラスター内でコレクターを実行することなく、Amazon EKS アプリケーションとインフラストラクチャからメトリックスを検出して収集するスク レイパーで構成されています。 https://aws.amazon.com/blogs/mt/how-unitary-achieved-automatic-metric-collection-with-amazon-managed-service-for-prometheus-collector/
5. agentless metrics collectionの仕組み 5 • Podのprometheus metricsに対して Scraperが収集
6. agent less collectorの図解 6 • Scraperを作成すると Network interfaceが 作成される。 • inteface typeが Lambdaとなっていた。 • なんどかScraperの作 成試したが、15分程度 はかかっているように みえる。
7. 始め方 7 https://zenn.dev/clouddevcode/articles/067b17367dc71f
8. Distro for OpenTelmetryとの比較 8 AWS Distro for OpenTelemetry Agentless metrics collector 対応プラットフォーム ECS, EKS ※ECSの場合は、sidecar要 EKS 収集方法 ADOT Collector Scraper なにを収集 log, metrics ,trace metrics 送信先 Amazon managed for prometheus, X-Ray Amazon managed for prometheus 所感 sidecarで収集する場合はメモリリ ミット要 収集されるサイズに制限あり
9. ユースケースと適切な選択 9 • コレクターがマルチ AZ、高可用性、および自動スケーリング
10. 削除時の注意点 10 • Scraper自体は個別で削除しないといけない
11. まとめ • Collectorが、Mulit-AZ、高可用性、拡張性をもっている • prometheusメトリクスだけとるのであれば利用できる。 • トレース等もとりたいのであれば、Distro for OpenTelemetryがよさそう 11
12. ELYZA-japanese-Llama-2 ModelをWasmEdgeで OpenAI Compactible APIを作成 12