Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介

Transcript

1. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon CloudWatchはじめとした Observabilityの最近のアップデート紹介 伊藤 威(Tsuyoshi Ito) Solutions Architect 2023/09
2. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 自己紹介 • 名前 • 伊藤 威 (Tsuyoshi Ito) • 所属 • エンタープライズ技術事業本部 / SA • 経歴 • 2022年4月 新卒入社 • 好きなサービス • Amazon CloudWatch 2
3. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 アジェンダ • Observability はなぜ必要か？ • Amazon CloudWatch の全体像 • Amazon CloudWatch の 最新情報とアップデート紹介 • まとめ 3
4. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. Observability はなぜ必要か？ 4
5. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 なぜ、Observability が必要なのか • システムの構造は 複雑な組み合わせ • クラウド、分散システム、SaaS、ハイブリット構成… “理由が未知、原因も未知”の問題が発生 Observability を用いたデバッグでは、与えられたリクエストの周りのコンテキストをできるだけ多く保存し、 斬新な障害モードにつながったバグを誘発した環境や状況を再構築できるようになる ↓ 未だ体験したことのない障害/問題を迅速に解決するための仕組み 5 Charity Majors, Liz Fong-Jones, George Miranda, 「オブザーバビリティエンジニアリング」, O'reilly, 2023
6. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 • (What) ある時点でのシステムの状態を表現する 数値情報 • (How) 時系列順に並べることで、システムの動作傾向を把握することができる • (Example) CPU 使用率, コネクション数 • (What) ある時刻(タイムスタンプ) おけるシステムの イベント情報 • (How) 中身をみることで、そのシステムで発生した事象の詳細を確認することができる • (Example) アクセスログ, エラーログ, (構造化ログ[json]/非構造化ログ[txt]) • (What) あるトランザクションにおける フロー情報 • (How) 一連の処理におけるボトルネックの発見が、できる • (Example) HTTP リクエストの受信から応答まで、商品を購入→決済までのフロー Observability とは何か？ Observability (可観測性)とは、システムで何が起こっているかをどの程度理解できるかの指標 6 メトリクス ログ トレース これらを組み合わせることで、問題原因の特定が可能
7. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 A needle in a haystack メトリクス、ログ、トレースをどう使う？ 7 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の OBSERVABILITY 祭り AMAZON CLOUDWATCHはじめとしたOBSERVABILITYの最近のアップデート紹介 干し草の山の中に落ちた1本の針を見つける https://www.youtube.com/watch?v=zZPzXEBW4P8
8. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 A needle in a haystack メトリクス、ログ、トレースをどう使う？ 8 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の OBSERVABILITY 祭り AMAZON CLOUDWATCHはじめとしたOBSERVABILITYの最近のアップデート紹介 アラーム：針の存在を認識 https://www.youtube.com/watch?v=zZPzXEBW4P8
9. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 A needle in a haystack メトリクス、ログ、トレースをどう使う？ 9 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の OBSERVABILITY 祭り AMAZON CLOUDWATCHはじめとしたOBSERVABILITYの最近のアップデート紹介 どの干し草の山？ https://www.youtube.com/watch?v=zZPzXEBW4P8
10. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 A needle in a haystack メトリクス、ログ、トレースをどう使う？ 10 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の OBSERVABILITY 祭り AMAZON CLOUDWATCHはじめとしたOBSERVABILITYの最近のアップデート紹介 ダッシュボード: 適切な干し草の山を見つける https://www.youtube.com/watch?v=zZPzXEBW4P8
11. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 A needle in a haystack メトリクス、ログ、トレースをどう使う？ 11 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の OBSERVABILITY 祭り AMAZON CLOUDWATCHはじめとしたOBSERVABILITYの最近のアップデート紹介 残念ながら針は簡単に見つかりませんでした…。 https://www.youtube.com/watch?v=zZPzXEBW4P8
12. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 A needle in a haystack メトリクス、ログ、トレースをどう使う？ 12 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の OBSERVABILITY 祭り AMAZON CLOUDWATCHはじめとしたOBSERVABILITYの最近のアップデート紹介 トレース : フロー情報から手がかりを見つける https://www.youtube.com/watch?v=zZPzXEBW4P8
13. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 A needle in a haystack メトリクス、ログ、トレースをどう使う？ 13 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の OBSERVABILITY 祭り AMAZON CLOUDWATCHはじめとしたOBSERVABILITYの最近のアップデート紹介 トレース https://www.youtube.com/watch?v=zZPzXEBW4P8
14. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 A needle in a haystack メトリクス、ログ、トレースをどう使う？ 14 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の OBSERVABILITY 祭り AMAZON CLOUDWATCHはじめとしたOBSERVABILITYの最近のアップデート紹介 メトリクス: 干し草の山の一部を見つける https://www.youtube.com/watch?v=zZPzXEBW4P8
15. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 A needle in a haystack メトリクス、ログ、トレースをどう使う？ 15 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の OBSERVABILITY 祭り AMAZON CLOUDWATCHはじめとしたOBSERVABILITYの最近のアップデート紹介 ログ: 針を見つける [FATAL] Critical timeout talking https://www.youtube.com/watch?v=zZPzXEBW4P8
16. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 サービスの品質・信頼性にむけてモニタリングすべき対象や使用するサービス 絶対の解はない 16 ビジネス要件やシステムによって千差万別 AWS では「メトリクス」「ログ」「トレース」を扱うサービス Amazon CloudWatch を提供
17. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. Amazon CloudWatch の全体像 17
18. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 AWS Observability Overview Observability Collectors and SDKs Container insights Lambda insights Contributor insights Application insights Synthetics Dashboards Alarms RUM AWS X-Ray AWS native services Amazon CloudWatch ServiceLens Open-source managed services Amazon Managed Grafana Do it yourself (DIY) – AWS OSS Solutions Amazon OpenSearch Service Amazon Managed Service for Prometheus Jaeger and Zipkin Tracing Insights & ML Instrumentation Metrics CloudWatch agent AWS X-Ray agent AWS Distro for OpenTelemetry Internet monitor Logs
19. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 19 [アラーム] CW Alarms [イベント] [メトリクス] CW Metrics [ログ] CW Logs [ログ分析] CW Logs Insights [統合] CW Dashboards メトリクスを送信 ログを送信 メトリクスに応じた アクション ログの可視化 イベントに応じた ターゲットによる処理 [タグベースの視覚化] CW Metrics Explorer Amazon Kinesis Data Firehose [メトリクスストリーム] CW Metrics Stream Amazon EventBridge/ Amazon EventBridge Scheduler ※CW = CloudWatch AWSサービス オンプレミス/EC2 CW Agent CW Metrics Insight Insights Application Monitoring [構造化ログによるメトリクス] CW Container Insights / Contributor Insights [Lambda拡張機能によるメトリクス] Lambda Insights [アプリケーションコンポーネントのメトリクス] Application Insights [外形監視] CW Synthetics [リアルユーザーモニタリング] CW RUM [フィーチャーフラグA／Bテスト] CW Evidently ［インターネット監視］ CW Internet Monitor [トレース] CW ServiceLens [ダッシュボードに統合] CW Dashboard メトリクスの 可視化 パートナー サービス、 S3/Redshift Infrastructure Amazon CloudWatch 全体像
20. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 CloudWatch Internet Monitor • AWS 上のアプリケーションに対してインターネットからアク セスした際の可用性とパフォーマンスメトリクスを CloudWatch で可視化可能に • ユーザから見た場合の可用性と性能をチェックできる • AWS のグローバルネットワークから取得した接続データに基づき モニタリング。問題がある場合はその影響や場所、プロバイダー などを可視化し、改善アクションを起こしやすくする • VPC フローログや CloudFront ログの有効化は不要 インターネットの問題がパフォーマンスや可用性にどのように影響しているかを可視化 モニタリング対象リソース 1 モニタリング対象リソースあたり 0.01USD/時間 モニタリング対象都市ネットワーク 10,000 モニタリング対象都市ネットワークあたり 0.74USD/時間
21. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 Internet monitor で NLB がモニタリング対象リソースに • モニタリング対象 • VPC • CloudFront • WorkSpaces ディレクトリ • Network Load Balancer より詳細なユーザートラフィックのモニタリングが可能 23 https://aws.amazon.com/jp/about-aws/whats-new/2023/07/amazon-cloudwatch-internet-monitor-load-balancers/ 2023.07.25
22. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 CloudWatch Agent に OpenTelemetry トレースと AWS X-Ray のサポート 24 https://aws.amazon.com/about-aws/whats-new/2023/08/amazon-cloudwatch-agent-opentelemetry-traces-x-ray/ § X-ray をすでに使っていても、OpenTelemetry を 使い始めたばかりの方も1つのエージェントで 「メトリクス」、「ログ」、「トレース」の収集 ができ、インストール/設定/管理が容易に § CloudWatch Agent が X-ray OpenTelemetry から のトレースの収集に対応 – CloudWatch Logs と同様にconfig ファイルを書き換えるだけ 2023.08.11 "traces_collected": { "xray": { "bind_address": "127.0.0.1:2000", "tcp_proxy": { "bind_address": "127.0.0.1:2000" } }, "otlp": { "grpc_endpoint": "127.0.0.1:4317", "http_endpoint": "127.0.0.1:4318" } }
23. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 CloudWatch がダッシュボード変数のサポートを開始 25 https://aws.amazon.com/jp/about-aws/whats-new/2023/06/amazon-cloudwatch-dashboard-variables/ メトリクスの任意の箇所を変数化し、1 つのダッシュボード内に複数のビューを作成 • 「ドロップダウン」「ラジオボタン」「テキスト入力」で操作 • 用途 § “リージョン”の切り替え § “アプリケーション環境の切り替え” 2023.06.30
24. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 CloudWatch Logs に Live Tail が追加され、リアルタイムでログの調査が可能に 26 https://aws.amazon.com/about-aws/whats-new/2023/06/live-tail-amazon-cloudwatch-logs/ CloudWatch logs のロググループに配信されるログをリアルタイムで調査可能 • 開発時やデバック時のログ調査に有効 § VPC フローログ, CodeBuild log 等 § 出力のイメージは tail –f <XXX> • フィルタで取得するログの制御が可能 • 料金 § 1 か月あたり 1,800 分 は無料利用枠 § その後は 1 分あたり 0.01 USD 2023.06.06
25. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 CloudWatch logs で 正規表現が使用可能に フィルタパターン、およびメトリクスフィルターに 正規表現 が使用可能 • 英数字 § 文字 (A ～ Z または a ～ z) または数字 (0 ～ 9) のいずれかの文字 • 記号文字 § _ # = @ / ; , - が使用可能 § ! (否定) は使用不可 • 演算子 § ^ $ ? [ ] { } | ¥ * + . が使用可能 § ( ) サブパターン定義 は使用不可 27 https://aws.amazon.com/jp/about-aws/whats-new/2023/09/amazon-cloudwatch-logs-regular-expression-filter-pattern-syntax-support/ 2023.09.06
26. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 まとめ • Observability は複雑多岐にわたる現代のシステムで障害原因を 探るための重要な考え方 • CloudWatch は日々アップデートで機能拡張が行われている 1. Internet monitor で NLB がモニタリング対象リソースに 2. CloudWatch Agent に OpenTelemetry トレースと AWS X-Ray のサポート 3. CloudWatch がダッシュボード変数のサポートを開始 4. CloudWatch Logs に Live Tail が追加され、リアルタイムでログの調査が可能に 5. CloudWatch logs で 正規表現が使用可能に 28
27. © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved. AWS 秋の Observability 祭り Amazon CloudWatchはじめとしたObservabilityの最近のアップデート紹介 Thank you! © 2023, Amazon Web Services, Inc. or its affiliates. All rights reserved.