DatadogとAI：活用と監視、 二つの視点から見るオブザーバビリティ

Cloud Operator Days 2025 クロージングイベントのKeynoteにて登壇させていただいた際の資料です。

イベントページ：https://cloudopsdays.com/closing/

概要：
Datadogは「AIで監視する」AI Opsと、「AIを監視する」AI Obsという二つの側面から、AI時代のオブザーバビリティを支援します。
本講演では、AI Agentや独自の機械学習モデルによる異常検知や自動化を通じた運用高度化の仕組み、そして生成AIやAI Agentを組み込んだシステムの健全性を可視化・監視するための最新機能をご紹介します。

Transcript

1. Cloud Operator Days Tokyo 2025 DatadogとAI：活用と監視、 二つの視点から見るオブザーバビリティ Datadog Japan Sales Engineer Takaaki Tsunoda
2. 自己紹介 Takaaki Tsunoda(@taka2noda) Datadog Japan 合同会社　Sales Engineer 　Datadog(オブザーバビリティツール)導入の技術支援 前職： IBM/Kyndryl 　保険業界のお客様 インフラ保守担当PM, SRE 　ITSM運用管理ツール 保守チームのPM, アプリSE 2 隣のビルに 深夜早朝タクシーで通ってました
3. 本セッションについて 3 AI エージェント と オブザーバビリティの関わり オンサイトセッション オンデマンドセッション
4. 本セッションについて 4 AI エージェント と オブザーバビリティの関わり オンサイトセッション オンデマンドセッション 改めてダイジェストで要点をお伝えしつつ、 各所で論点になっていたGPU Monitoringについても触れる内容
5. Agenda 5 01 AI時代のオブザーバビリティ 04 まとめ 03 AI Obs - AIを監視 02 AI Ops - AIで監視
6. AI時代のオブザーバビリティ 6
7. そもそもオブザーバビリティについて 7 オブザーバビリティ(可観測性) =外部出力からどれだけ中の状態を把握できるかを示す尺度 引用：『CNCF Tag Observability White Paper』 https://github.com/cncf/tag-observability/blob/main/whitepaper.md
8. AI Ops - AIを活用した監視の高度化 8 AIを活用して 出力を理解しやすくする
9. AI Obs - AIに対する監視(オブザーバビリティ) 9 ？ ？ ？ ？ ？ ？ ？ ？ 可視化したい ブラックボックス化した AI エージェントを含むシステム
10. AI Obs - AIに対する監視(オブザーバビリティ) 10 ？ ？ ？ ？ ？ ？ ？ ？ 出力から中の状態を わかるようにする オブザーバビリティ 可視化したい 可視化する ブラックボックス化した AI エージェントを含むシステム
11. オブザーバビリティとAI：活用と監視、両方を支援 11 Datadog オブザーバビリティ プラットフォーム AI Obs AIをサービスとして提供 AIでサービスを支援 AI Ops
12. AI Ops - AIで監視 12
13. 13 SRE Security Analyst Dev AI Agentが自律的に調査 Bits AI AI Ops - AIを活用したオブザーバビリティ Bits AI
14. 複数の原因を自律的に調査 14 データベースクエリの調査 呼び出し先アプリの エラー調査 最終的な推論結果
15. 複数の原因を自律的に調査 15 データベースクエリの調査 呼び出し先アプリの エラー調査 最終的な推論結果 AI Agentの結果だけでなく、 推論の過程も確認可能
16. 推論プロセスを学習させ、改善することも可能 16 推論のStep単位で 調査へのフィードバックと学習が可能
17. 推論プロセスを学習させ、改善することも可能 17 推論のStep単位で 調査へのフィードバックと学習が可能 AI Agentを教育可能
18. 18 Senior SRE Junior Members 以下の観点で教育が必要 1. 対応手順(Runbook)の作成と更新 2. 統合データDashboardの作成と更新 3. 引き継ぎドキュメントの作成と更新 4. 引き継ぎの実施(勉強会など) さらに、、、担当者が変わると また引き継ぎの実施が必要 数時間 〜 数日 以下の対応が必要 1. 対応手順(Runbook)の作成と更新 2. 統合データDashboardの作成と更新 3. Bits AI SREの設定と更新 数分 〜 数時間 Senior SRE Bits AI SRE AsIs ToBe 事前のRunbookの整理やDashboadの作成など、精度を上げるために作業は必要だが、 人に引き継ぐよりは断然ラクなはず Bits AI SRE - AsIs ToBe Setup
19. AIとの音声対話による調査 Voice Interface 19 アラートの電話通知に対して、 自然言語で調査依頼が可能 日本語を含めた200か国語に対応予定
20. MCP Serverの公式提供 20 公式提供のMCP Serverを通じて 手元のAI Agentで解析可能
21. AI Ops - AIを活用した監視の高度化 21 AIを活用して 出力を理解しやすくする
22. AI Obs - AIを監視 22
23. 1. まずはCNCFのObservability White Paper(原理原則)を抑える 2. 実践のステップは、シグナルを取得し、相関付ける 3. AI エージェント自体と、システム全体両方の運用を考える AI Obsにおけるオブザーバビリティ実践のポイント 23 ？ ？ ？ ？ ？ ？ ？ ？
24. AI エージェント自体とシステム全体両方の出力を、相関付けて可視化 AI Obsにおけるオブザーバビリティ実践のポイント 24 ？ ？ ？ ？ ？ ？ ？ ？
25. AI エージェント自体のオブザーバビリティ 25 最終回答でハルシネーションを 検知 前段の処理でToolsの呼び出し のエラー
26. システム全体のオブザーバビリティと相関付け 26 PythonやNodejsなどバックエンドアプ リのパフォーマンスデータ(APM) AI エージェントのパフォーマンスデータ メトリックスやログ
27. AI エージェント監視設定と見え方 27 Tracerの有効化のみ ToolsやModel APIの呼び出し エラーを自動検知
28. GPU 監視- Agentのみで自動で可視化+推奨 28 DCGM Exporterの導入と運用が不要 Datadog Agentのインストールのみ eBPFやNVMLなどの技術をネイティブサポート 自動でグラフ化、可視化 自動で推奨
29. AI エージェント自体とシステム全体両方の出力を、相関付けて可視化 AI Obsにおけるオブザーバビリティ 29 ？ ？ ？ ？ ？ ？ ？ ？
30. まとめ 30
31. オブザーバビリティとAI：活用と監視、両方を支援 31 Datadog オブザーバビリティ プラットフォーム AI Obs AIをサービスとして提供 Bits AI AIでサービスを支援 LLM Observability AI Ops
32. OCT 16, 2025
33. OCT 16, 2025
34. ありがとうございました! 34