Telemetry APIから学ぶGoogle Cloud ObservabilityとOpenTelemetryの現在 / getting-started-telemetry-api-with-google-cloud

Google Cloud Next '25 での Developer Stage 登壇スライドです。
Google Cloud Observability の OTLP エンドポイントである Telemetry API について説明と、Cloud Trace で生成 AI アプリケーションのオブザーバビリティを高める方法について紹介しました。
https://www.googlecloudevents.com/next-tokyo/sessions?session_id=3123619

Transcript

1. Proprietary Telemetry API から学ぶ Google Cloud Observability と OpenTelemetry の現在
2. Proprietary 02 Google Cloud Next Tokyo Telemetry API から学ぶ Google Cloud Observability と OpenTelemetry の現在
3. Proprietary 03 Google Cloud Next Tokyo Telemetry API から学ぶ Google Cloud Observability と OpenTelemetry の現在 Google Cloud のオブザーバビリティスタック Cloud Trace Cloud Profiler Cloud Monitoring Cloud Logging
4. Proprietary 04 Google Cloud Next Tokyo Telemetry API から学ぶ Google Cloud Observability と OpenTelemetry の現在 オブザーバビリティにまつわるシグナル（テレメトリー） の収集や送信（ OpenTelemetry Protocol, OTLP ）の標準仕様を定めている
5. Proprietary 05 Google Cloud Next Tokyo Telemetry API から学ぶ Google Cloud Observability と OpenTelemetry の現在 Google Cloud Observability に新しく⽣えた、 OTLP を受け付けるエンドポイント*1 *1 現在トレースのみサポート https://cloud.google.com/stackdriver/docs/reference/telemetry/overview?hl=ja
6. Proprietary 06 Google Cloud Next Tokyo Telemetry API から学ぶ Google Cloud Observability と OpenTelemetry の現在 10 分で完全理解を ⽬指します 💪
7. Proprietary 07 Google Cloud Next Tokyo 逆井 啓佑 ( Keisuke SAKASAI ) • 所属 ◦ Datadog Japan • コミュニティ ◦ Google Developer Experts ( Google Cloud ) ◦ OpenTelemetry Meetup ◦ Observability Conference Tokyo 2025 等 • 逆井(さかさい) という名前で X にいます 🙏
8. Proprietary 08 Google Cloud Next Tokyo OpenTelemetry と Telemetry API オブザーバビリティとは 「外部シグナルから推測されるシステムの状態を推論する能⼒」 『効率的なGo』（Bartłomiej Płotka 著、⼭⼝ 能迪 訳 ISBN978-4-8144-0053-9) ⼊⼒ 出⼒ サービス ？ 外部シグナル
9. Proprietary 09 Google Cloud Next Tokyo OpenTelemetry と Telemetry API ⼊⼒ 出⼒ サービス 特定ツールの 計装ライブラリ ツール A ツール B ツール C 特定ツール仕様の テレメトリーシグナル 独⾃ プロトコル
10. Proprietary 010 Google Cloud Next Tokyo OpenTelemetry と Telemetry API ⼊⼒ 出⼒ サービス 特定ツールの 計装ライブラリ ツール A ツール B ツール C 特定ツール仕様の テレメトリーシグナル ツール B ⼊⼒ 出力 システム ツール A*3 ツール C OTel *2 OpenTelemetry Protocol の略 *3 モニタリングツールが OTLP 対応している前提 OTel 仕様の テレメトリーシグナル 独⾃ プロトコル OTLP*2 OTLP OTLP
11. Proprietary 011 Google Cloud Next Tokyo OpenTelemetry と Telemetry API OpenTelemetry とは • Cloud Native Computing Foundation ( CNCF ) の Incubating プロジェクト • テレメトリー（ Primary Signals ）のデータモデルや送信プロトコルの標準仕様（ OTLP ）策定 • 様々な⾔語向けに計装ライブラリ（ API, SDK ） の実装 • OpenTelemetry Collector の仕様策定、開発
12. Proprietary 012 Google Cloud Next Tokyo OpenTelemetry と Telemetry API Telemetry API とは • Google Cloud Observability の OTLP のエンドポイント ◦ 現状、トレースデータのみ • Telemetry API が⽣える前までは、Cloud Trace Exporter というコンポーネントを使って、 Cloud Trace 形式のデータに変換をしてテレメトリーを取り込んでいた https://cloud.google.com/stackdriver/docs/reference/telemetry/overview?hl=ja
13. Proprietary 013 Google Cloud Next Tokyo Telemetry API が 出るまえ Cloud Trace Exproter OpenTelemetry と Telemetry API サービス サービス OTel Collector Cloud Trace Exproter OTLP Exproter Cloud Trace OTLP OTLP Cloud Trace 形式*4 *4 Cloud Trace API で受け付ける https://cloud.google.com/trace/docs/reference
14. Proprietary 014 Google Cloud Next Tokyo Telemetry API が 出るまえ Telemetry API が 出たあと Cloud Trace Exproter OpenTelemetry と Telemetry API サービス サービス OTel Collector Cloud Trace Exproter OTLP Exproter Cloud Trace OTLP OTLP Cloud Trace 形式*4 *4 Cloud Trace API で受け付ける https://cloud.google.com/trace/docs/reference OTLP Exproter サービス サービス OTel Collector OTLP Exproter OTLP Exproter Cloud Trace OTLP OTLP OTLP*5*6 *5 Telemetry API で受け付ける https://cloud.google.com/stackdriver/docs/reference/telemetry/overview?hl=ja *6 Telemetry API の上限も Cloud Trace API と⽐較して緩和されている https://cloud.google.com/stackdriver/quotas?hl=ja#telemetry-api-limits
15. Proprietary 015 Google Cloud Next Tokyo OpenTelemetry と Telemetry API • 監視対象に OpenTelemetry のみを使えばよく、 プロプライエタリからの解放 • 環境によるオブザーバビリティスタックの切り替えも容易 ◦ 本番は Cloud Trace、開発は OSS の Jaegar（OTel 準拠）など • BTW, ベンダーにとっても嬉しい ◦ OpenTelemetry にテレメトリーの収集や、送信部分（SDK とか Agent）はオフロード ◦ ベンダーは、ユーザーにとって最も価値のある分析基盤に開発注⼒ できる Jaegar 別ツール
16. Proprietary 016 Google Cloud Next Tokyo OpenTelemetry？Telemetry API？ オブザーバビリティ？なにそれ美味（ry？
17. Proprietary 017 Google Cloud Next Tokyo AI を使ったサービスのオブザーバビリティ AI を使ったサービス 処理 / 推論 ⼊⼒ 回答
18. Proprietary 018 Google Cloud Next Tokyo AI を使ったサービスのオブザーバビリティ 従来のアプリケーションのテレメトリーシグナルを計測する限りでは、 サービスは問題なく運営ができていそうに⾒える ‧✔ リクエスト数 正常 ‧✔ エラー なし ‧✔ レスポンスタイム 良好 AI を使ったサービス 処理 / 推論
19. Proprietary 019 Google Cloud Next Tokyo AI を使ったサービスのオブザーバビリティ 実際には、正常なサービス運⽤ができていない可能性 があるかもしれない • LLM の振る舞いは⾮決定的 • 内部の処理はブラックボックスになりがち • ユーザーからのリクエストも多種多様 • e.t.c... AI を使ったサービス 処理 / 推論 Prompt Injection ネガティブ感情 ハルシネーション 💦 AI を使ったサービスに特有の オブザーバビリティの観点
20. Proprietary 020 Google Cloud Next Tokyo AI を使ったアプリのオブザーバビリティ 実際には、正常なサービス運⽤ができていない可能性がある。 • LLM の振る舞いは⾮決定的 • 内部の処理がブラックボックスになりがち • ユーザーからのリクエストも多種多様 • e.t.c... AI を使ったサービス 処理 / 推論  ✅ リクエスト数 正常  ✅ エラー なし  ✅ レイテンシー 良好 Prompt Injection ネガティブ感情 ハルシネーション AI 時代においても オブザーバビリティ は重要
21. Proprietary 021 Google Cloud Next Tokyo Google Cloud Observability における、 AI を使ったサービスのオブザーバビリティについて • AI を使ったサービスで計測したい観点*6 は？( ⼀例 ) ◦ どの LLM モデルを使⽤？トークン使⽤量は？ ◦ ユーザーの⼊⼒したプロンプトは？どう回答した？ • Cloud Trace ではトレースデータから ↑ のようなAI に関するイベントを抽出して、可視化できる ◦ OTel 準拠のトレースデータから判断 ◦ OTel の GenAI semantic conventions に準拠したタグがある場合、Cloud Trace の「⽣成 AI」タブにマッピング • AI を使ったサービスにもオブザーバビリティが重要 で、 その 計装に OpenTelemetry や データ収集に Telemetry API が活⽤ されている *6 拙作 で整理しました。 気になるかたは調べてください 🙇
22. Proprietary 022 Google Cloud Next Tokyo • GoogleCloudPlatform リポのサンプルコードを使⽤ ◦ LangGraph ReAct エージェント ◦ OpenTelemetry で計装済。Telemetry API にデータ送信 • Cloud Trace で可視化 https://github.com/GoogleCloudPlatform/opentelemetry-operations-python デモンストレーション Cloud Trace
23. Proprietary 023 Google Cloud Next Tokyo デモンストレーション - 1
24. Proprietary 024 Google Cloud Next Tokyo デモンストレーション - 2 ※ 「⽣成AI」はプレビュー版なので留意
25. Proprietary 025 Google Cloud Next Tokyo デモンストレーション - 2
26. Proprietary 026 Google Cloud Next Tokyo AI を使ったアプリのオブザーバビリティ 実際には、正常なサービス運⽤ができていない可能性がある。 • LLM の振る舞いは⾮決定的 • 内部の処理がブラックボックスになりがち • ユーザーからのリクエストも多種多様 • e.t.c... AI を使ったサービス 処理 / 推論  ✅ リクエスト数 正常  ✅ エラー なし  ✅ レイテンシー 良好 Prompt Injection ネガティブ感情 ハルシネーション 実際に画⾯⾒たい⼈は Ask the Experts に来てね 👋
27. Proprietary 027 Google Cloud Next Tokyo まとめ • タイトルの OpenTelemetry と Telemetry API を解説した • AI 時代（の AI を使ったサービス）にもオブザーバビリティは重要 • オブザーバビリティにおいて、「テレメトリーの収集」は重要な関⼼事の⼀つ ◦ OpenTelemetry がメイントピック ◦ Google Cloud を使ってサービス開発する 全てのエンジニアにとって重要なものだと思うので、話しました
28. Proprietary 028 Google Cloud Next Tokyo 同僚たちの宣伝
29. Proprietary 029 Google Cloud Next Tokyo Ask the Expert にぜひお越しください Google Cloud に関する技術的なご質問に GDE（ Google Developers Experts ）がお答えします！ Stage Ask the Expert 本ステージの後方にございますので、 ぜひお立ち寄りくださいませ！