Upgrade to Pro — share decks privately, control downloads, hide ads and more …

HolmesGPTで始めるSREエージェント入門!プラットフォームの障害調査はAIにお任せ 〜

Avatar for SANGHYUK LEE SANGHYUK LEE
September 26, 2026

HolmesGPTで始めるSREエージェント入門!プラットフォームの障害調査はAIにお任せ 〜

本資料は Platform Engineering Kaigi 2026で使用された資料です。
リンク:https://www.cnia.io/pek2026/sessions/59203b58-5be7-43d6-8a48-ef996e050e50/

HolmesGPT(ホームズGPT)はオープンソースSREエージェントです。CNCFサンドボックスプロジェクトであり、現在も日々成長中です。オープンソースのSREエージェントは他にもいろいろありますが、ホームズGPTの特徴はCNCFエコシステムとの親和性の高さにあります。
K8sをプラットフォームとして運用する場合に必要なArgoCD、プロメテウス、Otel等と非常に親和性が高く、予めツールが用意されていて別途スキル等を設定しなくてもCNCF系のツールを自然に調査に使ってくれます。
さらに、CNCFのみならず様々なベンターとの連携も簡単にできるところが嬉しいポイントです。大抵はMCP経由での連携になりますが、AWS、Google、Azureなど、メジャーなクラウドのMCPとはネイティブに連携でき、マルチアカウント対応も簡単にできます。
また、使用するLLMのプロバイダーも自由に選ぶことができ、OpenAI、Anthropicのみならず、メジャーなLLMプロバイダーはほとんどカバーしています(私はコストメリット重視でGeminiを採用しました)。

でも、エージェントの呼び出しに手間がかかっては障害調査の初動が遅くなりますよね。
そこでエージェントのAPIを呼び出す小さいSlack連携Botを作成し、SlackでメンションするだけでホームズGPTを呼び出せる仕組みを導入しました。
弊社では障害アラートは基本的に全てSlackに流れてくるため、Slackのアラートが最初の障害検知になることがほとんどです。そのため、Slackで気づいたその瞬間にアラートメッセージのスレッドにホームズGPTをメンションすることで即座に障害調査が始められます。

このホームズGPTを導入して最も嬉しかったポイントは、プラットフォームやアプリの構成に詳しくない開発者でも簡単に障害調査ができるポイントでした。
ドメイン知識が浅い開発者は何から始めればいいかわからないことが多いですが、初動調査をエージェントに任せられたことで、プラットフォームエンジニアへの問い合わせが激減しました。
おかげでプラットフォームの社内評判も上がり、ホームズGPT目当てにプラットフォーム利用を検討する部署も出始めました。

Avatar for SANGHYUK LEE

SANGHYUK LEE

September 26, 2026

Other Decks in Technology

Transcript

  1. 何者? 好きな本: 四畳半神話大系、あずまんが大王 好きなアニメ:機動戦士ガンダム 好きな映画: 超時空要塞マクロス 愛・おぼえていますか 好きな音楽: FIRE BOMBER

    好きな食べ物: ラーメン 好きなゲーム:テイルズオブシリーズ、ゼルダの伝説、遊戯王OCG © 2026 Leverages Co., Ltd. 03
  2. HolmesGPT is 何? アラートを渡すと自分で調べて原因を返すAIエージェント • LLMが「何を見るか」を決め、kubectl や PromQL を自分で実行する •

    最後に、根本原因の仮説と根拠(実行したコマンドと結果)を返す • SRE名探偵としてのプロンプト・ペルソナがぎっしり詰め込まれている ◦ (※実際に探偵ごっこをやってくれたりはしないようです) ◦ 以前Claudeにアラートだけコピペしたら説教されたことも... 明白な事実ほど 誤解を招きやすいものはないよ © 2026 Leverages Co., Ltd. 09
  3. CNCFエコシステムとの相性 Kubernetes周りの道具はだいたいデフォルトツールセットで繋がる! • Kubernetes / Prometheus / Grafana / ArgoCD

    / OpenTelemetry 等は組み込みToolset • AWS・GCP・GitHub などは MCP サーバー経由で ◦ クラウドコストデータも見るので簡易的なFinOpsエージェントとしても使えます • Toolsetは40以上。使うものを有効化するだけ • MCP経由なら何でもつながる! • その他弊社で使っているもの(上記すべて含め) ◦ NewRelic MCP ◦ Datadog MCP ◦ OpenCost MCP © 2026 Leverages Co., Ltd. 10
  4. 調査の流れ 人がやっていた「見る → 考える → 次を見る」を、エージェントが回す アラート Toolsetを選ぶ ツールを実行 結果を読む

    仮説と根拠 kubectl / PromQL / クラウドAPI 足りなければもう一周 何らかの方法で アラートを渡す © 2026 Leverages Co., Ltd. 11
  5. 要件定義 holmes-slackbot • Slackとは Socket Mode(WebSocket)で接続。公開エンドポイント不要 • メンションを受けて HolmesGPT の

    API を叩き、スレッドに返す • OpenTelemetry SDKで計装し、Tempo → Grafanaで可視化 • Slackで受け取ったメッセージをHolmesGPTに投げるとき、文頭に [MUST] Answer in Japanese. と付け加える ◦ 地味に便利なこだわりポイント ◦ これが無いとたまに英語で返してくる © 2026 Leverages Co., Ltd. 16
  6. 技術選定 holmes-slackbot • 開発言語 ◦ Go v1.26 ◦ 軽量なBEのみのアプリケーション ◦

    単純に好きな言語だから • HolmesGPTで使用するLLM ◦ Gemini 3.1 Flash-Lite ◦ 当時最も軽量かつ安価なモデルだったため ◦ (Flash Liteの後続モデルはいつ出ますか...?) © 2026 Leverages Co., Ltd. 16
  7. 構成図 ホームズが、クラウドと監視系を見に行く アラート Prometheus / Grafana Amazon EKS Socket Mode

    Slack @holmes-lvgs とメンション holmes-slackbot AWS(MCP) HTTP API GCP(MCP) HolmesGPT NewRelic / Datadog Toolset / MCP でログ・メトリクスを取得 © 2026 Leverages Co., Ltd. 18
  8. 効果検証 社内22件の利用報告のうち、68%で調査が前に進んだ 22 件 利⽤報告(2シート合算) 11 チーム 6つの事業領域で利⽤ 68 50

    % 調査が前に進んだ(15件) % 削減率の中央値(%で報告 した9件、最⼤90%) 22件の内訳 13件 2件 7件 ⼯数削減を報告 削減は測れないが 有⽤ 課題あり © 2026 Leverages Co., Ltd.
  9. ユースケース いちばん効いたのは一次調査の「切り分け」と「原因特定」 ⼀次調査で「対応不要‧誤検知」と判断できた 6件 根本原因や修正箇所まで特定できた 5件 定期確認‧継続アラートの棚卸しに使えた 2件 改善提案からPR作成まで進んだ 1件

    ⼀次調査が速くなった(内容も概ね妥当) 1件 回答の精度‧信頼性に課題があった 5件 権限‧データ不⾜で調査できなかった 2件 役⽴った 15件 課題 7件 © 2026 Leverages Co., Ltd.
  10. 利用者の声 効果検証シートに集まった、実際のコメント 「一次調査からすぐ利用しておけばよかった」 — 障害対応で利用したチーム 「必要権限ないでできる調査としては100点」 — データ基盤を運用するチーム 「コンテキストを適切に与えれば現状の AI

    モデルで十分な価値が出そう」 — バッチのアラートを調査したチーム 「手元のClaudeでの調査と比べると精度が低いように見えていて」 — 最終調査を別ツールで行ったチーム © 2026 Leverages Co., Ltd.
  11. 原因 犯人は全LLMプロバイダーに送られていたプロンプトキャッシュ設定 • HolmesGPTはLLM呼び出しをLiteLLMで抽象化している • 2026年1月末から、Anthropic向けの cache_control_injection_points を全モデルに付ける ように ◦

    v0.20.0 • Geminiでは context caching が有効になり、tools・system instruction と同時に使えず 400 • 2026年5月、Anthropicモデル限定に修正(PR #2069) ◦ v0.31.0で修正 © 2026 Leverages Co., Ltd. 31
  12. 課題② どのチャンネルからでも、誰でも呼び出せてしまう • Slack Appは招待されたチャンネルならどこでも呼び出せる ◦ Slack App側の認証機能は現状なし • 誰が・どこから・何を調べさせたかをHolmesGPT側で制御できない

    • 本番環境を読みに行くエージェントとしては少し怖い • DBやBigQueryなど、個人情報が入ってるデータはSlackに投稿されたくない © 2026 Leverages Co., Ltd. 32
  13. 解決① Gemini からAWS Bedrock の Claude Sonnetへ 観点 Gemini 3.1-Flash-Lite

    Bedrock Claude Sonnet 4.6 ランダムなエラー 発生 消えた 請求先 Google AWSに統一 コスト 安い 上がった PR作成時のコーディング ふつう 少し上がった(気がする) 力 ※ HolmesGPT v0.42.0 時点では Gemini 3.8-Flashでもうまく動作しています! ※ HolmesGPTの開発とテストにはClaudeがメインで使われている模様。推奨モデルもClaude Sonnetになっている © 2026 Leverages Co., Ltd. 34
  14. 今後① holmes-slackbotに認証認可を入れたい! • holmes-slackbotが認証Gatewayとして働くようにしたい ◦ 認可されたユーザー、チャンネルからの呼び出しのみHolmesGPTのAPIに投げる ◦ それ以外は警告文と問い合わせチャンネルへの誘導文を投げる • DB、BigQueryも見れるエージェントを作りたい!

    ◦ 認証認可とエージェントガードレールを整えてクエリさせたい! ◦ 非エンジニアの需要が高い見込み • (現在Slackチャンネル認可機能はほぼ開発が終わって実装中!) © 2026 Leverages Co., Ltd. 37