AIエージェントのオブザーバビリティについて

Transcript

1. AIエージェントのオブザーバビリティについて 3-shake SRE Tech Talk #12 株式会社スリーシェイク 山田悠之介 Copyright © 3-shake, Inc. All Rights Reserved.
2. Copyright © 3-shake, Inc. All Rights Reserved. 会社名 株式会社スリーシェイク 設立日 2015/1/15 Mission: インフラをシンプルにして イノベーションが起こりやすい世界を作る confidential 2 About US Vision: 労苦〈Toil〉を無くすサービスを適正な価格で提供し続ける Value: エンジニアリングレイヤーに横たわる人、手法、ツールが サイロ化されて労苦が発生しているプロセスをシンプルにし サービス機能開発に集中できるソリューション （SRE、DevSecOps、DataOps、HROps）を提供する 2015 2016 2017 2018 2019 2020 2021 2022 0 50 100 従業員: 200名over Engineer 60% 所在地 東京都新宿区大京町22-1 グランファースト新宿御苑3F・4F　 代表者 代表取締役社長　吉田 拓真 沿革 2021年1月 JAFCOから総額5億円の資金調達 2022年8月 自動脆弱性診断ツール「Securify Scan」をリ リース。JAFCO、MUCAPから総額8.48億円の資金調達 Googleクラウド・AWSの両方のエンジニアリングに強みを持つ （2024年8月に国内2例目の、GoogleCloudのDevOpsスペシャライゼーションを取得）
3. SREを主軸にクラウドネイティブ化/エンジニアリング内製化を支援 SRE/DevOps SecOps BizOps HR ・SRE総合支援からセキュリティ対 策を全方位支援 ・Geminiを用いた生成AIの活用支援 ・ワンストップで脆弱性診断を行う セキュリティ対策SaaS ・クラウド型ETL/データパイプ ラインSaaSの決定版 ・あらゆるSaaSをノーコードで連携 ・ハイスキルフリーランスエンジニ ア紹介エージェント IT内製化 / 高度化 クラウドネイティブ化 モダナイゼーション ITアジリティ向上
4. 目次 1. AIエージェントとは 2. AIエージェントの実装 3. AIエージェントのオブザーバビリティの現在 4. AIエージェントとそのオブザーバビリティの今後 4
5. 目次 1. AIエージェントとは 2. AIエージェントの実装 3. AIエージェントのオブザーバビリティの現在 4. AIエージェントとそのオブザーバビリティの今後 5
6. 2025年はAIエージェントの年 最近の生成AI技術の発展に伴い、アプリケーションへの応用も増加しています。 特に2025年はAIエージェントとしての実装が活発になると言われています。 6 https://news.mynavi.jp/techplus/article/20250423-3218816/ https://opentelemetry.io/blog/2025/ai-agent-observability/
7. AIエージェントとは • AIエージェントについての明確かつ広く受け入れられた定義は存在しない ◦ 特にどの程度自律的に振る舞うべきかどうかについて • 本セッションでは以下の条件を満たすソフトウェアをAIエージェントと呼びます ◦ 生成AIをベースとする（いわゆるLLM-based Agents） ◦ 人間の指示に対してプランニングと実行を行う 7
8. AIエージェントの分類 どの程度自律的に振る舞うかによって3つに分類される 注意 • 実際にはグラデーション • 完全自律型のエージェントは実用レベルではない • ハイブリッド型が優れているというわけではない 8 ワークフロー型 事前に定義された ワークフローに従い どのツールを使うかも 事前に決まっている 完全自律型 人間は目標だけを 与え、手段は全て エージェントに委ねる ハイブリッド型 ある程度の流れの定義や ツールの選択肢はあるが 具体的な行動は エージェントが選ぶ https://zenn.dev/pharmax/articles/d1d3695e4114c0を参考
9. 目次 1. AIエージェントとは 2. AIエージェントの実装 3. AIエージェントのオブザーバビリティの現在 4. AIエージェントとそのオブザーバビリティの今後 9
10. AIエージェントを実装するためのライブラリ AIエージェントをどう実装するかによって 世界観やオブザーバビリティの獲得方法も異なると考えています。 そこでAIエージェントを実装するライブラリについて2つ紹介します • LangGraph • Agent Development Kit 10
11. LangGraph エージェントをステートマシンとして実装するためのOSS 自律性という観点では • 事前に定義されたワークフローに従う • 各ノード、エッジでどの程度AIに任せるかは実装次第 11 https://langchain-ai.github.io/langgraph/how-tos/visualization/
12. Agent Development Kit（ADK） AIエージェントを実装するためのGoogle製OSS 自律性という観点では • 基本的にどのツールを呼び出すかは生成AIに委ねる方針 • 実行フロー制御（Workflow Agent）、カスタムの処理（Custom Agent）もある 12 root_agent = Agent( name="weather_time_agent", model="gemini-2.0-flash", description=( "Agent to answer questions about the time and weather in a city." ), instruction=( "You are a helpful agent who can answer user questions about the time and weather in a city." ), tools=[get_weather, get_current_time], ) https://google.github.io/adk-docs/get-started/quickstart/
13. それぞれで実装されたエージェントがどの程度自律性を持つか 注意 • 「自律的 = 優れている」ではない AIエージェントの分類 13 LangGraph Agent Development Kit ワークフロー型 完全自律型
14. 異なる世界観 実装方針の違いは世界観にも現れる（逆かも？） • LangGraphはフローを定義しやすいため、1つの大きなエージェントが出来上がる ◦ 大きなエージェントが単独で行動する世界観 • ADKはフローを定義しづらいため、1つのエージェントは大きくしにくい ◦ Googleは複数のエージェントが協調する世界観 ▪ Agent2Agent (A2A) Protocolの提唱 14
15. 目次 1. AIエージェントとは 2. AIエージェントの実装 3. AIエージェントのオブザーバビリティの現在 4. AIエージェントとそのオブザーバビリティの今後 15
16. エージェントのオブザーバビリティの必要性 AIエージェントの「難しさ」に対してオブザーバビリティを考える必要性 16 何が生成 される？ どれくらい 時間がかかる？ どれくらい お金がかかる？ 巨大な ワークフロー 外部サービス の呼び出し モデルの更新
17. エージェントにオブザーバビリティを与えるサービス ここまでで紹介したLangGraph、ADKに対して オブザーバビリティを与えるためのサービスをそれぞれ1つずつ紹介 • LangSmith • Vertex AI Agent Engine 17
18. LangSmith LLMアプリ開発を支援するための統合的なSaaSプラットフォーム 主な機能にオブザーバビリティ、評価、プロンプトエンジニアリングなどがある 18 https://smith.langchain.com/public/4fbd7636-25af-4638-9587-5a02fdbb0172/r/2b91002a-4e1f-47f6-8440-3bceca11eb52
19. Vertex AI Agent Engine AIエージェントのデプロイ、管理を行うGoogle Cloudのフルマネージドサービス Google Cloudに統合された監視や評価機能もある。 19
20. 既存のオブザーバビリティの枠組みを活かして、 エージェントのオブザーバビリティも実現されている AIエージェントのオブザーバビリティの現在 20 実行時間、 実行経路、 外部サービス呼び出し →トレース 生成AIへの入出力、 トークン数、 課金額 →スパン属性
21. 目次 1. AIエージェントとは 2. AIエージェントの実装 3. AIエージェントのオブザーバビリティの現在 4. AIエージェントとそのオブザーバビリティの今後 21
22. AIエージェントの今後について 2つのシナリオ 1. 生成AIの進化で完全自立型が爆誕する未来 a. 「非連続的な進化はそもそも予測できない」 2. 現在の延長線でエージェントが進化していく未来 a. 予想は可能 22
23. AIエージェントの今後：延長線シナリオ AIエージェントは通常のアプリケーションと同じ道をたどると予想 • ワークフロー型エージェント ◦ 単一のシステムとして巨大化 ▪ すでに巨大なワークフローを持つエージェントは存在 ◦ どこかで限界に到達し、モノリス→マイクロサービスのように分割される ▪ マルチエージェントシステム（MAS）化 • ハイブリッド型エージェント ◦ 1つのエージェントは大きくしにくいため自然とMASに マイクロサービスの知見がAIエージェントでも活かせるはず • 耐障害性 • スケーラビリティ • オブザーバビリティ 23
24. AIエージェントのオブザーバビリティの今後：延長線シナリオ MAS化によりオブザーバビリティが一層重要に • MASはエージェント版のマイクロサービス ◦ マイクロサービスと同様にオブザーバビリティが重要 • 例えば ◦ エージェントからのツール呼び出しを分散トレース ▪ MCPサーバのOTeL計装 ◦ エージェント間の分散トレーシング ▪ A2AサーバのOTeL計装 24
25. MCPサーバのOpenTelemetry計装 MCP（Model Context Protocol） • LLMアプリからツールを利用するプロトコルのデファクトスタンダード • ローカルでの利用（stdio）とリモートでの利用（Streamable HTTP）が可能 MCPの計装 • MCP自体はJSON-RPC 2.0で、リモート利用でもWebフレームワークは自由に選択可能 • 例えばexpressを選択するなら、expressアプリとして計装をするだけ ◦ 気になった方は 25 https://zenn.dev/kimitsu/articles/otel-and-mcp
26. A2AサーバのOpenTelemetry計装 A2A（Agent2Agent Protocol） • エージェント間通信のためのGoogle製オープンプロトコル • 注意：仕様としてもまだ0.1.0で、SDKもプロトタイプ A2Aの計装 • A2AはJSON-RPC 2.0 over HTTP(S) • SDKではサーバがStarlette、クライアントがhttpxなので、普通に計装するだけ ◦ 気になった方は 26 https://zenn.dev/kimitsu/articles/otel-and-a2a
27. まとめ • AIエージェントの難しさに対してオブザーバビリティが重要 • エージェントを実装するライブラリとしてLangGraph、ADKなどがあり、 それぞれLangSmith、Vertex AI Agent Engineなどのサービスを利用することで オブザーバビリティを獲得できる。 • 今後の予想としてエージェントはMASになっていき、 マイクロサービスでの知見がエージェントでも活かせるはず • 例えばエージェントにおけるオブザーバビリティが一層重要になっていく 27