Upgrade to Pro — share decks privately, control downloads, hide ads and more …

AIエージェントとKong MCP Gateway

Avatar for hashi hashi
January 21, 2026

AIエージェントとKong MCP Gateway

Kong Solution Day 2026 - 登壇資料

AIエージェント元年となった2025年。年を跨いでもその取り組みはさらに加速しており、MCP(Model Context Protocol)の浸透によってAIエージェントのユースケースは様々広がっています。本セッションではMCPの概要や導入における課題、KongのMCPゲートウェイによってこれら課題を克服するアプローチについてご紹介します。

Avatar for hashi

hashi

January 21, 2026
Tweet

More Decks by hashi

Other Decks in Technology

Transcript

  1. Kong Solution Day 2026 Winter AIエージェントと Kong MCP Gateway 橋⾕

    信⼀ Kong株式会社 シニア スタッフ ソリューション エンジニア
  2. エージェンティックAIとAIエージェント 指定したワークフローに従って処理が実⾏される。LLMへのリクエス ト/レスポンスを整形/加⼯したり、LLMからのリクエストに応じて分 岐/再帰処理を実⾏する。 RAGはAgentic Wokflowの特殊な形態。LLM外にあるデータストアか ら関連情報を取得の上、LLMの知識を補完する形で利⽤する。⼀般的 には関連性の⾼い情報の抽出にベクトルDBが⽤いられる。 Task Answer

    Workflow Workflow Engine LLM Task Answer Workflow Workflow Engine Tool LLM Tool RAG Agentic Workflow Task Answer Agent Agent LLM Tool Agent Tool Tool AI Agent AI Agentは固定したプロセスを持たず⾃⽴した判断を⾏った 上で回答するモデル。結論の妥当性を評価し、場合によって は反復的な処理サイクルを実施する。 依存関係となる外部システムはToolと呼ばれ、LLMから呼び 出せるよう設定がなされる。LLMはどの時にどのToolをどう 呼び出すかの情報を元に、判断の元これらToolを利⽤する。 ⽤途毎に異なるLLMを利⽤するマルチLLMのアプローチが取 られる事も⼀般的。
  3. Model Context Protocol LLMではトレーニングで利⽤したデータセット以外 の知⾒を持たない。外部の情報を利⽤するには何か しらの⽅法でLLMから外部サービス(Tool)へのア クセスする⽅法が必要となる。 現状、この接続機能はLLMプロバイダ毎に定義され ており互換性が無い。LLMは純粋な独⽴モデルでは なく外部統合の定義も含有されている為LLMの切り

    替え負荷が⾼い。 Agent OpenAI Tool (API) Function Calling Agent Anthropic Tool Use Agent OpenAI Tool (API) MCP Client Agent Anthropic MCP Client MCP Server LLMからToolへのアクセス⽅式を仕様化する事により: • プロバイダ特有機能への依存度を減少 • 多くの外部連携に対して共通⽅式でアクセス MCPのプロトコル: • JSON-RPC 2.0によるコミュニケーション。 • stdioもしくはStreamableHTTPによる通信。 • OAuth 2.1による認可。
  4. AIエージェントとLLMとMCP Agent LLM MCP Server API これが使えるTool⼀覧です このToolを実⾏してください Toolの実⾏結果です どんなToolが

    使えるの? これが使えるTool の⼀覧と概要です APIの実⾏ このToolを実⾏ してください API実⾏結果の返却 これがToolから の戻り値です tools/list tools/call Toolsを取ってくるの はエージェントだが どのToolを使うのかを 決めているのはLLM
  5. Model Context Protocol - 通信⽅式 MCP Client MCPが登場した時点では、認可における仕様が不確 定だった事もありstdioでの通信アプローチが主流で はあった。認可仕様が⼀旦公開された事により、

    SaaS各社がMCPサーバーを公開する等、リモート接 続の機能が多く市場に現れた。 最終的には、APIを提供する側が同様にMCPを提供す るアプローチが⾃然となり、ローカル接続が必要な ケースを除いては主軸となると思われる。 LLM MCP Server Tool (API) MCP Client LLM MCP Server Tool (API) MCP Server MCP Client Authentication Validation Protection MCPサーバーは、基本的には業務ロジックを含まな い⾮機能要件の集合体となる為開発は容易。⼀⽅、 数が多くなり運⽤負荷が⾼まる傾向にある。 これまでのKong Gatewayのプラグインでも多くの⾮ 機能要件を吸収する事ができる。MCPサーバー構築 に対する開発負荷の軽減や、横断的ガバナンスにお いて、APIゲートウェイ経由でMCPを公開する事の意 味合いは⼤きい。
  6. Model Context Protocol - 課題 MCPはプロトコルとしてまだ発展途上であり、利⽤ 者からのフィードバックを受け⽐較的頻繁に更新が ⼊る。 既に構築したMCPサーバーに対してもバージョン追 従の為の更新が必要となる。エージェントからみた

    MCPの機能性を揃える為にもその頻度に応じて改修 が必要となる。 Tool (API) Tool (API) Tool (API) Tool (API) Tool (API) Tool (API) MCP Server MCP Server AI Agent MCP Server MCP Server MCP Server MCP Server AI Agent AI Agent AIエージェントの数が増え、それぞれのエージェン トのスコープが広がるにつれ、MCPアクセスが必要 なAPIが増える。 MCPサーバーは開発が容易と⾔っても、それぞれの ライフサイクル管理や運⽤負荷が肥⼤化する。MCP サーバーの数も、最⼤APIの数まで増える事になる。 Tool (API) Tool (API) Tool (API) MCP Server MCP Server MCP Server version 2025-11-25
  7. APIゲートウェイ PRIVATE TRAFFIC API APP API APP API APP Service

    PUBLIC TRAFFIC AuthN AI Rate Limit APIゲートウェイ CLIENT PRIVATE TRAFFIC PUBLIC TRAFFIC API APP API APP API APP API APP API APP API APP API APP API APP API APP API APP APIゲートウェイ PRIVATE TRAFFIC AuthN AuthN Rate Limit Bot Detect Transform OPA Multi-AI Adoption コストコントロールも念 頭に置いて、タスクには 適切なLMMを使い分けた い。 LLM AI Data Governance AIモデルに出⼊りする データにある機微情報 を適切にコントロール したい。 AI Usage Governance AIの利⽤をポリシーで制御 し、監視し、想定外のコス ト膨張となる⾃体を予防した い。 11 AI Gateway - LLMアクセスへの横断的ガバナンス
  8. AI Gateway - 機能 • LLMへの認証情報をプラグイン側で補完したのちリ クエストを送信。 • 複数のLLMをクライアント側から動的に切り替え。 •

    プロンプトのテンプレート化。 • ⽂脈を理解したキャッシング/バリデーション。 • LLM APIトークン数による流量制限。 • プロンプトにポリシーを追加した後にリクエストを 送信。 • 特定⽂⾔のブロックやマスキング。 • APIのリクエストを送る前/レスポンスを受け取った 後にLLMを中継。 • MCPサーバーの認証管理。 • REST APIをMCP化。 • MCPサーバーの認可(ACL) • LLMを利⽤したレスポンスのスコア化。
  9. Kong AI Gateway / MCP Gateway 元々APIへの横断的なガバナンスの 提供をする業界標準のAPIゲート ウェイ。2024年4⽉より「AI Gateway」という名前でLLMとの通

    信における新たなプラグインを提 供開始。 Kong Gateway 3.12より、MCPプロ トコルに対応したプラグインを提 供開始。これにより、アプリから LLM、LLMからAPIへの通信全体に まで横断的ガバナンスを広げる。
  10. MCP Gateway - MCPへの横断的ガバナンス MCPサーバへの諸々の⾮機能要件、ならび に既存APIをMCP化する機能を提供。 - 既存のREST APIに対してMCPアクセス を提供する事が可能。(MCP

    Proxyプ ラグイン) - OAuth 2.1対応(MCP OAuth2プラグイ ン) - Toolへのへの多彩な認証⽅式をサポー ト(OpenID Connect、OAuth2、 JWT、キー、SAML、等) - その他多くのポリシーがMCPアクセス でも利⽤可能であり、MCPサーバの実 装をより軽量に出来る。 MCP Client MCP Server MCP Proxy MCP Server Before Tool (API) Tool (API) MCP Client MCP Server MCP Proxy Authz MCP Server Tool (API) Tool (API) Protection Validation After
  11. MCP Proxyによるトラフィック マネジメント MCP Client MCP Gateway MCP Proxy MCP

    Proxy MCP Proxy MCP Proxy Tool (API) MCP Server Tool (API) MCP Proxy Tool (API) Tool (API) passthrough- listener conversion- listener listener MCP Client MCP Client conversion- only 既存のMCPサーバーに対してリクエ ストをルーティングするプロキシと して機能。 REST APIに対してプロトコル変換を ⾏うMCPエンドポイントを提供。 MCPエンドポイントのみ提供。 REST APIに対するMCP/RESTプロト コル変換を実施。 ACL ACL ACL
  12. デモ - REST APIのMCP化 REST API AI MCP Proxy •

    MCPエンドポイントを提供 • tools/list • tools/call • REST APIのパラメータ設定 • OpenWeatherMapのキー設定 MCP { method: "tools/call" params: { name: "current-weather-by-longitude-and-latitude" arguments:{ query_lat: 35.666 query_lon: 139.732 } … } } https://api.openweathermap.org/data/2.5/w eather?appid=xxxxxxxx&units=metric&lat=35 .666&lon=139.732 lat: 35.666 lon: 139.732 appid: xxxxxxxx unit: metric lat: 35.666 lon: 139.732
  13. デモ - 複数APIの集約MCP REST API AI MCP Proxy MCP AI

    MCP Proxy AI MCP Proxy Account Service • Create • List • Credit • Debit REST API Transaction Service • Create • List { tools: [ { name: "create-a-transaction", description:"Create a new …", … }, { name: "create-an-account", description:"Create an account …", … }, { name: "list-all-accounts", description:"Get a list of accounts…", … } … Accounts • Create Account • List Accounts • Create Transaction • List Transactions