Azure Serverless × AI Agent × MCP アーキテクチャ最前線 / Azure Serverless Agent Architecture

ServerlessDays Tokyo 2025 の発表資料です

Transcript

1. Azure Serverless × AI Agent × MCP — アーキテクチャ最前線 三宅 和之 / ZEN Architects
2. About Me Kazuyuki Miyake - 三宅 和之 ZEN Architects（ゼンアーキテクツ）代表 Microsoft MVP for Azure / Microsoft Regional Director AOAI Dev Day 発起人 たまに DJ（House, K-Pop）
4. Agenda リファレンスアーキテクチャと導入事例 Agentic Workflow（マルチエージェント） MCP による Agent 最適化 AI Apps on Azure を強化する仕組み
5. リファレンスアーキテクチャ by ZEN Architects 年間30件以上のワークショップ実施経験から得た知見を反映 Microsoft 海外イベントでの事例紹介や AI コンテストにて受賞歴あり Azure PaaS/Serverless 系サービスを基盤に、RAG と AI Agent を組み合わせた構成
6. Agentic Workflow（マルチエージェント）
7. リファレンスアーキテクチャ（Agentic Workflow 編） 7
8. Microsoft Ignite 2024 の Keynote 事例に グローバルでも最先端となるマルチエージェントの適用例として紹介 サティア・ナデラ CEO が基調講演で直接言及 8
9. Agentic Workflow ワークフローの実行に LLM を活用するマルチエージェントパターン Orchestrator が複数の Agent を協調させながら回答を導く 長時間処理・並列処理になることが多いため、単純には実装できない 9
10. Durable Functions による Agentic Workflow の実現 イベントの待機や再試行の仕組みが必要となる（手動での実装は難易度が高い） Durable Functions の利用で Agentic Workflow を容易に実現可能 状態管理、再試行、並列処理、外部イベント連携 etc. コードだけでワークフローを表現できる Orchestrator 部分の実装がシンプルに 10
11. Durable Task Scheduler (DTS) によるマルチエージェント管理 Durable Functions のマネージドバックエンド（ストレージ管理が不要に） 従来より高速に動作しスループットも向上 DTS のモニタリング機能でマルチエージェントの処理状況を分析可能 11
12. Azure Functions Flex Consumption でホスティング Azure Functions の新しいホスティングプラン（ほぼこれ一択で良い） サーバーレス × 高速スケール 高速スケール（数秒で数百インスタンスにスケール） スケール・トゥ・ゼロ対応（アイドル時無課金） 250,000 回の実行/月まで無料 Vnet 統合が利用可能 AI Apps に向いている 負荷が読みにくい AI パイプライン 長時間実行になりがちな LLM 処理 12
13. MCP による AI Apps 最適化
14. リファレンスアーキテクチャ（MCP 編） Azure Functions を利用した MCP アーキテクチャの実装例 AI Challenge Day でブレイクスルー賞を受賞 14
16. MCP の導入効果 AI Agent 実装の観点では、実装の複雑性が削減される チーム開発の観点では、並行開発を促進できる 責務分割が明確（Client で LLM 利用、Server でデータ取得） 16
17. Azure における MCP Sever / Client の配置 17
18. Azure Functions MCP Tool Trigger Preview 簡単に Remote MCP Server を構成できる Remote MCP Server に Azure Functions のプラットフォーム機能を利用可能 Streamable HTTP にも対応し、より安定した接続が可能 18
19. MCP Client on App Service by ZEN App Service 上で稼働する MCP Client Claude Desktop とほぼ同等の機能を持っている Web アプリのため、Entra ID 認証との組み合わせが可能 Azure 上のアプリなので Azure OpenAI をセキュアに利用できる 19
20. AI Apps on Azure を強化する仕組み
21. Advanced RAG による精度向上 複数のツールでドキュメントを解析する（Document Intelligence + AOAI） 文書を画像として LLM に理解させてからベクター化 要約ベクターを追加で生成して検索時の精度を向上 ドキュメント解析パイプラインをイベント駆動型で自動化 21
22. Cosmos DB で AI Apps に最適化されたデータストアを構築する 低レイテンシ / 高信頼性の NoSQL DB を RAG のデータストアとして利用 AI Apps で利用する様々なデータを格納できる （チャット履歴、ベクター、メタデータ、マスタ、トランザクション etc.） ベクター検索、ハイブリッド検索にも対応 22
23. Container Apps Dynamic Session による LLM の補完 Azure Container Apps が提供する動的セッション機能 コードインタープリターとほぼ同じ機能を独自 AI Apps に追加できる LLM が不得意な複雑な計算処理やグラフ描画に向いている 23
24. AI Foundry Evaluation x GitHub Actions で LLM Ops を強化 AI Foundry Evaluation を利用して LLM の評価を自動化 LLMOps のフローを GitHub Actions で構築 24
25. まとめ Agentic Workflow の実装には Durable Functions が有効 MCP による責務分割でアーキテクチャをシンプルに Azure で RAG を作るならまず Cosmos DB から出発しよう GitHub Actions で LLM Ops を自動化しよう
26. ご清聴ありがとうございました @kazuyukimiyake