Azure Serverless × AI Agent × MCP アーキテクチャ最前線 / Azure Serverless Agent Architecture

by miyake

Slide 1

Slide 1 text

Azure Serverless × AI Agent × MCP — アーキテクチャ最前線三宅和之 / ZEN Architects

Slide 2

Slide 2 text

About Me Kazuyuki Miyake - 三宅和之 ZEN Architects（ゼンアーキテクツ）代表 Microsoft MVP for Azure / Microsoft Regional Director AOAI Dev Day 発起人たまに DJ（House, K-Pop）

Slide 3

Slide 3 text

No content

Slide 4

Slide 4 text

Agenda リファレンスアーキテクチャと導入事例 Agentic Workflow（マルチエージェント） MCP による Agent 最適化 AI Apps on Azure を強化する仕組み

Slide 5

Slide 5 text

リファレンスアーキテクチャ by ZEN Architects 年間30件以上のワークショップ実施経験から得た知見を反映 Microsoft 海外イベントでの事例紹介や AI コンテストにて受賞歴あり Azure PaaS/Serverless 系サービスを基盤に、RAG と AI Agent を組み合わせた構成

Slide 6

Slide 6 text

Agentic Workflow（マルチエージェント）

Slide 7

Slide 7 text

リファレンスアーキテクチャ（Agentic Workflow 編） 7

Slide 8

Slide 8 text

Microsoft Ignite 2024 の Keynote 事例にグローバルでも最先端となるマルチエージェントの適用例として紹介サティア・ナデラ CEO が基調講演で直接言及 8

Slide 9

Slide 9 text

Agentic Workflow ワークフローの実行に LLM を活用するマルチエージェントパターン Orchestrator が複数の Agent を協調させながら回答を導く長時間処理・並列処理になることが多いため、単純には実装できない 9

Slide 10

Slide 10 text

Durable Functions による Agentic Workflow の実現イベントの待機や再試行の仕組みが必要となる（手動での実装は難易度が高い） Durable Functions の利用で Agentic Workflow を容易に実現可能状態管理、再試行、並列処理、外部イベント連携 etc. コードだけでワークフローを表現できる Orchestrator 部分の実装がシンプルに 10

Slide 11

Slide 11 text

Durable Task Scheduler (DTS) によるマルチエージェント管理 Durable Functions のマネージドバックエンド（ストレージ管理が不要に）従来より高速に動作しスループットも向上 DTS のモニタリング機能でマルチエージェントの処理状況を分析可能 11

Slide 12

Slide 12 text

Azure Functions Flex Consumption でホスティング Azure Functions の新しいホスティングプラン（ほぼこれ一択で良い）サーバーレス × 高速スケール高速スケール（数秒で数百インスタンスにスケール）スケール・トゥ・ゼロ対応（アイドル時無課金） 250,000 回の実行/月まで無料 Vnet 統合が利用可能 AI Apps に向いている負荷が読みにくい AI パイプライン長時間実行になりがちな LLM 処理 12

Slide 13

Slide 13 text

MCP による AI Apps 最適化

Slide 14

Slide 14 text

リファレンスアーキテクチャ（MCP 編） Azure Functions を利用した MCP アーキテクチャの実装例 AI Challenge Day でブレイクスルー賞を受賞 14

Slide 15

Slide 15 text

Slide 16

Slide 16 text

MCP の導入効果 AI Agent 実装の観点では、実装の複雑性が削減されるチーム開発の観点では、並行開発を促進できる責務分割が明確（Client で LLM 利用、Server でデータ取得） 16

Slide 17

Slide 17 text

Azure における MCP Sever / Client の配置 17

Slide 18

Slide 18 text

Azure Functions MCP Tool Trigger Preview 簡単に Remote MCP Server を構成できる Remote MCP Server に Azure Functions のプラットフォーム機能を利用可能 Streamable HTTP にも対応し、より安定した接続が可能 18

Slide 19

Slide 19 text

MCP Client on App Service by ZEN App Service 上で稼働する MCP Client Claude Desktop とほぼ同等の機能を持っている Web アプリのため、Entra ID 認証との組み合わせが可能 Azure 上のアプリなので Azure OpenAI をセキュアに利用できる 19

Slide 20

Slide 20 text

AI Apps on Azure を強化する仕組み

Slide 21

Slide 21 text

Advanced RAG による精度向上複数のツールでドキュメントを解析する（Document Intelligence + AOAI）文書を画像として LLM に理解させてからベクター化要約ベクターを追加で生成して検索時の精度を向上ドキュメント解析パイプラインをイベント駆動型で自動化 21

Slide 22

Slide 22 text

Cosmos DB で AI Apps に最適化されたデータストアを構築する低レイテンシ / 高信頼性の NoSQL DB を RAG のデータストアとして利用 AI Apps で利用する様々なデータを格納できる（チャット履歴、ベクター、メタデータ、マスタ、トランザクション etc.）ベクター検索、ハイブリッド検索にも対応 22

Slide 23

Slide 23 text

Container Apps Dynamic Session による LLM の補完 Azure Container Apps が提供する動的セッション機能コードインタープリターとほぼ同じ機能を独自 AI Apps に追加できる LLM が不得意な複雑な計算処理やグラフ描画に向いている 23

Slide 24

Slide 24 text

AI Foundry Evaluation x GitHub Actions で LLM Ops を強化 AI Foundry Evaluation を利用して LLM の評価を自動化 LLMOps のフローを GitHub Actions で構築 24

Slide 25

Slide 25 text

まとめ Agentic Workflow の実装には Durable Functions が有効 MCP による責務分割でアーキテクチャをシンプルに Azure で RAG を作るならまず Cosmos DB から出発しよう GitHub Actions で LLM Ops を自動化しよう

Slide 26

Slide 26 text

ご清聴ありがとうございました @kazuyukimiyake