Cosmos DB で持続可能な RAG を実現しよう！ ～ AOAI Dev Day ふりかえりを添えて Alternative Architecture DOJO SP Kazuyuki Miyake

About Me | 三宅 和之 for Microsoft Azure from 2023  Founder and CEO of  Specializing in Azure PaaS/Serverless architecture design  Hack Everything. / / Vue Fes 運営

Build や Ignite など4回のシ アトル訪問で情報を収集 Azure の Serverless に最適化 された RAG パターンを発表 10社以上のエンタープライ ズシステムに RAG を導入 500人以上のエンジニアに RAG ワークショップを提供 Spent the Last 2 Years on Build・Ignite 現地参加 Azure RAG パターン発表 RAG 導入支援 RAGワークショップ

を主催しました！ カンファレンス  生成 AI 活用の にフォーカス イベント

 マルチエージェントの活用  マルチモデル（SLM + LLM）  Prompty によるプロンプトエンジニアリング  Cosmos DB による Vector Search

- 特定の動作を AI エージェントとして切り出して協調させる - エージェントに特化したモデル利用や実装ができる - オーケストレーターの実装がポイント - Auto Gen、Lang Graph 等のライブラリ - Semantic Kernel でも対応するようになった - Durable Functions でも応用可能 Multi-model, multimodal, and multi-agent innovations in Azure AI Marco Casalaina (Microsoft Corporation) AOAI Dev Day 注目トピック

- Production-ready な 生成 AI アプリに求められること - 性能 - セキュリティ - SLM を使えるシナリオは多い - 用語の変換や翻訳 - タグ抽出など - LLM との組み合わせを活用する - 軽い処理はローカルの SLM で - 複雑な処理はリモートの LLM で - ブラウザからも実行可能（ONNX Runtime） LLM と SLM を活用！Azure Functions × モダンフロントエンドで つくる次世代アプリケーション 芝村 達郎（shibayan）、後川 菜穂子（株式会社merida） AOAI Dev Day 注目トピック

- 開発者向けプロンプトエンジニアリング環境 - VS Code 拡張 - プロンプトをファイルで管理 - 変数や環境変数を利用できる - そのまま LLM にプロンプトを実行可能 - コードとの連携 - LangChain, Semantic Kernel にも対応 Enhancing Prompt Engineering Efficiency with Prompty and LangChain Mijeong Jeon（Microsoft MVP） AOAI Dev Day 注目トピック

AOAI Dev Day 注目トピック Chat history Retrieval Augmented Generation (RAG) Real-time Recommendations Real-time Anomaly Detection Multi-Agent AI Multi-tenant AI apps Azure Cosmos DB and its new vector database capabilities using DiskANN James Codella（Microsoft Corporation） ＋

No content

LLM Chat UI / Search Client LLM Orchestrator Chat History Vector Store Data Indexer GPT-4o 等 の API を実行 ユーザーの入力から プロンプトを生成 チャット履歴の 保存や復元 ベクターへ変換 ベクター検索 インデックス更新 LLM で参照するデータ Embedding の API を実行

Vector Search in Azure Cosmos DB for NoSQL トランザクション データ ベクターデータ • フィルタ • ベクター検索 Gen AI Apps

Incorporate Well-Architected Framework practices Cosmos DB Vector Store .. Managed ID, Content Safety Multi Model, Serveless … Prompty, Prompt Flow … PTU, SLM… 今年の個人的テーマ

本日のまとめ  マルチエージェントの活用  マルチモデル（SLM + LLM）  Prompty によるプロンプトエンジニアリング  Cosmos DB の生成 AI シナリオ対応