Ai Workforceを支える技術

by LayerX

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Slide 3

Slide 3 text

Slide 4

Slide 4 text

Slide 5

Slide 5 text

AI-UXを支える技術

Slide 6

Slide 6 text

© LayerX Inc. 6 インフラ構成（全体） ● Azure上にアプリケーションを構築 ● SPA+APIサーバー+非同期処理 Workerの標準的なWebアプリケーション構成 ● APIサーバーと非同期処理Workerの間のコミュニケーションはAzure Queue Storageを利用 ● AIソリューションにはAzure OpenAI Service, Azure AI Document Intelligence, Azure AI Searchを利用 Azure Container Apps Azure Container Apps Azure Application Gateway Azure Cosmos DB Azure OpenAI Service Azure AI Document Intelligence Azure AI Search Azure Blob Storage Azure Queue Storage SPA APIサーバー非同期処理Worker App Service

Slide 7

Slide 7 text

© LayerX Inc. 7 Azure Container Apps App Service Azure Container Apps Azure Application Gateway Azure Cosmos DB Azure OpenAI Service Azure AI Document Intelligence Azure AI Search Azure Blob Storage Azure Queue Storage SPA APIサーバーアプリケーションワークロードと利用技術 ● フロントエンドはApp Service、APIサーバー・非同期処理Workerのワークロードは Azure Container Apps ● フロントエンドはTypeScript(React)、 APIサーバーはPython(FastAPI)、非同期処理WorkerはPython ○ ワークフローエンジンは自前実装 ● Azure OpenAI Service, Azure AI Document Intelligenceなど時間がかかる処理はWorkerを介して非同期的に実行非同期処理Worker

Slide 8

Slide 8 text

AI-UXを支える機能事例の紹介

Slide 9

Slide 9 text

Slide 10

Slide 10 text

© LayerX Inc. 10 抽出元のページをクリック参照元をハイライト ※出典) 3M. (2024). 3M 2023 Annual Report. U.S. Securities and Exchange Commission. https://www.sec.gov/Archives/edgar/data/66740/000130817924000309/mmm4298631-ars.pdf

Slide 11

Slide 11 text

© LayerX Inc. 11 参照元ハイライト機能の実装 ①Azure AI Document IntelligenceでOCR 処理をして、テキストの座標を取得 ②LLM処理で参照元となるテキスト情報を取得 ③①と②の結果からLougeスコアでマッチするものを判定 LLM処理結果に参照元の座標情報を付与する ④フロントで座標情報に基づきハイライト Azure AI Document Intelligence Azure OpenAI Service フロントApp ドキュメント ① ② ③ ④