Tweet
Tweet

Slide 1

Slide 1 text

Azure OpenAI ServiceのAdd your Dataで(出 来る限り簡単に)企業の独自情報にも回答してく れるシステムを作ってみた .NETラボ 佐竹 祐亮

Slide 2

Slide 2 text

apc-y-satake satyus 佐竹祐亮 / Yusuke Satake .NETラボ所属 Experience • 学習塾を経営 • プログラミングスクールを経営 • 株式会社エーピーコミュニケーションズにてDXコンサルタントに従事 Expertise  学習塾起業  プログラミングスクール起業  ソフトウェア開発  DX  React / Next.js  Node.js  Microsoft Azure  数学ⅠA・ⅡB・ⅢC  物理  英語

Slide 3

Slide 3 text

Agenda  本日の概要  従来の独自データの扱い方  Add your dataでの独自データの扱い方  DEMO  AOAI + Add your dataでクラウドネイティブアプリケーション開発  最後に

Slide 4

Slide 4 text

本日の概要  Azure OpenAI Serviceで現在プレビュー中の機能であるAdd Your dataを使って (出来る限り簡単に)企業の独自情報にも回答してくれるシステムを開発してみ ました。  実装方法を以下の記事にまとめてりますので、是非ハンズオンを通じてAzure OpenAI Serviceで遊んでみてください！  概念の説明 https://techblog.ap-com.co.jp/entry/2024/01/14/172841 ・ ハンズオン https://zenn.dev/yusu29/articles/azure_openai_addyourdata

Slide 5

Slide 5 text

従来の独自データの扱い方  Azure OpenAI Service(AOAI)で独自データを扱うためには以下の図のような アーキテクチャが必要でした。  AOAIとAzure AI Search(旧Cognitive Search)を並列に配置し、RAGアーキ テクチャを用いて独自情報を取り出す方法が一般的でした。 参考：https://github.com/Azure-Samples/azure-search-openai-demo

Slide 6

Slide 6 text

従来の独自データの扱い方  アプリの実装の難易度が高くなる (RAGアーキテクチャの実装)  LangChain等を使うと、ライブラリの version upについていかないといけな い  AI Search内で使用するIndexを自 前で生成する必要がある …etc 参考：https://github.com/Azure-Samples/azure-search-openai-demo  従来の方法での独自データの扱いには数点の課題

Slide 7

Slide 7 text

Add your dataでの独自データの扱い方  現在プレビュー中のAOAIの機能、Add your dataでのデータの取り扱いは従 来の方法と比較して非常に簡単になりました。  APIをAOAIが用意してくれるので、ア プリ側からAPIを叩くだけでOK  AI Search内で使用するIndexを自 動で生成 …etc

Slide 8

Slide 8 text

Add your dataでの独自データの扱い方  Add your dataのAPIを叩く方法は２パターン  Completions extensions APIを叩く  Add your dataからデプロイした WebAppsのAPIを叩く dataSourcesは都度指定 WebApps AOAIに直接アクセス WebAppsのAPIへアクセス dataSourcesは固定  会話の内容によってデータソースを切替 可能  とにかくアプリの実装が楽

Slide 9

Slide 9 text

DEMO AOAI + Add your dataでクラウドネイティブアプリケーション開発

Slide 10

Slide 10 text

本日のDEMOのアーキテクチャ  アプリケーションはNext.jsを使用  Add your dataからデプロイした WebAppsのAPIを叩く  独自データはBlob Storageにpdfを配 置(私の石垣島旅行の旅のしおり)  Add your dataを用いてAI Search へ Indexを自動作成  Add your dataの機能でWebAppsを 自動デプロイし、APIとして利用

Slide 11

Slide 11 text

すごいちなみに…読み込ませたデータは以下です。

Slide 12

Slide 12 text

DEMO

Slide 13

Slide 13 text

最後に いかがだったでしょうか。  今回Add your dataを用いて独自データを扱うシステムを簡単に構築出来る 方法をご紹介いたしました。  是非ご視聴された皆様でAdd your dataを使ったことがない方は一度ハンズオ ンして楽しんでいただけますと幸いです。

Slide 14

Slide 14 text

ご清聴頂きありがとうございました。

Slide 15

Slide 15 text

参考資料  Zenn https://zenn.dev/yusu29/articles/azure_react_llm  APCブログ https://techblog.ap-com.co.jp/entry/2023/12/28/143632  X https://twitter.com/fe_js_engineer