Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Azure OpenAI ServiceのAdd your Dataで(出来る限り簡単に)企業の独自情報にも回答してくれるシステムを作ってみた
Search
SatakeYusuke
January 18, 2024
0
160
Azure OpenAI ServiceのAdd your Dataで(出来る限り簡単に)企業の独自情報にも回答してくれるシステムを作ってみた
Azure OpenAI Serviceで現在プレビュー中の機能であるAdd Your dataを使って(出来る限り簡単に)企業の独自情報にも回答してくれるシステムを開発してみました。
SatakeYusuke
January 18, 2024
Tweet
Share
More Decks by SatakeYusuke
See All by SatakeYusuke
Try to make a call center
satakeyusuke19920527
1
100
コールセンターを作ってみた(1)
satakeyusuke19920527
0
340
Azure OpenAI ServiceのAdd your Dataで(出来る限り簡単に)企業の独自情報にも回答してくれるシステムをハンズオンで作ってみる
satakeyusuke19920527
0
200
【Azure OpenAI入門】Azure OpenAI Service × LangChainでクラウドネイティブなアプリ開発
satakeyusuke19920527
0
270
【超入門から応用まで】 Azure OpenAI Service × LangChain
satakeyusuke19920527
2
1.1k
【AI実運用事例】Azure OpenAI×LINEで文字認識→評価を自動化しよう
satakeyusuke19920527
0
40
Azure Bot Service×Azure OpenAIを用いて AI chatbot を作成してみる
satakeyusuke19920527
1
260
学習塾にAzureを組み込んでDX化
satakeyusuke19920527
2
520
Static Web Apps × DevOps × OpenAI で開発事始め
satakeyusuke19920527
0
260
Featured
See All Featured
[RailsConf 2023] Rails as a piece of cake
palkan
28
4k
Ruby is Unlike a Banana
tanoku
96
10k
Designing on Purpose - Digital PM Summit 2013
jponch
111
6.5k
Building an army of robots
kneath
300
41k
A Philosophy of Restraint
colly
197
16k
Java REST API Framework Comparison - PWX 2021
mraible
PRO
19
6.9k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
13
8.3k
Bootstrapping a Software Product
garrettdimon
PRO
302
110k
Put a Button on it: Removing Barriers to Going Fast.
kastner
58
3.1k
Building Flexible Design Systems
yeseniaperezcruz
320
37k
Web Components: a chance to create the future
zenorocha
306
41k
KATA
mclloyd
16
12k
Transcript
Azure OpenAI ServiceのAdd your Dataで(出 来る限り簡単に)企業の独自情報にも回答してく れるシステムを作ってみた .NETラボ 佐竹 祐亮
apc-y-satake satyus 佐竹祐亮 / Yusuke Satake .NETラボ所属 Experience • 学習塾を経営
• プログラミングスクールを経営 • 株式会社エーピーコミュニケーションズにてDXコンサルタントに従事 Expertise 学習塾起業 プログラミングスクール起業 ソフトウェア開発 DX React / Next.js Node.js Microsoft Azure 数学ⅠA・ⅡB・ⅢC 物理 英語
Agenda 本日の概要 従来の独自データの扱い方 Add your dataでの独自データの扱い方
DEMO AOAI + Add your dataでクラウドネイティブアプリケーション開発 最後に
本日の概要 Azure OpenAI Serviceで現在プレビュー中の機能であるAdd Your dataを使って (出来る限り簡単に)企業の独自情報にも回答してくれるシステムを開発してみ ました。
実装方法を以下の記事にまとめてりますので、是非ハンズオンを通じてAzure OpenAI Serviceで遊んでみてください! 概念の説明 https://techblog.ap-com.co.jp/entry/2024/01/14/172841 ・ ハンズオン https://zenn.dev/yusu29/articles/azure_openai_addyourdata
従来の独自データの扱い方 Azure OpenAI Service(AOAI)で独自データを扱うためには以下の図のような アーキテクチャが必要でした。 AOAIとAzure AI Search(旧Cognitive
Search)を並列に配置し、RAGアーキ テクチャを用いて独自情報を取り出す方法が一般的でした。 参考:https://github.com/Azure-Samples/azure-search-openai-demo
従来の独自データの扱い方 アプリの実装の難易度が高くなる (RAGアーキテクチャの実装) LangChain等を使うと、ライブラリの version upについていかないといけな い
AI Search内で使用するIndexを自 前で生成する必要がある …etc 参考:https://github.com/Azure-Samples/azure-search-openai-demo 従来の方法での独自データの扱いには数点の課題
Add your dataでの独自データの扱い方 現在プレビュー中のAOAIの機能、Add your dataでのデータの取り扱いは従 来の方法と比較して非常に簡単になりました。 APIをAOAIが用意してくれるので、ア
プリ側からAPIを叩くだけでOK AI Search内で使用するIndexを自 動で生成 …etc
Add your dataでの独自データの扱い方 Add your dataのAPIを叩く方法は2パターン Completions extensions
APIを叩く Add your dataからデプロイした WebAppsのAPIを叩く dataSourcesは都度指定 WebApps AOAIに直接アクセス WebAppsのAPIへアクセス dataSourcesは固定 会話の内容によってデータソースを切替 可能 とにかくアプリの実装が楽
DEMO AOAI + Add your dataでクラウドネイティブアプリケーション開発
本日のDEMOのアーキテクチャ アプリケーションはNext.jsを使用 Add your dataからデプロイした WebAppsのAPIを叩く 独自データはBlob
Storageにpdfを配 置(私の石垣島旅行の旅のしおり) Add your dataを用いてAI Search へ Indexを自動作成 Add your dataの機能でWebAppsを 自動デプロイし、APIとして利用
すごいちなみに…読み込ませたデータは以下です。
DEMO
最後に いかがだったでしょうか。 今回Add your dataを用いて独自データを扱うシステムを簡単に構築出来る 方法をご紹介いたしました。 是非ご視聴された皆様でAdd your
dataを使ったことがない方は一度ハンズオ ンして楽しんでいただけますと幸いです。
ご清聴頂きありがとうございました。
参考資料 Zenn https://zenn.dev/yusu29/articles/azure_react_llm APCブログ https://techblog.ap-com.co.jp/entry/2023/12/28/143632 X https://twitter.com/fe_js_engineer