Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Azure OpenAI ServiceのAdd your Dataで(出来る限り簡単に)企業...

SatakeYusuke
January 27, 2024
240

Azure OpenAI ServiceのAdd your Dataで(出来る限り簡単に)企業の独自情報にも回答してくれるシステムをハンズオンで作ってみる

現在、Azure OpenAI Service内のプレビュー中の機能である【Add your data】を使ってすごく簡単に独自情報にも回答してくれるシステムを構築することが出来たのでその方法をハンズオン形式でご紹介します。

SatakeYusuke

January 27, 2024
Tweet

Transcript

  1. fe_js_engineer satyus 佐竹祐亮 / Yusuke Satake 株式会社エーピーコミュニケーションズ 兼 佐竹塾 仕事

    • 株式会社エーピーコミュニケーションズにてDXコンサルタントに従事 • 学習塾とプログラミングスクールを経営 経歴  大学院終了後の2018年よりIT企業へ勤務開始  仮想通貨取引システムの開発  ドキュメント管理システムのPM  SIerでAzureに関わるDXコンサルタント  現在社会人6年目 →大阪で学校作ってます。
  2. Agenda  本日の概要  従来の独自データの扱い方  Add your dataでの独自データの扱い方 

    ハンズオン  AOAI + Add your dataでクラウドネイティブアプリケーション開発  最後に
  3. 本日の概要  Azure OpenAI Serviceで現在プレビュー中の機能であるAdd Your dataを使って (出来る限り簡単に)企業の独自情報にも回答してくれるシステムを開発してみ ました。 

    実装方法を以下の記事にまとめてりますので、是非ハンズオンを通じてAzure OpenAI Serviceで遊んでみてください!  概念の説明 https://techblog.ap-com.co.jp/entry/2024/01/14/172841 ・ ハンズオン https://zenn.dev/yusu29/articles/azure_openai_addyourdata
  4. 従来の独自データの扱い方  Azure OpenAI Service(AOAI)で独自データを扱うためには以下の図のような アーキテクチャが必要でした。  AOAIとAzure AI Search(旧Cognitive

    Search)を並列に配置し、RAGアーキ テクチャを用いて独自情報を取り出す方法が一般的でした。 参考:https://github.com/Azure-Samples/azure-search-openai-demo
  5. 従来の独自データの扱い方  アプリの実装の難易度が高くなる (RAGアーキテクチャの実装)  LangChain等を使うと、ライブラリの version upについていかないといけな い 

    AI Search内で使用するIndexを自 前で生成する必要がある …etc 参考:https://github.com/Azure-Samples/azure-search-openai-demo  従来の方法での独自データの扱いには数点の課題
  6. Add your dataでの独自データの扱い方  Add your dataのAPIを叩く方法は2パターン  Completions extensions

    APIを叩く  Add your dataからデプロイした WebAppsのAPIを叩く dataSourcesは都度指定 WebApps AOAIに直接アクセス WebAppsのAPIへアクセス dataSourcesは固定  会話の内容によってデータソースを切替 可能  とにかくアプリの実装が楽
  7. 本日のハンズオンのアーキテクチャ  アプリケーションはNext.jsを使用  Add your dataからデプロイした WebAppsのAPIを叩く  独自データはBlob

    Storageにpdfを配 置(私の個人的な旅行のしおり)  Add your dataを用いてAI Search へ Indexを自動作成  Add your dataの機能でWebAppsを 自動デプロイし、APIとして利用
  8. 本日のハンズオンのアーキテクチャ サーバサイドの実装  Azure OpenAI Serviceの作成  Azure AI Searchの作成

     BlobStorageの作成し、独自データを 格納  Add your dataでWebAppsをデプロ イし、APIを作成