AI StudioでRAG開発 最初のステップ

会津若松市での IT 勉強会 (2024年10月24日開催)　登壇資料

Azure AI StudioでRAG開発を行う最初のステップをデモを交えて紹介します。

Transcript

1. 瀬尾ソフト 瀬尾佳隆 (@seosoft) Microsoft MVP for AI Platform / MCT Alumni AI Studio で RAG 開発 最初のステップ 2024/10/24
2. 自己紹介 瀬尾 佳隆 (せお よしたか) • フリーランスのソフトウェアエンジニア / トレーナー • MVP for AI Platform (Jul 2018 – Jun 2025) / MVP (Jan 2009 – Jun 2018) • Microsoft Certified Trainer Alumni (2021 - 2024) • LinkedIn ラーニング AI-900 試験対策講座 (2024) • 専門学校 ディープラーニング講師 (2022年度) • 学生向け・企業向け AI / IT トレーニング (2020 - 2021) • マイクロソフトパートナープログラム 業種別トレーニング（2019 - 2020） • 乃木坂、櫻坂、日向坂が好きです / 京都、お寺、仏像が好きです
3. 今日のテーマ ◼Azure AI Studio を使って RAG 開発 • AI Studio の Get Started • シンプルな RAG が簡単に開発ができる • あえて構造化データ (Excel ファイル) を使う • 非構造化データ (≒ テキストデータ) で なくても RAG できることを見てみる
4. AI Studio についての動画 ◼よければご覧ください • https://www.youtube.com/live/ans61vJjDoQ?si=SBA uiqXJRjldaDdV&t=362 • 6分過ぎくらいから12分ほど AI Studio を中心とした AI 開発 (RAG 開発、Copilot 開発) の話をしています • ただし2024年3月時点の情報で、すでに一部古くなっています
5. （念のため） RAG とは？ Retrieval Augmented Generation = 検索拡張生成
6. Azure AI Studio ◼https://ai.azure.com/ • AI 開発で使われる機能やリソース管理のためのポータル • Azure OpenAI Services (言わずと知れた) • その他の各ベンダーの LLM / SLM • Azure AI Search (Embedding 機能を提供) • データ管理 • プロンプトフロー (RAG 開発環境) • 評価 • 微調整 (Fine tuning) • コンテンツフィルター (適切ではない回答の制御) • デプロイ機能 • その他
7. ◼AI 開発に含まれるモノ・人の管理 • リソース • コンピュートサービス • プロジェクトのプロパティ • メンバーのアカウント プロジェクト
8. ◼プロンプト開発とアプリ用の初期コードの参照 • システムプロンプト開発 • パラメーター設定 • データ追加 (後述) • ソースコード表示 • プロンプトフロー (後述) プレイグラウンド
9. ◼独自データを追加して LLM / SLM をカスタマイズ • 知識の追加 • データをベクトル化 • RAG 開発の起点 • 特定ドメインに強い 言語モデル • ファインチューニング ではない プレイグラウンドでデータ追加
10. ◼作成した RAG のチューニングや機能拡張 • パラメーターチューニング • エージェントとして 機能を追加 • 挙動をカスタマイズ プロンプトフロー
11. デモ
12. ◼Azure • https://azure.microsoft.com/ja-jp/ • 初めての場合は ３０日間 / $200 の試用が可能 • ただし AI 関連は若干の制約があるかも • プリペイドでも意外とリーズナブル (※個人の意見) ◼Azure AI Studio / Azure OpenAI Studio • https://ai.azure.com/ • https://oai.azure.com/ 試してみたくなった方は
13. この資料をもう一度見るには https://bit.ly/aistudio-20241024