生成AIアプリケーションにおけるRAGとデータベースの役割

by Shu Kobuchi

Slide 1

Slide 1 text

生成 AI アプリケーションにおける RAG とデータベースの役割 2024/03/29 3-SHAKE SRETT#9 LT 株式会社スリーシェイク Sreake事業部小渕周

Slide 2

Slide 2 text

© 2024 3-shake Inc. 2 自己紹介 - 2023年12月スリーシェイク入社 - Sreake 事業部 - アプリケーション開発支援チーム - 生成 AI アプリケーション開発等 - 日本生成 AI ユーザ会 - 4月5日(金)20:00〜ハンズオン勉強会(オンライン) - https://genai-users.connpass.com/event/312195/ 小渕周, Shu Kobuchi, こぶシュー (@shu_kob)

Slide 3

Slide 3 text

© 2024 3-shake Inc. 3 プログラミングを切り口とした生成 AI コンピュータに自然言語で命令ができるように！第1世代　機械語第2世代　アセンブラ第3世代　高級言語（COBOL, Cなど）第4世代オブジェクト指向など第5世代？　自然言語？コンピュータプログラマソフトウェアエンジニア非エンジニア含む人間全般 Google Cloud Generative AI Summit Tokyo ‘24 デロイトトーマツコンサルティング合同会社　吉沢雄介氏「業界課題の解決に踏み込んだ生成 AI 活用事例：物流業界のコグニティブアシスタント」 P4. 図を参考に編集 https://cloudonair.withgoogle.com/events/generative-ai-summit-2 4q1/watch?talk=24-t3-session4 API エコノミー新たなパラダイム抽象度

Slide 4

Slide 4 text

© 2024 3-shake Inc. 4 RAG (Retrieval Augmented Generation) LLM (Large Language Model：大規模言語モデル )が知らない情報を外部から与えてあげて拡張する手法 - 質問に関連する情報を context に含める - 情報をベクトル化して蓄えておく ※ 以降、例としてGoogle Cloudでお話ししますが、他のパブリッククラウドでも同様です質問 LLM Vertex AI Search (検索と会話) Cloud Storage GCPなら Gemini など Vertex AI

Slide 5

Slide 5 text

Slide 6

Slide 6 text

Slide 7

Slide 7 text

© 2024 3-shake Inc. 7 RAG アプリの構成図パブリッククラウドのマネージドサービスを活用して、 RAG アプリ開発の工数は少なく！ RAG アプリは生成 AI PoC の第一歩 Cloud Run (Web App) Firestore Cloud Storage Vertex AI Vertex AI Search 会話履歴を取得会話履歴を格納ドキュメントを格納 Embedding でベクトル化 context を取得

Slide 8

Slide 8 text

© 2024 3-shake Inc. 8 参考文献 - 田村悠著『LangChain完全入門』インプレス - 吉田真吾, 大嶋勇樹著『ChatGPT/LangChainによるチャットシステム構築[実践]入門』技術評論社 - 永田祥平, 伊藤駿汰, 宮田大士, 立脇裕太, 花ヶ﨑伸祐, 蒲生弘郷, 吉田真吾著『Azure OpenAI Serviceではじめる ChatGPT/LLMシステム構築入門』技術評論社 - 小林雅一著『生成AI「ChatGPT」を支える技術はどのようにビジネスをかえ、人間の創造性を揺るがすのか？』ダイヤモンド社 - 今井翔太著『生成AIで世界はこう変わる』SB新書 - 小澤健祐著『生成AI導入の教科書』ONE PUBLISHING