会社の公開ページとKnowledge Base for Amazon Bedrockを使ってRAG作ってみた

【Doorkeeper】
JAWS-UG沖縄 生成AI特集！ 2024年02月
https://jaws-ug-okinawa.doorkeeper.jp/events/167464

Transcript

1. 会社の公開ページとKnowledge Base for Amazon BerdrockでRAG作ってみた JAWS-UG沖縄 ⽣成AI特集︕2024年2⽉ 2024.2.17 苑⽥朝彰 1
2. ⾃⼰紹介 苑⽥ 朝彰 Sonoda Tomotada - ID - Github︓tomomj - Twitter︓@sonoda_mj - Work at - 株式会社 Fusic （フュージック） 技術創造部⾨所属 - 新卒3年⽬ - 最近MLを勉強し出した - Skill - AWS／React(Native)／Ruby on Rails 2
3. アジェンダ 3 l 背景 l Knowledge Base for Amazon Bedrockとは l 会社の公開ページとBedrockでRAG作ってみた l まとめ
4. 01 背景
5. 新しい情報やプライベートの情報に関する 内容について回答してくれる、ChatGPTの ようなアプリを個人開発で作りたい！
6. でもいいネタが思いつかん！！
7. 参考：https://fusic.co.jp/members
8. ちょうどええデータ あるやん
9. これ使ってみよか〜
10. 作ったもの
11. 苑田（webにない情報） って誰ですか？ Webアプリ
12. 苑田っていうのはな。。。 Webアプリ
13. 02 Knowledge Base for Amazon Bedrockとは
14. Knowledge Base for Amazon Bedrockとは 14 "NB[PO
    #FESPDL
    ͷφϨοδϕʔεΛ࢖༻͢Δͱɺ"NB[PO
    #FESPDL
    ಺͔Β '.
    Λσʔλιʔ εʹ઀ଓͯ͠ݕࡧ֦ுੜ੒ 3"(
    Λߦ͏͜ͱ͕Ͱ͖Δɻ͜ΕʹΑΓɺ'.
    ͷطଘͷڧྗͳػೳΛ ֦ு͠ɺಛఆͷυϝΠϯ΍૊৫ʹؔ͢Δ஌ࣝΛਂΊΔ͜ͱ͕Ͱ͖Δɻ 引用：https://aws.amazon.com/jp/bedrock/knowledge-bases/
15. データの前処理 15 引用：https://docs.aws.amazon.com/bedrock/latest/userguide/knowledge-base.html • ドキュメントを管理しやすいチャンクに分割し、効率的に取得できるようにする • ドキュメントをEmbedding Modelを使用してベクトル化する • Vector DBに格納する Cohere
16. ランタイム実⾏ 16 引用：https://docs.aws.amazon.com/bedrock/latest/userguide/knowledge-base.html • ユーザーのクエリをベクトル化する • ドキュメントのベクトルと比較し、意味的に類似したチャンクが検索される • 取得されたチャンクからの追加のコンテキストで拡張される Cohere Claude
17. Knowledge Baseについて詳しく 17 or or Vector Database Data Source S3 Bedrock User LLM 様々な情報を入れる コードを書かなくとも一括で作成してくれる（S3以外） or
18. 03 会社の公開ページとBedrockで RAG作ってみた
19. データソース 19 Fusicのメンバー紹介（全員分） 参考： https://fusic.co.jp/members/108
20. 構成図 20
21. 構成図 21
23. 質問内容 会話履歴を保持するための セッションID
24. sessionIDを指定しない場合 sessionIDを指定する場合 苑田とは誰ですか？ AWSエンジニアです 詳細を教えてください 詳細とは何でしょうか？ 苑田とは誰ですか？ AWSエンジニアです 詳細を教えてください 彼はAWSだけではなく、Rubyも書ける ようです。緑のタイツを着ています。 会話情報が保持される
25. 構成図 25
27. 構成図 27 毎日データをベクトル化してPineconeに保存している
28. データを前処理する 28 名前：苑田朝彰 コメント：ほげほげ 略歴：ほげほげ 担当・スキル：ほげほげ プライベート：ほげほげ 必要なところだけ取ったtxtファイル データの抽出
29. 構成図 29 ベクターDB Freeプラン使用
30. デモ
31. 04 まとめ
32. まとめ Bedrockを使ってChatGPTのようなアプリを簡単に作ることができた Point 2 sessionIDを使⽤することで、会話履歴が保持された 32 Point 1 Point 3 データの精度を上げるには前処理が重要（かもしれない）
33. ご清聴いただきありがとうございました Thank You We are Hiring ! https://recruit.fusic.co.jp/
34. Appendix
35. 検索拡張⽣成（RAG）とは 35 Retrieval Augmented Generation（RAG） 生成系の言語 AI モデルに外部メモリをつけるというコンセプトのことを指す Vector Database LLM 質問 検索 返答 検索結果 引用：https://github.com/aws-samples/jp-rag-sample
36. 検索拡張⽣成（RAG）とは 36 事前に学習したデータに関しては返答することができる AWSについて教えて AWSってのはな・・・ LLM
37. 検索拡張⽣成（RAG）とは 37 しかし、学習していない内容に関しては答えられない 苑田について教えて 誰やねん 私の知識はxxxx年まででぇ〜
38. 検索拡張⽣成（RAG）とは 38 外部のデータベースなどを紐づけることで、新しい情報やプライベートの情報に関す る回答を生成することができる Vector Database 苑田について教えて 新しいデータをベクトル化 して格納
39. 検索拡張⽣成（RAG）とは 39 外部のデータベースなどを紐づけることで、新しい情報やプライベートの情報に関す る回答を生成することができる Vector Database 近いベクトルを探す 「苑田について教えて」を ベクトル化
40. 検索拡張⽣成（RAG）とは 40 外部のデータベースなどを紐づけることで、新しい情報やプライベートの情報に関す る回答を生成することができる Vector Database 検索結果を返す
41. 検索拡張⽣成（RAG）とは 41 外部のデータベースなどを紐づけることで、新しい情報やプライベートの情報に関す る回答を生成することができる Vector Database 苑田ってのはな