Amazon BedrockとAmazon Kendraで数時間でRAGシステムを組んでみた

Slide 1

Slide 1 text

Amazon Bedrockと Amazon Kendraで数時間でRAGシステムを組んでみた 2023/10/31 JAWS-UG AI/ML #18︓AWS AI Week For Developers Recap LT クラスメソッド株式会社おのやん

Slide 2

Slide 2 text

⾃⼰紹介⼩野⼭翔⼤（おのやん） • 株式会社クラスメソッド AWS事業本部エンジニア • 新卒⼊社1年⽬で頑張ってます • 速報ブログ書いてます

Slide 3

Slide 3 text

⾃⼰紹介⼩野⼭翔⼤（おのやん） • 株式会社クラスメソッド AWS事業本部エンジニア • 新卒⼊社1年⽬で頑張ってます • 速報ブログ書いてます

Slide 4

Slide 4 text

昨今はAIがキている https://openai.com/chatgpt https://aws.amazon.com/jp/bedrock/ https://bard.google.com/?hl=ja

Slide 5

Slide 5 text

Bedrock情報を収集 https://minorun365.connpass.com/event/300097/

Slide 6

Slide 6 text

Bedrocked RAGを作ろう

Slide 7

Slide 7 text

RAGとは︖ Retrieval Augmented Generation 検索技術を活⽤して⼤規模⾔語モデルの表現を強化する技術 https://dev.classmethod.jp/articles/ama zon-bedrock-kendra-lambda-rag/

Slide 8

Slide 8 text

AWSサービス内で実装可能に Bedrockの登場により AWSサービスの組み合わせで RAGアプリが実装可能に https://dev.classmethod.jp/articles/amazon- bedrock-kendra-lambda-rag/

Slide 9

Slide 9 text

Kendraのインデックスを作成

Slide 10

Slide 10 text

名前・IAMロール作成

Slide 11

Slide 11 text

今回はデフォルトで続⾏

Slide 12

Slide 12 text

Developer editionを選択

Slide 13

Slide 13 text

作成するインデックスを確認・作成

Slide 14

Slide 14 text

データソースを追加していく

Slide 15

Slide 15 text

今回はWebクローラ v2.0を使⽤

Slide 16

Slide 16 text

データソースの名前や⾔語を選択

Slide 17

Slide 17 text

BedrockドキュメントをクロールするWebサイトに設定

Slide 18

Slide 18 text

クロールする深さはちょっと⼤きめに5で

Slide 19

Slide 19 text

お⾦がかかるのでクロールは⼿動で実⾏

Slide 20

Slide 20 text

この部分はデフォルト（詳細わかる⽅教えてほしい…）

Slide 21

Slide 21 text

Webのクロールを実⾏

Slide 22

Slide 22 text

クロール実⾏中…

Slide 23

Slide 23 text

クロール完了︕（3時間くらい）

Slide 24

Slide 24 text

検索もできるように︕

Slide 25

Slide 25 text

検索⽤のLambraを作成

Slide 26

Slide 26 text

検索結果も取れる

Slide 27

Slide 27 text

Bedrock⼊⼒⽤のLambdaを追加

Slide 28

Slide 28 text

Kendraの検索結果を反映してBedrockが⽣成

Slide 29

Slide 29 text

いい感じに回答できてそう

Slide 30

Slide 30 text

ドキュメントに無い単語を尋ねると具体性がちょい落ち︖

Slide 31

Slide 31 text

RAGを作ってみた感想とにかく速く作れる • 今回のRAGアプリ作成まで4~5時間ちょいブラウザから操作するだけで簡単に作れる • ブログなどの情報源があれば、再現がさらに簡単に • 僕でも作れるという距離感の近さ

Slide 32

Slide 32 text

RAGを作ってみた感想 AWSの各サービスと連携すれば無限の可能性 • Kendra + Lambda + Bedrock を使えば⽂書検索を実装可能 • 他のAWSサービスと組み合わせれば…🤩