What is Amazon Bedrock knowledge base with an Amazon Kendra GenAI index?

by takakuni

Slide 1

Slide 1 text

2024/12/08 クラスメソッド株式会社たかくに Amazon Bedrock knowledge base with an Amazon Kendra GenAI index is 何？

Slide 2

Slide 2 text

2 ● 部署 ○ AWS 事業本部コンサルティング部 ● 名前（ニックネーム） ○ たかくに ● ロール ○ ソリューションアーキテクト ● re:Invent どうだった？ ○ 楽しかった！が釣りタイトル踏んでしまう⾃⼰紹介

Slide 3

Slide 3 text

re:Invent 2024 どうでしたか？

Slide 4

Slide 4 text

⽣成 AI すごかったですね

Slide 5

Slide 5 text

なので⽣成 AI の話をします

Slide 6

Slide 6 text

Dr. Swami’s Key Note

Slide 7

Slide 7 text

7 Dr. Swami’s Key Note

Slide 8

Slide 8 text

8 Dr. Swami’s Key Note

Slide 9

Slide 9 text

9 Dr. Swami’s Key Note

Slide 10

Slide 10 text

Amazon Bedrock knowledge base with an Amazon Kendra GenAI index

Slide 11

Slide 11 text

⻑い...

Slide 12

Slide 12 text

Let’s Go

Slide 13

Slide 13 text

1. Amazon Bedrock knowledge base with Vector Database 2. Amazon Bedrock knowledge base with an Amazon Kendra GenAI index 3. Amazon Q Business 13 先に結論（カスタマイズ度で⾔えば）

Slide 14

Slide 14 text

● Amazon Kendra に新しく Amazon Kendra GenAI Enterprise Edition index が登場 ● ハイブリッド検索（キーワードとベクトル）、セマンティック埋め込み、リランカーモデルなどの最新の情報検索技術を利⽤している ● Amazon Bedrock Knowledge bases や Amazon Q business とシームレスに統合可能 ● 3 AZ で冗⻑化 Amazon Bedrock knowledge base with an Amazon Kendra GenAI index 14

Slide 15

Slide 15 text

今まで（Knowledge bases vs Kendra） ● ベクトルデータベース ● データソース ● モデル ● チャンキング ● 検索⼿法 ● アクセス権限、フィルタリング 15

Slide 16

Slide 16 text

ついに、⼀緒になった...！

Slide 17

Slide 17 text

でも、お⾼いんでしょ...？

Slide 18

Slide 18 text

従来の Kendra より安くなっている

Slide 19

Slide 19 text

料⾦表 19 https://aws.amazon.com/kendra/pricing/?nc1=h_ls

Slide 20

Slide 20 text

機能紹介

Slide 21

Slide 21 text

Amazon Bedrock knowledge bases 使いから⾒た視点 21 ● ベクトルデータベース ● データソース ● モデル ● チャンキング ● 検索⼿法 ● アクセス権限、フィルタリング

Slide 22

Slide 22 text

● 内蔵されているため管理不要 ● 同期スケジュールも設定1つで完了 ● 同期ジョブのログも取得可能ベクトルデータベース 22

Slide 23

Slide 23 text

Amazon Bedrock knowledge bases 使いから⾒た視点 23 ● ベクトルデータベース ● データソース ● モデル ● チャンキング ● 検索⼿法 ● アクセス権限、フィルタリング

Slide 24

Slide 24 text

● シンプルに増えた（Connector v2 のみ対応） ● BatchPutDocument API もある ○ Direct Ingestion の対抗⾺ ○ $30 per month が気になるデータソース 24

Slide 25

Slide 25 text

Amazon Bedrock knowledge bases 使いから⾒た視点 25 ● ベクトルデータベース ● データソース ● モデル ● チャンキング ● 検索⼿法 ● アクセス権限、フィルタリング

Slide 26

Slide 26 text

● 埋め込みモデルは意識しない ● 回答⽣成のモデルは意識する ○ Anthropic, Nova etc... ● ストリーミングの回答⽣成は可能モデル 26

Slide 27

Slide 27 text

● ベクトルデータベース ● データソース ● モデル ● チャンキング ● 検索⼿法 ● アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 27

Slide 28

Slide 28 text

● ナレッジベースのようなチャンク化戦略がない ○ セマンティックチャンキング等 ● Custom Data Enrichment はできるため ○ メタデータの動的付与は可能チャンキング 28

Slide 29

Slide 29 text

● ベクトルデータベース ● データソース ● モデル ● チャンキング ● 検索⼿法 ● アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 29

Slide 30

Slide 30 text

● ドキュメントでは英語のみ対応と記載 ● ハイブリッド検索のみサポート ○ ベクトル検索とキーワード検索の組み合わせ ● Agents, Guardrails とも統合可能 ● クエリ分解も可能検索⼿法 30

Slide 31

Slide 31 text

● ベクトルデータベース ● データソース ● モデル ● チャンキング ● 検索⼿法 ● アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 31

Slide 32

Slide 32 text

アクセス権限、フィルタリング 32 ● Access Control は利⽤不可 ○ メタデータフィルタリングを使う ● Model generated ﬁlter も利⽤可能 ● x-amz-kendra-score-conﬁdence キーが鍵にな理想な予感？

Slide 33

Slide 33 text

x-amz-kendra-score-conﬁdence キー 33

Slide 34

Slide 34 text

● 利⽤⽤途が完全に分かれたアップデートで嬉しい ○ あわよくば Developer Edition も来てほしい ● ⽇本語対応すれば ○ OpenSearch Serverless 等で作るより、簡単に RAG を体験できる⼿段になりそう ■ チャンク化考えたくない ■ マルチモーダルな予定もない個⼈的な所感をつらつらと... 34

Slide 35

Slide 35 text

No content