Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
What is Amazon Bedrock knowledge base with an A...
Search
takakuni
December 09, 2024
0
320
What is Amazon Bedrock knowledge base with an Amazon Kendra GenAI index?
takakuni
December 09, 2024
Tweet
Share
More Decks by takakuni
See All by takakuni
Classmethod AI Talks #13
takakuni
0
160
Allowed to prefixes
takakuni
0
220
About Extended Threat Detection in Amazon GuardDuty
takakuni
0
200
SageMaker Hyperpod 101 #regrowth_sapporo
takakuni
1
230
New Security Challenges and Countermeasures Brought by Generative AI in Classmethod Cloud Security Fes
takakuni
0
320
サンプルサンプル株式会社 会社説明資料
takakuni
0
2.6k
re:Inforce 2024 コンテナセキュリティアップデートまとめ
takakuni
0
400
AWS re:Inforce 2024 個人的推しアップデート総まとめ(仮)
takakuni
0
1.2k
Backlog Git を AWS に繋ぎ コンテナイメージをビルドしてみた
takakuni
0
190
Featured
See All Featured
The Web Performance Landscape in 2024 [PerfNow 2024]
tammyeverts
4
420
Statistics for Hackers
jakevdp
797
220k
Site-Speed That Sticks
csswizardry
4
390
Put a Button on it: Removing Barriers to Going Fast.
kastner
60
3.7k
Why You Should Never Use an ORM
jnunemaker
PRO
55
9.2k
Mobile First: as difficult as doing things right
swwweet
223
9.3k
How GitHub (no longer) Works
holman
314
140k
Measuring & Analyzing Core Web Vitals
bluesmoon
6
250
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
251
21k
Scaling GitHub
holman
459
140k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.1k
Building Adaptive Systems
keathley
40
2.4k
Transcript
2024/12/08 クラスメソッド株式会社 たかくに Amazon Bedrock knowledge base with an Amazon
Kendra GenAI index is 何?
2 • 部署 ◦ AWS 事業本部コンサルティング部 • 名前(ニックネーム) ◦ たかくに
• ロール ◦ ソリューションアーキテクト • re:Invent どうだった? ◦ 楽しかった!が釣りタイトル踏んでしまう ⾃⼰紹介
re:Invent 2024 どうでしたか?
⽣成 AI すごかったですね
なので⽣成 AI の話をします
Dr. Swami’s Key Note
7 Dr. Swami’s Key Note
8 Dr. Swami’s Key Note
9 Dr. Swami’s Key Note
Amazon Bedrock knowledge base with an Amazon Kendra GenAI index
⻑い...
Let’s Go
1. Amazon Bedrock knowledge base with Vector Database 2. Amazon
Bedrock knowledge base with an Amazon Kendra GenAI index 3. Amazon Q Business 13 先に結論(カスタマイズ度で⾔えば)
• Amazon Kendra に新しく Amazon Kendra GenAI Enterprise Edition index
が登場 • ハイブリッド検索(キーワードとベクトル)、セマ ンティック埋め込み、リランカーモデルなどの最新 の情報検索技術を利⽤している • Amazon Bedrock Knowledge bases や Amazon Q business とシームレスに統合可能 • 3 AZ で冗⻑化 Amazon Bedrock knowledge base with an Amazon Kendra GenAI index 14
今まで(Knowledge bases vs Kendra) • ベクトルデータベース • データソース • モデル
• チャンキング • 検索⼿法 • アクセス権限、フィルタリング 15
ついに、⼀緒になった...!
でも、お⾼いんでしょ...?
従来の Kendra より安くなっている
料⾦表 19 https://aws.amazon.com/kendra/pricing/?nc1=h_ls
機能紹介
Amazon Bedrock knowledge bases 使いから⾒た視点 21 • ベクトルデータベース • データソース
• モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング
• 内蔵されているため管理不要 • 同期スケジュールも設定1つで完了 • 同期ジョブのログも取得可能 ベクトルデータベース 22
Amazon Bedrock knowledge bases 使いから⾒た視点 23 • ベクトルデータベース • データソース
• モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング
• シンプルに増えた(Connector v2 のみ対応) • BatchPutDocument API もある ◦ Direct
Ingestion の対抗⾺ ◦ $30 per month が気になる データソース 24
Amazon Bedrock knowledge bases 使いから⾒た視点 25 • ベクトルデータベース • データソース
• モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング
• 埋め込みモデルは意識しない • 回答⽣成のモデルは意識する ◦ Anthropic, Nova etc... • ストリーミングの回答⽣成は可能
モデル 26
• ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法
• アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 27
• ナレッジベースのようなチャンク化戦略がない ◦ セマンティックチャンキング等 • Custom Data Enrichment はできるため ◦
メタデータの動的付与は可能 チャンキング 28
• ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法
• アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 29
• ドキュメントでは英語のみ対応と記載 • ハイブリッド検索のみサポート ◦ ベクトル検索とキーワード検索の組み合わせ • Agents, Guardrails とも統合可能
• クエリ分解も可能 検索⼿法 30
• ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法
• アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 31
アクセス権限、フィルタリング 32 • Access Control は利⽤不可 ◦ メタデータフィルタリングを使う • Model
generated filter も利⽤可能 • x-amz-kendra-score-confidence キーが鍵にな理 想な予感?
x-amz-kendra-score-confidence キー 33
• 利⽤⽤途が完全に分かれたアップデートで嬉しい ◦ あわよくば Developer Edition も来てほしい • ⽇本語対応すれば ◦
OpenSearch Serverless 等で作るより、簡単に RAG を体験できる⼿段になりそう ▪ チャンク化考えたくない ▪ マルチモーダルな予定もない 個⼈的な所感をつらつらと... 34
None