Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
What is Amazon Bedrock knowledge base with an A...
Search
takakuni
December 09, 2024
0
300
What is Amazon Bedrock knowledge base with an Amazon Kendra GenAI index?
takakuni
December 09, 2024
Tweet
Share
More Decks by takakuni
See All by takakuni
Classmethod AI Talks #13
takakuni
0
160
Allowed to prefixes
takakuni
0
190
About Extended Threat Detection in Amazon GuardDuty
takakuni
0
180
SageMaker Hyperpod 101 #regrowth_sapporo
takakuni
1
210
New Security Challenges and Countermeasures Brought by Generative AI in Classmethod Cloud Security Fes
takakuni
0
290
サンプルサンプル株式会社 会社説明資料
takakuni
0
2.3k
re:Inforce 2024 コンテナセキュリティアップデートまとめ
takakuni
0
400
AWS re:Inforce 2024 個人的推しアップデート総まとめ(仮)
takakuni
0
1.2k
Backlog Git を AWS に繋ぎ コンテナイメージをビルドしてみた
takakuni
0
190
Featured
See All Featured
Why Our Code Smells
bkeepers
PRO
335
57k
Speed Design
sergeychernyshev
25
770
Automating Front-end Workflow
addyosmani
1367
200k
Building an army of robots
kneath
302
45k
Music & Morning Musume
bryan
46
6.3k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
193
16k
A designer walks into a library…
pauljervisheath
205
24k
The World Runs on Bad Software
bkeepers
PRO
67
11k
Side Projects
sachag
452
42k
Fireside Chat
paigeccino
34
3.2k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
29
2.4k
Scaling GitHub
holman
459
140k
Transcript
2024/12/08 クラスメソッド株式会社 たかくに Amazon Bedrock knowledge base with an Amazon
Kendra GenAI index is 何?
2 • 部署 ◦ AWS 事業本部コンサルティング部 • 名前(ニックネーム) ◦ たかくに
• ロール ◦ ソリューションアーキテクト • re:Invent どうだった? ◦ 楽しかった!が釣りタイトル踏んでしまう ⾃⼰紹介
re:Invent 2024 どうでしたか?
⽣成 AI すごかったですね
なので⽣成 AI の話をします
Dr. Swami’s Key Note
7 Dr. Swami’s Key Note
8 Dr. Swami’s Key Note
9 Dr. Swami’s Key Note
Amazon Bedrock knowledge base with an Amazon Kendra GenAI index
⻑い...
Let’s Go
1. Amazon Bedrock knowledge base with Vector Database 2. Amazon
Bedrock knowledge base with an Amazon Kendra GenAI index 3. Amazon Q Business 13 先に結論(カスタマイズ度で⾔えば)
• Amazon Kendra に新しく Amazon Kendra GenAI Enterprise Edition index
が登場 • ハイブリッド検索(キーワードとベクトル)、セマ ンティック埋め込み、リランカーモデルなどの最新 の情報検索技術を利⽤している • Amazon Bedrock Knowledge bases や Amazon Q business とシームレスに統合可能 • 3 AZ で冗⻑化 Amazon Bedrock knowledge base with an Amazon Kendra GenAI index 14
今まで(Knowledge bases vs Kendra) • ベクトルデータベース • データソース • モデル
• チャンキング • 検索⼿法 • アクセス権限、フィルタリング 15
ついに、⼀緒になった...!
でも、お⾼いんでしょ...?
従来の Kendra より安くなっている
料⾦表 19 https://aws.amazon.com/kendra/pricing/?nc1=h_ls
機能紹介
Amazon Bedrock knowledge bases 使いから⾒た視点 21 • ベクトルデータベース • データソース
• モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング
• 内蔵されているため管理不要 • 同期スケジュールも設定1つで完了 • 同期ジョブのログも取得可能 ベクトルデータベース 22
Amazon Bedrock knowledge bases 使いから⾒た視点 23 • ベクトルデータベース • データソース
• モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング
• シンプルに増えた(Connector v2 のみ対応) • BatchPutDocument API もある ◦ Direct
Ingestion の対抗⾺ ◦ $30 per month が気になる データソース 24
Amazon Bedrock knowledge bases 使いから⾒た視点 25 • ベクトルデータベース • データソース
• モデル • チャンキング • 検索⼿法 • アクセス権限、フィルタリング
• 埋め込みモデルは意識しない • 回答⽣成のモデルは意識する ◦ Anthropic, Nova etc... • ストリーミングの回答⽣成は可能
モデル 26
• ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法
• アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 27
• ナレッジベースのようなチャンク化戦略がない ◦ セマンティックチャンキング等 • Custom Data Enrichment はできるため ◦
メタデータの動的付与は可能 チャンキング 28
• ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法
• アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 29
• ドキュメントでは英語のみ対応と記載 • ハイブリッド検索のみサポート ◦ ベクトル検索とキーワード検索の組み合わせ • Agents, Guardrails とも統合可能
• クエリ分解も可能 検索⼿法 30
• ベクトルデータベース • データソース • モデル • チャンキング • 検索⼿法
• アクセス権限、フィルタリング Amazon Bedrock knowledge bases 使いから⾒た視点 31
アクセス権限、フィルタリング 32 • Access Control は利⽤不可 ◦ メタデータフィルタリングを使う • Model
generated filter も利⽤可能 • x-amz-kendra-score-confidence キーが鍵にな理 想な予感?
x-amz-kendra-score-confidence キー 33
• 利⽤⽤途が完全に分かれたアップデートで嬉しい ◦ あわよくば Developer Edition も来てほしい • ⽇本語対応すれば ◦
OpenSearch Serverless 等で作るより、簡単に RAG を体験できる⼿段になりそう ▪ チャンク化考えたくない ▪ マルチモーダルな予定もない 個⼈的な所感をつらつらと... 34
None