Amazon Bedrockの活用と注意点

Transcript

1. Amazon Bedrockの活用と注意点 2024年12月16日 NRIネットコム株式会社 デジタルソリューション事業本部 クラウド事業推進部 大林 優斗
2. 1 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します ◼ 登壇者：大林 優斗 ◼ 2024 Japan AWS Jr. Champions ◼ 業務：AWSを活用したシステムの設計・開発を担当 ⚫ 450以上あるAWSアカウントに統制を効かせる ◼ AWS認定資格 ◼ 書籍執筆：AWS の薄い本の合本 Vol.01 自己紹介
3. 2 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します NRIネットコムの会社紹介
4. 3 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します Webチャネルやモバイルチャネルにおけるお客様のビジネスにおいて、 ナビゲーションからソリューションまで一貫して提供できる総合力が強みと自負しております。 NRIネットコムのご紹介 運用・効果検証フェーズ ナビゲーション ソリューション 事業環境分析 外部環境分析 （市場調査、競合調査等） 内部分析 （現状分析、課題抽出等） 戦略立案 Webチャネル戦略立案 マーケティング戦略立案 Webシステム戦略立案 実行計画立案 サイトコンセプト デザインコンセプト ワイヤーフレーム設計 Webプロモーション企画 効果分析および改善案策定 Webサイト運営 アプリケーション保守 システム基盤保守 システム運用 要件定義 基本設計 システム方式設計 システム運用設計 Webサイトデザイン・制作 アプリケーション開発・システム基盤構築 グラフィックデザイン モックアップ制作 HTML制作 各種ガイドライン策定 Webアプリケーション開発 スマートデバイスアプリ開発 システム基盤構築、運用基盤構築 ネットワーク基盤構築 調査コンサル会社の事業領域 Web制作会社、デザイン会社、SIer、基盤事業者の事業領域 Web制作会社、広告代理店、 SIer、基盤事業者の事業領域 実行・開発フェーズ 企画設計フェーズ 戦略策定フェーズ NRIネットコムの強みはトータルソリューションをご提供できる総合力にあると自負しています。 お客様の問題を先取りして解決策を導いていく「ナビゲーション」から、具体的な解決策を実施・運用していく「ソリューション」まで、フル ラインナップの一貫したサービスをご提供します。 ネットコム の強み NRIネットコムのサービス領域 コンサルティング、導入支援、実行支援、各種プラットフォーム構築 デジタルマーケティング・ロイヤリティマーケティング導入支援 インターネット広告運用 データ分析、プログラム運営支援 マーケティング運営支援 サイト運営・システム運用
5. 4 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します NRIネットコム会社紹介 APNアドバンスドコンサル ティングパートナー 5年連続でアンバサダー 選出 書籍執筆と対外発表の 推進 NRIとともに活動していましたが、2016年より 独自のパートナーとして登録。2017年には APNアドバンスドコンサルティングパートナーに 認定されています。また 2019年よりコンピテ ンシーの取得も開始し、モバイルコンピテン シーやWell-Architected パートナープログラム、 移行コンピテンシーを取得しています。 AWSに関する高い技術と情報発信を評 価するアンバサダーが2名選出され、更に 2020年は日本における貢献度1位と3 位と評価されました。2024 Japan AWS Top Engineersは5名在籍し、現時点で 取得可能な全資格取得者も複数名在 籍しています。高い技術力を持った人材 でAWSプロジェクトにあたっています。 培ったAWSのノウハウを元に、社内のメ ンバーの有志たちでAWS本の執筆に取 り組んでいます。毎年コンスタントに１ ～２冊づつ出版しています。どの本も 非常に高い評価を受けています。 ◼ NRIネットコムのAWSへの取り組み ⚫ 継続的な育成計画による資格取得、AWSパートナーコンピテンシー等の取得を推進 ⚫ 書籍執筆や対外発表など、社員の積極的な外部発信をサポート
6. 5 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します NRIネットコム社員執筆書籍（AWS関連） 事例・実績 AWS認定試験対策書籍 Amazon Web Services 実践向け書籍
7. 6 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します Amazon Bedrockの活用例
8. 7 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します セキュリティ検知を要約して通知させる Amazon Bedrockの活用例① 調査・修正 分析 改善 検知・通知 セキュリティ検知にどのような 傾向があるのか分析する 検知内容を確認して リソースの設定変更 分析した結果を踏まえて 改善アクションを実施 ガードレールからの逸脱などを検出
9. 8 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します ◼ アーキテクチャ例 セキュリティ検知を要約して通知させる Amazon Bedrockの活用例① Bedrockアカウント AWS Lambda Amazon Bedrock Amazon S3 ログ保管 監査アカウント AWS Security Hub メール通知 Slack通知 Backlog通知 Amazon EventBridge
10. 9 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します コードレビューをしてもらう Amazon Bedrockの活用例② ◼ リポジトリに上がったコードをBedrockにレビューしてもらうこともできる ⚫ プロンプトによってレビューの精度を上げることができる ⚫ 完璧にレビューができるわけではない ⚫ 十分に使えるが、有識者にコードレビューをしてもらう工程が必要なのは変わらない Amazon Bedrock GitHub
11. 10 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します RAG：社内ドキュメントを参照 Amazon Bedrockの活用例 ◼ モデルが社内情報を回答するRAG（Retrieval-Augmented Generation）を作成できる ⚫ 情報検索（Retrieval）と生成（Generation）の両方を組み合わせたアプローチ ◼ Kendraを使用した場合のアーキテクチャ例 アプリケーション Amazon Kendra Amazon Bedrock ユーザー ①質問 ②検索 ③検索結果 ④検索結果 をまとめる ⑤回答結果 ⑥回答 データストア ・Amazon S3 ・Slack ・JIRA etc..
12. 11 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します RAG：社内ドキュメントを参照 Amazon Bedrockの活用例 ◼ Bedrock knowledge baseを使用した場合のアーキテクチャ例 アプリケーション Amazon Bedrock knowledge base ユーザー ①質問 ②検索 ③検索結果 ④検索結果 をまとめる ⑤回答結果 ⑥回答 データストア ・Amazon S3 ・SharePoint ・Confluence etc.. Amazon OpenSearch Service
13. 12 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します 「Kendra」と「Bedrock knowledge base」の違い Amazon Bedrockの活用例 ◼ ベクトルストア ⚫ Kendra：サービスに内包されているため、ベクトルストアの種類を選択できない ⚫ Bedrock knowledge base：Amazon OpenSearch ServerlessやAmazon Aurora (PostgreSQL)などを選択できる ◼ データソース ⚫ Kendra： Bedrock knowledge baseのサポート対象に加えて、Aurora (MySQL)など38種類以上 ⚫ Bedrock knowledge base：Amazon S3、Confluence、SharePoint、Salesforceなど ◼ データファイル形式 ⚫ KendraとBedrock knowledge baseのどちらもサポート • PDF、プレーンテキスト、CSV、HTML、マークダウン、Word、Excelなど ⚫ Kendraでサポートされていて、 Bedrock knowledge baseでサポートされていない形式 • XML、XSL変換、JSON、リッチテキスト形式、Microsoft PowerPoint
14. 13 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します データのアクセス制御 ◼ 不要なデータアクセスはさせないように実装する ◼ 実現方法 ⚫ Kendra • 属性フィルタ：ドキュメントに付与されたメタデータ属性に基づいて検索結果を絞り込む機能 • アクセス制御：ユーザーの権限に基づいて検索結果を制限する機能 ⚫ Bedrock knowledge base • Knowledge Baseに登録された情報をメタデータ (作成者、カテゴリ、タイムスタンプなど) に基づいてフィルタリングする機能 Amazon Bedrockの活用例 Amazon Kendra or Amazon OpenSearch Service s3://bucket_name/test_dir/yyyy/test_data-111.csv s3://bucket_name/test_dir/yyyy/test_data-222.csv
15. 14 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します Guardrails for Amazon Bedrock ◼ 生成AIの安全性と信頼性を確保し、誤用やリスクを最小化することができる Amazon Bedrockの活用例 コンポーネント 概要 コンテンツフィルター 不適切または有害な内容を排除する 拒否されたトピック 指定されたトピックやテーマに関連する生成を制限する 機密情報フィルター ユーザーのデータや生成された出力の中から機密情報を検 出し、フィルタリングする ワードフィルター 特定の単語やフレーズが生成内容に含まれないように制 御する コンテキストに基づくグラウンドチェック モデルが生成する内容が与えられたコンテキストに適してい るか確認する
16. 15 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します Bedrockを使用する上での注意点
17. 16 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します Kendraのコストについて ◼ Developer Edition • 基本料金: 月額 810 USD (1.125 USD/時間) • ストレージ容量: 最大10,000ドキュメント • 1日あたりの最大クエリ数: 4,000件 • データソース数: 最大5つ • アベイラビリティーゾーン: 1つ • 無料利用枠: 最初の30日間で最大750時間 ※組織内でKendraを初めて使用するアカウントのみ • 備考: 概念実証（PoC）や開発目的向け。本番環境での使用は推奨されない ◼ Enterprise Edition • 基本料金: 月額 1008 USD (1.4 USD/時間) • ストレージ容量: 最大100,000ドキュメント • 1日あたりの最大クエリ数: 8,000件 • データソース数: 最大50 • アベイラビリティーゾーン: 3つ • 備考: 本番環境向けの高可用性サービス Bedrockを使用する上での注意点
18. 17 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します ハルシネーションのリスク ◼ 意思決定への影響 誤った情報に基づいて重要なビジネス判断を下すと、ビジネス上の損失やリスクが増大します。 ◼ 信頼性の低下 利用者がモデルの出力を信用できない場合、生成AIの導入効果が減少します。 Bedrockを使用する上での注意点 生成AIが出力した結果を完全に信じ切ると、 お客様からの信頼を失うリスクもある
19. 18 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します 最低限のセキュリティ対策は遵守する ◼ 検証段階でも最低限のセキュリティ対策は遵守する ◼ 後悔してからでは遅い Bedrockを使用する上での注意点 ・検証しよう！ ・楽しい！ ・発生するコストは把握 ・最小権限ではない ・アクセスキー発行 ・WAFの設定は後で対応 ・セキュリティ通知は後で対応 ・アクセスキー流出… ・攻撃受けてる…？ ・不正アクセスされていた…
20. 19 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します まとめ
21. 20 Copyright（C） NRI Netcom, Ltd. All rights reserved. 転載、複製、改変等、および許諾のない二次利用を禁止します ◼ Bedrockの活用例 ⚫ セキュリティ検知をBedrockに要約させる ⚫ コードレビューをしてもらう ⚫ RAG：社内ドキュメントなどを参照 ⚫ 「Kendra」と「Bedrock knowledge base」の違い ⚫ データのアクセス制御 ◼ Bedrockを使用する上での注意点 ⚫ Kendraのコストについて • Developer Edition：月額 810 USD (1.125 USD/時間) • Enterprise Edition：月額 1008 USD (1.4 USD/時間) ⚫ ハルシネーションのリスク • 100％正しい情報を出力するとは限らない ⚫ 最低限のセキュリティ対策は遵守する • インシデントが発生して、後悔してからでは遅い まとめ