AWS Bedrock を使って30分で社内文書検索RAGアプリ作ってみた

2025/1/17(金)19:00-21:00　@AWS大阪オフィス
【Japan AWS Jr. Champions主催】若手応援LT会
LT登壇資料

Transcript

1. 若手応援LT会 DATE. 2025.1.17 AWS Bedrock を使って 30分で社内文書検索RAGアプリ作ってみた 伊藤忠テクノソリューションズ株式会社 岡田理 Copyright© 2025 ITOCHU Techno-Solutions Corporation 本資料の内容は発表者の個人的見解であり、所属組織の公式見解を示すものではありません。 本資料に記載されている、製品名、会社名、ロゴ等は各社の商標または登録商標です。
2. 若手応援LT会 DATE. 2025.1.17 AWS Bedrock を使って 30分で社内文書検索RAGアプリ作ってみた 伊藤忠テクノソリューションズ株式会社 岡田理 Copyright© 2025 ITOCHU Techno-Solutions Corporation 初めて
3. 若手応援LT会 DATE. 2025.1.17 AWS Bedrock を使って 30分で社内文書検索RAGアプリ作ってみた 伊藤忠テクノソリューションズ株式会社 岡田理 Copyright© 2025 ITOCHU Techno-Solutions Corporation 初めて
4. 若手応援LT会 DATE. 2025.1.17 AWS Bedrock を使って 30分で社内文書検索RAGアプリ作ってみた 伊藤忠テクノソリューションズ株式会社 岡田理 Copyright© 2025 ITOCHU Techno-Solutions Corporation 初めて
5. 若手応援LT会 DATE. 2025.1.17 AWS Bedrock を使って 30分で社内文書検索RAGアプリ作ってみた 伊藤忠テクノソリューションズ株式会社 岡田理 Copyright© 2025 ITOCHU Techno-Solutions Corporation 初めて 最新のAmazon NOVAモデル 使ってみた！
6. 自己紹介 岡田 理 Okada Aya 広域社会インフラ事業部 西日本技術統括本部 中国九州SI部 SI第6課 システムエンジニア • クラウド(AWS) • ネットワーク(cisco) • セキュリティ(paloalto) • 新卒1年目（IT経験も1年目） • アプリ開発経験無し 01 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 2024/10 若手エンジニア応援LT大会 ＠AWS目黒オフィス
7. Amazon Bedrockとの出会い 02 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 • じゃんけんで獲得した書籍 • AWSの生成AIサービスを体系的に解説 • 知識だけでなくハンズオンまで丁寧にサポート Amazon Bedrock 生成AIアプリ開発入門 御田 稔 (著), 熊田 寛 (著), 森田 和明 (著)
8. Bedrockとの出会い 02 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 • じゃんけん大会で獲得した書籍 • AWSの生成AIサービスを体系的に解説 • 知識だけでなくハンズオンまで丁寧にサポート Amazon Bedrock 生成AIアプリ開発入門 御田 稔 (著), 熊田 寛 (著), 森田 和明 (著)
9. 作ったアプリ｜自社のテレワーク制度について教えてくれるチャットボット 03 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 • 正しい • 細かい • 分かりやすい • アイコンが可愛い
10. 作ったアプリ｜ 03 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 • 正しい • 細かい • 分かりやすい • アイコンが可愛い 自社の規則通りに 回答している！
11. Knowledge Bases for Amazon Bedrock 内容と構成 04 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 「社内文書検索RAGアプリ」 ① 社内テレワーク文書(PDF)×5を使用 ② BedrockのナレッジベースでS3バケットを 指定する ③ ドキュメントが埋め込み処理される ④ ベクトルDBに格納される ⑤ テレワークについて質問する ⑥ ベクトル変換される ⑦ 検索結果を取得する ⑧ 回答が生成される AWS Cloud 埋め込みモデル LLM ベクトルDB S3バケット ドキュメント 1 2 3 4 5 6 7 8
12. 内容と構成 04 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 規定書、ガイド、FAQ、、、、いろいろなタイプの文書を使用しました
13. Knowledge Bases for Amazon Bedrock 内容と構成 04 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 「社内文書検索RAGアプリ」 ① 社内テレワーク文書(PDF)×5を使用 ② BedrockのナレッジベースでS3バケットを 指定する ③ ドキュメントが埋め込み処理される ④ ベクトルDBに格納される ⑤ テレワークについて質問する ⑥ ベクトル変換される ⑦ 検索結果を取得する ⑧ 回答が生成される AWS Cloud 埋め込みモデル LLM ベクトルDB S3バケット ドキュメント 1 2 3 4 5 6 7 8 30 min
14. RAGを利用しない場合 05 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17
15. 使用モデル｜テキスト生成 06 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 2024/12/3 にAWS re:Invent 2024内のKeynoteにて発表された Amazon独自開発のモデル 「Amazon Nova Pro」 テキスト生成の主力「Anthropic Claude 3 Sonnet」と比較して、、 • 低コスト • 応答速度も高速 参考サイト↓ https://www.qes.co.jp/media/aws/a513 1000トークンあたりの料金(入力/出力) Claude 3 Sonnet 0.0030 USD / 0.0150 USD Amazon Nova Pro 0.0008 USD / 0.0032 USD
16. 回答を比較 06 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 質問：テレワークを行うときの勤務場所の決まりについて教えてください。 Anthropic Claude 3 Sonnet Amazon Nova Pro
17. 引っかかりポイント 06 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 本の通りにコードを書いたが、回答が出力されないエラーに直面、、、 langchainのバージョンアップで解決！ Name: langchain Version: 0.2.0 → Version: 0.3.8 Name: langchain-aws Version: 0.1.4 → Version: 0.2.10
18. 使用モデル｜埋め込みモデル 07 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 「Cohere Embed Multilingual」 →埋め込み（ベクトル変換）が高品質 →競合他社よりも低価格
19. 使用モデル｜ベクトルDB 08 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 「Amazon Aurora PostgreSQL Serverless」 「OpenSearch Serverless」と比較して、、、 • 利用コストの節約ができる 稼働時間：24時間/日 × 30日/月 データ量：10MB/ファイル × 100ファイル = 2GB 参考サイト↓ https://zenn.dev/konta_dev/articles/28808875c2419f 月額 Amazon OpenSearch Serverless 174.24 USD Amazon Aurora PostgreSQL Serverless 86.40 USD
20. まとめ 09 Copyright© 2025 ITOCHU Techno-Solutions Corporation 若手応援LT会 DATE. 2025.1.17 自社テレワーク制度について教えてくれる、 「社内文書検索RAGアプリ」を開発 • 初のアプリ開発が30分で完結 • 文書タイプを選ばない＆回答品質の高さから RAGの凄さを体感 〇 使用モデル • Amazon Nova Pro • Cohere Embed Multilingual • Amazon Aurora PostgreSQL Serverless 〇 参考書籍 • 「Amazon Bedrock 生成AIアプリ開発入門」 御田 稔 (著), 熊田 寛 (著), 森田 和明 (著) 本資料の内容は発表者の個人的見解であり、所属組織の公式見解を示すものではありません。 本資料に記載されている、製品名、会社名、ロゴ等は各社の商標または登録商標です。