Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Amazon Bedrockで始めるRAG入門

Avatar for Yudai Jinno Yudai Jinno
March 20, 2026
600

Amazon Bedrockで始めるRAG入門

Avatar for Yudai Jinno

Yudai Jinno

March 20, 2026

More Decks by Yudai Jinno

Transcript

  1. © 2026 Classmethod, Inc. 自己紹介 3 簡単な自己紹介をさせていただきます。本日はどうかよろしくお願いいたします。 名前 神野 雄大(Jinno

    Yudai)/@yjinn448208 所属 クラスメソッド株式会社 クラウド事業本部 コンサルティング部 AIソリューションアーキテクト 資格 • Japan All AWS Top Engineers 2025 好きな サービス ブログはこのアイ コンで書いていま す! • Amazon Bedrock AgentCore (自称日本一ブログを書いています)
  2. © 2026 Classmethod, Inc. 対象と目的 4 本日はAmazon Bedrockで始めるRAGといった観点で入門のお話しをします。Bedrockの 説明からRAGの説明までを段階的に説明します。 対象

    対象と目的 • 生成AIの業務効率化を検討している方 • RAGというキーワードはよく聞くが何ができるかあまりわかっていない方 目的 • Amazon Bedrockで何ができるかを理解する • RAG(Retrieval-Augmented Generation:検索拡張生成)の仕組みと導入イメー ジを掴む
  3. © 2026 Classmethod, Inc. 生成AIツールの進歩・普及により「使うかどうか」ではなく「どう使うか」のフェーズ に入っています。より多くのユースケースに生成AIが対応できるようになりました。 生成AIの活用 6 生成AI ユーザー

    xxxについて教え て xxxは〜 質問/文章作成/要約/etc・・・ 代表的なユースケース群 チャット・質問応答 画像生成 文章作成・要約 コード生成・修正 翻訳 情報の構造化 データ分析・可視化 リサーチ
  4. © 2026 Classmethod, Inc. 変化を急速にしたのはClaude Codeのような自律型コーディングAIエージェントの登場 により、コードや資料作成などは曖昧な指示でも高品質なアウトプットが出せるように なったためです。 コーディングAIエージェントの登場 7

    Claude Code ブラウザ ターミナル Claude コード ドキュメント ユーザー ログイン処理を 作って コピペするか ・・・ ログイン処理は public void ・・・ ユーザー ログイン処理を 作って 一式作成します ね。 作成 え、動くものが 全部できて る!? 少し前 現在
  5. © 2026 Classmethod, Inc. そんな時流の中、生成AIを導入していない、または導入しているが使いきれていないな ど不安になるケースもあるのではないでしょうか。今回はAWSを中心としたBedrockで どう活用していくのかを説明していきます。 生成AIの進化による不安 8 セキュリティ担当者の不安

    入力したデータがAIの学習に使わ れてしまうのでは? DX推進担当者の悩み 自社でどう活用すべきかわからな い・・・ 現場の悩み 生成AIは便利だけど、うちの社内 情報は答えてくれない・・・ Amazon Bedrock を駆使して状況課題を解決します!!
  6. © 2026 Classmethod, Inc. Amazon BedrockはClaudeなどの高性能な基盤モデルをAPIで手軽に利用でき、企業がセ キュアに生成AIを活用する基盤を提供します。 Amazon Bedrock 10

    ユーザー/ アプリケーション Amazon Bedrock APIを介して利用 特徴 サーバー管理不要なフルマネージドサービス Claudeなどの人気モデルを筆頭に複数のモデルを利用可能 AWS環境内でセキュアに利用可能 Claude DeepSeek Kimi
  7. © 2026 Classmethod, Inc. Amazon Bedrockでは、入力・出力データがモデルプロバイダーに共有されたり、モデ ルの学習に使用されることはありません。企業が安心して使える最大の理由です。 Amazon Bedrock 11

    企業のセキュリティポリシーに沿った運用が可能 項目 内容 データ保護 入力・出力データはモデルの学習に使用されず、モデルプロバイダーとも共有されない 通信の暗号化 転送時・保存時ともに暗号化 ネットワーク インターネット経由だけではなく、VPC EndpointでVPC内からも接続可能 アクセス制御 IAM利用可能、IAMの仕組みを活用したAPI Keyも発行可能 コンプライアンス GDPR、HIPAA、SOC 1/2/3、ISO 27001、FedRAMP Moderate、CSA STAR Level 2 など多数の認証に対応
  8. © 2026 Classmethod, Inc. Amazon BedrockはClaudeを中心としたLLMプロバイダーを使用することができ、最新 モデルも迅速に利用可能です。 Amazon Bedrock 12

    Amazon Bedrock Claude DeepSeek Kimi 新しいモデルが出たらすぐに試せる 用途に応じて「高性能」と「低コスト」を使い分け
  9. © 2026 Classmethod, Inc. Amazon Bedrockを使用して、Claude Codeを動かすことももちろん可能です。 (従量課金となるのでコスト管理には要注意ですが・・・) Amazon Bedrock

    13 Claude Code ターミナル Amazon Bedrock Claude コード ドキュメント 作成 Bedrock経由でClaudeを利用 最近のモデルは かなり高品質で 作れます。
  10. © 2026 Classmethod, Inc. Guardrailsの主な機能 生成AIに入力してほしくないコンテンツ・生成してほしくないコンテンツはGuardrails といった機能を使うことでブロックすることが可能です。アカウントや組織全体にガバ ナンスを効かせることも可能にします。 Amazon Bedrock

    Guardrails 14 Amazon Bedrock with Guardrails ユーザー/ アプリケーション !$?!@!@#@@ (不適切なコンテンツ) ガードレールによってブ ロックされました • コンテンツフィルター ◦ ヘイト、侮辱、性的、暴力、不正行為、プロンプトアタック などの有害コンテンツをテキスト・画像の両方で検出・ブ ロック • 拒否トピック ◦ 特定のトピック(話題)を定義してブロック • ワードフィルター ◦ カスタムの単語やフレーズを定義してブロック • 機密情報フィルター ◦ PII(個人識別情報)などの機密情報をブロックまたはマスク • コンテキストグラウンディングチェック ◦ ソース情報に基づかないハルシネーションを検出・フィルタ リング • 自動推論チェック(プレビュー) ◦ 論理ルールに基づいてモデル応答の正確性を検証し、事実誤 認を防止
  11. © 2026 Classmethod, Inc. そんな生成AIの知識を拡張する技術がRAG(Retrieval-Augmented Generation:検索 拡張生成)です。外部のデータソースを参照することで、最新情報や企業独自の情報に もアクセスできるようになりました。 RAG(Retrieval-Augmented Generation:検索拡張生成)

    17 ユーザー LLM クラスメソッドの社内規定はxxx です。引用元はyyy.pdfです。 データソース 質問 参照 クラスメソッドの社内 規定について教えて 最新情報に対応 ドキュメント更新でAIの回答もすぐ反映 自社公有の情報に回答可能 社内規定、マニュアル、FAQなど 根拠のある回答 「どのドキュメントに基づくか」を提示 モデルの再学習が不要 ドキュメントの整備をするだけ RAGの特徴
  12. © 2026 Classmethod, Inc. RAGにおけるユーザーの質問から回答生成までの流れを、ベクトルデータベースを中心 としたアーキテクチャで実現します。 Appendix:具体的なRAGのイメージ 18 ドキュメント 加工済みのドキュ

    メント 前処理 ベクトル データベース ファイルを分割/ ベクトル化 ユーザー 質問 LLM 質問を解釈し てクエリ作成 問い合わせ LLM 検索結果となる ドキュメントを取得 検索結果となるドキュメント + 質問 を加味して回答を生成 準備 利用 マークダウンなどにす るケースが多いです
  13. © 2026 Classmethod, Inc. ベクトルデータベースは、テキストや画像などのデータを数値ベクトル(数字の配列) として保存し、 意味的な類似性に基づいて高速に検索できるデータベースです。 従来のデータベースはキーワードの完全一致で検索しますが、ベクトルデータベースは 「意味の近さ」で検索できます。 例えば、「犬」と検索すると「ペット」「動物」「愛

    犬」なども関連情報として取得できます。 Appendix:ベクトルデータベースについて 19 ユーザー 犬の〜 埋め込み モデル 質問 ベクトルデータベース (イメージ図) ラーメン ペット 犬 愛犬 類似 質問をベクトルに変換 して検索 犬=[0.02, -0.45, 0.89, ...]
  14. © 2026 Classmethod, Inc. どんなRAGを作るか2段階でお話しさせていただきます。 2ステップでRAGを作る 20 シンプルなRAG • 社内ドキュメント検索

    • よくあるFAQ応答 ① 高度なRAG • 現場担当者レベルの回 答を目指す • 精度改善をより目指す ② 始めやすい 発展系 段階的に導入、もしくは要件に応じて選択!
  15. © 2026 Classmethod, Inc. 特に同じような問い合わせが多くの従業員から大量に来て、大変であるといったケース はあるかとも思います。問い合わせ以外の本来の業務に注力したいといったことも考え られます。 ユースケース① 23 従業員

    担当者に問い合わせ 担当者 VPN接続できない時 の対処法は? パスワードリセット の方法は? 問い合わせ対応が山ほど来て大 変だ・・・調べたり解答作るの 大変。生成AIが代わりに回答し て欲しいよ・・・とほほ・・・ この悩みを生成AIを活用して解消を図ります
  16. © 2026 Classmethod, Inc. Amazon BedrockとBedrock Knowledge Basesを駆使してチャットで聞けば即座に出典 付きの回答が返却される環境を手軽に実現できます。 ユースケース①

    24 従業員 Bedrock & Knowledge Bases チャットに質問を入力 ドキュメントに沿った回答を提供 ベクトルDB(ex. OpenSearch) 質問に近しい内容を検索 データソース 出張申請ってどうした らいいの?? 出張申請のドキュメン トを調べる 出張申請の手順は以下の通りです。①事前に上長 の承認を得る ②出張申請書に記入 ③... (出典:出張規程_v2.pdf 3ページ)」 24時間365日 / 同時に複数人が利用可能な問い合わせ可能な環境となります
  17. © 2026 Classmethod, Inc. 下記のような問い合わせ対応ならシンプルなRAG構成で幅広く使用できる適用可能かと 思います。 ユースケース① 25 対象ドキュメント 活用例

    社内規定・就業規則 「有給休暇は最大何日取れる?」「出張時の日当はいくら?」 業務マニュアル 「経費精算の手順を教えて」「システムの初期設定方法は?」 FAQ 「VPN接続できない時の対処法は?」「パスワードリセットの方法は?」 製品カタログ 「商品Aと商品Bの違いはなんですか?」 議事録・ナレッジ 「前回のプロジェクト会議で決まったことは?」
  18. © 2026 Classmethod, Inc. 「担当者が調べて回答」から「チャットで即座に回答」を目指します。RAG導入によ り、対応スピード・属人化・担当者負荷といった課題を解消できます。ここでは5つの観 点でBefore/Afterを比較し、その効果を具体的に見ていきましょう。(下記はあくまで 一例です、自社で有用な指標をご検討ください) ユースケース① 26

    観点 Before(人が対応) After(RAGによる対応) 問い合わせ対応 担当者が調べて回答(数時間〜翌日) チャットで即座に回答 対応時間 営業時間内のみ 24時間365日(システム稼働時間) 属人化 回答できる人が限られる 誰でも一定の品質の回答を得ることができる 担当者の負荷 問い合わせ対応に時間を取られる 本来の業務に集中できる 回答の一貫性 担当者によってばらつきがある ドキュメントに基づく一貫した回答 ただ、AIによる生成バラツキも発生しうる
  19. © 2026 Classmethod, Inc. 導入効果を客観的に示すことで、改善サイクルを回し、社内への展開判断にもつなげら れます。以下の4指標を押さえておけば、RAGの価値を数字で語ることができます。(下 記はあくまで一例です、自社で有用な指標をご検討ください) ユースケース① 指標 内容

    測り方の例 一次回答時間 問い合わせ発生〜回答到達までの時間 導入前の平均応答時間と比較 自己解決率 RAGで解決でき、エスカレーション不要だった割合 ユーザーからのフィードバック・チャットログの分析 担当者の対応工数 問い合わせ対応に費やす時間 導入前後での工数比較 回答精度 RAGの回答が正確かどうか 想定Q&Aセットでの評価 27 「何となく便利」ではなく数字で効果を語れる状態を作る
  20. © 2026 Classmethod, Inc. サクッとシンプルなRAGを作りたい方にはGenerative AI Use Cases JP(GenU) が試しやすいです。AWS公式のOSSでチャット・RAG・画像生成などの生成AIユース

    ケースがすぐに試せる形でまとまっています。 Generative AI Use Cases JP(GenU)のご紹介 28 GenU OSSなので無料で利用可能(AWS利用料のみ) Amazon Bedrockを使ったRAGをすぐに試せる 実際の画面で動作を体験できるので、 社内説明にも使いやすい
  21. © 2026 Classmethod, Inc. ユースケース② 30 ユースケース①のようなシンプルなRAGで対応できないケースも存在し、実際の業務担 当者レベルで複数の情報源を横断的に調査・統合して回答して欲しい場合もあると思い ます。 従業員

    Bedrock & KnowledgeBases チャットに質問を入力 うちの製品Xの技術仕様 と競合Y社製品を比較し て、提案書に使えるポ イントを整理してほし い え、そんなに情報集められな い。難しいよ・・・ 製品仕様書、競合情報、過去の提案実績など複数の情報源を横断的に調査・統合する必要がある • 1つのデータソースからの検索では情報が不足する ケースがある • 複数の情報を組み合わせた総合的な判断が必要な ケース • 専門家が「あちこちの資料を読み漁って」初めて出 せるような回答 シンプルなRAGでの課題 自分や現場担当者レベル の回答が欲しいなぁ ・・・
  22. © 2026 Classmethod, Inc. 軽量モデルで情報収集、高性能モデルで推論・統合を実施し、スピードやコスト効率も 重視しつつ現場担当者レベルの回答が可能になります。 ユースケース② 31 従業員 うちの製品Xの技術仕様と競合Y社製

    品を比較して、提案書に使えるポイ ントを整理してほしい 製品Xの技術調査 競合Yの情報 過去の提案書事例 Haikuで収集・要約 Haikuで収集・要約 Haikuで収集・要約 Sonnetで統合・推論 仕組みのポイント 軽量モデルで(Haiku)で情報収集→スピード・コスト効率◎ 高性能モデル(Sonnet)で推論・統合 シンプルな問い合わせでは難しい横断的な回答が可能に 情報統合して現場担当 者レベルの回答生成 2~3時間ぐらいで作っていた業務担当者レベ ルの調査レポートが5分ぐらいで作成可能な ケースも 生成AIアプリケーション 質問
  23. © 2026 Classmethod, Inc. 専門知識の民主化を目指して、誰でもベテランの業務担当者レベルの回答を取得可能に 近づけます。もちろんベテラン業務担当者レベルの回答なので、相応のドキュメントや ナレッジが言語化されているのも前提となります。(下記はあくまで一例です、自社で 有用な指標をご検討ください) ユースケース② 32

    観点 Before(人が対応) After(RAGによる対応) 専門知識の活用 ベテランの業務担当者に依存 誰でも業務担当者レベルの回答を取得可能 属人化リスク キーマンの異動・離職で知識が失われる ナレッジがシステムに蓄積・維持される(維持する必 要がある) 回答の網羅性 個人の経験・記憶に依存 複数領域を横断的に調査した網羅的な回答 教育コスト 業務担当者が必ず対応する必要がある RAGを介していつでも質問し、壁打ちして業務担当者 を介さずとも解決できる可能性がある
  24. © 2026 Classmethod, Inc. AIエージェントとRAGを組み合わせたAgentic RAGといった手法もございます。単なる 「検索→生成」の一方通行ではなく、「計画→実行→評価→修正・再実行」という自律 的な調査プロセスを可能とします。複数のデータソースを動的に使い分け、自ら検証と 再試行を繰り返すことで、信頼性の高い回答を実現するアプローチとなります。 Appendix:Agentic

    RAG 33 ユーザー データソースA 質問 うちの環境で使えそ う? データソースB エージェント Web 1.環境理解 2.情報収集 3. Webでの 追加調査 うち = 自社のことだからま ずは自社情報を取得して、 その後別のデータソースか ら情報収集する、最後に Webでの追加調査も実施
  25. © 2026 Classmethod, Inc. Agentic RAG で解消を図る 実際にAgentic RAGを使うケースを考えてみます。例えば、社内規定や労務などに問い 合わせしたり自分がどう申請するのかどうか、検討するのは手間かと思います。

    Appendix:Agentic RAG 34 従業員 育休を取得したい・・・ どんな申請が必要なんだっ け。そもそも有給はどれぐ らい残っていたのだろう か。上司への承認も必要な のだろうか、うーん・・・ 同僚 同僚に聞く ポータルサイト/ 勤怠管理システム 社内規定 労務 色々と聞いたけど自分でどう 申請するかも考えないと。 コスト高いな・・・ 労務に問い合わせ 参照 参照
  26. © 2026 Classmethod, Inc. エージェントが複数のデータソースから情報を収集し、評価し適切にアドバイスをする ことを可能にします。よりユーザーが望む回答を作成しやすくなります。 Appendix:Agentic RAG 35 ユーザー

    DEMO エージェント 来月から3ヶ月の育休を取りた いです。申請期限、必要書類、 私の有給日数を教えてくださ い。上司の承認は必要ですか? 質問 データソース 社内規定/FAQ を検索 属性や有給日数 を取得 人事マスタ 就業規則を検索 実行計画 FAQ検索 有給日数を取得 まず計画を考えます。 計画に基づいて実行した結果の 回答サマリーはxxxです。 ~~~ 失敗しても分析してリトライな どの最適な行動を選択する
  27. © 2026 Classmethod, Inc. 「作って終わり」ではなく「評価→改善」のサイクルが実運用に耐えるRAGを構築する ことも大事です。 品質担保 38 要素 内容

    対策 データ整備 元ドキュメントの品質が回答品質に直結 古い情報の削除、フォーマット統一、メタデータ付与 インプットとするドキュメントの整備および作成・追 加 更新運用 ドキュメント更新時にRAGにも反映が必要 定期的な再同期の仕組み化(手動 or 自動) 回答できない時 RAGが答えられない質問への対処 ハルシネーションを起こさないよう「わかりません」 と返す設計 + FBを収集するエスカレーション導線
  28. © 2026 Classmethod, Inc. もちろんそこまでサクッと精度が出るわけではないです。まずは、自社のドキュメント が整備されているか、またどれぐらい整備されているもので精度が出るかを確認してみ るのも良いかと思います。下記のようなサイクルを繰り返していくイメージです。 品質担保 39 STEP

    1 ドキュメント整備 STEP 2 想定Q&A作成 STEP 3 検証・評価 STEP 4 チューニング 充分な精度が出ない場合は分析して繰り返し改善 ドキュメント整備のポイント 検証・評価のポイント • 想定Q&Aと評価基準を使って回答精度を測定、 LLMに評価させることも可能 • 人間が目視で評価することも大事 • 回答させたい情報がドキュメントとして整備さ れているか • 最新の情報が反映されているか • ドキュメント同士で矛盾した記載がないか
  29. © 2026 Classmethod, Inc. LLM-as-a-Judge 生成AIによる回答評価 40 想定Q&AおよびRAG 回答結果 評価基準

    Amazon Bedrock スクリプトで⼀括評価を実施 作成 評価結果 回答結果および評価結果が妥当か判断 RAGの回答が正しいかどうかは、人間が評価することも可能ですが、AI自身に評価させ ることも可能です。まずはAIに評価させてみて全体的な傾向を掴むのには良いと思いま す。評価自体が正しいとは限らず注意が必要なので人間による目視チェックも大切で す。
  30. © 2026 Classmethod, Inc. Appendix:評価結果のイメージ 41 評価結果のイメージは下記のようになります。この結果を見ながら再度傾向や具体的な 対策(ドキュメント追加・クエリ生成ロジック修正・メタデータ整備など)を考えた り、目視でもチェックします。 No

    質問 想定回答 RAG回答 正確性 (1-5) 網羅性 (1-5) 評価理由 1 有給休暇の付与日数 は? 入社6ヶ月経過 後に10日付与 入社6ヶ月経過で10日付与され ます。その後は勤続年数に応じ て増加します。 5 5 想定回答の内容を正確に含み、追加情 報も正しい 2 経費精算の締め日は? 毎月25日締 め、翌月10日 払い 毎月月末締めです。 2 2 締め日が25日ではなく月末と誤って おり、支払日の記載もない 3 社内Wi-Fiの接続方法 は? SSIDは 「Corp-WiFi」、 パスワードは社 内ポータル参 照 社内Wi-Fiについての情報は見 つかりませんでした。 1 1 回答が得られておらず、検索に失敗 している可能性が高い
  31. © 2026 Classmethod, Inc. Knowledge BasesにはAmazon Bedrock Data Automation以外にもClaudeなどの基盤モ デルを使ってPDFからテキストに変換することも可能で、この変換戦略を活用すること

    で資料の図の意味合いを欠落することを防げます。 Bedrockのモデルを活用して図などの情報も文字に起こす 43 PDF Claude エンべディングモデル ベクトルストア テキスト Claudeを活用して、図などの情 報もテキストに変換 マークダウンでも図の関係性が維 持されている
  32. © 2026 Classmethod, Inc. まとめ 45 1 ⽣成AIは「どう使うか」のフェーズ AIは⾃律的に動く存在へ進化しつつあ る、ビジネス業務でも活⽤することが効

    率化へ繋がる 2 Amazon Bedrockなら安⼼ データはモデル学習に使われず、AWS環 境内で完結する。セキュアに運⽤可能 3 RAGで外部の知識を活⽤できる Bedrock KnowledegeBasesを活⽤する ことで⽣成AIがもつナレッジの限界を克 服可能。 4 段階的に始められる シンプルなRAGから初めて⾼度なRAGや Agentic RAGといった選択も⼗分可能で す。リスクを最⼩限に減らして活⽤範囲 を広げましょう。