生成 AI に入れたデータは何処へ行く？Amazon Bedrock の アーキテクチャから考えるデータ保護

Wantedly Tech Night #13 Amazon Bedrockを用いたコンテンツモデレーションとプロフィール自動生成 (https://wantedly.connpass.com/event/360979/) で発表させていただいたスライドです。

Transcript

1. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 2025-08-06 Wantedly Tech Night ⼭崎 宏紀 / Hiroki Yamazaki Solutions Architect Amazon Web Services Japan ⽣成 AI に⼊れたデータは何処へ⾏く︖ Amazon Bedrock の アーキテクチャから考えるデータ保護 資料はこちら→
2. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 2 ⼭崎 宏紀 (Hiroki Yamazaki) アマゾンウェブサービスジャパン合同会社 ソリューションアーキテクト Wantedly, Inc. 様をはじめ、 ソフトウェア・SaaS を提供されているお客様をご⽀援しています 好きな AWS サービス: 趣味: 将棋、ボルダリング、謎解き🧩 Amazon Q Developer AWS Cloud Development Kit (AWS CDK) AWS Step Functions ＠yh1roki
3. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 3 本⽇お伝えすること • Wantedly, Inc. 様には Amazon Bedrock をご利⽤いただく前に データの取り扱いについて質疑応答を実施させていただきました • モデル利⽤時にどのような点を考慮するべきか、 Amazon Bedrock はどのようにデータ保護を実現しているのか、 実際にいただいた質問を元にご紹介させていただきます • 登場⼈物: Wantedly, Inc., Infra Squad 川井様 AWS, やまざき 注: 各記述は 2025/08 時点のものです。
4. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 4 ⽣成 AI の利⽤とデータ保護 • ⽣成 AI によって、より便利なサービスを開発・提供できるようになっている • モデルに⼊⼒するデータには、ユーザーの⼊⼒した情報や個⼈情報など、 取り扱いに注意が必要な情報が含まれることがある • モデルに⼊⼒したデータがどこに保存され、どのように処理されるのか、 モデルの利⽤前に確認できていますか︖ ⽣成 AI アプリケーション ユーザー モデルエンドポイント
5. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 基盤モデルをサーバーレスで提供し、アプリケーションから API を通じて利⽤ 5 Amazon Bedrock のモデル推論とは︖ ⽣成 AI アプリケーション エンドユーザー Amazon Bedrock は 様々な基盤モデルをサーバーレスで提供 アプリ 基盤モデル ユースケースに応じた お客様のアプリケーション （例︓チャット Web アプリ） Amazon Bedrock API 呼び出し パラメータ（例） ・モデル: Claude Sonnet 4 ・プロンプト︓”こんにちは” ・… (プロンプト = モデルに指⽰・⼊⼒するテキスト ) Claude Sonnet 4 … Amazon Bedrock モデル推論 b.実践編 【Amazon Bedrock Series #02b】【AWS Black Belt】
6. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 基盤モデルをサーバーレスで提供し、アプリケーションから API を通じて利⽤ 6 Amazon Bedrock のモデル推論とは︖ ⽣成 AI アプリケーション エンドユーザー アプリ 基盤モデル ユースケースに応じた お客様のアプリケーション （例︓チャット Web アプリ） Amazon Bedrock API 呼び出し パラメータ（例） ・モデル: Claude Sonnet 4 ・プロンプト︓”こんにちは” ・… (プロンプト = モデルに指⽰・⼊⼒するテキスト ) Claude Sonnet 4 … Amazon Bedrock モデル推論 b.実践編 【Amazon Bedrock Series #02b】【AWS Black Belt】 2025-08-06 UPDATE! OpenAI の gpt-oss-120b, gpt-oss-20b も利用可能になりました
7. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 7 Q&A 1.1 – データの保存 Amazon Bedrock + Anthropic Claude の組合せでの利用において、 ⼊⼒したデータは保存されますか︖ いいえ。ユーザーガイド* に以下の記載があります > Amazon Bedrock では、プロンプトおよび AI のレスポンスを 保存またはログに記録することはありません。 (続) * Amazon Bedorck ユーザーガイド - データ保護
8. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 8 Q&A 1.2 – サードパーティモデルの利⽤ Amazon Bedrock + Anthropic Claude の組合せでの利用において、 ⼊⼒したデータは保存されますか︖ さらに、サードパーティモデルを利用する際は、FAQ * もご確認ください > ユーザー⼊⼒とモデル出⼒はサードパーティーのモデルプロバイダーが 利⽤できるようになっていますか? いいえ。ユーザーの⼊⼒とモデル出⼒は、どのモデルプロバイダーとも 共有されません。 (続) * Amazon Bedrock のよくある質問
9. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 9 Q&A 1.3 –トレーニングへの⼊⼒データの不使⽤ Amazon Bedrock + Anthropic Claude の組合せでの利用において、 ⼊⼒したデータは保存されますか︖ 保存だけでなく、モデルのトレーニングへの不使用も明記がございます > AWS とサードパーティーのモデルプロバイダーは、Amazon Bedrock へ の顧客の⼊⼒または Amazon Bedrock からの出⼒を使⽤して、(中略) モデ ルをトレーニングすることはありますか? いいえ。AWS およびサードパーティーのモデルプロバイダーは、(中略) モ デルをトレーニングすることはありません。
10. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. 基盤モデルをサーバーレスで提供し、アプリケーションから API を通じて利⽤ 10 (再掲) Amazon Bedrock のモデル推論とは︖ ⽣成 AI アプリケーション エンドユーザー Amazon Bedrock は 様々な基盤モデルをサーバーレスで提供 アプリ 基盤モデル ユースケースに応じた お客様のアプリケーション （例︓チャット Web アプリ） Amazon Bedrock API 呼び出し パラメータ（例） ・モデル: Claude Sonnet 4 ・プロンプト︓”こんにちは” ・… (プロンプト = モデルに指⽰・⼊⼒するテキスト ) Claude Sonnet 4 … Amazon Bedrock モデル推論 b.実践編 【Amazon Bedrock Series #02b】【AWS Black Belt】
11. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 11 Amazon Bedrock のアーキテクチャ AWS re:Inforce 2024 - Deep dive into Amazon Bedrock security architecture (APS224) プロンプト レスポンス
12. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 12 Amazon Bedrock のデプロイアカウント デプロイアカウント: • Amazon Bedrock サービスチームが所有・運⽤する AWS アカウント • 各 AWS リージョンには、モデルプロバイダーごとに 1 つのデプロイアカウントが存在 モデルプロバイダー アクセス不可
13. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 13 Q&A 2 – データの処理 Amazon Bedrock を東京リージョンで呼び出した場合、 データは東京リージョン内で処理されますか︖ 利⽤するモデル (推論プロファイル) によっては 東京リージョン以外で処理される場合があります。 クロスリージョン推論というものがあり・・・ (続)
14. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⾃動的に複数リージョンのモデルを利⽤することで、より可⽤性⾼く安定した推論を実現 (追加料⾦無し) 14 Cross-region inference (クロスリージョン推論) アプリケーション エンドポイント リージョン 2 (送信先リージョン) 候補リージョン の 混雑状況 に応じて ⾃動ルーティング 推論候補リージョン群が モデルに対し定められた Inference Profile を指定 例えば… 「 モデル A を リージョン 1 または リージョン 2 で実行」 オンデマンド モデル A オンデマンド モデル A ! 第 1 候補 第 2 候補 単独リージョンでのスループットのクォータを回避することもできる * クロスリージョン推論によるスループットの向上 リージョン 1 (ソースリージョン) ソースリージョン: SDK 使⽤時にユーザーが指定したリージョン
15. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. ⾃動的に複数リージョンのモデルを利⽤することで、より可⽤性⾼く安定した推論を実現 (追加料⾦無し) 15 Cross-region inference (クロスリージョン推論) リージョン 1 (ソースリージョン) アプリケーション エンドポイント リージョン 2 (送信先リージョン) 候補リージョン の 混雑状況 に応じて ⾃動ルーティング 推論候補リージョン群が モデルに対し定められた Inference Profile を指定 例えば… 「 モデル A を リージョン 1 または リージョン 2 で実行」 オンデマンド モデル A オンデマンド モデル A ! 第 1 候補 第 2 候補 単独リージョンでのスループットのクォータを回避することもできる クロスリージョン推論リクエスト: > クロスリージョン推論中に⼊⼒プロンプトと 出⼒結果がソースリージョン外に移動する場合があります。 * クロスリージョン推論によるスループットの向上 ソースリージョン: SDK 使⽤時にユーザーが指定したリージョン
16. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 16 後⽇ ⼊⼒して良いデータの範囲を整理し、 Amazon Bedrock + Anthropic Claude 利⽤は基本的に OK になりました︕ ありがとうございます︕︕
17. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 17 まとめ • ⽣成 AI の利⽤には⼊⼒したデータの取り扱いの考慮が必要 • 確認するべき観点 • ⼊⼒したデータがどのように保存されるのか • ⼊⼒したデータがモデルプロバイダに提供されるのか • ⼊⼒したデータがトレーニングに利⽤されるのか • ⼊⼒したデータがどこで保存・処理されるのか • Amazon Bedrock でセキュリティ・コンプライアンス基準に沿って 基盤モデルを利⽤しよう 資料はこちら→
18. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn 18 参考リンク • Amazon Bedrock のよくある質問 • AWS Service Terms • Amazon Bedrock ユーザーガイド • AWS Black Belt Online Seminar: Amazon Bedrock モデル推論 実践編 • AWS re:Inforce 2024 - Deep dive into Amazon Bedrock security architecture (APS224) • ⽇本におけるプライバシーに関する考慮事項に照らした AWS の利⽤ • クラウドサービスと個⼈情報保護の実務
19. © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. Thank you! © 2025, Amazon Web Services, Inc. or its affiliates. All rights reserved. < #wantedly_tn Hiroki Yamazaki AWS Japan