CCoE実践者コミュニティ関西 #7 - arap - Amazon Bedrock クロスリージョン推論とリージョン制限について

https://ccoekansai.connpass.com/event/358335/

Transcript

1. Amazon Bedrock クロスリージョン 推論とリージョン制限について クラスメソッド株式会社 クラウド事業本部 コンサルティング部 ソリューションアーキテクト 荒平 祐次 / arap
2. 荒平 祐次 (Arahira Yuji) クラスメソッド株式会社 クラウド事業本部 コンサルティング部 ソリューションアーキテクト - 経歴 ◦ ⾼専→SIer (約5年)→クラスメソッド(約2.5年) - 業務内容 ◦ AWS全般のインテグレーション‧お悩み相談 ◦ ブログ執筆 - 趣味 ◦ Twitter (@eiraces) ◦ ゲーム (最近はマリオカートワールド) - 受賞歴 ◦ 2025 Japan AWS Top Engineer ◦ AWS Community Builder (Serverless) ◦ VMware vExpert 2022-2025 about me 2
3. • Amazon Bedrockのクロスリージョン推論について • 推論プロファイルの仕組みと動作 • Service Control Policy (SCP) 環境下での制約 • 解決アプローチを検討してみる 本⽇の内容 3
4. Amazon Bedrockのクロスリージョン推論について
5. 従来のAPI呼び出し⽅法 クロスリージョン推論？ 5 ap-northeast-1 Amazon Bedrock コール元 （利⽤者‧端末など） Aniちゃん今⽇も かわいいね すみません、 ⼈違いだと思います
6. 複数のリージョンによる推論 クロスリージョン推論？ 6 ap-northeast-1 Amazon Bedrock コール元 （利⽤者‧端末など） ap-southeast-2 Amazon Bedrock モデルごとに設定された プロファイル ap-northeast-1 ユーザーが意図しない ところで トラフィックバーストを防 いでくれています
7. ⽤語の整理 7 ap-northeast-1 Amazon Bedrock コール元 （利⽤者‧端末など） ap-southeast-2 Amazon Bedrock モデルごとに設定された プロファイル ap-northeast-1 Source Region （APIリクエストを処理） Destination Region (実際の推論処理を実⾏) Pre-defined Inference Profiles (事前定義推論プロファイル)
8. どこで実⾏されるかは確認可能 8 APAC系のリージョン なお推論プロファイルは Immutableであり、 バージョンが変更されない限り はリージョン追加などされない 推論プロファイルでサポートされているリージョンとモデル https://docs.aws.amazon.com/ja_jp/bedrock/latest/userguide/inference-profiles-support.html
9. リージョンの壁は超えないようになっている 9 東京に向けてCallしたら APAC内で推論する （USやEUに⾏かない） 東京に端末があっても USに向けてCallすること もできる
10. AWS統制におけるリージョン制限
11. AWSドキュメントでは「⼀般的な例」として1番⽬に紹介 利⽤できるリージョンを制限 11 一般的な例 https://docs.aws.amazon.com/ja_jp/organizations/latest/userguide/orgs_manage_policies_sc ps_examples_general.html
12. ⼀般的にはOrganizations OUに対してSCPを付与、 またはControl Tower管理のOUに対してコントロール(SCP)を付与 Service Control Policy (SCP)による制御 12
13. 主要なリージョン（東京、⼤阪、バージニア北部など）以外は 操作禁⽌（Deny）に指定している環境もあると思います ということで 13 ap-northeast-1 ap-southeast-2 ap-northeast-3
14. 困ってしまいましたね 14
15. 実際の画⾯ 15 a service control policy explicitly denies the action
16. 解決アプローチを検討してみる
17. メリット： - CT管理やSCPを解除するだけ - あまり細かいことを気にしなくて良い デメリット： - 統制したいからOrganizations管理しているのでは‧‧‧？ - 管理されていない=組織のセキュリティホールになる 1. 統制管理から外す 17
18. メリット： - OrganizationsやControlTowerに⼿を加えなくて良い デメリット： - 対応しているモデルが少なくなってきている - 東京リージョンでは、Claude 3.5 V1, Nova Lite くらい 2. クロスリージョン推論を利⽤しないモデルのみ利⽤する 18
19. 2. クロスリージョン推論を利⽤しないモデルのみ利⽤する 19
20. メリット： - APACすべてのリージョンを利⽤可能（管理下）にして解決 - 解決までのスピードは早い デメリット： - リージョン数を最⼩に絞っていた反動‧抵抗がある - セキュリティチェックなどのコストは発⽣する 3. 制限リージョンを変更する 20
21. 4. SCPを変更してBedrockを許可する 21
22. 4. SCPを変更してBedrockを許可する 22
23. メリット： - 気軽にBedrock(特にCross-region推論)を解放することができる デメリット： - 特になし - ControlTower マネージドのポリシーを変更するのはBad Practiceの ため注意 4. SCPを変更してBedrockを許可する 23
24. 5. SCPを変更してBedrockのモデルを個別に許可する 24 マルチアカウント環境で Amazon Bedrock クロスリージョン推論を有効化する https://aws.amazon.com/jp/blogs/news/enable-amazon-bedrock-cross-region-inference-in-multi-account-environments/ 指定したモデルを許可したIAMロールを作成 し、CTのコントロールから除外する プリンシパルとして指定
25. メリット： - AWS Blogで紹介されている（≒ Official） - ⼀番セキュアに実装できる - 使いたくないモデルが出てきた際に制限しやすい デメリット： - モデルが増えたときに追加管理が⾯倒、負荷が⾼い 5. SCPを変更してBedrockのモデルを個別に許可する 25
26. さいごに
27. クロスリージョン推論とリージョン制限は相性がイマイチ 選択肢を知って、正しく統制管理しましょう 組織内で増え続ける⽣成AI需要に、対応を頑張っていきましょう…！ さいごに 27