Slide 1

Slide 1 text

Amazon Bedrock クロスリージョン 推論とリージョン制限について クラスメソッド株式会社 クラウド事業本部 コンサルティング部 ソリューションアーキテクト 荒平 祐次 / arap

Slide 2

Slide 2 text

荒平 祐次 (Arahira Yuji) クラスメソッド株式会社 クラウド事業本部 コンサルティング部 ソリューションアーキテクト - 経歴 ○ ⾼専→SIer (約5年)→クラスメソッド(約2.5年) - 業務内容 ○ AWS全般のインテグレーション‧お悩み相談 ○ ブログ執筆 - 趣味 ○ Twitter (@eiraces) ○ ゲーム (最近はマリオカートワールド) - 受賞歴 ○ 2025 Japan AWS Top Engineer ○ AWS Community Builder (Serverless) ○ VMware vExpert 2022-2025 about me 2

Slide 3

Slide 3 text

• Amazon Bedrockのクロスリージョン推論について • 推論プロファイルの仕組みと動作 • Service Control Policy (SCP) 環境下での制約 • 解決アプローチを検討してみる 本⽇の内容 3

Slide 4

Slide 4 text

Amazon Bedrockのクロスリージョン推論について

Slide 5

Slide 5 text

従来のAPI呼び出し⽅法 クロスリージョン推論? 5 ap-northeast-1 Amazon Bedrock コール元 (利⽤者‧端末など) Aniちゃん今⽇も かわいいね すみません、 ⼈違いだと思います

Slide 6

Slide 6 text

複数のリージョンによる推論 クロスリージョン推論? 6 ap-northeast-1 Amazon Bedrock コール元 (利⽤者‧端末など) ap-southeast-2 Amazon Bedrock モデルごとに設定された プロファイル ap-northeast-1 ユーザーが意図しない ところで トラフィックバーストを防 いでくれています

Slide 7

Slide 7 text

⽤語の整理 7 ap-northeast-1 Amazon Bedrock コール元 (利⽤者‧端末など) ap-southeast-2 Amazon Bedrock モデルごとに設定された プロファイル ap-northeast-1 Source Region (APIリクエストを処理) Destination Region (実際の推論処理を実⾏) Pre-defined Inference Profiles (事前定義推論プロファイル)

Slide 8

Slide 8 text

どこで実⾏されるかは確認可能 8 APAC系のリージョン なお推論プロファイルは Immutableであり、 バージョンが変更されない限り はリージョン追加などされない 推論プロファイルでサポートされているリージョンとモデル https://docs.aws.amazon.com/ja_jp/bedrock/latest/userguide/inference-profiles-support.html

Slide 9

Slide 9 text

リージョンの壁は超えないようになっている 9 東京に向けてCallしたら APAC内で推論する (USやEUに⾏かない) 東京に端末があっても USに向けてCallすること もできる

Slide 10

Slide 10 text

AWS統制におけるリージョン制限

Slide 11

Slide 11 text

AWSドキュメントでは「⼀般的な例」として1番⽬に紹介 利⽤できるリージョンを制限 11 一般的な例 https://docs.aws.amazon.com/ja_jp/organizations/latest/userguide/orgs_manage_policies_sc ps_examples_general.html

Slide 12

Slide 12 text

⼀般的にはOrganizations OUに対してSCPを付与、 またはControl Tower管理のOUに対してコントロール(SCP)を付与 Service Control Policy (SCP)による制御 12

Slide 13

Slide 13 text

主要なリージョン(東京、⼤阪、バージニア北部など)以外は 操作禁⽌(Deny)に指定している環境もあると思います ということで 13 ap-northeast-1 ap-southeast-2 ap-northeast-3

Slide 14

Slide 14 text

困ってしまいましたね 14

Slide 15

Slide 15 text

実際の画⾯ 15 a service control policy explicitly denies the action

Slide 16

Slide 16 text

解決アプローチを検討してみる

Slide 17

Slide 17 text

メリット: - CT管理やSCPを解除するだけ - あまり細かいことを気にしなくて良い デメリット: - 統制したいからOrganizations管理しているのでは‧‧‧? - 管理されていない=組織のセキュリティホールになる 1. 統制管理から外す 17

Slide 18

Slide 18 text

メリット: - OrganizationsやControlTowerに⼿を加えなくて良い デメリット: - 対応しているモデルが少なくなってきている - 東京リージョンでは、Claude 3.5 V1, Nova Lite くらい 2. クロスリージョン推論を利⽤しないモデルのみ利⽤する 18

Slide 19

Slide 19 text

2. クロスリージョン推論を利⽤しないモデルのみ利⽤する 19

Slide 20

Slide 20 text

メリット: - APACすべてのリージョンを利⽤可能(管理下)にして解決 - 解決までのスピードは早い デメリット: - リージョン数を最⼩に絞っていた反動‧抵抗がある - セキュリティチェックなどのコストは発⽣する 3. 制限リージョンを変更する 20

Slide 21

Slide 21 text

4. SCPを変更してBedrockを許可する 21

Slide 22

Slide 22 text

4. SCPを変更してBedrockを許可する 22

Slide 23

Slide 23 text

メリット: - 気軽にBedrock(特にCross-region推論)を解放することができる デメリット: - 特になし - ControlTower マネージドのポリシーを変更するのはBad Practiceの ため注意 4. SCPを変更してBedrockを許可する 23

Slide 24

Slide 24 text

5. SCPを変更してBedrockのモデルを個別に許可する 24 マルチアカウント環境で Amazon Bedrock クロスリージョン推論を有効化する https://aws.amazon.com/jp/blogs/news/enable-amazon-bedrock-cross-region-inference-in-multi-account-environments/ 指定したモデルを許可したIAMロールを作成 し、CTのコントロールから除外する プリンシパルとして指定

Slide 25

Slide 25 text

メリット: - AWS Blogで紹介されている(≒ Official) - ⼀番セキュアに実装できる - 使いたくないモデルが出てきた際に制限しやすい デメリット: - モデルが増えたときに追加管理が⾯倒、負荷が⾼い 5. SCPを変更してBedrockのモデルを個別に許可する 25

Slide 26

Slide 26 text

さいごに

Slide 27

Slide 27 text

クロスリージョン推論とリージョン制限は相性がイマイチ 選択肢を知って、正しく統制管理しましょう 組織内で増え続ける⽣成AI需要に、対応を頑張っていきましょう…! さいごに 27

Slide 28

Slide 28 text

No content