SaaS Engineering Meetup 第8回 AWS re:Invent 2024 SaaS関連報告会 クラスメソッド株式会社 いわさ ブレイクアウトセッションから振り返る AWS re:Invent 2024 SaaS トレンド

⾃⼰紹介 2 ● 2020年12⽉ ⼊社 ● 2022年12⽉ re:Invent 現地初参加 ○ .NET セッションを中⼼に参加 ● 2023年12⽉ re:Invent 現地2回⽬ ○ SaaS on AWS を中⼼に参加 ● 2024年 1⽉ AWS SaaS コンピテンシー取得 ● 2024年12⽉ re:Invent 現地3回⽬ ○ SaaS on AWS を中⼼に参加 ● 所属‧ロール ○ クラスメソッド株式会社（札幌オフィス） ○ クラウド事業本部コンサルティング部 ○ ソリューションアーキテクト ● 名前 ○ 岩浅 貴⼤（いわさ）@Tak1wa ● 活動 ○ AWS Ambassador 2022-2024 ○ Japan AWS Top Engineer 2022-2024 ○ AWS Community Builder (Serverless) 2022-2024 ○ Microsoft MVP for Azure

スライドはブログで公開します 3 https://dev.classmethod.jp/

● re:Invent 2024 ブレイクアウトセッション振り返り ● セッションからピックアップするアプローチをいくつか紹介 アジェンダ 4

re:Invent 2024 ブレイクアウトセッション振り返り

ブレイクアウトセッション 6

ブレイクアウトセッションのアーカイブ動画 7 https://www.youtube.com/playlist?list=PLoqD0z_296PamRoUMDrbsoQXRHqcK3aAy

ブレイクアウトセッション 2023 8 https://dev.classmethod.jp/articles/reinvent2023-report-sas/

ブレイクアウトセッション 2023 9 セッションコード タイトル 動画公開 SAS304 SaaS deep dive: Inside a scalable, efficient multi-tenant architecture SaaS の詳細: スケーラブルで効率的なマルチテナント アーキテクチャの内部 ○ SAS305 SaaS architecture pitfalls: Lessons from the field SaaS アーキテクチャの落とし穴: 現場からの教訓 ○ SAS306 SaaS meets AIML & generative Al: Multi-tenant patterns & strategies SaaS と AI ML および生成 AI の融合: マルチテナント パターンと戦略 ○ SAS308 SaaS anywhere: Designing distributed multi-tenant architectures SaaS anywhere: 分散型マルチテナントアーキテクチャの設計 ○ SAS406 SaaS DevOps deep dive: Automating multi-tenant deployments SaaS DevOps の詳細: マルチテナント展開の自動化 ○

ブレイクアウトセッション 2024 10 https://dev.classmethod.jp/articles/reinvent2024-report-sas/

ブレイクアウトセッション 2024 11 セッションコード タイトル YouTube SAS305 SaaS architecture pitfalls: Lessons from the field SaaS アーキテクチャの落とし穴 : 現場からの教訓 ◯ SAS306 SaaS storage strategies: Scaling, securing & tuning multi-tenant data SaaS ストレージ戦略: マルチテナント データのスケーリング、セキュリティ保護、チューニング ◯ SAS307 Supporting federated identity in multi-tenant environments マルチテナント環境でのフェデレーション IDのサポート ◯ SAS315 SaaS meets cell-based architecture: A natural multi-tenant fit SaaS とセルベース アーキテクチャの融合: 自然なマルチテナントの適合 ◯ SAS406 Accelerating multi-tenant development with the SaaS Builder Toolkit SaaS ビルダー ツールキットによるマルチテナント開発の加速 ◯ SAS407 Generative AI meets multi-tenancy: Inside a working solution 生成 AI とマルチテナントの融合 : 実用的なソリューションの内部 ◯ PEX304 Next generation SaaS: Scale, resilience, and operational efficiency 次世代 SaaS: スケール、回復力、運用効率 ◯

ブレイクアウトセッション 2024 12 セッションコード タイトル YouTube SAS305 SaaS architecture pitfalls: Lessons from the field SaaS アーキテクチャの落とし穴: 現場からの教訓 ◯ SAS306 SaaS storage strategies: Scaling, securing & tuning multi-tenant data SaaS ストレージ戦略: マルチテナント データのスケーリング、セキュリティ保護、チューニング ◯ SAS307 Supporting federated identity in multi-tenant environments マルチテナント環境でのフェデレーション IDのサポート ◯ SAS315 SaaS meets cell-based architecture: A natural multi-tenant fit SaaS とセルベース アーキテクチャの融合: 自然なマルチテナントの適合 ◯ SAS406 Accelerating multi-tenant development with the SaaS Builder Toolkit SaaS ビルダー ツールキットによるマルチテナント開発の加速 ◯ SAS407 Generative AI meets multi-tenancy: Inside a working solution 生成 AI とマルチテナントの融合: 実用的なソリューションの内部 ◯ PEX304 Next generation SaaS: Scale, resilience, and operational efficiency 次世代 SaaS: スケール、回復力、運用効率 ◯

13 ● SAS305 : SaaS architecture pitfalls: Lessons from the field（2023） ● SAS305 : SaaS architecture pitfalls: Lessons from the field（2024） <2023> <2024> SaaS アーキテクチャの落とし⽳

● 2023 はSaaSの基本的な課題（テナント分離、ノイジーネイバー、メト リクス、コスト）などに関する技術的なアプローチを解説 ● 2024 は追加の課題に対する具体的なアプローチ例をあげつつ解説 ○ コントロールプレーンで SaaS Builder Toolkit ○ オブザーバビリティで OpenTelemetry ○ 課⾦＆収益管理でサードパーティSaaSの活⽤（Stripe, Amberflo, Schematic） ○ テストの強化で Gremlin や AWS FIS ○ データ分離と保護で Nitro Enclaves、Skyflow、Data Privacy Vault SaaS アーキテクチャの落とし⽳ 14

15 ● SAS306 : SaaS meets AIML & generative Al: Multi-tenant patterns & strategies（2023） ● SAS407 Generative AI meets multi-tenancy: Inside a working solution（2024） <2023> <2024> ⽣成 AI とマルチテナントの融合

● 2024年から得られること ○ 400レベルのセッションとして、具体的なコード例を含む詳細な実装⽅法の説明 ⽣成 AI とマルチテナントの融合 16

ブレイクアウトセッション 2024 17 セッションコード タイトル YouTube SAS305 SaaS architecture pitfalls: Lessons from the field SaaS アーキテクチャの落とし穴 : 現場からの教訓 ◯ SAS306 SaaS storage strategies: Scaling, securing & tuning multi-tenant data SaaS ストレージ戦略: マルチテナント データのスケーリング、セキュリティ保護、チューニング ◯ SAS307 Supporting federated identity in multi-tenant environments マルチテナント環境でのフェデレーション IDのサポート ◯ SAS315 SaaS meets cell-based architecture: A natural multi-tenant fit SaaS とセルベース アーキテクチャの融合: 自然なマルチテナントの適合 ◯ SAS406 Accelerating multi-tenant development with the SaaS Builder Toolkit SaaS ビルダー ツールキットによるマルチテナント開発の加速 ◯ SAS407 Generative AI meets multi-tenancy: Inside a working solution 生成 AI とマルチテナントの融合: 実用的なソリューションの内部 ◯ PEX304 Next generation SaaS: Scale, resilience, and operational efficiency 次世代 SaaS: スケール、回復力、運用効率 ◯

セッションからピックアップするアプローチをいくつか紹介

セッションからピックアップするアプローチ 19 ● セルベースアーキテクチャ ● Amazon Bedrock の新しい機能をマルチテナントで活⽤ ● データベース周りの新しい技術 ● SaaS Builder Toolkit

セルベースアーキテクチャ 20

セルベースアーキテクチャ 21 AWS re:Invent 2024 - Dr. Werner Vogels Keynote より

セルベースアーキテクチャ 22 AWS re:Invent 2024 - Dr. Werner Vogels Keynote より ⼩笹さんのセッションでお話があるそうです！

Amazon Bedrock の新しい機能をマルチテナントで活⽤ 23

● Amazon Bedrock とは Amazon Bedrock の新しい機能をマルチテナントで活⽤ 24 ❏ Amazon Bedrock は、⼤⼿ AI 企業や Amazon の⾼性能な基盤モデル (FM) を統合 API を通じて利⽤できるようにする、フルマ ネージド型のサービスです ❏ Amazon Bedrock は、セキュリティ、プライ バシー、責任ある AI を備えた⽣成 AI アプリ ケーションを構築するための幅広い機能も提 供します

● ティアリングとテナント分離 ○ 共有サービス、コスト効率、RAGアプローチ ○ テナント専⽤リソース、Fine-tuningも組み合わせる ○ ナレッジベースはテナントごとに管理可能 Amazon Bedrock の新しい機能をマルチテナントで活⽤ 25 AWS re:Invent 2024 - Generative AI meets multi-tenancy: Inside a working solution (SAS407) より

● Knowledge Bases for Amazon Bedrock ○ テナントごとにナレッジベースを管理 ○ サービスロールとデータアクセスポリシーで OSSインデックスのテナント分離 Amazon Bedrock の新しい機能をマルチテナントで活⽤ 26 AWS re:Invent 2024 - Generative AI meets multi-tenancy: Inside a working solution (SAS407) より

● Agents for Amazon Bedrock ○ Lambda オーソライザーでテナント⽤のナレッジベースを特定 ○ スコープ付き認証情報をバックエンドサービスに伝播 Amazon Bedrock の新しい機能をマルチテナントで活⽤ 27 AWS re:Invent 2024 - Generative AI meets multi-tenancy: Inside a working solution (SAS407) より

● Agents for Amazon Bedrock ○ エージェント呼び出し時にトレースを有効化 ○ テナントコンテキストを含めることができる Amazon Bedrock の新しい機能をマルチテナントで活⽤ 28 AWS re:Invent 2024 - Generative AI meets multi-tenancy: Inside a working solution (SAS407) より

データベース周りの新しい技術 29

● 強化された RDS Data API ● Aurora Limitless Database でシャーディング データベース周りの新しい技術 30

● 強化された RDS Data API の活⽤ データベース周りの新しい技術 31 ❏ 対象の拡⼤ ❏ 従来は Serverless v1 のみだった ❏ Aurora Serverless v2 とプロビジョニングも ❏ PostgreSQL（2023.12.21） ❏ MySQL （2024.9.30） ❏ スケーラビリティの改善 ❏ 以前は 1,000 RPS の制限あり ❏ 制限なくなった（！！） https://dev.classmethod.jp/articles/rds-data-api-now-supported-in-serverless-v2-and-provisioned-amazon-aurora-postgresql/

● 強化された RDS Data API の活⽤ ○ RDS Proxy + Row Level Security 時のピン留め問題を解決 データベース周りの新しい技術 32 AWS re:Invent 2024 - SaaS storage strategies: Scaling, securing & tuning multi-tenant data (SAS306) より

● Aurora Limitless Database でシャーディング データベース周りの新しい技術 33 ❏ シャーディング構成をマネージドな構成で提供 ❏ 適切なシャードノードへのルーティングは Aurora が⾏ってくれる ❏ ⼀貫性の保証 ❏ 書き込み性能のスケールも⾏う https://dev.classmethod.jp/articles/amazon-aurora-postgresql-limitless-database-is-now-generally-available/

● Aurora Limitless Database でシャーディング データベース周りの新しい技術 34 AWS re:Invent 2024 - SaaS storage strategies: Scaling, securing & tuning multi-tenant data (SAS306) より

SaaS Builder Toolkit 35

● コントロールプレーンとアプリケーションプレーンのベースライン SaaS Builder Toolkit 36

● コントロールプレーンとアプリケーションプレーンのベースライン SaaS Builder Toolkit 37 AWS re:Invent 2024 - SaaS storage strategies: Scaling, securing & tuning multi-tenant data (SAS306) より

● コントロールプレーンとアプリケーションプレーンのベースライン SaaS Builder Toolkit 38 https://dev.classmethod.jp/articles/sbt-tenant-onboarding/

● コントロールプレーンとアプリケーションプレーンのベースライン SaaS Builder Toolkit 39 https://dev.classmethod.jp/articles/sbt-tenant-onboarding/

まとめ

● re:Invent 2024 ブレイクアウトセッション振り返り ○ トレンドテクノロジーやAWS最新機能をSaaSで活⽤する⽅法が含まれてくる ● セッションからピックアップするアプローチをいくつか紹介 ○ セルベースアーキテクチャ ○ Amazon Bedrock の新しい機能をマルチテナントで活⽤ ○ データベース周りの新しい技術 ○ SaaS Builder Toolkit まとめ 41

No content