Slide 1

Slide 1 text

2022/10/6(木) JAWS-UG 朝会 #38

Slide 2

Slide 2 text

目次 • Amazon Redshift Serverless とは • Amazon Redshift Serverless のコンポーネント • Amazon Redshift Serverless の特徴 • Amazon Redshift Serverless の料金 • 従来の Redshift クラスターと Redshift Serverless の比較 • 考慮事項 • まとめ • おまけ • 余談

Slide 3

Slide 3 text

Amazon Redshift Serverless とは

Slide 4

Slide 4 text

従来の Redshift について • Amazon Redshift(RA3 インスタンス) ⇒ クラスター構成 • クラスターは主に以下3つの要素で構成 • リーダーノード • コンピュートノード • マネージドストレージ

Slide 5

Slide 5 text

Amazon Redshift Serverless とは • ノード部分の綿密な キャパシティプランニング不要 • 分析のためのクエリ実行時に自動で プロビジョニング・スケール • クラスターという概念がなくなった • 「名前空間」「ワークグループ」という コンポーネントで管理

Slide 6

Slide 6 text

Amazon Redshift Serverless のコンポーネント 「名前空間」と「ワークグループ」

Slide 7

Slide 7 text

Amazon Redshift Serverless の コンポーネント • 名前空間 • データベースオブジェクト・ユーザーなどの集まり https://docs.aws.amazon.com/ja_jp/redshift/latest/mgmt/serverless-workgroup-namespace.html • データベース名とデータベース管理者パスワード • IAM ロールによる許可の設定 • データの暗号化とセキュリティ • KMS キーの指定や監査ログの有無

Slide 8

Slide 8 text

Amazon Redshift Serverless の コンポーネント • ワークグループ • コンピューティングリソースのあつまり • ネットワーク • セキュリティ • セキュリティグループ、 拡張 VPC ルーティング、パブリックアクセスの許可等 • Redshift 処理ユニット (RPU) のベース容量 • 使用制限 • Redshift 処理ユニット (RPU) の最大値 • クロスリージョンデータ共有 • クエリ制限 • クエリ実行タイムアウト:0~86,399 秒の範囲で指定

Slide 9

Slide 9 text

Amazon Redshift Serverless の コンポーネント • 名前空間とワークグループの関連付けは 1対1

Slide 10

Slide 10 text

Amazon Redshift Serverless の特徴

Slide 11

Slide 11 text

Amazon Redshift Serverless の特徴 • クラスターの管理不要 • 自動スケール • ワークロードの処理に使用される Redshift 処理ユニット(RPU: Redshift Processing Unit) という 単位でベース容量を設定しておく • 1 RPU = 16 GiB メモリ • 範囲は 8 刻みの 32~512 RPU まで • デフォルトで 128 RPU

Slide 12

Slide 12 text

Amazon Redshift Serverless の特徴 範囲は 8 刻みの 32~512 RPU まで

Slide 13

Slide 13 text

Amazon Redshift Serverless の特徴 • 使用制限 • リソース使用量を制限するしきい値を設定 • Redshift 処理ユニット (RPU) の最大数 • クロスリージョンデータ共有の使用制限 • 制限に達した際のアクションを以下から指定でき、想定以上のコスト発生を抑制 • アラート発報 • システムテーブルにログを書き込む • ユーザークエリを無効にするクエリの制限 • クエリの実行タイムアウト時間 • 0~86,399 秒の範囲を設定できる

Slide 14

Slide 14 text

Amazon Redshift Serverless の特徴 Redshift 処理ユニット (RPU) の最大数 クロスリージョンデータ共有の 使用制限

Slide 15

Slide 15 text

Amazon Redshift Serverless の特徴 クエリ実行タイムアウト 0~86,399 秒の範囲で指定 デフォルト 14,400 秒

Slide 16

Slide 16 text

Amazon Redshift Serverless の特徴 • 従来の Redshift Provisioned の機能・性能はそのまま • 従来の Redshift で使えた機能、データレイクとの統合、 パフォーマンスはそのまま • Redshift Serverless で作成したスナップショットを Redshift クラスターに復元することも可能

Slide 17

Slide 17 text

Amazon Redshift Serverless の料金

Slide 18

Slide 18 text

Amazon Redshift Serverless の料金 東京リージョンでの価格(2022/10/05時点) コンピュートの請求 1 RPU 時間あたり 0.494 USD ストレージの請求 GB 月あたり 0.0261 USD • コンピュートの請求 • RPU 時間に対し秒単位で課金、アイドル時間の料金はかからない • 同時実行スケーリング・Redshift Spectrum の料金は Redshift Serverless の 料金に含まれている • ストレージの請求 • Redshift マネージドストレージ(RMS)とスナップショットに対して GB / 月単位で請求 • 過去 30 分単位で 24 時間以内の特定のポイントには無料で復元できる

Slide 19

Slide 19 text

Amazon Redshift Serverless の料金 • 無料利用枠 • 90 日間で 300 USD までの無料トライアル

Slide 20

Slide 20 text

Amazon Redshift Serverless の料金 AWS Pricing Calculator では明示的に Redshift Serverless を選択して 見積もるような画面がなさそう??

Slide 21

Slide 21 text

従来の Redshift クラスターと Redshift Serverless の比較

Slide 22

Slide 22 text

従来の Redshift クラスターと Redshift Serverless の比較 従来の Redshift クラスター Redshift Serverless 分析規模 • 予測可能(中~超大規模) • 最大インスタンスタイプ:ra3.16xlarge、128 ノード • 低頻度、予測不能(小~大規模) • 最大 512 RPU 基盤管理 クラスターのプロビジョニングとチューニングが必要 自動 費用 • クラスタ稼働時間 • Redshift マネージドストレージ料金 • Redshift Spectrum でのクエリスキャン • 分析実行時間 • Redshift マネージドストレージ料金

Slide 23

Slide 23 text

従来の Redshift クラスターと Redshift Serverless の比較 • 従来の Redshift クラスターが 適しているケース • 本番環境 • 常にクエリが実行されている • 稼働時間や処理能力の予測が可能 • 安定した性能が求められる • Redshift Serverless が 適しているケース • 開発環境 • クエリが実行されない時間帯が 比較的⾧い • パフォーマンスチューニングなど の知見がある管理者がいない 「一旦試したい」みたいなケース は Serverless がいいかも!

Slide 24

Slide 24 text

考慮事項

Slide 25

Slide 25 text

考慮事項 • 3 つのアベイラビリティゾーンに配置された 3 つのサブネットが必要

Slide 26

Slide 26 text

考慮事項 • Redshift Serverless では メンテナンスウィンドウは使用できない • ソフトウェアバージョンの更新は自動的に適用 • バージョンが変わっても既存の接続やクエリの実行は中断されない • Redshift Serverless では AQUA(Advanced Query Accelerator)が サポートされていない

Slide 27

Slide 27 text

考慮事項 • 小さいサブネットで RPU が大きい Redshift Serverless を 作成しようとするとエラーになることがある Redshift Serverless の RPU /28 /27 /26 /25 /24 32~72 × ○ ○ ○ ○ ~176 × × ○ ○ ○ ~384 × × × ○ ○ ~512 × × × × ○ 20220920 時点の検証結果

Slide 28

Slide 28 text

考慮事項 • 小さいサブネットで RPU が大きい Redshift Serverless を 作成しようとするとエラーになることがある Redshift Serverless の RPU /28 /27 /26 /25 /24 32~72 × ○ ○ ○ ○ ~176 × × ○ ○ ○ ~384 × × × ○ ○ ~512 × × × × ○ 20220920 時点の検証結果 昨日試したら /27 のサブネット×3、初期ベース要領 RPU = 80 で作成できたので、厳密にはもっと違う法則があるのかもしれません

Slide 29

Slide 29 text

まとめ

Slide 30

Slide 30 text

まとめ • Amazon Redshift Serverless とは • ノード部分の綿密なキャパシティプランニングが不要 • 分析のためのクエリ実行時に自動でプロビジョニング・スケールしてくれる • Amazon Redshift Serverless のコンポーネント • 「名前空間」と「ワークグループ」 • Amazon Redshift Serverless の特徴 • クラスターの管理不要 • 自動スケール • 使用制限 • Amazon Redshift Serverless の料金 • アイドル時間は料金不要 • 従来の Redshift クラスターと Redshift Serverless の比較 • クエリが実行されない時間帯が比較的⾧い、予測がつきにくい場合は Redshift Serverless • 考慮事項 • 3 つのアベイラビリティゾーンに配置された 3 つのサブネットが必要

Slide 31

Slide 31 text

おまけ

Slide 32

Slide 32 text

おまけ 2022/10/5 Amazon Redshift Serverless がリソースのタグ付けをサポートするようになりました https://aws.amazon.com/about-aws/whats-new/2022/10/amazon-redshift-serverless-supports-resource-tagging/

Slide 33

Slide 33 text

おまけ • 30 分で試せる!Amazon Redshift Serverless データ分析ハンズオン https://aws.amazon.com/jp/redshift/redshift-serverless/

Slide 34

Slide 34 text

おまけ

Slide 35

Slide 35 text

おまけ

Slide 36

Slide 36 text

おまけ • 30 分で試せるハンズオンでできる構成

Slide 37

Slide 37 text

参考 • Amazon Redshift サーバーレス • https://docs.aws.amazon.com/ja_jp/redshift/latest/mgmt/working-with-serverless.html • Amazon Redshift の料金 • https://aws.amazon.com/jp/redshift/pricing/ • 第二十回 ちょっぴりDD -Redshift Serverless で今から始めるサーバレスデータ分析環境 • https://www.youtube.com/watch?v=8ydlnbIg-MA • https://pages.awscloud.com/rs/112-TZM- 766/images/20220728_20th_ISV_DiveDeepSeminar_Redshift_Serverless.pdf • [AWS Black Belt Online Seminar] Next Generation Redshift • https://pages.awscloud.com/rs/112-TZM- 766/images/20200218_AWS_BlackBelt_NextGenRedshift.pdf • Amazon Redshift Serverless の概要 • https://blog.serverworks.co.jp/amazon-redshift-serverless-overview

Slide 38

Slide 38 text

余談

Slide 39

Slide 39 text

余談 • redshift • 【名】 • 《天文》赤色移動、赤方偏移 • ◆通例、宇宙赤方偏移(cosmological redshift)を指す。 • 赤方偏移とは,主に天文学において、遠方の天体から到来する 電磁波の波⾧が、ドップラー効果によって⾧くなる(可視光で 言うと赤くなる)現象をいう。

Slide 40

Slide 40 text

余談 赤方偏移(redshift) 青方偏移(blueshift) 高速で離れていく光源は赤く見えるようになっていく 高速で近づく光源は青く見えるようになっていく

Slide 41

Slide 41 text

余談 • Stable Diffusion Demo • https://xn--huggingface-xm72a.co/spaces/stabilityai/stable-diffusion

Slide 42

Slide 42 text

ありがとうございました!