Upgrade to Pro — share decks privately, control downloads, hide ads and more …

20221006_Redshift Serverless とは/Redshift_Serverless_Overview

emi
October 06, 2022

20221006_Redshift Serverless とは/Redshift_Serverless_Overview

20221006_JAWS-UG 朝会#38 での発表スライドです。
redshift
• 【名】
• 《天文》赤色移動、赤方偏移
赤方偏移とは、主に天文学において、遠方の天体から到来する電磁波の波⾧がドップラー効果によって⾧くなる(可視光で言うと赤くなる)現象をいう

emi

October 06, 2022
Tweet

More Decks by emi

Other Decks in Technology

Transcript

  1. 2022/10/6(木) JAWS-UG 朝会 #38

    View Slide

  2. 目次
    • Amazon Redshift Serverless とは
    • Amazon Redshift Serverless のコンポーネント
    • Amazon Redshift Serverless の特徴
    • Amazon Redshift Serverless の料金
    • 従来の Redshift クラスターと Redshift Serverless の比較
    • 考慮事項
    • まとめ
    • おまけ
    • 余談

    View Slide

  3. Amazon Redshift
    Serverless とは

    View Slide

  4. 従来の Redshift について
    • Amazon Redshift(RA3 インスタンス)
    ⇒ クラスター構成
    • クラスターは主に以下3つの要素で構成
    • リーダーノード
    • コンピュートノード
    • マネージドストレージ

    View Slide

  5. Amazon Redshift Serverless とは
    • ノード部分の綿密な
    キャパシティプランニング不要
    • 分析のためのクエリ実行時に自動で
    プロビジョニング・スケール
    • クラスターという概念がなくなった
    • 「名前空間」「ワークグループ」という
    コンポーネントで管理

    View Slide

  6. Amazon Redshift
    Serverless のコンポーネント
    「名前空間」と「ワークグループ」

    View Slide

  7. Amazon Redshift Serverless の
    コンポーネント
    • 名前空間
    • データベースオブジェクト・ユーザーなどの集まり
    https://docs.aws.amazon.com/ja_jp/redshift/latest/mgmt/serverless-workgroup-namespace.html
    • データベース名とデータベース管理者パスワード
    • IAM ロールによる許可の設定
    • データの暗号化とセキュリティ
    • KMS キーの指定や監査ログの有無

    View Slide

  8. Amazon Redshift Serverless の
    コンポーネント
    • ワークグループ
    • コンピューティングリソースのあつまり
    • ネットワーク
    • セキュリティ
    • セキュリティグループ、
    拡張 VPC ルーティング、パブリックアクセスの許可等
    • Redshift 処理ユニット (RPU) のベース容量
    • 使用制限
    • Redshift 処理ユニット (RPU) の最大値
    • クロスリージョンデータ共有
    • クエリ制限
    • クエリ実行タイムアウト:0~86,399 秒の範囲で指定

    View Slide

  9. Amazon Redshift Serverless の
    コンポーネント
    • 名前空間とワークグループの関連付けは 1対1

    View Slide

  10. Amazon Redshift
    Serverless の特徴

    View Slide

  11. Amazon Redshift Serverless の特徴
    • クラスターの管理不要
    • 自動スケール
    • ワークロードの処理に使用される
    Redshift 処理ユニット(RPU: Redshift Processing Unit) という
    単位でベース容量を設定しておく
    • 1 RPU = 16 GiB メモリ
    • 範囲は 8 刻みの 32~512 RPU まで
    • デフォルトで 128 RPU

    View Slide

  12. Amazon Redshift Serverless の特徴
    範囲は 8 刻みの
    32~512 RPU まで

    View Slide

  13. Amazon Redshift Serverless の特徴
    • 使用制限
    • リソース使用量を制限するしきい値を設定
    • Redshift 処理ユニット (RPU) の最大数
    • クロスリージョンデータ共有の使用制限
    • 制限に達した際のアクションを以下から指定でき、想定以上のコスト発生を抑制
    • アラート発報
    • システムテーブルにログを書き込む
    • ユーザークエリを無効にするクエリの制限
    • クエリの実行タイムアウト時間
    • 0~86,399 秒の範囲を設定できる

    View Slide

  14. Amazon Redshift Serverless の特徴
    Redshift 処理ユニット
    (RPU) の最大数
    クロスリージョンデータ共有の
    使用制限

    View Slide

  15. Amazon Redshift Serverless の特徴
    クエリ実行タイムアウト
    0~86,399 秒の範囲で指定
    デフォルト 14,400 秒

    View Slide

  16. Amazon Redshift Serverless の特徴
    • 従来の Redshift Provisioned の機能・性能はそのまま
    • 従来の Redshift で使えた機能、データレイクとの統合、
    パフォーマンスはそのまま
    • Redshift Serverless で作成したスナップショットを
    Redshift クラスターに復元することも可能

    View Slide

  17. Amazon Redshift
    Serverless の料金

    View Slide

  18. Amazon Redshift Serverless の料金
    東京リージョンでの価格(2022/10/05時点)
    コンピュートの請求 1 RPU 時間あたり 0.494 USD
    ストレージの請求 GB 月あたり 0.0261 USD
    • コンピュートの請求
    • RPU 時間に対し秒単位で課金、アイドル時間の料金はかからない
    • 同時実行スケーリング・Redshift Spectrum の料金は Redshift Serverless の
    料金に含まれている
    • ストレージの請求
    • Redshift マネージドストレージ(RMS)とスナップショットに対して
    GB / 月単位で請求
    • 過去 30 分単位で 24 時間以内の特定のポイントには無料で復元できる

    View Slide

  19. Amazon Redshift Serverless の料金
    • 無料利用枠
    • 90 日間で 300 USD までの無料トライアル

    View Slide

  20. Amazon Redshift Serverless の料金
    AWS Pricing Calculator では明示的に
    Redshift Serverless を選択して
    見積もるような画面がなさそう??

    View Slide

  21. 従来の Redshift クラスターと
    Redshift Serverless の比較

    View Slide

  22. 従来の Redshift クラスターと
    Redshift Serverless の比較
    従来の Redshift クラスター Redshift Serverless
    分析規模 • 予測可能(中~超大規模)
    • 最大インスタンスタイプ:ra3.16xlarge、128 ノード
    • 低頻度、予測不能(小~大規模)
    • 最大 512 RPU
    基盤管理 クラスターのプロビジョニングとチューニングが必要 自動
    費用 • クラスタ稼働時間
    • Redshift マネージドストレージ料金
    • Redshift Spectrum でのクエリスキャン
    • 分析実行時間
    • Redshift マネージドストレージ料金

    View Slide

  23. 従来の Redshift クラスターと
    Redshift Serverless の比較
    • 従来の Redshift クラスターが
    適しているケース
    • 本番環境
    • 常にクエリが実行されている
    • 稼働時間や処理能力の予測が可能
    • 安定した性能が求められる
    • Redshift Serverless が
    適しているケース
    • 開発環境
    • クエリが実行されない時間帯が
    比較的⾧い
    • パフォーマンスチューニングなど
    の知見がある管理者がいない
    「一旦試したい」みたいなケース
    は Serverless がいいかも!

    View Slide

  24. 考慮事項

    View Slide

  25. 考慮事項
    • 3 つのアベイラビリティゾーンに配置された
    3 つのサブネットが必要

    View Slide

  26. 考慮事項
    • Redshift Serverless では
    メンテナンスウィンドウは使用できない
    • ソフトウェアバージョンの更新は自動的に適用
    • バージョンが変わっても既存の接続やクエリの実行は中断されない
    • Redshift Serverless では
    AQUA(Advanced Query Accelerator)が
    サポートされていない

    View Slide

  27. 考慮事項
    • 小さいサブネットで RPU が大きい Redshift Serverless を
    作成しようとするとエラーになることがある
    Redshift
    Serverless の
    RPU
    /28 /27 /26 /25 /24
    32~72 × ○ ○ ○ ○
    ~176 × × ○ ○ ○
    ~384 × × × ○ ○
    ~512 × × × × ○
    20220920 時点の検証結果

    View Slide

  28. 考慮事項
    • 小さいサブネットで RPU が大きい Redshift Serverless を
    作成しようとするとエラーになることがある
    Redshift
    Serverless の
    RPU
    /28 /27 /26 /25 /24
    32~72 × ○ ○ ○ ○
    ~176 × × ○ ○ ○
    ~384 × × × ○ ○
    ~512 × × × × ○
    20220920 時点の検証結果
    昨日試したら /27 のサブネット×3、初期ベース要領 RPU = 80
    で作成できたので、厳密にはもっと違う法則があるのかもしれません

    View Slide

  29. まとめ

    View Slide

  30. まとめ
    • Amazon Redshift Serverless とは
    • ノード部分の綿密なキャパシティプランニングが不要
    • 分析のためのクエリ実行時に自動でプロビジョニング・スケールしてくれる
    • Amazon Redshift Serverless のコンポーネント
    • 「名前空間」と「ワークグループ」
    • Amazon Redshift Serverless の特徴
    • クラスターの管理不要
    • 自動スケール
    • 使用制限
    • Amazon Redshift Serverless の料金
    • アイドル時間は料金不要
    • 従来の Redshift クラスターと Redshift Serverless の比較
    • クエリが実行されない時間帯が比較的⾧い、予測がつきにくい場合は Redshift Serverless
    • 考慮事項
    • 3 つのアベイラビリティゾーンに配置された 3 つのサブネットが必要

    View Slide

  31. おまけ

    View Slide

  32. おまけ
    2022/10/5
    Amazon Redshift Serverless がリソースのタグ付けをサポートするようになりました
    https://aws.amazon.com/about-aws/whats-new/2022/10/amazon-redshift-serverless-supports-resource-tagging/

    View Slide

  33. おまけ
    • 30 分で試せる!Amazon Redshift Serverless データ分析ハンズオン
    https://aws.amazon.com/jp/redshift/redshift-serverless/

    View Slide

  34. おまけ

    View Slide

  35. おまけ

    View Slide

  36. おまけ
    • 30 分で試せるハンズオンでできる構成

    View Slide

  37. 参考
    • Amazon Redshift サーバーレス
    • https://docs.aws.amazon.com/ja_jp/redshift/latest/mgmt/working-with-serverless.html
    • Amazon Redshift の料金
    • https://aws.amazon.com/jp/redshift/pricing/
    • 第二十回 ちょっぴりDD -Redshift Serverless で今から始めるサーバレスデータ分析環境
    • https://www.youtube.com/watch?v=8ydlnbIg-MA
    • https://pages.awscloud.com/rs/112-TZM-
    766/images/20220728_20th_ISV_DiveDeepSeminar_Redshift_Serverless.pdf
    • [AWS Black Belt Online Seminar] Next Generation Redshift
    • https://pages.awscloud.com/rs/112-TZM-
    766/images/20200218_AWS_BlackBelt_NextGenRedshift.pdf
    • Amazon Redshift Serverless の概要
    • https://blog.serverworks.co.jp/amazon-redshift-serverless-overview

    View Slide

  38. 余談

    View Slide

  39. 余談
    • redshift
    • 【名】
    • 《天文》赤色移動、赤方偏移
    • ◆通例、宇宙赤方偏移(cosmological redshift)を指す。
    • 赤方偏移とは,主に天文学において、遠方の天体から到来する
    電磁波の波⾧が、ドップラー効果によって⾧くなる(可視光で
    言うと赤くなる)現象をいう。

    View Slide

  40. 余談
    赤方偏移(redshift)
    青方偏移(blueshift)
    高速で離れていく光源は赤く見えるようになっていく
    高速で近づく光源は青く見えるようになっていく

    View Slide

  41. 余談
    • Stable Diffusion Demo
    • https://xn--huggingface-xm72a.co/spaces/stabilityai/stable-diffusion

    View Slide

  42. ありがとうございました!

    View Slide