Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
MySQL HeatWave on AWS と Aurora _ Redshift zero-ETL 統合(プレビュー)を比べてみる
Search
hmatsu47
PRO
September 16, 2023
Technology
1
74
MySQL HeatWave on AWS と Aurora _ Redshift zero-ETL 統合(プレビュー)を比べてみる
四国クラウドお遍路 2023 - 四国の外のモノサシを知ってみよう- 2023/9/16
hmatsu47
PRO
September 16, 2023
Tweet
Share
More Decks by hmatsu47
See All by hmatsu47
大人の社会科見学 ~ NTT 技術史料館に行ってみよう!
hmatsu47
PRO
0
260
pgvector 0.6.0 以降の進化についてざっくり取り上げてみる
hmatsu47
PRO
0
21
Cloudflare Workes からMySQL 系 DB への接続事情(2024/4 現在)
hmatsu47
PRO
0
44
BuriKaigi2024 にボランティアスタッフとして参加した話
hmatsu47
PRO
0
62
Aurora MySQL と Redshift の zero-ETL 統合のフィルター機能を試してみた
hmatsu47
PRO
0
82
Aurora MySQL 3.06 の ML 機能で Bedrock アクセスを試してみた
hmatsu47
PRO
0
68
RDS Data API と Aurora zero-ETL 統合と BuriKaigi2024 の話
hmatsu47
PRO
0
32
RDS Data API のその後と Aurora zero-ETL 統合のデータ転送処理の話
hmatsu47
PRO
0
80
RDS_Aurora 関連アップデート 2023 版
hmatsu47
PRO
0
82
Other Decks in Technology
See All in Technology
コンテナ・K8s研修 - 前半 コンテナ基礎・ハンズオン【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
170
RAGのサービスをリリースして1年3ヶ月が経ちました
segavvy
4
900
Git 研修 Advanced【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
200
AOAI Dev Day LLMシステム開発 Tips集
hirosatogamo
15
3.6k
楽しくGoを学び合う、LayerXの勉強会文化 / LayerX's study culture of having fun and learning Go together
ar_tama
2
350
テスト・設計研修【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
170
AI研修【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
130
「単なる OAuth 2.0 を認証に使うと、車が通れるほどのどでかいセキュリティー・ホールができる」のか検証してみた
terara
0
380
E2Eテスト自動化プラットフォームにおけるAIの活用
shift_evolve
0
180
Luupの開発組織におけるインシデントマネジメントの変遷 ver.RoadtoSRENEXT2024
grimoh
1
270
コンテナ・K8s研修 - 後半 Kubernetes 基礎&ハンズオン【MIXI 24新卒技術研修】
mixi_engineers
PRO
1
120
さらに高品質・高速化を目指すAI時代のテスト設計支援と、めざす先 / AI Test Lab vol.1
shift_evolve
0
190
Featured
See All Featured
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
155
14k
Embracing the Ebb and Flow
colly
81
4.3k
Fantastic passwords and where to find them - at NoRuKo
philnash
42
2.7k
Large-scale JavaScript Application Architecture
addyosmani
506
110k
Fontdeck: Realign not Redesign
paulrobertlloyd
79
5.1k
Clear Off the Table
cherdarchuk
89
320k
Code Review Best Practice
trishagee
58
16k
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
34
1.9k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
149
45k
Practical Orchestrator
shlominoach
185
10k
The Mythical Team-Month
searls
217
43k
Designing with Data
zakiwarfel
96
5k
Transcript
MySQL HeatWave on AWS と Aurora / Redshift zero-ETL 統合
(プレビュー)を比べてみる 四国クラウドお遍路 2023 - 四国の外のモノサシを知ってみよう- 2023/9/16 まつひさ(hmatsu47)
自己紹介 松久裕保(@hmatsu47) • https://qiita.com/hmatsu47 • 現在のステータス: ◦ 名古屋で Web インフラのお守り係をしています
▪ 2017 年秋に AWS 上へ引っ越し完了 ◦ 現在は自社サービスのセキュリティ強化中 ◦ そしてなぜかフロントエンド刷新に取り組み中 ◦ ついでに MySQL HeatWave をのんびり検証中 2
本日お話しする内容 • MySQL HeatWave on AWS とは? ◦ MySQL HeatWave:分析・集計クエリを高速化
◦ AWS 上のリソースを使って MySQL HeatWave を提供 • Aurora / Redshift zero-ETL 統合(プレビュー)とは? ◦ ETL の構築・設定を簡素化 ◦ ほぼリアルタイムでデータの流し込み(複製)を可能に • 比べてみた 3
本日お話しする内容 • MySQL HeatWave on AWS とは? ◦ MySQL HeatWave:分析・集計クエリを高速化
◦ AWS 上のリソースを使って MySQL HeatWave を提供 • Aurora / Redshift zero-ETL 統合(プレビュー)とは? ◦ ETL の構築・設定を簡素化 ◦ ほぼリアルタイムでデータの流し込み(複製)を可能に • 比べてみた 4 AWS の(半分だけ)外のモノサシ?
本日お話ししない内容(5 分の LT なので…) • 具体的な設定方法 ◦ 各ページのリンク先記事にて説明 • それぞれの性能比較
◦ HeatWave と Redshift の性能比較はこちらの資料を参照 ▪ https://speakerdeck.com/heatwavejp/redshift-tonoxing-neng-bi-jiao-cun-tian-tai-shi-suma tosutairu • 価格/コスパ比較 5
MySQL HeatWave(on AWS も同じ) • 分析クエリも得意な MySQL のマネージドサービス https://dev.mysql.com/doc/heatwave/en/mys-hw-architecture.html より引用
6 【処理の流れ】 1. SQL 文を MySQL DB System が受け取る 2. 普通に処理したほうが高速か HeatWave 非対応の SQL 文は InnoDB で処理 3. HeatWave で処理したほうが良いと判断した SQL 文は HeatWave Plugin を経由して HeatWave Cluster に渡して並列処理 4. MySQL DB System から Client に結果を返す
HeatWave Cluster • 列指向型のインメモリ・分散データベース ◦ 列指向データベース:集計処理に強い • Google Cloud の
AlloyDB(PostgreSQL 互換)でも似た アプローチを採用している ◦ HeatWave はユーザーが指定したテーブル(列)すべてが対象 ◦ AlloyDB では機械学習で一部のテーブル列をカラム型へ振り分け ▪ 自動振り分けを無効化して手動指定も可能 7
HeatWave Cluster • 列指向型のインメモリ・分散データベース ◦ 列指向データベース:集計処理に強い • Google Cloud の
AlloyDB(PostgreSQL 互換)でも似た アプローチを採用している ◦ HeatWave はユーザーが指定したテーブル(列)すべてが対象 ◦ AlloyDB では機械学習で一部のテーブル列をカラム型へ振り分け ▪ 自動振り分けを無効化して手動指定も可能 8 TiDB(MySQL 5.7 互換 NewSQL)は HTAP(OLTP + OLAP)をウリに
MySQL HeatWave on AWS を試してみた • Qiita に 4 つ(+
1 つ)の記事を投稿 ◦ https://qiita.com/hmatsu47/items/8f202eef64ea57e7d948 ◦ https://qiita.com/hmatsu47/items/0979f877ad596cf3cf67 ◦ https://qiita.com/hmatsu47/items/4c61ce90adcdbbea74e9 ◦ https://qiita.com/hmatsu47/items/230d345e481701a5d735 ◦ https://qiita.com/hmatsu47/items/34f4ab2047b95f767f18 (RDS から DMS レプリケーション) • チュートリアル用に提供されている TPC-H 用データでは ◦ 最小サイズのシェイプで 17 倍以上高速化(MySQL DB 比) 9
Aurora / Redshift zero-ETL 統合(プレビュー) • ETL の構築・設定を簡素化・ニアリアルタイム連携 https://docs.aws.amazon.com/ja_jp/AmazonRDS/latest/AuroraUserGuide/zero-etl.html より引用
10 • 複数 RDB から 1 つの DWH へ
Aurora / Redshift zero-ETL 統合を試してみた • Zenn に記事を投稿 ◦ https://zenn.dev/hmatsu47/articles/aurora-rs-zeroetl-preview
• 現状(プレビュー)は ◦ 記事にあるようにまだ少し面倒かつ設定手順が不安定 ◦ 簡素化の代償として細かい設定ができない ◦ ただしまだプレビューなのでいずれも改善される可能性がある 11
比べてみた 【注】いずれも 2023/9/10 時点の内容 • MySQL HeatWave on AWS の強み
◦ MySQL の SQL 文法がそのまま使える(自動振り分け可能) ◦ テーブル単位・列単位の除外が可能 • MySQL HeatWave on AWS の弱み ◦ AWS とは別に Oracle Cloud(OCI)の契約が必要 ◦ RDS / Aurora 連携が弱い(binlog インバウンドレプリケーション不可) 12
比べてみた 【注】いずれも 2023/9/10 時点の内容 • MySQL HeatWave on AWS の強み
◦ MySQL の SQL 文法がそのまま使える(自動振り分け可能) ◦ テーブル単位・列単位の除外が可能 • MySQL HeatWave on AWS の弱み ◦ AWS とは別に Oracle Cloud(OCI)の契約が必要 ◦ RDS / Aurora 連携が弱い(binlog インバウンドレプリケーション不可) 13 前掲 URL の記事(RDS for MySQL から HeatWave on AWS へ DMS レプリケーション) で binlog レプリケーションの代わりに DMS レプリケーションを試してみた • https://qiita.com/hmatsu47/items/34f4ab2047b95f767f18
比べてみた 【注】いずれも 2023/9/10 時点の内容 • Aurora / Redshift zero-ETL 統合の強み
◦ AWS 内で全て完結する ▪ 別契約不要 • Aurora / Redshift zero-ETL 統合の弱み ◦ 細かい設定の調整が(現状では)できない ▪ BLOB 列のみの連携除外など 14
まとめ • MySQL HeatWave on AWS ◦ MySQL DB に
HeatWave Cluster を追加して分析クエリを高速化 ▪ OLTP / OLAP をまとめて処理(自動振り分け)→ ETL 不要 ◦ 別途 OCI の契約が必要で RDS / Aurora との連携に課題がある • Aurora / Redshift zero-ETL 統合(プレビュー) ◦ ETL の構築・設定を簡素化・ニアリアルタイム連携が可能 ◦ 細かい設定の調整が(現状では)できない点に課題がある 15