TiCDC、Dumpling、Lightningの紹介

PingCAP Education：
TiCDC、Dumpling、Lightningの紹介
藤嶋茂行
Technical support engineer at PingCAP Japan

View Slide

本日の位置づけ
● https://pingcap.co.jp/event/
● https://pingcap.co.jp/category/webinar/
   
2022年10月28日(金) 14:00-15:00 PingCAP Education：TiDB でのロック競合のトラブルシューティング
2022年11月25日(金) 14:00-15:00 PingCAP Education：TiDBでのスロークエリの特定と対応方法
2022年12月9日(金) 14:00-15:00 PingCAP Education：TiDB Data Migrationのご紹介
2022年12月22日(木) 14:00-15:00 PingCAP Education：TiDBでの索引設計
2023年1月13日(金) 14:00-15:00 PingCAP Education：インデックスに基づいたチューニング
2023年1月20日(金) 14:00-15:00 PingCAP Education：TiCDC、Dumpling、Lightningの紹介
2023年2月3日(金) 14:00-15:00 TiDB 6.5 LTS新機能の紹介
2023年2月17日(金) 14:00-15:00 PingCAP Education：TiDB CloudのIntegration機能の紹介 - Datadog、
Prometheus、Vercelとの統合
※過去開催アーカイブ　：　https://pingcap.co.jp/event-video/

View Slide

アジェンダ
● TiDBにおけるデータ移行ツールのご紹介
● Dumpling、Lightningの紹介
● TiCDCの紹介
● TiCDCを利用したTiDBクラスタのDR環境構築例

View Slide

TiDBにおけるデータ移行ツールのご紹介

View Slide

TiDBが提供するデータ管理ツール群
● TiDB Data Migration (DM)
○ MySQL/MariaDBからTiDBへ完全データ移行および差分データ移行をサポー
トする
● Dumpling
○ MySQLまたはTiDBからの完全なデータエクスポートをサポートする
● TiDB Lightning
○ 大規模データセットのTiDBへのインポートをサポートする
● TiCDC
○ TiKVから変更ログを取り出し、TiDBの増分データをレプリケートする
https://docs.pingcap.com/tidb/stable/ecosystem-tool-user-guide#data-management-tools

View Slide

TiDBが提供するデータ管理ツール群
● Backup & Restore (BR)
○ TiDBクラスタのデータを分散バックアップおよびリストアするコマンドライン
ツール
● TiDB Binlog
○ TiDBクラスタのbinlogを収集し、ほぼリアルタイムのデータレプリケートとバッ
クアップを提供する
● sync-diﬀ-inspector
○ MySQLまたはTiDBのデータベースにあるデータを比較し、検出する

View Slide

各ツールの比較
Tool Scenario Source Target/Output
Supported TiDB
versions
Kubernetes
support
TiDB Data Migration
(DM)
- MySQL/MariaDBからTiDBへ移
行する
- 1TB以上のデータを扱う場合は
Dumpling/Lightningの利用を検
討する
- MySQL
- MariaDB
TiDBクラスタ全バージョン Yes
Dumpling
MySQL/MariaDBからデータをエ
クスポートする
- MySQL
- TiDBクラスタ
SQL/CSVファイル全バージョン No
TiDB Lightning TiDBへデータをインポートする
- Dumplingで出力したファイル
- CSV ファイル
- Amazon Aurora または Apache
Hiveからエクスポートした
Parquet ファ
イル
- v2.1またはそれ以上 Yes
TiCDC
TiDBの増分データをレプリケート
する
TiDBクラスタ
- TiDBクラスタ
- MySQL
- Kafka
- Confluent
v4.0.6またはそれ以上 Yes

View Slide

TiDBが提供するデータ管理ツール
○ MySQL/MariaDBからTiDBへ完全データ移行および差分データ移行をサ
ポートする
● Dumpling
○ MySQLからTiDBへ完全なデータエクスポートをサポートする
● TiDB Lightning
● TiCDC
2022/12/9にウェビナー実施
https://youtu.be/NHNrD9jSH0E

View Slide

TiDBが提供するデータ管理ツール
○ MySQL/MariaDBからTiDBへ完全データ移行および差分データ移行をサポー
トする
● Dumpling
○ MySQLからTiDBへ完全なデータエクスポートをサポートする
● TiDB Lightning
● TiCDC
本日のターゲット

View Slide

Dumpling、Lightningの紹介

View Slide

Dumplingの特長
● TiDBやMySQLのデータをSQLまたはCSV形式で出力するCLIツール
● 完全バックアップデータを出力する
○ バックアップ用途での差分データ取得であれば BRを、システム間連携のための差分データ取得
はTiCDCを使うと良い
○ 出力形式がSQLの場合、テーブルスキーマ情報も出力対象に含まれる
● mydumper（をforkしたもの）をTiDB向けに最適化しており、細かなチューニングや
フィルタリングの調整が可能となっている
https://docs.pingcap.com/tidb/stable/dumpling-overview

View Slide

Dumplingの利用 - コマンド実行例
tiup dumpling -u root -P 4000 -h 127.0.0.1 -p${MYSQL_PWD} \
--filetype sql -t 8 -o /data/export -r 200000 -F 256MiB 
● dumplingコマンドのインストールは tiup install dumpling で行う
● DBへの接続はmysqlコマンドと同様のオプションを用いて行う
● オプションでは同時実行スレッド数（-tオプション）、1ファイルあたりの最大行数（-rオプ
ション）や上限ファイルサイズ（-Fオプション）などを指定することが可能
● 出力するファイルの圧縮（gzip, snappy, zstd）やAmazon S3への出力も可能
● 出力対象となるデータベースやテーブルの絞り込み、データに対する条件式の設定も
可能

View Slide

Dumplingの利用 - データ出力例(SQL形式の場合)
$ ls -lah /data/export
...
-rw-rw-r-- 1 ec2-user ec2-user 146 12月 20 04:47 metadata
-rw-rw-r-- 1 ec2-user ec2-user 95 12月 20 04:47 test-schema-create.sql
-rw-rw-r-- 1 ec2-user ec2-user 175 12月 20 04:47 test.t-schema.sql
-rw-rw-r-- 1 ec2-user ec2-user 112 12月 20 04:47 test.t.0000000010000.sql
...
● metadata: 出力の開始と終了日時、binlogポジションの記録
● ${db}-schema-create.sql: 出力したデータベースのCREATE DATABASE文
● ${db}.${table}-schema.sql: 出力したテーブルのCREATE TABLE文
● ${db}.${table}.0000000010000.sql: 出力したデータを追加するINSERT文

View Slide

出力データのフィルタリング
2種類のフィルタリングオプションが利用可能
● “--where” : SQLのwhere句の式でデータの絞り込みを行う
● “--ﬁlter”: 対象のデータベースやテーブルを絞り込む

View Slide

○ --where "id < 10" のようにしてフィルタリング条件を設定する
○ 条件を満たさない場合は出力対象とならない
■ 指定したカラムが無いテーブルがあると処理がエラーとなるため、 ”--ﬁlter” も併用して該当す
るカラムがあるテーブルのみを含むようにすると良い

View Slide

○ ワイルドカード（”*”）や文字の範囲指定（ [0-9], [a-z]など）などを利用したパターンマッチングによる絞り
込みが可能
■ 例1: employees.*: “employees”データベース内のテーブル全て
■ 例2: *.users: 全てのデータベース内にある ”users”テーブル
○ Go言語で利用可能な正規表現での絞り込みも可能

View Slide

出力データにおける一貫性
● データの一貫性の保証をオプションで調整可能
○ 通常のユースケースではデフォルトのままでも問題ないが、一部のクラウドプロバイダーの DBサービ
スでは調整が必要となる場合がある
● ﬂush
● snapshot
● lock
● none
● auto

View Slide

● ﬂush
○ MySQLまたはMariaDBが対象の場合のデフォルト設定
■ TiDBに対しては利用できない
○ FLUSH TABLES WITH READ LOCKを実行してデータを出力する
● snapshot
● lock
● none
● auto

View Slide

● ﬂush
● snapshot
○ TiDBが対象の場合に利用可能であり、 TiDB向けのデフォルトオプション
○ TSO(Timestamp Oracle)または日時を指定し、該当するスナップショットデータを出力する
○ TiDBでは、SHOW MASTER STATUSのPositionにTSOが表示されている
● lock
● none
● auto

View Slide

● ﬂush
● snapshot
● lock
○ 出力対象のテーブルに READ LOCKをかける
○ MySQLとTiDBのどちらに対しても使うことはできるが、 TiDBの場合はデフォルト設定では TABLE LOCK
が利用できないため、 enable-table-lockをtrueに設定する必要がある
● none
● auto

View Slide

● ﬂush
● snapshot
● lock
● none
○ 一貫性を保証しない
○ テーブルにLOCKをかけず、過去のスナップショットではなく出力時点のデータとなる
● auto

View Slide

● ﬂush
● snapshot
● lock
● none
● auto
○ 各データベースにおけるデフォルト設定となる。
○ MySQLの場合はﬂushと同義
○ TiDBの場合はsnapshotと同義

View Slide

TiDB Lightningの特長
● TiDBにデータをインポートするためのCLIツール
● 以下のデータ形式をサポートしている
○ Dumplingで出力されたSQLファイル
○ CSVファイル
○ Amazon AuroraまたはApache Hiveから出力されたParquetファイル
● インポートの状況を記録している”checkpoint”を利用して中断したところから再開す
ることが可能
● パターンマッチングや正規表現を利用してインポート対象のテーブルを絞り込むこと
が可能
● ローカルまたはAmazon S3、Google Cloud Storageからデータをインポートすること
が可能
https://docs.pingcap.com/tidb/stable/tidb-lightning-overview

View Slide

https://docs.pingcap.com/tidb/stable/tidb-lightning-overview#tidb-lightning-architecture
TiDB Lightningのアーキテクチャとmode
● Physical import mode
● Logical import mode

View Slide

○ 初期データ移行など、完全データのインポート
に適したモード
○ データをkey-valueのペアに変換し、TiKVノード
にデータをアップロード、ローカルから TiKVの
APIを呼び出して直接データを TiKVにインポー
トする
○ パラメータ “backend” に “local” と指定するこ
とで利用可能となる

View Slide

○ 差分データの追加や稼働中の本番環境での
利用に適したモード
○ データをSQL形式に変換し、SQLを実行して
データをインポートする。
○ パラメータ “backend” に “tidb” と指定すること
で利用可能となる

View Slide

Import mode比較
Import mode Physical Import Mode Logical Import Mode
速度速い (100~500 GiB/hour) 遅い (10~50 GiB/hour)
リソース消費多い少ない
ネットワーク帯域消費多い少ない
インポート中のACID 特性無し有り
対象テーブル空でなければならないデータがあっても良い
TiDBクラスタのバージョン >= 4.0.0 全て
インポート中のTiDBクラスタの利用限定的可

View Slide

https://docs.pingcap.com/tidb/stable/get-started-with-tidb-lightning
TiDB Lightningの利用 - コマンド実行例
nohup tiup tidb-lightning -config tidb-lightning.toml \
> nohup.out & 
● tidb-lightningコマンドのインストールは tiup install tidb-lightning で
行う
● 通常インポート処理は時間を要するため、”&”をつけてバックグラウンドで処理を
継続するように、また、意図しない中断を防ぐために実行コマンドに”nohup”を追
加することが推奨されている
● ログファイルの中で “tidb lightning exit” というメッセージが出ていれば処理が正
常に完了したことになる
● server-modeを利用してWebUIから処理を実行することも可能
● PrometheusとGrafanaを利用してインポート処理を監視することが可能

View Slide

https://docs.pingcap.com/tidb/stable/monitor-tidb-lightning
TiDB Lightningの監視
● TiDB LightningではPrometheusでメトリクスを収集し、Grafanaで可視化するこ
とが可能となっている
● デフォルト設定ではインポートの速度、進捗状況、リソース消費量などを見るこ
とができる

View Slide

TiCDCの紹介

View Slide

TiCDCの特長
● TiKVからchangelogを取り出してTiDBの差分データを連携する
● 連携先にMySQL、Kafka、TiDB、ストレージサービスが選択できる
○ Kafkaやストレージサービスの場合、差分データがイベントとして配信される
■ “ストレージサービス”とは、Amazon S3、Azure Blog Storage、NFSのこと
■ ストレージサービスへの配信は v6.5時点ではexperimentalとなっている
● 複数ノードでクラスタ化できるため、SPoFが無く高可用性を持つ
● 複数のプロトコル（出力形式）に対応している
● オンプレミスだけでなく、TiDB Cloud上でも利用可能
https://docs.pingcap.com/tidb/stable/ticdc-overview

View Slide

TiCDCのアーキテクチャ
● 複数のTiCDCノードでクラスタ化する
ことが可能
○ PDが持つetcdを通じて構成される
● TiKVから取得したchangelogをTiCDC
内部で整理して連携先システムへ配
信する
● 連携先システムを複数持つができ、
連携タスクは”changefeed”として管
理される
● Web APIでTiCDCクラスタを管理でき
る
https://docs.pingcap.com/tidb/stable/ticdc-overview

View Slide

TiCDCがサポートするプロトコル
連携先がKafkaまたはストレージサービスの場合、以下の出力プロトコルを利用でき
る
● Avro
● Canal-JSON
● CSV

View Slide

る
● Avro
○ Conﬂuent platformで採用されているデータシリアライズのフォーマットであり、 Apach Avroとい
うOSSプロジェクトで仕様が定義されている
○ データ定義をJSON形式で保存できるため、管理や運用をしやすい
○ データ自体はバイナリ形式で保存されるため、コンパクトで効率的となる
○ 連携先がKafkaの場合に利用可能
● Canal-JSON
● CSV
https://docs.pingcap.com/tidb/stable/ticdc-avro-protocol

View Slide

る
● Avro
● Canal-JSON
○ MySQLのbinlogベースでMySQLのデータレプリケーションを行う Alibaba CanalというOSSで用
いられているJSON形式のデータプロトコル
○ Kafkaとストレージサービスのどちらでも利用可能
● CSV
https://docs.pingcap.com/tidb/stable/ticdc-canal-json

View Slide

る
● Avro
● Canal-JSON
● CSV
○ 実行されたDMLの操作内容と、変更データを１行にまとめた CSV形式データ
○ 連携先がストレージサービスの場合のみ利用可能
https://docs.pingcap.com/tidb/stable/ticdc-csv

View Slide

TiCDCによる双方向レプリケーション
● v6.5.0から利用可能となっている
● ２つのTiDBクラスタ間でのデータ同期を行うことができ、マルチアクティブなTiDB
クラスタを実現可能
● ある時点におけるクラスタ間のデータが
整合している必要がある
● DDLのレプリケーションは行われない
● 3つ以上のクラスタでの利用も可能
○ ただし、循環レプリケーションはサポートされていない
■ 例えば、 TiDB A -> TiDB B -> TiDB C -> TiDB A というレプリケーションはできない
■ 3つ以上のクラスタ間でデータを相互にレプリケートしたい場合は TiDB A <-> TiDB B、
TiDB B <-> TiDB C、TiDB C <-> TiDB Aというように個別にレプリケーションを設定する
必要がある
https://docs.pingcap.com/tidb/stable/ticdc-bidirectional-replication

View Slide

TiCDCを利用した
TiDBクラスタのDR環境構築例

View Slide

用語の確認
● High Availability (HA)
○ システムやサービスが停止する頻度が少ないこと
● Disaster Recovery (DR)
○ 災害発生後に速やかにシステム復旧を行えるようにするための予防措置
● Recovery Time Objective (RTO)
○ 目標復旧時間。問題発生後にシステムやサービスが復元されるべき時間
● Recovery Point Objective (RPO)
○ 目標復旧時点。復元に利用する最新のバックアップが取得された時点
● Fault Tolerance Target (FTT)
○ 障害を許容できる範囲

View Slide

DRにおける3段階のステージ
1. Backup and restore
2. Active-passive DR
3. Multi-active DR
https://www.pingcap.com/blog/disaster-recovery-for-databases-how-it-evolves-over-years/

View Slide

Backup and restore
● 定期的にスナップショットデータを取得し、別リージョンにて保管、問題発生時に保管
しているリージョンでシステムを復元する
● 実装しやすく、サービスによっては最初から機能が提供されていることもある
● データ規模とRTOが比例しやすく、RPOが大きくなりやすい
● RTO、RPOともに数時間程度が見込まれる
● 厳密な可用性が求められていない場合に適している

View Slide

Active-passive DR
● 読み書きを行うプライマリDBと、そこから送られてくるRedo logを利用して同期を行
う１つまたはそれ以上のセカンダリDBで構成される
● “クラスター”の概念を取り込んでいるものの、一般的にプライマリDBは1台であるた
め、運用上はモノリシックDBと言える
● フェールオーバーの仕組みを適切に構築することで、RTOは数分、RPOは数秒程
度にまで抑えることが可能

View Slide

Multi-active DR with a traditional DB
● データを分割して読み書きできる複数DBに持たせる構成
● 一部のDBがダウンしてもサービスの継続は可能
● 代替となるレプリケーションされたシャードを持つことでDRを実現することが可能
● 一定のスケーラビリティを持つことはできるものの、データ規模が大きくなるにつれ
てパフォーマンスが劣化しやすく、運用コストが大きくなりやすい

View Slide

Multi-active DR with a distributed DB
● RaftやPaxosのようなアルゴリズムを用いたデータの分散配置を複数リージョンに
渡って行う
● コンポーネントも複数リージョンに分散させることで、書込み性能をあげつつ、FTT
はリージョンレベルとすることができる
● （TiDBの場合）データは同期的にレプリケーションされるため、RPOはほぼゼロ、
RTOは1分か、それ未満にすることが可能
この図における各リージョンの役割は以下の通り
● Region1がプライマリ
● Region2はフェイルオーバーのためのセカンダリ
● Region3はプライマリまたはセカンダリがダウンしても
奇数を維持するため

View Slide

Multi-active DR with TiDB + TiCDC
● TiCDCでデータを別リージョンのクラスタへリアルタイムで同期させる
● 複数リージョンの同時ダウンに備えることができるため、厳しい可用性要件に応える
ことが可能
● TiCDCにHA特性があるため、データ同期の仕組みがSPoFになることはない
● FTTは複数リージョンレベル、RPOは秒単位、RTOは分単位にすることが可能

View Slide

Multi-active DR with TiDB + TiCDC
● TiDB Cloudでは数クリックでセカンダリのクラスタを作成することが可能
● Changefeed > Create secondary cluster > クラスタ名、ポート番号、リージョンを選択

View Slide

まとめ

View Slide

まとめ
● TiDBエコシステムのデータ管理ツールを紹介しました
○ データ移行やバックアップ、リストアをサポートするツールが提供されています
● DumplingとTiDB Lightning、TiCDCを解説しました
● DBにおけるDR構成を段階別に紹介しました
● TiCDCを利用したTiDBクラスタのDR環境構築事例を紹介しました
○ TiDB Cloudでは簡単にセカンダリのクラスタを作成することができます

View Slide

Q&A

View Slide

PingCAP定期ウェビナー
https://pingcap.co.jp/event/
※過去開催アーカイブ　：　 https://pingcap.co.jp/event-video/

View Slide

次回以降のアジェンダ
https://pingcap.co.jp/event/
   
2023年2月3日(金) 14:00-15:00 PingCAP Education：TiDB 6.5 LTS新機能の紹介
2023年2月17日(金) 14:00-15:00 PingCAP Education：TiDB CloudのIntegration機能の紹介 - Datadog、
Prometheus、Vercelとの統合

View Slide

Thank You! 
https://www.pingcap.com/ 
[email protected] 

View Slide

Appendix 
● TiDB Data Migration公式ドキュメント
https://docs.pingcap.com/tidb/stable/dm-overview 
● トポロジー設定ファイルのテンプレート
https://github.com/pingcap/tiup/blob/master/embed/examples/dm/topology.
example.yaml 
● タスク設定ファイルのテンプレート
https://docs.pingcap.com/tidb/stable/task-configuration-file-full#task-configu
ration-file-template-advanced 
● FAQ https://docs.pingcap.com/tidb/stable/dm-faq 
● データ移行におけるTiDBのDMLの処理方法について
https://pingcap.co.jp/how-tidb-processes-dml-in-data-migration/ 

View Slide

TiCDC、Dumpling、Lightningの紹介

TiCDC、Dumpling、Lightningの紹介

PingCAP-Japan

More Decks by PingCAP-Japan

Other Decks in Technology

Featured

Transcript