TiDBを入れたけれど オートスケールがなかったよ

OpsJAWS Meetup31 泥臭いOPSのLT
TiDBを入れたけれど
オートスケールがなかったよ
2024/10/23

Transcript

1. OpsJAWS Meetup31 泥臭いOPSのLT 
 TiDBを入れたけれど 
 オートスケールがなかったよ 
 2024/10/23 

2. ©2024 Voicy, Inc. 自己紹介 名前：織田 薫(かおる)
 会社：株式会社Voicy
 職業：SRE
 ぺんぎん好き

3. ©2024 Voicy, Inc. ぺんぎん・冗長性
4. ©2024 Voicy, Inc.
5. ©2024 Voicy, Inc. Voicyのアーキテクチャ 

6. ©2024 Voicy, Inc. 本日のお品書き 
 1. TiDBとは
 2. オートスケールがない
 3. DIY
 4. 課題
 まとめ

7. ©2024 Voicy, Inc. 1. TiDBとは 
 • MySQL互換のNewSQL系データベース
 • 5.7 及び 8.0 と互換性がある
 • MySQLのソースコードは使用せず、自前で実装 してる（らしい）
 • 制約は多少あるが、基本MySQLとして扱える

8. ©2024 Voicy, Inc. 1. TiDBとは 
 • TiDBは、おおざっぱに、TiDB・TiKV（＆TiFlash） という構成になっている

9. ©2024 Voicy, Inc. 1. TiDBとは 
 出典：https://docs.pingcap.com/ja/tidbcloud/tidb-architecture
10. ©2024 Voicy, Inc. 1. TiDBとは 
 • TiDB
 ◦ SQLレイヤーを担当
 ◦ MySQL互換のインターフェースを提供し、ユーザーか らのSQLクエリを受け付け、解析、最適化を行う
 ◦ 分散データベース全体を管理し、クエリを適切なTiKV またはTiFlashノードにルーティングする
 ◦ ユーザーからはMySQLデータベースのように見える
 ◦ Reader/Writer の区別はない

11. ©2024 Voicy, Inc. 1. TiDBとは 
 • TiKV
 ◦ 行指向のKey-Valueストア
 ◦ データの永続化とトランザクション処理を担当
 ◦ Raftコンセンサスアルゴリズムに基づいてデータを複 製し、高可用性とデータの整合性を保証
 ◦ スケールアウトが容易で、必要に応じてノードを追加 することで容量を増やすことができる

12. ©2024 Voicy, Inc. 1. TiDBとは 
 • TiFlash
 ◦ 列指向のKey-Valueストア
 ◦ TiKVのデータを複製し、分析クエリ処理に最適化され た形で保存
 ◦ OLAPワークロードに適しており、複雑な集計クエリを 高速に処理
 ◦ TiKVと連携して動作し、HTAP (Hybrid Transactional/Analytical Processing) ワークロードを サポート

13. ©2024 Voicy, Inc. 2. オートスケールがない 
 • Auroraは、Amazon Aurora Auto Scaling により、 リソースや時間でスケールアウト・インが可能と なっている
 • しかし、TiDB Cloud にはない・・・

14. ©2024 Voicy, Inc.
15. ©2024 Voicy, Inc. 2. オートスケールがない 
 • Voicyの運用的には必要
 朝がピーク 

16. ©2024 Voicy, Inc. ３. DIY 
 • APIを叩けば、サーバ台数の変更は可能
 • go/python のサンプルがある
 https://github.com/tidbcloud/tidbcloud-api-samples
 • python でやりました

17. ©2024 Voicy, Inc. ３. DIY • 構成
 EventBridge Scheduler Lambda TiDB API
18. ©2024 Voicy, Inc. ３. DIY 
 • EventBridge に投げる変数で台数を設定
 • TiDBNodeQuantity
 • TiKVNodeQuantity

19. ©2024 Voicy, Inc. ４. 課題
 • スケールアウトするご とに、ノードの番号が 増える
 →現状様子見

20. ©2024 Voicy, Inc. ４. 課題
 • AutoIncrementの確保される採番プールが、デ フォルトだと1台につき30000で確保され、ス ケールイン・アウトを繰り返すと、際限なく大きく なる
 →IDをBIGINT対応
 →プールを縮小

21. ©2024 Voicy, Inc. ４. 課題
 • グレースフルで切れるはずだが、スケールイン 時にコネクション切れが発生する
 →TiDB Proxyに期待

22. ©2024 Voicy, Inc. ４. 課題
 • TIDB・TiKVを同時にスケールインすると、TiKV が優先され、TiDBのスケールインが遅れる
 →運用の変更

23. ©2024 Voicy, Inc. ４. 課題
 • TIDBのAPIすべてそうだが、APIを叩くとエンド ポイントにアクセスがOKであれば、応答後すぐ にクローズされてしまう
 →スケールイン・アウトの終了ハンドリングは自 前でしないといけない

24. ©2024 Voicy, Inc. ４. 課題
 • リソース使用量でのオートスケールは現状でき ていない
 →API駆使すればいけそう？

25. ©2024 Voicy, Inc. まとめ
 • 自前でのオートスケール実装は可能
 • 若干問題はあるものの運用はできていて、コスト も削減できている
 • 来年くらいには公式のオートスケールがでるか も？

26. ©2024 Voicy, Inc. 対談ゲスト募集中 
 Voicyエンジニアでやっている
 ポッドキャスト番組
 voi-chord
 https://voicy.jp/channel/1305

27. ©2024 Voicy, Inc. ご清聴
 ありがとうございました！