#kichijojipm Database on Kubernetesのお話(短縮版)

Transcript

1. 1.

   Cloud Native Storageが拓く Database on Kubernetesの未来 吉祥寺.pm #19 2019/8/2 @tzkb

2. 2.

   2 自己紹介  名 前： Takahiro Kobayashi  職 種：

   DBを中心としたインフラエンジニア  好 物： 速いDB、太い帯域、小さなレイテンシ  出没する場所 Oracle、PostgreSQL、Kubernetesなどの勉強会
3. 3.

   3 PostgreSQL on Kubernetes、色々やってます CloudNativeDays Tokyo 2019 Cloud Native Storageが拓く

   Database on Kubernetesの未来 PGConf.Asia 2019 @Bali Building PostgreSQL as a Service with Kubernetes  ＋ ＝∞
4. 4.

   4 アジェンダ 1. そもそもKubernetesって何？ 2. Kubernetes上でデータベースを動かす際の課題 3. Database on Kubernetesの検証

    HAパターン  Replication（Operator）パターン 4. DBプラットフォームとしてのKubernetes
5. 5.

   5 1. そもそもKubernetesって何？

6. 6.

   6 Kubernetesを知っていますか？ 「おれがKubernetesだ。」 「Kubernetes、完全に理解した。」 「Kubernetes、なにもわからない。」

7. 7.

   7 Kubernetes＝コンテナ・オーケストレーター コンテナ コンテナ コンテナ コンテナ コンテナ • 軽量VMであるコンテナを良い感じに管理してくれる。 特徴として以下がある。

   • 宣言的設定  構築手順を定めるのではなく、 状態を定義する。 • 自己修復  上記の状態に自動で復旧 • Immutable  Drop & Create  PetではなくCattle
8. 8.

   8 Kubernetesはデータベースに不向き？ Node Node Node Master Slave Replicate • DBやSDSは、K8sで扱うには向いていないとされてきた。

   特徴が足枷に。 • 宣言的設定 • 自己修復  一貫性を担保するために、リカ バリ手順が必要  起動順序などが問われるケース もある • Immutable  データ消失はありえない  ペット的な扱いが必要
9. 9.

   10 Storageにも色々あるけれど • CNCFという団体で定めたLandscapeにStorageも沢山。 • ただ、今までのストレージと何が違うのか分かりづらい。

10. 10.

    11 Compute Control plane Data plane Kubernetesから使える２種類のストレージ Controler Controler •

    K8sがストレージのどこまでを管理する/できるかで違いがある。 Kubernetes Ready Kubernetes Native
11. 11.

    12 ２. Kubernetes上で データベースを動かす際の課題

12. 12.

    13 Kubernetesの本質は分散システム • K8sクラスタはetcdを中心とした分散システムとして構築される。 • つまりノードが未応答の際に、 – ネットワーク分断？ – プロセス(kubelet)障害？

    – ノード障害？ どれに該当するか、判断が難しい。 • ディスクリソースがattachされて いれば、その状態も把握する必要 がある。 永続ボリュームを利用する workloadが嫌われる理由はこれ。 FailOver?
13. 13.

    14 解はあるのか？DBアーキテクトは知っている。 • 状態がわからないなら、安全側に倒して 処理を継続させたら良いんじゃない？ • 共有リソースをつくらなければ 良いんじゃない？ • それってクラスタリングでは昔から

    やっていることだよね。
14. 14.

    15 分散システムへの対応① HA構成におけるFencing VIP Linux-HA Controller Controller << 状態不明なマスターが発生したら>> ①

    強制的にノードの電源落とす i. プロセスを確実に停止 ii. ストレージのマウントを外す iii. VIPを外す ② その上で別ノードでリソースを 獲得して、マスターを起動 ※強制電源断はHWベンダ提供の管理ポートや クラウドAPIを通して行われる。 • 障害ノードをフェンスで囲うこと(隔離) ＝Fencing
15. 15.

    16 分散システムへの対応② Replicationにおけるリーダー選出 WAL データは最新、 リーダーに選出。 他はスレーブ。 • 複数候補から常に1台のマスタ を選出

    • 元マスタが復帰後もスレーブに なっていることを通知する <<状態不明なマスタが発生したら>> ① 残ったスレーブから1台の リーダーを選出する ② 選出されたらマスターへ昇格 ③ 復帰ノードはスレーブになる • アルゴリズムとしてはPaxos、Raftなどが有名。 マスタ スレーブ
16. 16.

    17 ３. Database on Kubernetesの検証

17. 17.

    18 HA構成パターン(i)： Replicas:1 • PostgreSQLはStatefulSet、PVとしてRook/Cephを用いる。 • DBもストレージも全て K8sで管理するHA構成 • 共有ディスクはCeph

    • kube-fencingでNode 障害時のFencing << 課題 >> • 複雑すぎるCeph • ネットワーク越しのIO による性能劣化 kube-fencing
18. 18.

    19 HA構成パターン(ii)： Replicas:1 kube-fencing • LINSTORがProvisioning/AttachするDRBDボリュームを用いる。 • DBもストレージも全て K8sで管理するHA構成 •

    DRBDでデータ冗長化 • シンプル • ReadはローカルIO、 性能面でCephに優る << 課題 >> • スケール上限あり
19. 19.

    20 （参考）SDS別のベンチマーク結果 シングル構成(EBS) Rook/Ceph DRBD 1インスタンス 5インスタンス 2インスタンス 100 37.8

    77.1 • pgbenchによる簡易ベンチマークでは以下のような差が出た。 TPS
20. 20.

    21 Replicationパターン(Operator)： • KubeDBはPostgreSQLに限らず、様々なDBを扱えるOperator。 kubedb-operator -0 -1 -2 postgres snapshot

    dormantdabases • KubeDBでは – PostgreSQL – MySQL – Redis 等のCRDが準備済。 • kubedb-operatorが PostgreSQLのSRを構成。 • SnapshotのCRDもあり、 バックアップ・リストア が可能。 S3等にスナップショット の保存が可能
21. 21.

    22 4. DBプラットフォームとしてのKubernetes

22. 22.

    23 ここまで見てきたこと  DBクラスタリングをKubernetes Nativeで行うことに ついては、SDSやFencingなど部品が揃いつつある。  Replication構成をK8s化する試みは続いており、 Operatorを利用してDBAタスクを自動化する流れが 生まれてきている。

     しかし、それで終わりではない（かも知れない）。 Cloud Native Storage ＋ ＋ ＝ ???
23. 23.

    24 DB/Storage プラットフォームとしてのKubernetes DBaaS by Kubernetes STaaS by Kubernetes <<DBaaSの基本要素>>

    • HA • Replication • DB Operator <<STaaSの基本要素>> • シンプルな冗長化 • 分散ストレージ • 互換性の高いIF(CSI) • “Platform for Platforms”として、K8sが各Serviceを支える。
24. 24.

    Building PostgreSQL as a Service with Kubernetes PGConf.Asia 2019 2019/9/9

    @tzkb
25. 25.

    26 Questions? @tzkb @tzkoba