Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Spanner Autoscaler

micnncim
November 13, 2019

Spanner Autoscaler

merpay インフラ Talk #5: https://mercari.connpass.com/event/150728/

micnncim

November 13, 2019
Tweet

More Decks by micnncim

Other Decks in Programming

Transcript

  1. @micnncim

    Spanner Autoscaler

    merpay infra talk #5


    View full-size slide

  2. @micnncim

    Expert Team Intern


    View full-size slide

  3. Spanner オートスケールしない問題

    Kubernetes Operator とは

    Spanner Autoscaler の紹介

    01
    02
    03

    View full-size slide

  4. Spanner オートスケールしない問題

    4

    View full-size slide

  5. トラフィックに応じたノード数を設定できない 

    突発的な高トラフィックに対応できない 

    オートスケールしないと何が困るか

    高トラフィック対策にノード数を余分に多く設定すると
    トラフィックが小さいときにコストが余分に発生する 


    View full-size slide

  6. https://medium.com/google-cloud-jp/cloud-spanner-のハイレベルアーキテクチャ解説-fee62c17f7ed

    Spanner ハイレベルアーキテクチャ


    View full-size slide

  7. R/W を実行するコンピュートリソース
    ノードには直接ローカルストレージはアタッチされない
    Spanner における Node の役割

    データ自体は分散ファイルシステムに保存される

    View full-size slide

  8. Kubernetes Operator とは

    8

    View full-size slide

  9. Kubernetes では多数の Controller が動いている
    Controller は Deployment, Service など Resource が
    宣言された Desired State になるように動く = Reconciliation Loop
    Kubernetes Controller 101

    Controller は自作してデプロイすることが出来る = Custom Controller
    Resource も独自に作ることが出来る = CRD (Custom Resource Definition)
    Custom Controller と CRD で Stateful なアプリケーションを自動化
    = Operator

    View full-size slide

  10. Kubernetes Controller 101


    View full-size slide

  11. Kubernetes Operator


    View full-size slide

  12. kubernetes/client-go, kubernetes/code-generator
    kubernetes-sigs/kubebuilder
    Custom Controller を開発するには?

    operator-framework/operator-sdk
    GoogleCloudPlatform/metacontroller

    View full-size slide

  13. Spanner Autoscaler の紹介

    13

    View full-size slide

  14. Spanner のオートスケールを行う Kubernetes Operator
    Horizontal Pod Autoscaler に影響を受けている
    Spanner Autoscaler

    kubebuilder を利用
    本番 Microservices に導入予定 & OSS 化予定

    View full-size slide

  15. 宣言的に設定を記述したい
    Reconciliation Loop がオートスケールの用途に合う
    Why use Kubernetes Operator?


    View full-size slide

  16. Spanner Autoscaler: CRD

    ❖ spec.scaleTargetRef.instanceId
    スケール対象の Instance ID
    ❖ spec.minNodes
    スケール時の最小 Node 数
    ❖ spec.maxNodes:
    スケール時の最大 Node 数
    ❖ targetCPUUtilization.highPriority
    スケール後の目標となる
    優先度の高いユーザータスクと
    優先度の高いシステムタスクの
    合計 CPU 使用率

    View full-size slide

  17. Reconciler: Resource に対して最適な Node 数を計算し Reconciliation Loop を実行
    Syncer: 各 Resource を Google Cloud API で取得した Spanner Instance の状態と同期
    Spanner Autoscaler: Inside


    View full-size slide

  18. Spanner Autoscaler を使えば
    Spanner でもオートスケールできる!

    Kubernetes Custom Controller で
    様々なリソース・アプリケーションの自動化が可能
    まとめ


    View full-size slide