EDB2020_Red Hat - Speaker Deck

Slide 1

Slide 1 text

DB on Kubernetes をはじめとするコンテナ運⽤の要 @capsmalt Kazufumi Saito EDB Postgres Vision Tokyo 2020 1

Slide 2

Slide 2 text

冒頭のくだり・・・ CNDTで⾒た⽅いるかもですがご了承を ///アナウンス/// 2

Slide 3

Slide 3 text

2020年，気がつけば Kubernetes の世界に 3

Slide 4

Slide 4 text

CNCF TRAIL MAP みなさんは何合⽬︖ 4

Slide 5

Slide 5 text

Slide 6

Slide 6 text

“Kubernetes クラスター切り替えてください” 6

Slide 7

Slide 7 text

2020年元旦わずか1⽇ https://twitter.com/capsmalt/status/1213103609677672453?s=21 “切り替えて” ! ! ! ! ! Twitter⺠ ! @capsmalt TVデビュー 7

Slide 8

Slide 8 text

Slide 9

Slide 9 text

https://www.cncf.io/projects/ Maturity Levels hosted by CNCF 9

Slide 10

Slide 10 text

+ TUF + HELM + Harbor Graduated projects hosted by CNCF 10

Slide 11

Slide 11 text

18000+ Attendees https://events.linuxfoundation.org/kubecon-cloudnativecon-europe/ KubeCon EU 2020 Virtual 11

Slide 12

Slide 12 text

https://event.cloudnativedays.jp/cndt2020/ #CNDT2020 Cloud Native Days Tokyo 2020 12

Slide 13

Slide 13 text

⼀⽅で・・・ 13

Slide 14

Slide 14 text

INSTALL HARDEN DEPLOY OPERATE ● Templating ● Validation ● OS Setup ● Identity & Security Access ● App Monitoring & Alerts ● Storage & Persistence ● Egress, Ingress & Integration ● Host Container Images ● Build/Deploy Methodology ● Platform Monitoring & Alerts ● Metering & Chargeback ● Platform Security Hardening ● Image Hardening ● Security Certifications ● Network Policy ● Disaster Recovery ● Resource Segmentation ● OS Upgrade & Patch ● Platform Upgrade & Patch ● Image Upgrade & Patch ● App Upgrade & Patch ● Security Patches ● Continuous Security Scanning ● Multi-environment Rollout ● Enterprise Container Registry ● Cluster & App Elasticity ● Monitor, Alert, Remediate ● Log Aggregation 業務ユーザーが，構築，運⽤の複雑さの為に導⼊が難しいと考えている Source: The New Stack, The State of the Kubernetes Ecosystem, August 2017 75% Kubernetes を正しく運⽤するのは難しい 14

Slide 15

Slide 15 text

Slide 16

Slide 16 text

Kubernetes Support Policy への追随のツラミ Kubernetes は基本的には “４半期ごとにバージョンアップ” します。なお，“サポートされるのは直近３バージョン” です。 kubernetes.io 16

Slide 17

Slide 17 text

Kubernetes Support Policy への追随のツラミ Kubernetesは偉⼤な基礎技術ですが，ストレージ，ネットワーキング，セキュリティ，アプリケーションフレームワークなどを統合し，それを四半期ごとに更新し続けることは⼤きな負担です - Ashesh Badani, Red Hat https://www.techrepublic.com/article/why-running-your-own-kubernetes-deployment-could-be-a-terrible-idea/ Kubernetes は基本的には “４半期ごとにバージョンアップ” します。なお，“サポートされるのは直近３バージョン” です。 kubernetes.io 17

Slide 18

Slide 18 text

Kubernetes サポート期間の延⻑ 2020年どうなったか︖ ※対象: v1.19以降 https://kubernetes.io/blog/2020/08/31/kubernetes-1-19-feature-one-year-support/ 18

Slide 19

Slide 19 text

猫も杓⼦も Kubernetes 19

Slide 20

Slide 20 text

猫も杓⼦も If… 何となくつかってみる Kubernetes 商⽤K8sなら⼤丈夫これ，まちがいなく銀の弾丸︕︕︕ ようこそツラミ地獄へ 20

Slide 21

Slide 21 text

Happy Kubernetes Life @capsmalt 21

Slide 22

Slide 22 text

Kazufumi Saito (斎藤和史) Who am I Red Hat K.K. OpenShift / Kubernetes Architect Kubernetes を国内に広げる商⽤K8sで実戦/本番投⼊を加速 K8s Lover を増やす @capsmalt 22

Slide 23

Slide 23 text

Cloud Native Meetup Tokyo Cloud Native Developer JP OSSコミュニティのかかわり Japan Rook - Japan Container Days (JKD v18.04, v18.12) - CNDF / CNDT / CNDK 2019 - CNDT 2020 国内最⼤のコンテナ/Kubernetes テックカンファレンス 23

Slide 24

Slide 24 text

アジェンダ 1 2 Intro (Kubernetes のイマ) Kubernetes 時代の運⽤と取り組み⽅ 3 おまけ）Kubernetes の学び⽅ 24

Slide 25

Slide 25 text

アジェンダ 1 2 Intro (Kubernetes のイマ) Kubernetes 時代の運⽤と取り組み⽅ 3 おまけ）Kubernetes の学び⽅ 25

Slide 26

Slide 26 text

まとめ Kubernetes は⾮常にホット︕︕ ・やるに越したことはないタイミング・ただし，やるならやり⽅を間違えないように Kubernetes 運⽤の要は Operator (Custom Controller + CRD) ・アプリケーション，データベースの独⾃運⽤を実装（K8s APIを拡張）・K8sに則った運⽤を創るのか，活⽤するのか選択 Kubernetes はオープンな世界で学ぶ，そして活⽤・テックコミュニティで学ぼう・創る or 活⽤するの⾒極めていく 26

Slide 27

Slide 27 text

Kubernetes 時代の運⽤と取り組み⽅ 27

Slide 28

Slide 28 text

Kubernetes のキホンコンテナオーケストレーション・デプロイ・アップデート・スケーリング・ネットワーク管理・データ永続化・サービスディスカバリ・監視・障害対応(⾃⼰復旧) Kubernetes が，クラスター内の多数のコンテナのデプロイやスケーリング，ルーティングなどの運⽤管理を担うことで，サービス維持を実現する 28

Slide 29

Slide 29 text

Kubernetes: “コンテナオーケストレーション” 複数ノードのコンテナランタイムを統合し，スケーラブルなコンテナクラスタ実現のためのミドルウェア Node1 Pod1 Node2 Pod2 Node3 Master Node1 Pod1 Node2 Pod2 Node3 Node1 Pod1 Node3 Pod2 Node2 Node1 Pod1 Node2 Node3 Node1 Pod1 Node3 Pod2 Node2 Pod2 Pod2 レプリカ数を増やす・減らすレプリカ数を⼀定に保つデプロイ管理 Podの管理・監視スケーリングコンテナのデプロイ 29

Slide 30

Slide 30 text

Kubernetes による宣⾔的なオペレーション Node Node Node 例) ・要件: 「nginxコンテナを常に3台構成で動作させたい」・定義: `spec.replicas: 3` 「マニフェスト(あるべき姿)の宣⾔」を死守すべくオペレーションし続ける 30

Slide 31

Slide 31 text

Kubernetes による宣⾔的なオペレーション例) ・要件: 「nginxコンテナを常に3台構成で動作させたい」・定義: `spec.replicas: 3` Node Node Node Kubernetesによる⾃⼰回復(セルフヒーリング) ・障害で2台になったら，3台に⾃動復旧・リソース利⽤状況(メモリ負荷)の⼩さいNodeを⾃動選択「マニフェスト(あるべき姿)の宣⾔」を死守すべくオペレーションし続ける 31

Slide 32

Slide 32 text

Controller と Resource ReplicaSet Controller ReplicaSet (Resource) Pod (Resource) Podの作成・削除 RS作成を検知 RSの監視 ※Scheduler動作は省略 ※api-serverを介在は省略 Podの監視 32

Slide 33

Slide 33 text

K8s Controller たち okube-contoller-manager • ReplicaSet • Deployment • DaemonSet • Service • Job • etc. 33

Slide 34

Slide 34 text

Kubernetes ⾃体でできない運⽤はどうする︖ 34

Slide 35

Slide 35 text

Kubernetes ⾃体ではできない運⽤︓ ⾊々なソフトウェアスタックの運⽤ 35

Slide 36

Slide 36 text

やりたいこと: DB on Kubernetes DB インスタンスをスケーリング Kubernetes クラスターのリソースプールを活⽤特定DB，特定バージョンのDBの標準環境 36

Slide 37

Slide 37 text

PostgreSQL on Kubernetes o PostgreSQLクラスターを作成，削除，変更 o クラスターインスタンスのスケーリング o SQLポリシーを適⽤ o アップグレード o バックアップ・リストア o ... o ... o etc. NODE 1 NODE 2 NODE 3 例えば， 37

Slide 38

Slide 38 text

Operator 38

Slide 39

Slide 39 text

What’s Operator An Operator is a method of packaging, deploying and managing a Kubernetes application Kubernetes Applications 運⽤の知⾒をコード化し，アプリやK8sクラスターの運⽤を⾃動化するアプリ運⽤における運⽤の知⾒をコード化し，パッケージ化したもの。アプリケーション運⽤に必要な以下のような作業を⾃動的に⾏う。・インストール・リソーススケーリング・バックアップ・アップデート運⽤の知⾒をコード化 Operator - Installation - Backup - Monitoring 39

Slide 40

Slide 40 text

Reconciliation Loop Custom Resource Definition & Custom Controller Custom Controller Custom Resource Definition Deploy CRD Watch StatefulSet ConfigMap Pod Pod Service Actions (Operational Knowledge) Custom Controller Custom Resource Definition Operator = + (Resources) Kubernetes Operator 40

Slide 41

Slide 41 text

Postgres Operator (Crunchy Data) 出典: Crunchy Data Solutions, Inc. https://www.crunchydata.com/. ※商標はCrunchy Data Solutions, Incに基づきます。 postgres-operator ・レプリケーションクラスタのPostgreSQLコンテナの配備・レプリカ設定のPostgreSQLクラスタをスケールアップ・pgpoolとmetricsサイドカーをPostgreSQLクラスタに追加・PostgreSQLクラスタにSQLポリシーを適⽤・PostgreSQLクラスタにメタデータタグの割り当て・PostgreSQLのユーザとパスワードを維持・PostgreSQLクラスタのマイナー/メジャーアップグレードの実施・CSVやJSONファイルをPostgreSQLにロード・データベースのバックアップの実⾏ Manual Operation(pgo) Auto Operation 必須コンポーネント Operatorが状態に応じて展開するコンポーネント Crunchy Data is the Trusted Open Source Enterprise PostgreSQL 41

Slide 42

Slide 42 text

https://speakerdeck.com/masayaaoyama/kubefest2020-lt-k8s-native-testbed?slide=12 ご参考）Operator フル活⽤な Kubernetes-native テストベッド 42

Slide 43

Slide 43 text

Kubernetes 運⽤のツラミの代表格 43

Slide 44

Slide 44 text

Kubernetes ⾃体ではできない運⽤︓ Kubernetes クラスターの維持管理 o クラスター作成，削除，変更 o バージョンアップ o ノードの拡張・縮退 o ホストOSアップデート o 証明書管理 o 認証認可ユーザー管理 o 障害時のノード復旧 o … o … o etc. 1.16 1.17 1.18 44

Slide 45

Slide 45 text

V1.16 V1.17 V1.18 V1.19 V1.16 V1.19 クラスターA （既存）クラスターB （新規）アプリケーション，yaml群を新クラスターに適⽤ $ kubectl apply -f xxx.yaml $ kubectl apply -f yyy.yaml $ kubectl apply -f zzz.yaml 単⼀クラスター ※Velero (Heptio Ark)やResticで，PVやK8sリソースの抽出・バックアップクラスターアップデート（マイグレーション） 45

Slide 46

Slide 46 text

V1.16 V1.17 V1.18 V1.19 V1.16 V1.19 クラスタA （既存）クラスタB （新規）アプリケーション，yaml群を新クラスターに適⽤ $ kubectl apply -f xxx.yaml $ kubectl apply -f yyy.yaml $ kubectl apply -f zzz.yaml 単⼀クラスタ ※Velero (Heptio Ark)やResticで，PVやK8sリソースの抽出・バックアップクラスターアップデートまずは， “Kubernetes + あなたが必要な標準環境” が正常に動作する必要がある 46

Slide 47

Slide 47 text

Kubernetesクラスターの維持管理 o クラスター作成，削除，変更 o バージョンアップ o ノードの拡張・縮退 o ホストOSアップデート o 証明書管理 o 認証認可ユーザー管理 o 障害時のノード復旧 o … o … o etc. 1.16 1.17 1.18 ・各コンポーネントの正常性をどう担保するか今回考えるケース）クラスターのバージョンを上げるとき ※もちろんサービスの正常性維持の観点では，アプリケーションの正常性確認，永続データもあるが今回は対象としない 47

Slide 48

Slide 48 text

あなたの Kubernetes クラスターに必要なものは︖ サービス，プロジェクトごとに必要なコンポーネント（各DB，各CI/CD，etc.） • kube-apiserver, kube-controller-manager, kube-scheduler, etc. • ネットワーク • ストレージ • DNS • etcd • ingress • 内部イメージレジストリ • ノードのチューニング • コンソール • クラスタモニタリング • VM（OS）の管理 • 独⾃のapiserver, controller manager, etc. 48

Slide 49

Slide 49 text

Slide 50

Slide 50 text

Operator にどう向き合うか 50

Slide 51

Slide 51 text

創る or 活⽤する 51

Slide 52

Slide 52 text

Ans. 創る 52

Slide 53

Slide 53 text

https://github.com/operator-framework Build Run Operate Operator Framework 53

Slide 54

Slide 54 text

ツール例: Operator SDK Ansible SDK Helm SDK Go SDK Helm Chart Ansible Playbooks APBs Helmチャートからビルドでき，コーディング不要 Playbookから作成⾼度な機能を提供するためのGo⽤SDK プロダクトを保守するOperatorを “様々な⽅法” で開発 Operator SDK https://github.com/operator-framework/operator-sdk 54

Slide 55

Slide 55 text

https://github.com/operator- framework/operator-sdk- samples/tree/master/go/memcac hed-operator/ Operator SDK Samples 55

Slide 56

Slide 56 text

Ans. 活⽤する (※必ずしも創らなくて良い。特にミドルウェア) 56

Slide 57

Slide 57 text

https://operatorhub.io/ o Red Hat, AWS, Microsoft, Google が主な貢献者 o Kubernetes コミュニティで開発される様々な Operator 対応製品が登録・取得可能 OperatorHub.io 57

Slide 58

Slide 58 text

Operator Ecosystem Operatorを介して広がる新たなISVの世界 Relational DBs NoSQL DBs Storage Messaging Security Monitoring AL/ML Big Data DevOps 58

Slide 59

Slide 59 text

Slide 60

Slide 60 text

Operator Maturity Model Phase I Phase II Phase III Phase IV Phase V Basic Install Automated application provisioning and configuration management Seamless Upgrades Patch and minor version upgrades supported Full Lifecycle App lifecycle, storage lifecycle (backup, failure recovery) Deep Insights Metrics, alerts, log processing and workload analysis Auto Pilot Horizontal/vertical scaling, auto config tuning, abnormal detection, scheduling tuning 動的なアプリケーションデプロイメントとして設定管理パッチ適⽤やマイナーバージョンのアップグレード適⽤のサポートバックアップや動的リカバリなどストレージ領域を含めたアプリケーションライフサイクルのサポートメトリクス，アラート，ロギングなどのサポート動的なスケールアウト，スケールアップ，チューニング，異常検知，スケジューリングをサポート 60

Slide 61

Slide 61 text

Slide 62

Slide 62 text

Red Hat Ecosystem Catalog 62

Slide 63

Slide 63 text

創る活⽤する。 or Operator そして，管理する https://speakerdeck.com/capsmalt/operator-101 https://speakerdeck.com/shkitayama/operatorlifecyclemanager-101 63

Slide 64

Slide 64 text

Operator もソフトウェア Operator v1.1.2 Operator v1.1.3 Operator v1.2.0 Operator v1.2.2 Time Version Custom Controller, CRD(CR) Operator アプリケーションと同様にアップデートやテストが必要（放置していると負債になる） 64

Slide 65

Slide 65 text

Operator Lifecycle Manager CRD (Custom Resource Definition) Custom Controllers Custom Resource Instances Operator Catalog 1. Register 2. Monitor Registration 3. Install/Update 4. Manage Resource Instances Operator Lifecycle Manager(OLM)は，Kubernetes上のOperatorとそのリソースのライフサイクル全体を容易にするツール。管理者はどのNamespaceでどのOperatorが利⽤できるのか，また，どのOperatorが実⾏可能な Operatorと対話できるのかを制御可能。Operator Framework (OSS) に含まれる。 65

Slide 66

Slide 66 text

OperatorでK8s⾃体，K8s周辺をフルカバー運⽤プロセスを含めたポータビリティの実現。コンテナ/Kubernetesシステムを，K8sの技術を活⽤した付加価値機能によって⾃律運⽤を⽀援。 AUTOMATED OPERATIONS CLUSTER SERVICES APPLICATION SERVICES DEVELOPER SERVICES Middleware, Service Mesh Functions, ISV Monitoring, Chargeback Registry, Logging Automated Builds, CI/CD, IDE Any Infrastructure どの環境でも，迅速かつ信頼性の⾼いOS どの環境でも，同様の⼿順でアプリケーションを稼働どの環境でも，⾃動化された運⽤プロセスを実現 Virtual Private cloud Bare metal Public cloud Edge OpenShiftは，Kubernetesを使いこなせるように 66

Slide 67

Slide 67 text

Kubernetes が提供する機能 Kubernetes is Container Orchestration Cluster services monitoring, showback, registry, logging Application services middleware, functions, ISV Service mesh Developer services dev tools, automated builds, CI/CD, IDE Automated operations Linux OS Physical Virtual Private Public Any infrastructure certified コンテナオーケストレーションクラスタ上でコンテナをスケジューリングして実⾏するためのプラットフォーム - 複数のホストにわたるコンテナのオーケストレーション - 適切なインフラリソースを効率よく配置 - アプリケーションのデプロイとアップデートを⾃動化 - ステートフルなアプリケーションのためのストレージの管理 - コンテナ化されたアプリケーションとそのリソースの迅速なスケーリング - サービスを宣⾔的に管理 - ⾃動再起動，⾃動スケーリングにより，アプリケーションのヘルスチェックと⾃⼰修復を⾏う Declarative Configuration Auto Scaling Self-Healing https://www.redhat.com/ja/topics/containers/what-is-kubernetes 参考） 67

Slide 68

Slide 68 text

OpenShift が提供する機能 OpenShift accelerates Enterprise Kubernetes Cluster services monitoring, showback, registry, logging Application services middleware, functions, ISV Service mesh Developer services dev tools, automated builds, CI/CD, IDE Automated operations Enterprise Linux CoreOS Physical Virtual Private Public Any infrastructure certified Enterprise Kubernetes コンテナアプリの本番適用 CNCFに⽀援されるコミュニティプロジェクトや，パートナーのより広範なエコシステムと連携し，どのクラウド上でも同じ運⽤⽅法で，コンテナアプリケーションを⾃由に管理できる。信頼されたKubernetes管理 CoreOS社との統合により，CoreOSやRHEL8をコアとした信頼できる基盤を利⽤し，ハイブリッドクラウド全体のライフサイクル管理を提供。⾼度なセキュリティと監査，可能性，管理のしやすさなどのユーザー体験を可能にする。参考） 68

Slide 69

Slide 69 text

Automated operations Enterprise Linux CoreOS コンテナアプリの本番適⽤ Cluster Services クラスタ管理を容易にし、運⽤業務を⾃動化するサービス Physical Virtual Private Public Any infrastructure Developer Services 開発者がコンテナアプリケーション開発に集中できる環境を整えるサービス Cluster services monitoring, showback, registry, logging Application services middleware, functions, ISV Service mesh Developer services dev tools, automated builds, CI/CD, IDE certified Application Services マイクロサービス間の連携やファンクションサービスを実現を⽀援するサービス Logging Registry Monitoring ISV Middleware Function Service ServiceMesh IDE CI/CD Developer Tools チームがスピード、アジリティに⾃信を持ってビルドできる環境を提供。クラウドネイティブな開発を本番へのコード作成を⽀援。 Build fast. Ship first. 参考） 69

Slide 70

Slide 70 text

Automated operations 堅牢化されたコンテナ実⾏環境 Kubernetes デファクトスタンダードなコンテナオーケストレーション Installation Configuration Cluster Scalability Cluster Upgrade Security GUI Network Enterprise Linux CoreOS Physical Virtual Private Public Any infrastructure certified Cluster Management ⾼度なセキュリティと監査、可⽤性、管理の容易性 Cluster services monitoring, showback, registry, logging Application services middleware, functions, ISV Service mesh Developer services dev tools, automated builds, CI/CD, IDE Declarative Configuration Self-Healing Auto Scaling コンテナスタックのあらゆるレベルとアプリケーションライフサイクル全体のセキュリティに重点を置いている。 Trust with Red Hat. 参考） 70

Slide 71

Slide 71 text

⾃律化するシステム運⽤ Operatorによる運⽤の⾃律化 Full-Lifecycle Deep Insights Auto Pilot いままで⼈が対応してきた障害対応を⾃律的に回復する Manage with simplicity. App lifecycle Storage lifecycle - Backup - Failure Recovery Processing and workload analysis - Metrics - Alerts - Logging Horizontal/Vertical Scaling - Auto config - Auto tuning - Abnormal detection - scheduling tuning 参考） 71

Slide 72

Slide 72 text

おまけ）Kubernetes 学び⽅ 72

Slide 73

Slide 73 text

書籍 (JPN) 73

Slide 74

Slide 74 text

⼀家に⼀台 “おうち Kubernetes” 74

Slide 75

Slide 75 text

・書籍(記事) ・実践・テックコミュニティクラウドネイティブ勉強法 (テックコミュニティ編) https://qiita.com/capsmalt/items/496942c823f5cf0f307d 75

Slide 76

Slide 76 text

Slide 77

Slide 77 text

Slide 78

Slide 78 text

OpenShift Meetup とは Kubernetes ディストリビューションのひとつである「OpenShift」のコミュニティイベントです。 OpenShiftの猛者はもちろんのこと，これから触ってみたい⼈，あるいは Kubernetes そのものや周辺テクノロジーを深く知りたい⽅など，K8s Loverな皆さんが意⾒交換できる場となることを⽬指しています。⼀緒に楽しみましょう︕ by 運営⼀同 78

Slide 79

Slide 79 text

これまでの OpenShift Meetup DevOps / GitOps ストレージてんこ盛り OpenShift知⾒共有 Knative ガチ etc. 79

Slide 80

Slide 80 text

Speaker Contents ⻘⼭真也 @amsy810 Kubernetesと連携するアプリケーション開発⼿法川沼⼤輝 @Santea3173 エンプラに Kubernetes を導⼊してみて分かった 4つの Lessons Learned 須⽥⼀輝 @superbrothers Kubernetes で実践するクラウドネイティブ DevOps （オブザーバビリティ編）惣道哲也 @tetsuyasd Kubernetes クラスタのログ分析と可視化で知っておくべきこと〜Elastic Stackの特性と注意点〜脇⽥祥穂 @sachiho0402 OpenShift cluster-monitoringで困ったこと学んだこと原⽊翔 @hodahgi コンテナレジストリサーバーにコンテナ以外を格納する太⽥航平 @_inductor_ CRI-O shallow dive 磯⾙哲也 @tetsuyaIsogai Upgrade 4.4 to 4.5 with OTA その裏側 OpenShift.Run Summer 2020 80

Slide 81

Slide 81 text

創る活⽤する or Kubernetes Platform 動向を知った上で，リーズナブルな選択を。 81

Slide 82

Slide 82 text

まとめ 82

Slide 83

Slide 83 text

Slide 84

Slide 84 text

Red Hat Forum Asia Pacific | Virtual Experience What’s next? -Your choices brought you this far. What’s next? https://www.redhat.com/ja/forums/apac 2020年10月21日[水] ・22日[木] 10:00～15:30予定（オンライン）開催日程参加登録セッションは、日本語または通訳音声での動画配信を予定しております。ぜひご覧ください。今年のRed Hat Forum は、アジア最大規模のオープンソースバーチャルイベントとして開催決定！

Slide 85

Slide 85 text

https://www.redhat.com/ja/explore/openshift/webinar 85

Slide 86

Slide 86 text

#openshiftjp OpenShift.Run Winter2020 2020/12/10, 夕方開催予定 Powered By OpenShift Japan User Group 開催予告︕︕ 86

Slide 87

Slide 87 text

Happy Kubernetes Life @capsmalt 87