Upgrade to Pro — share decks privately, control downloads, hide ads and more …

EDB2020_Red Hat

1cf2de2da02f94ad87a7a31038721e6c?s=47 capsmalt
September 29, 2020

EDB2020_Red Hat

Title: DB on Kubernetesをはじめとするコンテナ運用の要
Speaker: Kazufumi Saito (Red Hat)
Twitter: @capsmalt (https://twitter.com/capsmalt)
Event: EDB Postgres Vision Tokyo 2020

1cf2de2da02f94ad87a7a31038721e6c?s=128

capsmalt

September 29, 2020
Tweet

Transcript

  1. DB on Kubernetes をはじめとする コンテナ運⽤の要 @capsmalt Kazufumi Saito EDB Postgres

    Vision Tokyo 2020 1
  2. 冒頭のくだり・・・ CNDTで⾒た⽅いるかもですがご了承を ///アナウンス/// 2

  3. 2020年, 気がつけば Kubernetes の世界に 3

  4. CNCF TRAIL MAP みなさんは何合⽬︖ 4

  5. 5

  6. “Kubernetes クラスター 切り替えてください” 6

  7. 2020年元旦 わずか1⽇ https://twitter.com/capsmalt/status/1213103609677672453?s=21 “切り替えて” ! ! ! ! ! Twitter⺠

    ! @capsmalt TVデビュー 7
  8. 8

  9. https://www.cncf.io/projects/ Maturity Levels hosted by CNCF 9

  10. + TUF + HELM + Harbor Graduated projects hosted by

    CNCF 10
  11. 18000+ Attendees https://events.linuxfoundation.org/kubecon-cloudnativecon-europe/ KubeCon EU 2020 Virtual 11

  12. https://event.cloudnativedays.jp/cndt2020/ #CNDT2020 Cloud Native Days Tokyo 2020 12

  13. ⼀⽅で・・・ 13

  14. INSTALL HARDEN DEPLOY OPERATE • Templating • Validation • OS

    Setup • Identity & Security Access • App Monitoring & Alerts • Storage & Persistence • Egress, Ingress & Integration • Host Container Images • Build/Deploy Methodology • Platform Monitoring & Alerts • Metering & Chargeback • Platform Security Hardening • Image Hardening • Security Certifications • Network Policy • Disaster Recovery • Resource Segmentation • OS Upgrade & Patch • Platform Upgrade & Patch • Image Upgrade & Patch • App Upgrade & Patch • Security Patches • Continuous Security Scanning • Multi-environment Rollout • Enterprise Container Registry • Cluster & App Elasticity • Monitor, Alert, Remediate • Log Aggregation 業務ユーザーが,構築,運⽤の複雑さの為に 導⼊が難しいと考えている Source: The New Stack, The State of the Kubernetes Ecosystem, August 2017 75% Kubernetes を 正しく運⽤するのは 難しい 14
  15. 15

  16. Kubernetes Support Policy への追随のツラミ Kubernetes は 基本的には “4半期ごとにバージョンアップ” します。 なお,“サポートされるのは直近3バージョン”

    です。 kubernetes.io 16
  17. Kubernetes Support Policy への追随のツラミ Kubernetesは偉⼤な基礎技術ですが,ストレージ,ネットワーキング,セキュリティ,アプリケ ーションフレームワークなどを統合し,それを四半期ごとに更新し続けることは⼤きな負担です - Ashesh Badani, Red

    Hat https://www.techrepublic.com/article/why-running-your-own-kubernetes-deployment-could-be-a-terrible-idea/ Kubernetes は 基本的には “4半期ごとにバージョンアップ” します。 なお,“サポートされるのは直近3バージョン” です。 kubernetes.io 17
  18. Kubernetes サポート期間の延⻑ 2020年どうなったか︖ ※対象: v1.19以降 https://kubernetes.io/blog/2020/08/31/kubernetes-1-19-feature-one-year-support/ 18

  19. 猫も杓⼦も Kubernetes 19

  20. 猫も杓⼦も If… 何となくつかってみる Kubernetes 商⽤K8sなら⼤丈夫 これ,まちがいなく銀の弾丸︕︕︕ ようこそ ツラミ地獄へ 20

  21. Happy Kubernetes Life @capsmalt 21

  22. Kazufumi Saito (斎藤 和史) Who am I Red Hat K.K.

    OpenShift / Kubernetes Architect Kubernetes を国内に広げる 商⽤K8sで実戦/本番投⼊を加速 K8s Lover を増やす @capsmalt 22
  23. Cloud Native Meetup Tokyo Cloud Native Developer JP OSSコミュニティのかかわり Japan

    Rook - Japan Container Days (JKD v18.04, v18.12) - CNDF / CNDT / CNDK 2019 - CNDT 2020 国内最⼤のコンテナ/Kubernetes テックカンファレンス 23
  24. アジェンダ 1 2 Intro (Kubernetes のイマ) Kubernetes 時代の運⽤と取り組み⽅ 3 おまけ)Kubernetes

    の学び⽅ 24
  25. アジェンダ 1 2 Intro (Kubernetes のイマ) Kubernetes 時代の運⽤と取り組み⽅ 3 おまけ)Kubernetes

    の学び⽅ 25
  26. まとめ Kubernetes は⾮常に ホット︕︕ ・やるに越したことはないタイミング ・ただし,やるならやり⽅を間違えないように Kubernetes 運⽤の要は Operator (Custom

    Controller + CRD) ・アプリケーション,データベースの独⾃運⽤を実装(K8s APIを拡張) ・K8sに則った運⽤を創るのか,活⽤するのか選択 Kubernetes はオープンな世界で学ぶ,そして活⽤ ・テックコミュニティで学ぼう ・創る or 活⽤する の⾒極めていく 26
  27. Kubernetes 時代の運⽤と取り組み⽅ 27

  28. Kubernetes のキホン コンテナオーケストレーション ・デプロイ ・アップデート ・スケーリング ・ネットワーク管理 ・データ永続化 ・サービスディスカバリ ・監視

    ・障害対応(⾃⼰復旧) Kubernetes が,クラスター内の多数のコンテナのデ プロイやスケーリング,ルーティングなどの運⽤管 理を担うことで,サービス維持を実現する 28
  29. Kubernetes: “コンテナオーケストレーション” 複数ノードのコンテナランタイムを統合し,スケーラブルなコンテナクラスタ実現のためのミドルウェア Node1 Pod1 Node2 Pod2 Node3 Master Node1

    Pod1 Node2 Pod2 Node3 Node1 Pod1 Node3 Pod2 Node2 Node1 Pod1 Node2 Node3 Node1 Pod1 Node3 Pod2 Node2 Pod2 Pod2 レプリカ数を増やす・減らす レプリカ数を⼀定に保つ デプロイ管理 Podの管理・監視 スケーリング コンテナのデプロイ 29
  30. Kubernetes による宣⾔的なオペレーション Node Node Node 例) ・要件: 「nginxコンテナを常に3台構成で動作させたい」 ・定義: `spec.replicas:

    3` 「マニフェスト(あるべき姿)の宣⾔」を死守すべくオペレーションし続ける 30
  31. Kubernetes による宣⾔的なオペレーション 例) ・要件: 「nginxコンテナを常に3台構成で動作させたい」 ・定義: `spec.replicas: 3` Node Node

    Node Kubernetesによる⾃⼰回復(セルフヒーリング) ・障害で2台になったら,3台に⾃動復旧 ・リソース利⽤状況(メモリ負荷)の⼩さいNodeを⾃動選択 「マニフェスト(あるべき姿)の宣⾔」を死守すべくオペレーションし続ける 31
  32. Controller と Resource ReplicaSet Controller ReplicaSet (Resource) Pod (Resource) Podの作成・削除

    RS作成を検知 RSの監視 ※Scheduler動作は省略 ※api-serverを介在は省略 Podの監視 32
  33. K8s Controller たち okube-contoller-manager • ReplicaSet • Deployment • DaemonSet

    • Service • Job • etc. 33
  34. Kubernetes ⾃体でできない運⽤は どうする︖ 34

  35. Kubernetes ⾃体ではできない運⽤︓ ⾊々なソフトウェアスタックの運⽤ 35

  36. やりたいこと: DB on Kubernetes DB インスタンスをスケーリング Kubernetes クラスターのリソースプールを活⽤ 特定DB,特定バージョンのDBの標準環境 36

  37. PostgreSQL on Kubernetes o PostgreSQLクラスターを作成,削除,変更 o クラスターインスタンスのスケーリング o SQLポリシーを適⽤ o

    アップグレード o バックアップ・リストア o ... o ... o etc. NODE 1 NODE 2 NODE 3 例えば, 37
  38. Operator 38

  39. What’s Operator An Operator is a method of packaging, deploying

    and managing a Kubernetes application Kubernetes Applications 運⽤の知⾒をコード化し,アプリやK8sクラスターの運⽤を⾃動化する アプリ運⽤における運⽤の知⾒をコード化し, パッケージ化したもの。 アプリケーション運⽤に必要な以下のような 作業を⾃動的に⾏う。 ・インストール ・リソーススケーリング ・バックアップ ・アップデート 運⽤の知⾒をコード化 Operator - Installation - Backup - Monitoring 39
  40. Reconciliation Loop Custom Resource Definition & Custom Controller Custom Controller

    Custom Resource Definition Deploy CRD Watch StatefulSet ConfigMap Pod Pod Service Actions (Operational Knowledge) Custom Controller Custom Resource Definition Operator = + (Resources) Kubernetes Operator 40
  41. Postgres Operator (Crunchy Data) 出典: Crunchy Data Solutions, Inc. https://www.crunchydata.com/.

    ※商標はCrunchy Data Solutions, Incに基づきます。 postgres-operator ・レプリケーションクラスタのPostgreSQLコンテナの配備 ・レプリカ設定のPostgreSQLクラスタをスケールアップ ・pgpoolとmetricsサイドカーをPostgreSQLクラスタに追加 ・PostgreSQLクラスタにSQLポリシーを適⽤ ・PostgreSQLクラスタにメタデータタグの割り当て ・PostgreSQLのユーザとパスワードを維持 ・PostgreSQLクラスタの マイナー/メジャーアップグレードの実施 ・CSVやJSONファイルをPostgreSQLにロード ・データベースのバックアップの実⾏ Manual Operation(pgo) Auto Operation 必須コンポーネント Operatorが状態に応じて 展開するコンポーネント Crunchy Data is the Trusted Open Source Enterprise PostgreSQL 41
  42. https://speakerdeck.com/masayaaoyama/kubefest2020-lt-k8s-native-testbed?slide=12 ご参考)Operator フル活⽤な Kubernetes-native テストベッド 42

  43. Kubernetes 運⽤のツラミの代表格 43

  44. Kubernetes ⾃体ではできない運⽤︓ Kubernetes クラスターの維持管理 o クラスター作成,削除,変更 o バージョンアップ o ノードの拡張・縮退

    o ホストOSアップデート o 証明書管理 o 認証認可ユーザー管理 o 障害時のノード復旧 o … o … o etc. 1.16 1.17 1.18 44
  45. V1.16 V1.17 V1.18 V1.19 V1.16 V1.19 クラスターA (既存) クラスターB (新規)

    アプリケーション,yaml群を 新クラスターに適⽤ $ kubectl apply -f xxx.yaml $ kubectl apply -f yyy.yaml $ kubectl apply -f zzz.yaml 単⼀クラスター ※Velero (Heptio Ark)やResticで,PVやK8sリソースの抽出・バックアップ クラスターアップデート(マイグレーション) 45
  46. V1.16 V1.17 V1.18 V1.19 V1.16 V1.19 クラスタA (既存) クラスタB (新規)

    アプリケーション,yaml群を 新クラスターに適⽤ $ kubectl apply -f xxx.yaml $ kubectl apply -f yyy.yaml $ kubectl apply -f zzz.yaml 単⼀クラスタ ※Velero (Heptio Ark)やResticで,PVやK8sリソースの抽出・バックアップ クラスターアップデート まずは, “Kubernetes + あなたが必要な標準環境” が正常に動作する必要がある 46
  47. Kubernetesクラスターの維持管理 o クラスター作成,削除,変更 o バージョンアップ o ノードの拡張・縮退 o ホストOSアップデート o

    証明書管理 o 認証認可ユーザー管理 o 障害時のノード復旧 o … o … o etc. 1.16 1.17 1.18 ・各コンポーネントの正常性をどう担保するか 今回考えるケース)クラスターのバージョンを上げるとき ※もちろんサービスの正常性維持の観点では, アプリケーションの正常性確認,永続データもあるが今回は対象としない 47
  48. あなたの Kubernetes クラスターに必要なものは︖ サービス,プロジェクトごとに 必要なコンポーネント (各DB,各CI/CD,etc.) • kube-apiserver, kube-controller-manager, kube-scheduler,

    etc. • ネットワーク • ストレージ • DNS • etcd • ingress • 内部イメージレジストリ • ノードのチューニング • コンソール • クラスタモニタリング • VM(OS)の管理 • 独⾃のapiserver, controller manager, etc. 48
  49. あなたの Kubernetes クラスターに必要なものは︖ サービス,プロジェクトごとに 必要なコンポーネント (各DB,各CI/CD,etc.) • kube-apiserver, kube-controller-manager, kube-scheduler,

    etc. • ネットワーク • ストレージ • DNS • etcd • ingress • 内部イメージレジストリ • ノードのチューニング • コンソール • クラスタモニタリング • VM(OS)の管理 • 独⾃のapiserver, controller manager, etc. XXX Operator (Custom Controller + CRD) ターゲットクラスターに対して ・各コンポーネントを展開 ・設定を変更 ・削除 ・アップデート 49
  50. Operator にどう向き合うか 50

  51. 創る or 活⽤する 51

  52. Ans. 創る 52

  53. https://github.com/operator-framework Build Run Operate Operator Framework 53

  54. ツール例: Operator SDK Ansible SDK Helm SDK Go SDK Helm

    Chart Ansible Playbooks APBs Helmチャートからビルド でき,コーディング不要 Playbookから作成 ⾼度な機能を提供 するためのGo⽤SDK プロダクトを保守するOperatorを “様々な⽅法” で開発 Operator SDK https://github.com/operator-framework/operator-sdk 54
  55. https://github.com/operator- framework/operator-sdk- samples/tree/master/go/memcac hed-operator/ Operator SDK Samples 55

  56. Ans. 活⽤する (※必ずしも創らなくて良い。特にミドルウェア) 56

  57. https://operatorhub.io/ o Red Hat, AWS, Microsoft, Google が主な貢献者 o Kubernetes

    コミュニティで開発される様々な Operator 対応製品が登録・取得可能 OperatorHub.io 57
  58. Operator Ecosystem Operatorを介して広がる新たなISVの世界 Relational DBs NoSQL DBs Storage Messaging Security

    Monitoring AL/ML Big Data DevOps 58
  59. Postgres Operator (Crunchy Data) 出典: Crunchy Data Solutions, Inc. https://www.crunchydata.com/.

    ※商標はCrunchy Data Solutions, Incに基づきます。 postgres-operator ・レプリケーションクラスタのPostgreSQLコンテナの配備 ・レプリカ設定のPostgreSQLクラスタをスケールアップ ・pgpoolとmetricsサイドカーをPostgreSQLクラスタに追加 ・PostgreSQLクラスタにSQLポリシーを適⽤ ・PostgreSQLクラスタにメタデータタグの割り当て ・PostgreSQLのユーザとパスワードを維持 ・PostgreSQLクラスタの マイナー/メジャーアップグレードの実施 ・CSVやJSONファイルをPostgreSQLにロード ・データベースのバックアップの実⾏ Manual Operation(pgo) Auto Operation 必須コンポーネント Operatorが状態に応じて 展開するコンポーネント Crunchy Data is the Trusted Open Source Enterprise PostgreSQL 59
  60. Operator Maturity Model Phase I Phase II Phase III Phase

    IV Phase V Basic Install Automated application provisioning and configuration management Seamless Upgrades Patch and minor version upgrades supported Full Lifecycle App lifecycle, storage lifecycle (backup, failure recovery) Deep Insights Metrics, alerts, log processing and workload analysis Auto Pilot Horizontal/vertical scaling, auto config tuning, abnormal detection, scheduling tuning 動的なアプリケーショ ンデプロイメントとし て設定管理 パッチ適⽤やマイナー バージョンのアップグ レード適⽤のサポート バックアップや動的リ カバリなどストレージ 領域を含めたアプリ ケーションライフサイ クルのサポート メトリクス,アラート, ロギングなどのサポー ト 動的なスケールアウト, スケールアップ, チューニング,異常検 知,スケジューリング をサポート 60
  61. 61

  62. Red Hat Ecosystem Catalog 62

  63. 創る 活⽤する。 or Operator そして,管理する https://speakerdeck.com/capsmalt/operator-101 https://speakerdeck.com/shkitayama/operatorlifecyclemanager-101 63

  64. Operator もソフトウェア Operator v1.1.2 Operator v1.1.3 Operator v1.2.0 Operator v1.2.2

    Time Version Custom Controller, CRD(CR) Operator アプリケーションと同様に アップデートやテストが必要 (放置していると負債になる) 64
  65. Operator Lifecycle Manager CRD (Custom Resource Definition) Custom Controllers Custom

    Resource Instances Operator Catalog 1. Register 2. Monitor Registration 3. Install/Update 4. Manage Resource Instances Operator Lifecycle Manager(OLM)は,Kubernetes上のOperatorとそのリソースのライフサイクル全体を容易 にするツール。管理者はどのNamespaceでどのOperatorが利⽤できるのか,また,どのOperatorが実⾏可能な Operatorと対話できるのかを制御可能。Operator Framework (OSS) に含まれる。 65
  66. OperatorでK8s⾃体,K8s周辺をフルカバー 運⽤プロセスを含めたポータビリティの実現。コンテナ/Kubernetesシステムを,K8sの技術を活⽤した付加価値機能によって⾃律運⽤を⽀援。 AUTOMATED OPERATIONS CLUSTER SERVICES APPLICATION SERVICES DEVELOPER SERVICES

    Middleware, Service Mesh Functions, ISV Monitoring, Chargeback Registry, Logging Automated Builds, CI/CD, IDE Any Infrastructure どの環境でも,迅速か つ信頼性の⾼いOS どの環境でも,同様の ⼿順でアプリケーショ ンを稼働 どの環境でも,⾃動化 された運⽤プロセスを 実現 Virtual Private cloud Bare metal Public cloud Edge OpenShiftは,Kubernetesを使いこなせるように 66
  67. Kubernetes が提供する機能 Kubernetes is Container Orchestration Cluster services monitoring, showback,

    registry, logging Application services middleware, functions, ISV Service mesh Developer services dev tools, automated builds, CI/CD, IDE Automated operations Linux OS Physical Virtual Private Public Any infrastructure certified コンテナオーケストレーション クラスタ上でコンテナをスケジューリングして実⾏するための プラットフォーム - 複数のホストにわたるコンテナのオーケストレーション - 適切なインフラリソースを効率よく配置 - アプリケーションのデプロイとアップデートを⾃動化 - ステートフルなアプリケーションのためのストレージの管理 - コンテナ化されたアプリケーションとそのリソースの迅速な スケーリング - サービスを宣⾔的に管理 - ⾃動再起動,⾃動スケーリングにより,アプリケーションの ヘルスチェックと⾃⼰修復を⾏う Declarative Configuration Auto Scaling Self-Healing https://www.redhat.com/ja/topics/containers/what-is-kubernetes 参考) 67
  68. OpenShift が提供する機能 OpenShift accelerates Enterprise Kubernetes Cluster services monitoring, showback,

    registry, logging Application services middleware, functions, ISV Service mesh Developer services dev tools, automated builds, CI/CD, IDE Automated operations Enterprise Linux CoreOS Physical Virtual Private Public Any infrastructure certified Enterprise Kubernetes コンテナアプリの本番適用 CNCFに⽀援されるコミュニティプロジェクトや,パートナーのより広範なエ コシステムと連携し,どのクラウド上でも同じ運⽤⽅法で,コンテナアプリ ケーションを⾃由に管理できる。 信頼されたKubernetes管理 CoreOS社との統合により,CoreOSやRHEL8をコアとした信頼できる基 盤を利⽤し,ハイブリッドクラウド全体のライフサイクル管理を提供。⾼度 なセキュリティと監査,可能性,管理のしやすさなどのユーザー体験を可 能にする。 参考) 68
  69. Automated operations Enterprise Linux CoreOS コンテナアプリの本番適⽤ Cluster Services クラスタ管理を容易にし、運⽤業務を⾃動化するサービス Physical

    Virtual Private Public Any infrastructure Developer Services 開発者がコンテナアプリケーション開発に集中できる環境を整え るサービス Cluster services monitoring, showback, registry, logging Application services middleware, functions, ISV Service mesh Developer services dev tools, automated builds, CI/CD, IDE certified Application Services マイクロサービス間の連携やファンクションサービスを実現を⽀援 するサービス Logging Registry Monitoring ISV Middleware Function Service ServiceMesh IDE CI/CD Developer Tools チームがスピード、アジリティに⾃信を持って ビルドできる環境を提供。クラウドネイティブ な開発を本番へのコード作成を⽀援。 Build fast. Ship first. 参考) 69
  70. Automated operations 堅牢化されたコンテナ実⾏環境 Kubernetes デファクトスタンダードなコンテナオーケストレーション Installation Configuration Cluster Scalability Cluster

    Upgrade Security GUI Network Enterprise Linux CoreOS Physical Virtual Private Public Any infrastructure certified Cluster Management ⾼度なセキュリティと監査、可⽤性、管理の容易性 Cluster services monitoring, showback, registry, logging Application services middleware, functions, ISV Service mesh Developer services dev tools, automated builds, CI/CD, IDE Declarative Configuration Self-Healing Auto Scaling コンテナスタックのあらゆるレベルとアプリ ケーションライフサイクル全体のセキュリティ に重点を置いている。 Trust with Red Hat. 参考) 70
  71. ⾃律化するシステム運⽤ Operatorによる運⽤の⾃律化 Full-Lifecycle Deep Insights Auto Pilot いままで⼈が対応してきた障害対応を⾃律的に回復する Manage with

    simplicity. App lifecycle Storage lifecycle - Backup - Failure Recovery Processing and workload analysis - Metrics - Alerts - Logging Horizontal/Vertical Scaling - Auto config - Auto tuning - Abnormal detection - scheduling tuning 参考) 71
  72. おまけ)Kubernetes 学び⽅ 72

  73. 書籍 (JPN) 73

  74. ⼀家に⼀台 “おうち Kubernetes” 74

  75. ・書籍(記事) ・実践 ・テックコミュニティ クラウドネイティブ勉強法 (テックコミュニティ編) https://qiita.com/capsmalt/items/496942c823f5cf0f307d 75

  76. 76

  77. 77

  78. OpenShift Meetup とは Kubernetes ディストリビューションのひとつである 「OpenShift」のコミュニティイベントです。 OpenShiftの猛者はもちろんのこと,これから触ってみたい⼈, あるいは Kubernetes そのものや周辺テクノロジーを深く知りた

    い⽅など,K8s Loverな皆さんが意⾒交換できる場となることを ⽬指しています。⼀緒に楽しみましょう︕ by 運営⼀同 78
  79. これまでの OpenShift Meetup DevOps / GitOps ストレージてんこ盛り OpenShift知⾒共有 Knative ガチ

    etc. 79
  80. Speaker Contents ⻘⼭真也 @amsy810 Kubernetesと連携するアプリケーション開発⼿法 川沼⼤輝 @Santea3173 エンプラに Kubernetes を導⼊してみて分かった

    4つの Lessons Learned 須⽥⼀輝 @superbrothers Kubernetes で実践するクラウドネイティブ DevOps (オブザーバビリティ編) 惣道哲也 @tetsuyasd Kubernetes クラスタのログ分析と可視化で知っておくべき こと 〜Elastic Stackの特性と注意点〜 脇⽥祥穂 @sachiho0402 OpenShift cluster-monitoringで困ったこと学んだこと 原⽊翔 @hodahgi コンテナレジストリサーバーにコンテナ以外を格納する 太⽥航平 @_inductor_ CRI-O shallow dive 磯⾙哲也 @tetsuyaIsogai Upgrade 4.4 to 4.5 with OTA その裏側 OpenShift.Run Summer 2020 80
  81. 創る 活⽤する or Kubernetes Platform 動向を知った上で, リーズナブルな選択を。 81

  82. まとめ 82

  83. まとめ Kubernetes は⾮常に ホット︕︕ ・やるに越したことはないタイミング ・ただし,やるならやり⽅を間違えないように Kubernetes 運⽤の要は Operator (Custom

    Controller + CRD) ・アプリケーション,データベースの独⾃運⽤を実装(K8s APIを拡張) ・K8sに則った運⽤を創るのか,活⽤するのか選択 Kubernetes はオープンな世界で学ぶ,そして活⽤ ・テックコミュニティで学ぼう ・創る or 活⽤する の⾒極めていく 83
  84. Red Hat Forum Asia Pacific | Virtual Experience What’s next?

    -Your choices brought you this far. What’s next? https://www.redhat.com/ja/forums/apac 2020年10月21日[水] ・22日[木] 10:00~15:30予定(オンライン) 開催 日程 参加 登録 セッションは、日本語または通訳音声での動画配信を予定しております。 ぜひご覧ください。 今年のRed Hat Forum は、アジア最 大規模のオープンソースバーチャル イベントとして開催決定!
  85. https://www.redhat.com/ja/explore/openshift/webinar 85

  86. #openshiftjp OpenShift.Run Winter2020 2020/12/10, 夕方開催予定 Powered By OpenShift Japan User

    Group 開催予告︕︕ 86
  87. Happy Kubernetes Life @capsmalt 87