PipeCDを使用したBucketeerのGitOps-style CI/CD

Transcript

1. Developer Productivity Study #1 PipeCDを使用した Bucketeerの GitOps-style CI/CD Seiya Muramatsu

   (@mura_s_)

2. • Seiya Muramatsu • GitHub: mura-s • Twitter: @mura_s_ •

   Team: Bucketeer • Role: Backend Engineer

3. • Bucketeerのアーキテクチャの概要 • バックエンドのCI/CDの概要 • PipeCDを使ったGitOps & Progressive Delivery •

   まとめ アジェンダ

4. Bucketeerのアーキテクチャの概要

5. • Feature Flag & A/B Testing機能を 提供する社内SaaSプロダクト • GCPプロジェクト ◦

   bucketeer-dev-host ◦ bucketeer-prd-host ◦ bucketeer-dev-srv ◦ bucketeer-uat-srv ◦ bucketeer-abematv-srv: 専用prd環境 ◦ bucketeer-media-srv: 共用prd環境 ◦ bucketeer-load-srv • マルチプロジェクト／テナント アーキテクチャ

6. バックエンドのCI/CDの概要

7. • GitHubリポジトリ ◦ bucketeer: App Code (Monorepo) ◦ bucketeer-config: App

   Config ◦ bucketeer-ops: CI, Terraform, ... • Buildツール ◦ Bazel (GoやPythonをbuild) • CIツール ◦ Argo Events ◦ Argo Workflows • CDツール ◦ PipeCD v0.9.4 • マニフェスト管理 ◦ Helm v3 CI/CDの全体像

8. • ArgoのCI Workflow ◦ 1a) Build ◦ 1b) Unit test

   ◦ 2) 変更されたサービスの検出 ◦ 3) GCRにImagesをpush ◦ 4) dev環境用のPR作成, マージ CIについて ◦ 5) pipectlを使ってsync & wait ◦ 6) E2E test ◦ 7a) stage環境用のPR作成, マージ ◦ 7b) prd環境用のPR作成 ◦ 7c) Git Tag, Release Note作成 ◦ 8) Slack通知

9. CDについて • PipeCDで計198 Appsを管理 • GitOps & Progressive Delivery •

   CDの流れ ◦ CIでImageのバージョンアップを行うPR作成 ◦ PRマージ (自動／手動) ◦ カナリアPodデプロイ (prd環境のみ) ◦ 自動デプロイ分析 (prd環境のみ) ◦ 全Podsデプロイ • 詳細は次のセクションで

10. PipeCDを使った GitOps & Progressive Delivery

11. PipeCD UIでの設定 • Piped & Environment ◦ GCPプロジェクト単位で作成

12. PipeCD UIでの設定 • Project & API Key

13. Pipedの設定 • analysisProviders ◦ Automated Deployment Analysisで使用 ◦ Cluster内のPrometheusを設定 •

    notifications ◦ デプロイ失敗時にSlack通知 abematv.yaml

14. • bucketeer-config repoの設定 (後述) • pipectlを使ったscriptを作成 ◦ Environmentを指定してAppsを一括登録 ◦ EnvironmentとAppを指定して登録

    Applicationの登録 ➢ pipectlはCIでも使用 ◦ pipectl application sync --wait-status ...

15. Applicationの登録 • Appリスト & 詳細ページ

16. bucketeer-config repoの構成 ディレクトリ構成 • charts, configの下にサービスが並んでいる • Environmentごとのconfigはディレクトリで分割 ◦ デメリットもあるが現状は運用しやすさを優先

    ◦ cf. ブランチで分割、リポジトリで分割

17. bucketeer-config repoの構成 ディレクトリ構成 .pipe/analysis-template.yaml • AnalysisTemplateにはgrpc_error_rateのmetricsを設定

18. bucketeer-config repoの構成 ディレクトリ構成 account/dev/.pipe.yaml account/abematv/.pipe.yaml • prd環境以外はQuickSync • prd環境のみDeploy Pipeline

    を設定

19. dev環境のデプロイ dev環境へのPR + 自動マージ

20. dev環境のデプロイ QuickSync

21. prd環境のデプロイ prd環境へのPR + 手動マージ

22. prd環境のデプロイ Deploy Pipeline

23. prd環境のデプロイ (Failure) • 自動でRollback • Slack通知

24. 手動Rollback • リリース完了後に何らかの問題 があってRollbackしたいケース • PRをRevertしてマージするだけ

25. まとめ

26. • CI/CDの全体像 (再掲) • PipeCDを使ってどのように GitOps & Progressive Delivery を行っているかを紹介した

    まとめ

27. • Pros ◦ PipeCD単体でGitOps, Progressive Deliveryが可能 ◦ 独自のCustom Resourceを使用せず、K8SのDeploymentのまま扱える ◦

    ControlPlaneの社内SaaSが提供されている ◦ 身近で開発されているのでやりとりがしやすい • Cons ◦ 競合ツールと比べて若干の機能不足や不安定さを感じることがある ◦ コミュニティの活発さ => 一緒に盛り上げていきましょう！ • 要望 ◦ Cascade deleteの実装 ▪ https://github.com/pipe-cd/pipe/issues/1285 PipeCDについての所感

28. Thanks!