マイクロサービスダッシュボードの紹介

https://mercari.connpass.com/event/230951/

Transcript

1. Infrastructure as Codeで構築したリソースの可視化と再利用 マイクロサービスダッシュボードの紹介
2. 2 自己紹介 2017年7月に旧ソウゾウに入社 2018年1月にメルペイに異動。テックリードとしてマイクロサービスの開発を担当 2019年7月にArchitectチームに異動 現在は主にマイクロサービスのためのダッシュボードの開発を担当 Merpay, Inc. Architect Team Yuta Uekusa
3. 3 Agenda メルペイのマイクロサービスアーキテクチャについて 01 マイクロサービスダッシュボードの紹介 02 今後の取り組み 03
4. メルペイのマイクロサービスアーキテクチャに ついて 4
5. 5 マイクロサービスアーキテクチャ Client API Gateway Service B Service A Service C Authority Cloud Spanner Pub/Sub Cloud Spanner Cloud Storage
6. 6 マイクロサービスアーキテクチャ API Gateway Service B Service A Service C Authority Cloud Spann er Pub/ Sub Cloud Spann er Clo ud Stor age API Gateway Service B Service A Service C Authority Cloud Spann er Pub/ Sub Cloud Spann er Clo ud Stor age Development Production
7. 7 マイクロサービスアーキテクチャ Client Cloud Spanner Pub/Sub Cloud Spanner Namespace Cloud Storage Service C Namespace Namespace Namespace Namespace Service B Service A API Gateway Authority
8. 8 マイクロサービスアーキテクチャ: インフラ構築 Namespace: Service A Project: Service A boot strap Service A
9. 9 マイクロサービスアーキテクチャ: インフラ構築 microservices-terraform リポジトリ
10. 10 マイクロサービスアーキテクチャ: 通信プロトコル Client Cloud Spanner Pub/Sub Cloud Spanner Namespace Cloud Storage Service C Namespace Namespace Namespace Namespace Service B Service A API Gateway Authority gRPC gRPC gRPC
11. マイクロサービスダッシュボードの紹介 11
12. 12 マイクロサービスダッシュボードとは？ マイクロサービスに関する様々なデータを収集 01 集めたデータを可視化するウェブポータルサイト 02 集めたデータをAPIとして提供 03
13. 13 モチベーション マイクロサービスの状態や品質を把握したい 01 ドキュメントが自動的に生成される状態にしたい 02
14. 14 機能紹介 ・トップ画面 ・サービス詳細画面 ・サービス詳細画面: インフラ ・サービス詳細画面: アプリケーション ・サービス詳細画面: API ・サービス詳細画面: SLO
15. 15 機能紹介: トップ画面
16. 16 機能紹介: トップ画面
17. 17 機能紹介: サービス詳細画面
18. 18 機能紹介: サービス詳細画面 serviceID: merpay-service-a description: This is service-a corporation: MERPAY teamName: merpay-architect-jp contact: slack: generalChannelId: C0123456 alertChannelId: C12345678 … service spec file
19. 19 機能紹介: サービス詳細画面（サービスの依存関係, 費用のグラフ）
20. 20 機能紹介: サービス詳細画面（インフラタブ）
21. 21 機能紹介: サービス詳細画面（アプリケーションタブ）
22. 22 機能紹介: サービス詳細画面（アプリケーションタブ）
23. 23 機能紹介: サービス詳細画面（APIタブ）
24. 24 機能紹介: サービス詳細画面（APIタブ）
25. 25 機能紹介: サービス詳細画面（SLOタブ）
26. 26 機能紹介: SLOダッシュボード
27. 27 マイクロサービスダッシュボードの仕組み 技術スタック Backend Frontend • Go • Cloud Spanner, Pub/Sub, Scheduler, Tasks • gRPC, GraphQL (99designs/gqlgen, vektah/dataloaden) • TypeScript • React, Material-UI • GraphQL (apollo-client)
28. 28 マイクロサービスダッシュボードの仕組み Single Page Application API Gateway Microservice Dashboard Go serves assets gRPC server GraphQL server Cloud Spanner Browse Get / Assets GraphQL Query Data etc
29. 29 データ収集の仕組み Cloud Scheduler: 定期的にデータを取得 01 Cloud Pub/Sub: イベントメッセージからデータを取得 02 Cloud Tasks: マニュアルオペレーション 03 データ収集のトリガー
30. 30 データ収集の仕組み トリガー発動後 API Gateway Microservice Dashboard gRPC server Cloud Spanner HTTP Cloud Scheduler Cloud Tasks Pub/Sub HTTP HTTP gRPC データ収集 etc
31. 31 データ収集の仕組み トリガー発動後 API Gateway Microservice Dashboard gRPC server Cloud Spanner HTTP Cloud Scheduler Cloud Tasks Pub/Sub HTTP HTTP gRPC タイムアウト 処理中... etc
32. 32 データ収集の仕組み 愚直に集めている 管理するデータの構造を定義して機械的に処理可能にする データを集める
33. 33 データ収集の仕組み: データを集める マイクロサービスの一覧 API Gateway Microservice Dashboard gRPC server Cloud Spanner Pub/Sub etc microservices-terraform リポジトリ CIで各microserviceの service-specをpublish service-specを保存
34. 34 データ収集の仕組み: データを集める マイクロサービスの依存関係のグラフ Datadog: /api/v1/service_dependencies Network: network policyの設定（terraformをパース） ServiceEnv: Podの環境変数の宛先
35. 35 データ収集の仕組み: データを集める 毎月の費用グラフ Microservice Dashboard Cloud Spanner etc 費用データを格納 費用データを保存 BigQuery 費用データを取得 Platform
36. 36 データ収集の仕組み: データを集める GCPリソース Microservice Dashboard Cloud Spanner etc GCPリソースのデータを保存 Cloud Asset API で取得 Cloud APIs microservices-terraform git clone & parse terraform
37. 37 データ収集の仕組み: データを集める Kubernetesリソース API Gateway Microservice Dashboard GraphQL server Cloud Spanner etc Browse Kubernetes API GraphQL Query Kubernetes API Development Production kubernetes/client-go
38. 38 データ収集の仕組み: データを集める gRPC API定義 API Gateway Microservice Dashboard gRPC server Cloud Spanner Pub/Sub etc platform-proto リポジトリ CIでFileDescriptorSetを生成してpublish FileDescriptorSetを保存
39. 39 データ収集の仕組み: データを集める SLO Microservice Dashboard Cloud Spanner etc デイリーでSLOの履歴を保存 datadog API で取得
40. 40 データ収集の仕組み: データを集める Schema Service Spec Service Dependency Service Cost Google Project Kubernetes Namespace Service API Service SLO
41. 41 データの再利用 GraphQL APIを提供 API Gateway Microservice Dashboard GraphQL server Cloud Spanner Browse GraphQL Query etc GraphQL Query System
42. 42 データの再利用 マイクロサービスに関するデータのHUB Microservice Dashboard
43. 今後の取り組み 43
44. 44 今後の取り組み データの更新イベント Microservice Dashboard Cloud Spanner etc 2.データの更新をpublish Pub/Sub 1.何かデータを保存
45. 45 今後の取り組み データの更新イベントをきっかけに行動を起こす Microservice Dashboard Cloud Spanner etc 2.データの更新をpublish Pub/Sub 1.何かデータを保存 System 3.データの更新をsubscribe 4.アクション
46. 46 抱えている課題 各マイクロサービスに対応してほしいことがあるとき Service A Service C Service B … 🙇 🙇 🙇 🙇
47. 47 抱えている課題 マイクロサービス毎にTODOの管理 Service A: TODO Service C: TODO Service B: TODO … Microservice Dashboard Service A Owner Platform 進捗確認 やること確認
48. 48 今後の取り組み TODO管理用のAPIの提供 Service A: TODO Service C: TODO Service B: TODO … Microservice Dashboard GraphQL API TODO System TODO更新
49. 49 今後の取り組み イベントをきっかけとしたTODOの更新 Service A: TODO Service C: TODO Service B: TODO … Microservice Dashboard GraphQL API TODO System TODO更新 Pub/Sub データ更新イベント
50. 50 今後の取り組み イベントをきっかけとした一貫したデータの変換 something Microservice Dashboard GraphQL API System 変換＆更新 Pub/Sub データ更新イベント