Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
マイクロサービスダッシュボードの紹介
Search
Yuta UEKUSA
December 15, 2021
Technology
1
1.7k
マイクロサービスダッシュボードの紹介
https://mercari.connpass.com/event/230951/
Yuta UEKUSA
December 15, 2021
Tweet
Share
Other Decks in Technology
See All in Technology
What if...? 처음부터 다시 LLM 어플리케이션을 개발한다면
huffon
0
1k
年間一億円削減した時系列データベースのアーキテクチャ改善~不確実性の高いプロジェクトへの挑戦~
lycorptech_jp
PRO
3
2.9k
データベース研修 分析向けSQL入門【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
110
技術負債による事業の失敗はなぜ起こるのか / Why do business failures due to technical debt occur?
i35_267
0
190
E2Eテスト自動化プラットフォームにおけるAIの活用
shift_evolve
0
180
可視化プラットフォームGrafanaの基本と活用方法の全て
hamadakoji
0
230
Amazon FSx for NetApp ONTAPのパフォーマンスチューニング要素をまとめてみた #cm_odyssey #devio2024
non97
0
220
「単なる OAuth 2.0 を認証に使うと、車が通れるほどのどでかいセキュリティー・ホールができる」のか検証してみた
terara
0
380
AOAI Dev Day LLMシステム開発 Tips集
hirosatogamo
15
3.6k
ゆめみのアクセシビリティの現在地と今後
ryokatsuse
3
290
サーバーレスAPI(API Gateway+Lambda)とNext.jsで 個人ブログを作ろう!
shuntaka
PRO
0
560
楽しくGoを学び合う、LayerXの勉強会文化 / LayerX's study culture of having fun and learning Go together
ar_tama
2
350
Featured
See All Featured
Stop Working from a Prison Cell
hatefulcrawdad
266
20k
Web Components: a chance to create the future
zenorocha
307
41k
How to Think Like a Performance Engineer
csswizardry
4
590
How to Ace a Technical Interview
jacobian
274
23k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
245
1.2M
Done Done
chrislema
179
15k
The Language of Interfaces
destraynor
151
23k
Happy Clients
brianwarren
94
6.5k
Build your cross-platform service in a week with App Engine
jlugia
227
17k
What’s in a name? Adding method to the madness
productmarketing
PRO
21
2.9k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
662
120k
Bootstrapping a Software Product
garrettdimon
PRO
304
110k
Transcript
Infrastructure as Codeで構築したリソースの可視化と再利用 マイクロサービスダッシュボードの紹介
2 自己紹介 2017年7月に旧ソウゾウに入社 2018年1月にメルペイに異動。テックリードとしてマイクロサービスの開発を担当 2019年7月にArchitectチームに異動 現在は主にマイクロサービスのためのダッシュボードの開発を担当 Merpay, Inc. Architect Team
Yuta Uekusa
3 Agenda メルペイのマイクロサービスアーキテクチャについて 01 マイクロサービスダッシュボードの紹介 02 今後の取り組み 03
メルペイのマイクロサービスアーキテクチャに ついて 4
5 マイクロサービスアーキテクチャ Client API Gateway Service B Service A Service
C Authority Cloud Spanner Pub/Sub Cloud Spanner Cloud Storage
6 マイクロサービスアーキテクチャ API Gateway Service B Service A Service C
Authority Cloud Spann er Pub/ Sub Cloud Spann er Clo ud Stor age API Gateway Service B Service A Service C Authority Cloud Spann er Pub/ Sub Cloud Spann er Clo ud Stor age Development Production
7 マイクロサービスアーキテクチャ Client Cloud Spanner Pub/Sub Cloud Spanner Namespace Cloud
Storage Service C Namespace Namespace Namespace Namespace Service B Service A API Gateway Authority
8 マイクロサービスアーキテクチャ: インフラ構築 Namespace: Service A Project: Service A boot
strap Service A
9 マイクロサービスアーキテクチャ: インフラ構築 microservices-terraform リポジトリ
10 マイクロサービスアーキテクチャ: 通信プロトコル Client Cloud Spanner Pub/Sub Cloud Spanner Namespace
Cloud Storage Service C Namespace Namespace Namespace Namespace Service B Service A API Gateway Authority gRPC gRPC gRPC
マイクロサービスダッシュボードの紹介 11
12 マイクロサービスダッシュボードとは? マイクロサービスに関する様々なデータを収集 01 集めたデータを可視化するウェブポータルサイト 02 集めたデータをAPIとして提供 03
13 モチベーション マイクロサービスの状態や品質を把握したい 01 ドキュメントが自動的に生成される状態にしたい 02
14 機能紹介 ・トップ画面 ・サービス詳細画面 ・サービス詳細画面: インフラ ・サービス詳細画面: アプリケーション ・サービス詳細画面: API
・サービス詳細画面: SLO
15 機能紹介: トップ画面
16 機能紹介: トップ画面
17 機能紹介: サービス詳細画面
18 機能紹介: サービス詳細画面 serviceID: merpay-service-a description: This is service-a corporation:
MERPAY teamName: merpay-architect-jp contact: slack: generalChannelId: C0123456 alertChannelId: C12345678 … service spec file
19 機能紹介: サービス詳細画面(サービスの依存関係, 費用のグラフ)
20 機能紹介: サービス詳細画面(インフラタブ)
21 機能紹介: サービス詳細画面(アプリケーションタブ)
22 機能紹介: サービス詳細画面(アプリケーションタブ)
23 機能紹介: サービス詳細画面(APIタブ)
24 機能紹介: サービス詳細画面(APIタブ)
25 機能紹介: サービス詳細画面(SLOタブ)
26 機能紹介: SLOダッシュボード
27 マイクロサービスダッシュボードの仕組み 技術スタック Backend Frontend • Go • Cloud Spanner,
Pub/Sub, Scheduler, Tasks • gRPC, GraphQL (99designs/gqlgen, vektah/dataloaden) • TypeScript • React, Material-UI • GraphQL (apollo-client)
28 マイクロサービスダッシュボードの仕組み Single Page Application API Gateway Microservice Dashboard Go
serves assets gRPC server GraphQL server Cloud Spanner Browse Get / Assets GraphQL Query Data etc
29 データ収集の仕組み Cloud Scheduler: 定期的にデータを取得 01 Cloud Pub/Sub: イベントメッセージからデータを取得 02
Cloud Tasks: マニュアルオペレーション 03 データ収集のトリガー
30 データ収集の仕組み トリガー発動後 API Gateway Microservice Dashboard gRPC server Cloud
Spanner HTTP Cloud Scheduler Cloud Tasks Pub/Sub HTTP HTTP gRPC データ収集 etc
31 データ収集の仕組み トリガー発動後 API Gateway Microservice Dashboard gRPC server Cloud
Spanner HTTP Cloud Scheduler Cloud Tasks Pub/Sub HTTP HTTP gRPC タイムアウト 処理中... etc
32 データ収集の仕組み 愚直に集めている 管理するデータの構造を定義して機械的に処理可能にする データを集める
33 データ収集の仕組み: データを集める マイクロサービスの一覧 API Gateway Microservice Dashboard gRPC server
Cloud Spanner Pub/Sub etc microservices-terraform リポジトリ CIで各microserviceの service-specをpublish service-specを保存
34 データ収集の仕組み: データを集める マイクロサービスの依存関係のグラフ Datadog: /api/v1/service_dependencies Network: network policyの設定(terraformをパース) ServiceEnv:
Podの環境変数の宛先
35 データ収集の仕組み: データを集める 毎月の費用グラフ Microservice Dashboard Cloud Spanner etc 費用データを格納
費用データを保存 BigQuery 費用データを取得 Platform
36 データ収集の仕組み: データを集める GCPリソース Microservice Dashboard Cloud Spanner etc GCPリソースのデータを保存
Cloud Asset API で取得 Cloud APIs microservices-terraform git clone & parse terraform
37 データ収集の仕組み: データを集める Kubernetesリソース API Gateway Microservice Dashboard GraphQL server
Cloud Spanner etc Browse Kubernetes API GraphQL Query Kubernetes API Development Production kubernetes/client-go
38 データ収集の仕組み: データを集める gRPC API定義 API Gateway Microservice Dashboard gRPC
server Cloud Spanner Pub/Sub etc platform-proto リポジトリ CIでFileDescriptorSetを生成してpublish FileDescriptorSetを保存
39 データ収集の仕組み: データを集める SLO Microservice Dashboard Cloud Spanner etc デイリーでSLOの履歴を保存
datadog API で取得
40 データ収集の仕組み: データを集める Schema Service Spec Service Dependency Service Cost
Google Project Kubernetes Namespace Service API Service SLO
41 データの再利用 GraphQL APIを提供 API Gateway Microservice Dashboard GraphQL server
Cloud Spanner Browse GraphQL Query etc GraphQL Query System
42 データの再利用 マイクロサービスに関するデータのHUB Microservice Dashboard
今後の取り組み 43
44 今後の取り組み データの更新イベント Microservice Dashboard Cloud Spanner etc 2.データの更新をpublish Pub/Sub
1.何かデータを保存
45 今後の取り組み データの更新イベントをきっかけに行動を起こす Microservice Dashboard Cloud Spanner etc 2.データの更新をpublish Pub/Sub
1.何かデータを保存 System 3.データの更新をsubscribe 4.アクション
46 抱えている課題 各マイクロサービスに対応してほしいことがあるとき Service A Service C Service B …
🙇 🙇 🙇 🙇
47 抱えている課題 マイクロサービス毎にTODOの管理 Service A: TODO Service C: TODO Service
B: TODO … Microservice Dashboard Service A Owner Platform 進捗確認 やること確認
48 今後の取り組み TODO管理用のAPIの提供 Service A: TODO Service C: TODO Service
B: TODO … Microservice Dashboard GraphQL API TODO System TODO更新
49 今後の取り組み イベントをきっかけとしたTODOの更新 Service A: TODO Service C: TODO Service
B: TODO … Microservice Dashboard GraphQL API TODO System TODO更新 Pub/Sub データ更新イベント
50 今後の取り組み イベントをきっかけとした一貫したデータの変換 something Microservice Dashboard GraphQL API System 変換&更新
Pub/Sub データ更新イベント
51