trocco SREチームの概要と取り組みについて

by dododo8m

Slide 1

Slide 1 text

2021/05/14 株式会社primeNumber  百々太市  trocco SREチームの概要と取り組みについて  0 

Slide 2

Slide 2 text

©2021 primeNumber Inc. All Rights Reserved. Conﬁdential. 1  会社紹介と本日出席のメンバー紹介  ✔ 株式会社primeNumber 2015年11月設立 ✔ データエンジニアリングに特化した開発事業を展開　　 ✔ 分析基盤の総合支援サービス trocco (トロッコ) の開発・運営 ✔ 執行役員CTO、エンジニア ✔ 鈴木健太 ✔ エンジニア ✔ 伊藤雄 ✔ プリセールス ✔ 中山浩平 ✔ カスタマーサクセス、エンジニア ✔ 百々太市（本日の発表者）会社説明  本日の出席者 

Slide 3

Slide 3 text

©2021 primeNumber Inc. All Rights Reserved. Conﬁdential. troccoの基本機能の紹介  2  企業の様々なデータの活用を支援する「日本発」のデータ統合自動化サービスです ✔ 様々な種類のデータソースに対して GUIを用いて簡単にデータ転送パイプラインを構築できます ✔ データマート機能によりDWH管理を柔軟に行うことができます　　 ✔ 複雑なデータ転送パイプラインを GUI上で簡単に定義することが出来ます

Slide 4

Slide 4 text

©2021 primeNumber Inc. All Rights Reserved. Conﬁdential. troccoを安定稼働させる上での難しさ  3  様々な形式のデータ型に対してスキーマを自動推論することが可能   スケーラビリティの考慮されたインフラで、高速化や同時並列実行も問題なし   100種以上のDB・ストレージ・SaaSと連携可能   troccoの原則  安定運用させるためのポイント  お客様固有のあらゆるデータに対応する必要がある  お客様のパフォーマンス要件に合わせたデータ統合基盤であり続ける必要がある   様々なサードパーティ製のサービスに対して品質良く連携し続ける必要がある   troccoの原則がそのまま安定稼働の難しさに直結している 

Slide 5

Slide 5 text

Slide 6

Slide 6 text

©2021 primeNumber Inc. All Rights Reserved. Conﬁdential. SREの目標設定  5  アプリケーションの品質向上（機能要件）バグを限りなく少なくし、 troccoの信頼度を高める。・テストの充実化・アプリ起因の品質強化・バグ分析と品質向上に向けたフローの整備 troccoのパフォーマンス維持（非機能要件）顧客数の増大に対し、転送遅延などのパフォーマンスをキープすることで、データパイプラインとしての信頼度を高める。また、セキュリティを強化することで顧客が安心してデータ転送を行える基盤をキープする。・パフォーマンス強化・セキュリティ強化・troccoコストの維持 trocco安定稼働一部属人化している監視周りを組織化し、インシデントの管理と品質へのフィードバックを含めたフローを構築し、より障害の少ない安定した基盤を達成する。・監視の強化と自動化・インシデント管理と品質向上に向けたフローの整備・SLOダッシュボードのブラッシュアップ CSチームとの連携強化顧客数増の計画に対し、顧客オンボーディング体制の増強が急務。CSチームと協力し、ともにオンボーディングを行い・CREチームの組成し、CSチームと連携しながら顧客の課題に対してテクニカルな観点で解決する継続的なリファクタリングの実施開発スピードを落とさないよう、継続的にコードベース・アーキテクチャの見直しを行っていく・日々のリファクタ・改善weekの実施

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

©2021 primeNumber Inc. All Rights Reserved. Conﬁdential. 監視の強化と自動化〜New Relicメトリクスのダッシュボード化〜  8  アプリケーション（APM、Prometheus）やインフラのメトリクスをもとにNew Relicのダッシュボード機能を用いて可視化  ✔ New Relic infraの k8sのメトリクスを利用した可視化 ✔ Cloudwatchのメトリクスを利用した可視化 ✔ Prometheusを用いたJVMのメモリの利用状況の可視化 ✔ APMのメトリクスを利用した可視化

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Slide 12

Slide 12 text

©2021 primeNumber Inc. All Rights Reserved. Conﬁdential. 監視の強化と自動化〜SLO / SLAダッシュボードの作成〜  11  New Relicやアプリケーションのメトリクスをtroccoを利用して  BigQueryに統合した上でDataportalを用いて可視化しています  ✔ trocco UIとデータ転送基盤それぞれに対してアプリケーション、インフラの観点で SLO / SLAを定めて可視化する