Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
稼働7年目のリアルタイムコメントシステム改善に向き合う、地道なSREアプローチ
Search
gree_tech
PRO
October 25, 2024
Video
Technology
1
650
稼働7年目のリアルタイムコメントシステム改善に向き合う、地道なSREアプローチ
GREE Tech Conference 2024で発表された資料です。
https://techcon.gree.jp/2024/session/TrackC-4
gree_tech
PRO
October 25, 2024
Tweet
Share
Video
More Decks by gree_tech
See All by gree_tech
LLM翻訳ツールの開発と海外のお客様対応等への社内導入事例
gree_tech
PRO
0
850
ヘブンバーンズレッドのレンダリングパイプライン刷新
gree_tech
PRO
0
870
ヘブンバーンズレッドにおける、世界観を活かしたミニゲーム企画の作り方
gree_tech
PRO
0
860
「魔法少女まどか☆マギカ Magia Exedra」のグローバル展開を支える、開発チームと翻訳チームの「意識しない協創」を実現するローカライズシステム
gree_tech
PRO
0
850
「魔法少女まどか☆マギカ Magia Exedra」での負荷試験の実践と学び
gree_tech
PRO
0
930
「魔法少女まどか☆マギカ Magia Exedra」の必殺技演出を徹底解剖! -キャラクターの魅力を最大限にファンに届けるためのこだわり-
gree_tech
PRO
0
860
ヒューリスティック評価を用いたゲームQA実践事例
gree_tech
PRO
0
850
ライブサービスゲームQAのパフォーマンス検証による品質改善の取り組み
gree_tech
PRO
0
850
コミュニケーションに鍵を見いだす、エンジニア1年目の経験談
gree_tech
PRO
0
150
Other Decks in Technology
See All in Technology
生成AIを活用したZennの取り組み事例
ryosukeigarashi
0
200
【新卒研修資料】LLM・生成AI研修 / Large Language Model・Generative AI
brainpadpr
23
17k
コンテキストエンジニアリングとは? 考え方と応用方法
findy_eventslides
4
890
Oracle Base Database Service 技術詳細
oracle4engineer
PRO
11
77k
AI時代だからこそ考える、僕らが本当につくりたいスクラムチーム / A Scrum Team we really want to create in this AI era
takaking22
6
3.4k
多様な事業ドメインのクリエイターへ 価値を届けるための営みについて
massyuu
0
110
How to achieve interoperable digital identity across Asian countries
fujie
0
110
FastAPIの魔法をgRPC/Connect RPCへ
monotaro
PRO
1
730
業務自動化プラットフォーム Google Agentspace に入門してみる #devio2025
maroon1st
0
190
Azure Well-Architected Framework入門
tomokusaba
1
290
社内お問い合わせBotの仕組みと学び
nish01
0
150
PLaMoの事後学習を支える技術 / PFN LLMセミナー
pfn
PRO
9
3.8k
Featured
See All Featured
4 Signs Your Business is Dying
shpigford
185
22k
Writing Fast Ruby
sferik
629
62k
Music & Morning Musume
bryan
46
6.8k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
13k
The Cost Of JavaScript in 2023
addyosmani
53
9k
StorybookのUI Testing Handbookを読んだ
zakiyama
31
6.2k
Thoughts on Productivity
jonyablonski
70
4.9k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
667
120k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
52
5.6k
Visualization
eitanlees
148
16k
Product Roadmaps are Hard
iamctodd
PRO
54
11k
Designing Dashboards & Data Visualisations in Web Apps
destraynor
231
53k
Transcript
稼働7年目のリアルタイム コメントシステム改善に向き合う、 地道なSREアプローチ REALITY株式会社 エンジニア 小田 大輔
小田 大輔 / Daisuke Oda REALITY株式会社 エンジニア 2 • 主なお仕事
◦ 開発生産性改善 ◦ インフラ費用削減・維持 ◦ パフォーマンス改善
目次・アジェンダ • REALITYのご紹介 • リアクティブな対応による功罪 • コメントシステム改善の全体象 • 改善事例のご紹介 •
得られた教訓 3
REALITYについて 4
• スマホひとつでアバターライブ配信などを楽しめるアプリ • 12言語対応で63の地域で配信中 5 REALITYのご紹介
6
7 売上高 65億円 営利 13億円
REALITYの 配信コメントシステム 8
9 ←視聴者のコメント
コメントシステムについて 10 • システム構成 ◦ GKEで提供 ◦ WebSocketでのリアルタイム投稿・表示 • コメントで投稿されるデータ
◦ ユーザのテキスト入力 ◦ システムコメント群 ▪ ギフティング・フォロー・ミッション達成など • その他の機能 ◦ 裏で同時接続数などの配信属性を記録している システムコメント
今までのコメントシステム への向き合い方 11
コメントシステムはリアクティブに問題改善していた 12
リアクティブな対応により起きていた問題 • 目指すべき方向を見失いがちで、負債も溜まってきた ◦ こういう部分から間接的に経済合理性も損なわれる • 事前対処の練度が下がる • 改善の余地がある場合でも、優先度が上がりづらい /
体系的 にどう改善したら良いか把握しづらい ◦ コアなシステムなのに 13
REALITYが10xする前に 体系的に改善する機構にしたい 14
各分野で目標値を決め、制御工学的に健全性を保つ 例えば • 障害判定のラインを決める • トラフィックあたりの目安 料金 / スペック値を決める •
「テストカバレッジを上げる」のような指針を決める 15
16
• これによって目指すべき方向が明らかになり、システ ムの健全性がわかりやすく • 心理的にも安心感が生まれる • 体系的にシステムに向き合えることで価値提供がしや すくなるはず 17
18 (コメントシステムのビジネスオーダー) 信頼性維持 素早く価値提供 ソフトウェア アーキテクチャ改善 テストを 書きやすい環境 BlueGreenデプロイ導入 可用性指標
の策定と計測 パフォーマ ンス改善
取り組み 一挙ご紹介 19
20 (ビジネスオーダー) 信頼性維持 素早く価値提供 ソフトウェア アーキテクチャ改善 テストを 書きやすい環境 可用性指標 の策定と計測
パフォーマ ンス改善 BlueGreenデプロイ導入
21 コメントシステムのアーキテクチャ 全Podが全配信の コメントを受信 Node.js
Redis Pub/Subアーキテクチャのボトルネックについて • 全ユーザのコメントが全Podを経由するようになっていた ◦ 視聴者が誰もいない配信でも、全Podがその配信のコメントを Subscribeする • それにより負荷逼迫。残念ながらややユーザ影響が出ている •
接続中の最低限のPodのみ経由するようにしたい 22
Redis Pub/Subアーキテクチャ改善方針 • ユーザの接続実態があるPodだけ当該配信のRedis Channel にSubscribeするように変更 • 注意したこと ◦ Redisのコマンド計算量の変化を細かく見積もった
▪ キャパシティプランニングの意味で 23
24
改善後のアーキテクチャ 25 Node.js
ついでに負荷分散の強化 • 一定以上のCPU利用率になったらk8s readiness probeを失 敗させて均等に負荷分散するように ◦ WebSocketで長時間接続し続ける特性上、このような機 構に ◦
他のWebSocket系サーバで実装している仕組みを輸入 26
パフォーマンス改善幅 27 PodのCPU 66%DOWN & メモリ90% Down イベントループラグ安定 Pub/Sub用のRedisのCPU負荷半減 さらにPod数も改善前の
3分の1で済むように
また、Redis Pub/Subも水平分割することで 理論上は無限水平スケールが可能に 28
29 (ビジネスオーダー) 信頼性維持 素早く価値提供 ソフトウェア アーキテクチャ改善 テストを 書きやすい環境 パフォーマ ンス改善
可用性指標 の策定と計測 ※SREプラクティスでいうSLAや エラーバジェットの策定に近い
可用性指標の策定と計測 • パフォーマンスの健全性を管理するため策定 ◦ デプロイ頻度も上がってきたので事故率を可視化したい という意図がある • 以下の項目を可用性指標としました ◦ 1.
WebSocket接続直後のコメントデータレスポンスレイテンシ ◦ 2. コメント投稿から他ユーザがSubscribeするまでのレイテンシ 30
可用性指標の計測方針 • OpenTelemetryでレイテンシ計測していく ◦ メトリクスはGoogle Cloud Monitoringに保存 • まず当時、Node.jsのバージョンを12から18に上げた。 ◦
OpenTelemetry JavaScript SDKの安定版が当該Node.jsバージョンに 対応していなかったので。 31
可用性指標の計測の実装 • 接続時の初期データレスポンスレイテンシの計測方法 ◦ WebSocket handshake完了時のtimestampを記録 ◦ レスポンス直前のtimestampとの差分をレイテンシとして記録 • コメント投稿レイテンシの計測方法
◦ コメント投稿時のpublishデータにtimestampを記録 ◦ Redis subscribeでデータを受け取った時点との差分をレイテンシとする 32
可用性ダッシュボード 一定値以上になるとアラートが飛ぶ。 「一定の閾値に保つ」というフィードバックループを回せるようになった 33
34 (ビジネスオーダー) 信頼性維持 素早く価値提供 ソフトウェア アーキテクチャ改善 テストを 書きやすい環境 パフォーマ ンス改善
可用性指標 の策定と計測 BlueGreenデプロイ導入
WebSocket + GKE + IstioでのBlueGreenデプロイ • リリース時にGreen環境を作成 • HTTPヘッダーベースで、開発者のみGreen環境にアクセス して動作確認できるように
35
具体的には • WebSocketハンドシェイク時の HTTPリクエストのヘッダの値を元 にIstioのVirtualServiceでトラ フィック振り分け(つまりL7) 36
イメージ図 37
• 使い方を細かくドキュメント化し、不安感をやわら げながら展開 • GKE + IstioでWebSocketサーバをトラフィック制 御している事例が少ない ◦ 国内でも有数の事例になった
38
39 (ビジネスオーダー) 信頼性維持 素早く価値提供 ソフトウェア アーキテクチャ改善 パフォーマ ンス改善 可用性指標 の策定と計測
テストを 書きやすい環境 BlueGreenデプロイ導入
• 人によってテストを書いたり書かなかったり まちまち • テストカバレッジ不明 • データストアと通信するテストが書きづらい 40 コメントシステムのテストの課題点
1. Jestの導入 2. コンテナでテスト実行するように 3. Redisをテストコンテナで動かすように ◦ モックではなく実物で動かしたい 41 [やったこと1]まずテストを実行しやすい環境づくり
[やったこと2]テストカバレッジの可視化 42
[やったこと2]テストカバレッジの可視化 43 1. Github Actionsでカバレッジデータ生成 2. Cloud Storageにアップロード 3. Looker
Studioで2をデータソースにして グラフとしてダッシュボード化
44 (ビジネスオーダー) 信頼性維持 素早く価値提供 パフォーマ ンス改善 可用性指標 の策定と計測 テストを 書きやすい環境
ソフトウェア アーキテクチャ改善 BlueGreenデプロイ導入
コメントシステムのコードベースの課題 • 起きていた現象 ◦ ロジックが入り組み肥大化 & 凝集度が低下してきている部 分が多々ある • 生じた課題
◦ ドメイン知識が把握しづらい / 開発に時間がかかる 45
コードベースの改善の進め方 • 改善に興味のある有志メンバーでキックオフした ◦ 課題の炙り出し / 優先度付 / 目線合わせの実施 ◦
有志メンバー = DevOpsチーム + サーバチーム • 優先度が高い & 抽象度の高い課題は ◦ 特に関心が高いメンバーで話し合って詳細方針を決めた 46
良い改善は良い問いから Q.ソフトウェアアーキテクチャを なぜ改善するのか? 47
良い改善は良い問いから A. 機能ドメインが整理され、価値 提供しやすくなるから 48 さらに言うと この改善幅が大きいから
キックオフ実施 49 実際の議事録
50
チケット化してみんなで消化 51
“コードベース改善の取り組み”で得られた効果 • コメントサーバの機能開発がしやすくなった ◦ APIハンドラをRESTのリソースごとにファイル分割した ◦ APIハンドラと同じ場所に定義されていたドメインロジック群も 専用の層に分離した、など • コメントサーバについて詳しいメンバーが増えるという副次
効果も 52
全体像まとめ 53
54 (コメントシステムのビジネスオーダー) 信頼性維持 素早く価値提供 ソフトウェア アーキテクチャ改善 テストを 書きやすい環境 BlueGreenデプロイ導入 可用性指標
の策定と計測 パフォーマ ンス改善
全体を通して得られた教訓 • 相変わらず銀の弾丸は無いが、SRE文化が発展してきたこと により参考にしやすい事例が増えた • 最初に抽象的なものをコアメンバーで潰し、協力者に具体タ スクとして展開していく方法がワークした • ついでにNode.jsのランタイム知見が得られた 55
Goodbye, Silver Bullet! 56
ご清聴ありがとうございました 57
None