30万人が利用するチャットをFirebase Realtime DatabaseからActionCableへ移行する方法

【Kaigi on Rails 2024 登壇資料】
https://kaigionrails.org/2024/talks/ryosk7/

エンタメマッチングアプリ「pato」は、長らくFirebase Reailtime Databaseを使ってチャット機能を提供してきました。
しかしユーザー数増加に伴い、一斉送信への負荷が高まってきました。全ユーザーに送信するのに、時には1日以上かかることも。
そこで私はFirebase Realtime DatabaseからMySQLに移行し、Firebaseの制約を乗り越えつつ、ActionCableを使ってリアルタイム通信を実現しました。
本トークではRuby on RailsからFirebase Realtime Databaseを使う上での苦労と、乗り換えるに至った背景、実際にどのように移行作業を行なったのかをお話しし、
リアルタイムチャットアプリケーションを実装する上での知見を共有できると幸いです。

Transcript

1. ©Kineca ＆ Co.,Inc. All rights reserved.
2. ©Kineca ＆ Co.,Inc. All rights reserved. 今日お話すること • Firebase Realtime Databaseからの移行理由と課題 • Action Cableの選定と導入プロセス • 移行後の成果と学び
3. ©Kineca ＆ Co.,Inc. All rights reserved. 前提の共有 このプロジェクトを進めた背景に、メッセージの一斉送信が ユーザー数増加に伴い遅延してしまう問題がありました。 今回は、どのようにその問題に立ち向かったかという点も 触れてお話します。
4. ©Kineca ＆ Co.,Inc. All rights reserved. 自己紹介 @ryosk7 Ryosuke Uchida 株式会社KINECA エンタメマッチングアプリ「pato」で開発しています 普段はOmotesando.rbでLTしています 技術書典で本を出しています Roppongi.rbのオーガナイザーをしています ✌
5. ©Kineca ＆ Co.,Inc. All rights reserved. 2024/11/14 19:30~
6. ©Kineca ＆ Co.,Inc. All rights reserved. 6
7. ©Kineca ＆ Co.,Inc. All rights reserved. 1 2 3 4 5 アジェンダ ボトルネックと技術選定 patoのチャット機能について リリースまでのロードマップ 残された課題 まとめ
8. ©Kineca ＆ Co.,Inc. All rights reserved. ©Kineca ＆ Co.,Inc. All rights reserved. patoのチャット機能について 8 01
9. ©Kineca ＆ Co.,Inc. All rights reserved. patoのチャット機能について 創業当時(2017年〜)からFirebaseを利用していた 選定理由 • 簡単にチャット機能が実装できる • 低コストで運用可能
10. ©Kineca ＆ Co.,Inc. All rights reserved. patoのチャット機能について このエリアは自由に図や画像などを貼ってください 10 Datastream GKE Nodes Cloud Load Balancing Cloud DNS Master Cloud SQL BigQuery Rails アプリケー ションログ Redis Master Memorystore MySQL チャットデータの読 み込み GCP application server GKE/Kubernetes ※ 米国（us-central1）
11. ©Kineca ＆ Co.,Inc. All rights reserved. patoのチャット機能について
12. ©Kineca ＆ Co.,Inc. All rights reserved. patoのチャット機能について
13. ©Kineca ＆ Co.,Inc. All rights reserved. patoのチャット機能について ※ 2017年当時は、us-centralしか選択できませんでした。
14. ©Kineca ＆ Co.,Inc. All rights reserved. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定 14 02
15. ©Kineca ＆ Co.,Inc. All rights reserved. • リージョンが『us-central』 • 1,000リクエスト/秒という制約が存在 ボトルネックと技術選定 抱えていた問題
16. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定 リージョンが『us-central』
17. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定 1,000リクエスト/秒という制約が存在
18. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定
19. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定
20. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックとは関係ないが... ボトルネックと技術選定
21. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定
22. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定 メンテナンスがされておらず、 PRも投げてみたが反応がなかった。
23. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定 よし、のりかえよう！！！
24. ©Kineca ＆ Co.,Inc. All rights reserved. • Firestore • Cloud Pub/Sub • Action Cable ボトルネックと技術選定 代替案
25. ©Kineca ＆ Co.,Inc. All rights reserved. 書き込みスケーラビリティが良い 料金が高い ボトルネックと技術選定 Firestore
26. ©Kineca ＆ Co.,Inc. All rights reserved. フルマネージドでメンテナンスが不要 Pub/Subによるスループット、 ストレージ料金がかかる ボトルネックと技術選定 Cloud Pub/Sub
27. ©Kineca ＆ Co.,Inc. All rights reserved. npmパッケージがあり、 フロントエンド側の実装も楽 インフラレイヤーのメンテナンスが必要 ボトルネックと技術選定 Action Cable
28. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定 Firebase Realtime Databaseより コスト高いのはチョット ...󰢃
29. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定 そもそもベンダーロックやだ。 もう振り回されたくない ...󰢃
30. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定 Action Cableよさそう • 複数DBからの開放 • ベンダーロックからの開放 • I/O面でのボトルネックからの開放
31. ©Kineca ＆ Co.,Inc. All rights reserved. ボトルネックと技術選定 Action Cableよさそう？ 個人で試した記事はよく見るが、大規模なチャットサービスでの事例は国内であ まり聞かない。 👉 事例作っちゃうかぁ
32. ©Kineca ＆ Co.,Inc. All rights reserved. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 32 03
33. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ データ移行 本番環境下で検証 Action Cableに載せ替え シン・一斉送信
34. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ データ移行
35. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ データ移行
36. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ データ移行 Firebase Realtime Databaseの全データを 一度Bigqueryに吐き出して、どんなKeyがある のか調査した
37. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
38. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
39. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ Firebase 👉 Bigquery よくわからないKeyがめちゃくちゃ生えてる🌱
40. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
41. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
42. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
43. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
44. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
45. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
46. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 本番環境下で検証
47. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ flipperを利用
48. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 本番環境で起こった事象
49. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 本番環境で起こった事案 GKEを利用していたので、 コネクションが30秒で切れてしまう
50. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 本番環境で起こった事案 連続でメッセージを送ると、 データがロストしてしまう
51. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 本番環境で起こった事案 タイムアウトの時間を伸ばす？
52. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 本番環境で起こった事案 タイムアウトの時間を伸ばすと、コストがかかる ピーク時のユーザー増加に伴い占有率が上がる
53. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 再接続時に足りないデータを再送するようにした
54. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ ギフト機能
55. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ ギフト機能も、 チャットとして送信される
56. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 即時決済が走るギフト機能 メッセージ送信側は、 コネクションのことを気にしたくない
57. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 送信者はAction Cable経由ではなく Postリクエストで対応 即時決済が走るギフト機能 success
58. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ 同時接続の安定化
59. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ Thread Web Concurrency Pumaのプロセスが処理できる並列リクエストの数。 Pumaのプロセス数（ワーカー数）。各プロセスは独立しており、 それぞれがスレッドプールを持っている。
60. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ Threadの方がメモリ効率がいい
61. ©Kineca ＆ Co.,Inc. All rights reserved. ビジネスメンバーの声 リリースまでのロードマップ
62. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
63. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
64. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
65. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
66. ©Kineca ＆ Co.,Inc. All rights reserved. リリースまでのロードマップ
67. ©Kineca ＆ Co.,Inc. All rights reserved. ©Kineca ＆ Co.,Inc. All rights reserved. 残された課題 67 05
68. ©Kineca ＆ Co.,Inc. All rights reserved. 残された課題 MySQLの制約
69. ©Kineca ＆ Co.,Inc. All rights reserved. 残された課題 INSERT時にRETURNINGが使えないため、 関連テーブルの一括作成が難しかった
70. ©Kineca ＆ Co.,Inc. All rights reserved. 残された課題 LAST_INSERT_ID()というものがあるが、 Transactionを貼った状態じゃないと、 関連したレコードであることを担保できない。 👉 リアルタイムのメッセージングに影響する。
71. ©Kineca ＆ Co.,Inc. All rights reserved. 残された課題 • talksテーブルに関連するカラムを追加 • MariaDBに乗り換え (GCPはサポートしてないので、AWSに乗り換え？)
72. ©Kineca ＆ Co.,Inc. All rights reserved. 残された課題 運用コスト
73. ©Kineca ＆ Co.,Inc. All rights reserved. 残された課題 スケール時のインフラコストがまだ課題 Action Cableをスタンドアロンで動かしたい
74. ©Kineca ＆ Co.,Inc. All rights reserved. 残された課題 コネクションのタイムアウトや、 占有率も改善できそう スタンドアロンにすると...
75. ©Kineca ＆ Co.,Inc. All rights reserved. ©Kineca ＆ Co.,Inc. All rights reserved. まとめ 75 06
76. ©Kineca ＆ Co.,Inc. All rights reserved. FirebaseからAction Cableへの移行プロセス コスト削減、パフォーマンス改善、スケーラビリティ向上 将来的な運用改善案 まとめ
77. ©Kineca ＆ Co.,Inc. All rights reserved. インフラチーム・分析チームのみなさん 相談に乗っていただいた@igaiga555さん CfPの提出に協力してくれた Shinjuku.rb と @onigra_ さん
 
 ありがとうございました！ 謝辞
78. ©Kineca ＆ Co.,Inc. All rights reserved. ©Kineca ＆ Co.,Inc. All rights reserved. ご清聴ありがとうございました 78