Slide 9
Slide 9 text
データ多すぎ対策後の分析基盤
3.データ多すぎ対策後の分析基盤
• 状況
• ユーザ数、数十万~数百万
• Mongoのmap reduce遅すぎ。朝になっても終わらないKPI集計。
• あふれだすデータ
• いつからかWAUの伸びが鈍化し始める…
• Mongo見てみると、消えていっていた(capped collection)
• あふれたデータを使用するのが面倒
• 古いデータを分析する時に、S3に上がったデータを一回落として
きて、ゴニョゴニョ。。
• やってたこと
• MongoDBからのKPI算出の排除(本当は少し残ってる)
• MongoDBは一時データ保管場所として、軽く触りたい時に使用
• KPI集計、過去データを用いた分析はRedshiftを用いて行う