Slide 9
Slide 9 text
サイロ化の解消:データの取得元に引きずられない一元管理
【再現性重視】
不変のソースから再生可能
バグ混入や仕様変更等、過去に遡ってデータを再構築したい事
態に対応するため、S3上の生ログやRDBMS等の過去ソースを
加工せずに永続保持
万が一、不具合が発生した場合は、テーブルを初期化して、不
変ソースからデータを再流入させる冪等設計
【全データ完全再構築時間】
2, 3時間程度
初期フェーズでデータ不具合が発生した際も、
安全に全データを復旧した実績あり
【以前:ツール別の分断と不便】
データのサイロ化
• RDBMS は個別の BI ツール、行動ログは Athena で分析
• スキャンコストや速度面の課題が顕在化
• ツール分断による複数ソースの横断紐付けの困難化
【現在: Databricks一元統合の成果】
Databricks Workflowsで一元管理
S3 も RDBMS もすべてが同じ場所で綺麗に結合
普段は差分取り込みで高速ロード
障害時は数時間程度で全データ再構築を可能にする安全設計
毎日新規レコード
億単位
累計レコード
数百億規模