TB / Day規模のゲーム向けデータパイプラインを開発運用する日々

by gree_tech

Slide 1

Slide 1 text

Slide 2

Slide 2 text

目次 2 ● 会社紹介 ● データ基盤全般の紹介 ● AWSベースのデータ基盤 ● GCPベースのデータ基盤 ● 開発運用する日々の話 ● まとめ

Slide 3

Slide 3 text

会社紹介 3 社名グリー株式会社事業内容 ● ゲーム・ライブエンタメ事業 ● 広告・メディア事業 ● 投資事業設立 2004年12月7日代表者代表取締役会長兼社長　田中良和本社所在地東京都港区六本木 6-10-1　六本木ヒルズ森タワー従業員数 1,531人（グループ全体・ 2018年6月末現在）主なグループ企業 ● グリービジネスオペレーションズ株式会社 ● グリーベンチャーズ株式会社 ● ファンプレックス株式会社 ● 株式会社ポケラボ ● リミア株式会社 ● 株式会社ExPlay ● Glossom株式会社 ● GREE VR Capital, LLC. ● 株式会社Wright Flyer Studios ● 株式会社３ミニッツ

Slide 4

Slide 4 text

会社紹介 4

Slide 5

Slide 5 text

開発本部（の一部メンバー）会社紹介ゲームプラットフォーム事業 5 ゲーム事業ライブエンタメ事業メディア事業 ● 横断データ基盤、分析ツールの開発運用 ● 事業ごとのデータ基盤、分析ツールの開発運用

Slide 6

Slide 6 text

目次 6 ● 会社紹介 ● データ基盤全般の紹介 ● AWSベースのデータ基盤 ● GCPベースのデータ基盤 ● 開発運用する日々の話 ● まとめ

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

Slide 10

Slide 10 text

Slide 11

Slide 11 text

Copyright © GREE, Inc. All Rights Reserved. ● 旧Sun Microsystemsの専用アプライアンス(Solaris)から汎用IA サーバ(Ubuntu)へのMySQLマイグレーション ● ZFSの機能(zfs send)にpatchを当てて利用 ● オンプレミスHadoopからAWSデータ基盤へのマイグレーション ● データ送信はfluentdのダブルライト ● 過去ログはAWS Snowballデバイス ● バッチジョブは地道に書き換えるデータ基盤全般の紹介レガシーシステムからのマイグレーション

Slide 12

Slide 12 text

目次 12 ● 会社紹介 ● データ基盤全般の紹介 ● AWSベースのデータ基盤 ● GCPベースのデータ基盤 ● 開発運用する日々の話 ● まとめ

Slide 13

Slide 13 text

Slide 14

Slide 14 text

Slide 15

Slide 15 text

Slide 16

Slide 16 text

Copyright © GREE, Inc. All Rights Reserved. ● 会社組織が複雑になると、権限管理が複雑になる ● 書き込みに関しては、プロダクトごとにAWSアカウントがあるので、 IAM Assume Roleという機能を利用する AWSベースのデータ基盤規模感に伴うかんどころ：その３ Amazon Kinesis Streams IAM Role (KinesisへのWrite権限) Amazon EC2 AWS Lambda 1. AssumeRoleで一時的権限を取得 2. Kinesis::PutRecordsでログを送信データ分析基盤のAWSアカウントプロダクトのAWSアカウント

Slide 17

Slide 17 text

目次 17 ● 会社紹介 ● データ基盤全般の紹介 ● AWSベースのデータ基盤 ● GCPベースのデータ基盤 ● 開発運用する日々の話 ● まとめ

Slide 18

Slide 18 text

Copyright © GREE, Inc. All Rights Reserved. GCPベースのデータ基盤システム構成 analytics-system production server Stackdriver BigQuery Data Studio Cloud Pub/Sub Cloud Storage Cloud Dataflow client Cloud SQL Firebase App Engine ios/android

Slide 19

Slide 19 text

Slide 20

Slide 20 text

目次 20 ● 会社紹介 ● データ基盤全般の紹介 ● AWSベースのデータ基盤 ● GCPベースのデータ基盤 ● 開発運用する日々の話 ● まとめ

Slide 21

Slide 21 text

Slide 22

Slide 22 text

Slide 23

Slide 23 text

Copyright © GREE, Inc. All Rights Reserved. ● （本番と同様）、開発時も依存プロセスが多い ● dockerで各プロセスを管理するが、1つ1つ再起動等するのは手間になる ● そこで、docker-compseという複数dockerを管理する仕組みを利用する ● 一括で起動できる ● コンテナ間の通信や依存関係を設定できる開発運用する日々 DX向上のための工夫の例

Slide 24

Slide 24 text

Copyright © GREE, Inc. All Rights Reserved. ● システムコンポーネント(AWSベースデータ基盤の場合) ● Kinesis Consumerアプリケーション（データ配送ロジック） ● API Server（クエリの管理や権限制御） ● Analyticsツール（ワークフロー機能等含む） ● 構成管理・デプロイ・起動 ● その他、細かいコード ● バッチジョブ（ファイルマージなど） ● Presto等のUser-Defined Function 開発運用する日々結局何を開発するのか？主なコーディング対象

Slide 25

Slide 25 text

Copyright © GREE, Inc. All Rights Reserved. ● プロダクトマネジメント体制 ● 仕様策定や利用者問い合わせ対応は別チームのタスク ● 開発ツール ● MacBookとAWS開発専用アカウントを駆使する ● IntelliJ IDEA(IDE)のライセンスは付与 ● 日々の作業 ● 新規開発、bugfix、障害対応 ● お昼は割と社内勉強会やコーディング系の部活 ● ごく稀に、海外出張でカンファレンスに参加開発運用する日々開発運用体制

Slide 26

Slide 26 text

Slide 27

Slide 27 text

Slide 28

Slide 28 text

目次 28 ● 会社紹介 ● データ基盤全般の紹介 ● AWSベースのデータ基盤 ● GCPベースのデータ基盤 ● 開発運用する日々の話 ● まとめ

Slide 29

Slide 29 text

Copyright © GREE, Inc. All Rights Reserved. ● 開発運用対象が周縁化してる ● 分散ファイルシステムやクエリエンジンなどデータパイプラインの中心部分はマネージドサービス化が進んでいる ● パイプラインの周縁は開発が必要 ● 周縁部は事業依存になりがちなので ● 必要な機能が増え、使えるコンポーネントも多いので、システム構成が複雑になりがち ● DXを考慮した日々の開発が重要まとめ開発運用する日々に対する所感