GCPで行動ログ基盤を開発している話

by kaito2

Embed

Start on current slide

Slide 1

Slide 1 text

GCPで行動ログ基盤を開発している話エムスリー株式会社岩月海人

Slide 2

Slide 2 text

自己紹介

Slide 3

Slide 3 text

自己紹介 - 岩月海人 (@kaito_two) - エムスリー株式会社 - AI・機械学習チーム - どちらかというとデータエンジニア - 2019年 4月16日新卒(?)入社 - 主にGCP関連の基盤を担当

Slide 4

Slide 4 text

話すこと

Slide 5

Slide 5 text

話すこと ● m3.com とは? ● 行動ログ基盤 ○ 背景 ○ 概要 ○ 構成 ○ 設計・移行で苦しんだトコロ ● まとめ

Slide 6

Slide 6 text

m3.com とは?

Slide 7

Slide 7 text

m3.com とは? 医師限定会員サイト医師向けYahooのようなイメージ(多分一つ前でもはなしてある) サイト内に複数サービス(現在20以上)への導線が存在する。

Slide 8

Slide 8 text

行動ログ基盤 (移行中)

Slide 9

Slide 9 text

行動ログ基盤目的 m3.com のサービス横断の広告表出システムをリニューアルする概要 ● 対応サービスのコンテンツの中からユーザーに対しておすすめを表示(パーソナライズ) ● ユーザーの行動ログからCVをリアルタイムに補足

Slide 10

Slide 10 text

行動ログ基盤(現状の課題) なぜつくっているか? (既存システムの課題) 1. 各システムとの結合が強い ○ 表示可能なコンテンツを各サービスに問い合わせている (後述) 2. 他のシステムに相乗りする形で実装されている ○ 当時の開発スピードが優先されていた 3. 細かいパーソナライズができていない ○ 現状「Aさんはニュースサービスが好き」 ○ やりたい「AさんはXXXに関するニュースが好き」

Slide 11

Slide 11 text

各システムとの結合が強い既存の広告システム表示可能コンテンツの問い合わせ表示可能なコンテンツを各サービスに問い合わせ ?? ?? ??

Slide 12

Slide 12 text

(その他にもいくつか内部の事情があり) データパイプライン作ろう

Slide 13

Slide 13 text

行動ログ基盤 | 構成

Slide 14

Slide 14 text

行動ログ基盤 | 構成ユーザーに表示したいコンテンツを登録

Slide 15

Slide 15 text

行動ログ基盤 | 構成パーソナライズされた表示するコンテンツを提供

Slide 16

Slide 16 text

行動ログ基盤 | 構成各サービスの行動ログを送信

Slide 17

Slide 17 text

行動ログ基盤 | 構成 Pub/Sub をサブスクリプションし、行動ログからCVを判定

Slide 18

Slide 18 text

行動ログ基盤 | 構成 Pub/Sub をサブスクリプションし、行動ログからCVを判定状態を取得・更新

Slide 19

Slide 19 text

行動ログ基盤 | 構成

Slide 20

Slide 20 text

行動ログ基盤 | 構成ココ

Slide 21

Slide 21 text

API 構成表示可能なコンテンツを取得 m3の各サービス

Slide 22

Slide 22 text

API 構成取得した情報をもとに最適化 (ロジックをPlugableにする)

Slide 23

Slide 23 text

設計・移行で悩んだトコロ

Slide 24

Slide 24 text

Pub/Sub のトピックを分割するか現在は中央のトピックを立てている関係ない Message でも呼び出される

Slide 25

Slide 25 text

Pub/Sub のトピックを分割するか Dataflow で分ける方法もあるが現状はしてないマシンリソースと Pub/Subのトラフィックがかかる

Slide 26

Slide 26 text

Cloud Datastore の制約 ● 一度に500エンティティまでしか書き込めない ○ コンテンツなどをBulkで追加するのが厳しい ● Kindごとの削除のコストが高い ○ Dataflowのジョブを起動する必要がある。 ■ https://cloud.google.com/datastore/docs/bulk-delete ● 基盤システムなので従量課金が厳しい(当たり前) BigTable を採用している

Slide 27

Slide 27 text

まとめ ● m3.com について ● m3.com 上のアドの仕組みをリニューアルしている ○ 様々な課題が ■ システムの密結合 ■ パーソナライズに改善の余地 ○ 行動ログ基盤をつくりリアルタイムなデータの活用を進める ● 構築上の悩み ○ Pub/Sub のトピック構成 ○ DBの選定(Datastoreが厳しそう)

Slide 28

Slide 28 text

ありがとうございました