Slide 1

Slide 1 text

石垣雅人 - DMM.com LLC 2019/04/10 DevOpsDays Tokyo 2019 Data-Driven x DevOps Dev Ops

Slide 2

Slide 2 text

© DMM.com 2 About me 石垣 雅人 Masato Ishigaki i35-267 @i35_267 i35-267 Product Owner at DMM.com
 プラットフォーム事業本部 2015年度 新卒入社 Role : PO スタートアップ 2社 PM

Slide 3

Slide 3 text

© DMM.com Data-Driven x DevOps プロダクトをグロースさせる文化を作る Summary 3 Dev Ops Photo by people building structure during daytime on Unsplash

Slide 4

Slide 4 text

© DMM.com 4 スプリントバックログ インクリメント プロダクトバックログ Summary 開発→リリース 効果検証 直感に頼る仮説 Summary

Slide 5

Slide 5 text

© DMM.com 5 スプリントバックログ インクリメント プロダクトバックログ Summary 開発→リリース 効果検証 直感に頼る仮説 DevOps Summary

Slide 6

Slide 6 text

© DMM.com 6 Summary Summary 開発→リリース DevOps デプロイ回数UP =ビジネス価値UP といったことにはなりづらく、ビジネス価値を下 げるリリースもある。 より、ヒット率をあげるために Data-Drivenの考え方を入れる。

Slide 7

Slide 7 text

© DMM.com 7 スプリントバックログ インクリメント プロダクトバックログ Summary 開発→リリース 効果検証 直感に頼る仮説 Summary Data-Driven Data-Driven DevOps

Slide 8

Slide 8 text

© DMM.com 8 スプリントバックログ インクリメント プロダクトバックログ Summary 開発→リリース 効果検証 直感に頼る仮説 Summary 仮説の妥当性を 担保して すばやくMVPを 構築してリリース 効果測定をして 分析、次の施策へ

Slide 9

Slide 9 text

© DMM.com 9 スプリントバックログ インクリメント 開発→リリース 効果検証 直感に頼る仮説は、量産されやすい。 プロダクトバックログアイテムが肥大化して 開発者を圧迫する。 スーパー経営者だったらそれでも良いかもしれない。 でも私たちは、普通のエンジニアだということを忘れてはい けない。 プロダクトバックログ 直感に頼る仮説 Summary

Slide 10

Slide 10 text

© DMM.com 10 スプリントバックログ 開発→リリース プロダクトバックログ 直感に頼る仮説 インクリメント 効果検証 リリース後にデータがないと どうしてヒットしなかったのか等 学習できず、次の仮説が立てづらい Summary

Slide 11

Slide 11 text

© DMM.com 11 Agenda About DMM.com 11 11 What is DevOps x Data-Driven Product → Measure (DWH構築) Measure → Data (優れたデータ可視化) Data → Learn (どう学習するか) Learn → Idea(効果的な施策立案) IDEA BUILD PRODUCT MEASURE DATA LEARN

Slide 12

Slide 12 text

© DMM.com What is DevOps xData-Driven 12 IDEA BUILD PRODUCT MEASURE DATA LEARN LeanStartup BMLループ

Slide 13

Slide 13 text

© DMM.com 13 IDEA BUILD PRODUCT MEASURE DATA LEARN What is DevOps xData-Driven

Slide 14

Slide 14 text

© DMM.com 14 IDEA BUILD PRODUCT MEASURE DATA LEARN どう作るか (DevOps) ビッグデータ基盤へ データストリーム (Data-Driven) データの可視化 (KGI, CSF, KPI) (Data-Driven) データから どう学習するか (Data-Driven) 効果的な施策立案 (Data-Driven) 何を作るか ※優先度 (Agile)

Slide 15

Slide 15 text

© DMM.com 15 Agenda About DMM.com 15 15 What is DevOps x Data-Driven Product → Measure (DWH構築) Measure → Data (優れたデータ可視化) Data → Learn (どう学習するか) Learn → Idea(効果的な施策立案) IDEA BUILD PRODUCT MEASURE DATA LEARN

Slide 16

Slide 16 text

© DMM.com Idea → Build 仮説から開発へ(何を作るか) 16 IDEA BUILD PRODUCT MEASURE DATA LEARN Agileの文脈で 何を作るかを優先順位づけする

Slide 17

Slide 17 text

© DMM.com Build → Product どう作るかを考える 17 IDEA BUILD PRODUCT MEASURE DATA LEARN ・リードタイムの削減 ・デプロイ頻度の短縮 ・MTTRの短縮 ・変更失敗率の低減

Slide 18

Slide 18 text

© DMM.com 18 IDEA BUILD PRODUCT MEASURE DATA LEARN Data-Drivenにおいて データを集約させることが 第一優先 プロダクトをリリースしたら 必ず、ビッグデータ基盤に集約 データ分析基盤で誰でもSQLで取得 Product → Measure (DWH)

Slide 19

Slide 19 text

© DMM.com ≈ç 19 Tracking-API RabbitMQ JSLibrary DWH Consumer Aerospike Presto Zeppelin Re:dash Digdag Hive Spark Sqoop DMM.com 事例

Slide 20

Slide 20 text

© DMM.com Product → Measure (DWH) ≈ç 20 DWH Presto Zeppelin Re:dash Digdag Hive Spark Sqoop Tracking-API RabbitMQ JSLibrary Consumer Aerospike ユーザー行動を蓄積 ・購入履歴、閲覧履歴 ・ユーザー属性 ・クリック履歴, etc...

Slide 21

Slide 21 text

© DMM.com ≈ç Product → Measure (DWH) 21 Tracking-API RabbitMQ JSLibrary Consumer Aerospike Presto Zeppelin Re:dash DWH Digdag Hive Spark Sqoop DWH構築 1日のデータ蓄積量 → 約2億レコード 総データ蓄積量 → 約2,300億レコード

Slide 22

Slide 22 text

© DMM.com Product → Measure (DWH) 22 Tracking-API RabbitMQ JSLibrary DWH Consumer Aerospike Digdag Hive Spark Sqoop Presto Zeppelin Re:dash BIツール : Re:dash 誰でもクエリを打って分析できる ような文化作っています。 ex. エンジニア、営業、etc...

Slide 23

Slide 23 text

© DMM.com 23 IDEA BUILD PRODUCT MEASURE DATA LEARN Data-Drivenにおいて データを集約させることが 第一優先 プロダクトをリリースしたら 必ず、ビッグデータ基盤に集約 データ分析基盤で誰でもSQLで取得 Product → Measure (DWH) ユーザー行動を蓄積 ・購入履歴、閲覧履歴 ・ユーザー属性 ・クリック履歴, etc... 誰でもクエリを打って分析できる ような文化作っています。 ex. エンジニア、営業、etc... BIツール : Re:dash

Slide 24

Slide 24 text

© DMM.com 24 IDEA BUILD PRODUCT MEASURE DATA LEARN Data-Drivenにおいて データを集約させることが 第一優先 プロダクトをリリースしたら 必ず、ビッグデータ基盤に集約 データ分析基盤で誰でもSQLで取得 Product → Measure (DWH) プロダクトをリリースした瞬間に ユーザー行動が可視化されるのが理想 1000ユーザー 8% 50% 2% 売上 : 100万

Slide 25

Slide 25 text

© DMM.com 25 Agenda About DMM.com 25 25 What is DevOps x Data-Driven Product → Measure (DWH構築) Measure → Data (優れたデータ可視化) Data → Learn (どう学習するか) Learn → Idea(効果的な施策立案) IDEA BUILD PRODUCT MEASURE DATA LEARN

Slide 26

Slide 26 text

© DMM.com Measure → Data =計測からデータ可視化 26 IDEA BUILD PRODUCT MEASURE DATA LEARN ビッグデータ基盤にデータ集約は完了 「大事なのはそこからビジネス価値がある データを可視化すること」

Slide 27

Slide 27 text

© DMM.com ① Action ② Result ③Next Action 27 データが『駆動』するとは? = データを見ることで次の行動につながること DWH Measure → Data =計測からデータ可視化

Slide 28

Slide 28 text

© DMM.com 28 1. 優れた指標は比較ができる a. 指標として出した数値が、他社と比較できたりこの時間に CVが上がっているなど時間軸で比較できたりする必要があります。 2. 優れた指標はわかりやすい a. 指標が出した数値の意味が一瞬でわからなかったりすると、 組織として数値を追う文化ができにくい。 3. 優れた指標は比率や割合である。 a. 指標を数ではなく比率にすることでその数値を上げていけば良いのか 下げていけば良いのかわかりやすい。 Measure → Data =計測からデータ可視化

Slide 29

Slide 29 text

© DMM.com 29 定量的 = 科学的な数値な指標 定量的指標 vs 定性的指標 会員登録数 売上金額 定性的 = 主観的で感覚的な指標 インタビュー ユーザークレーム Measure → Data =計測からデータ可視化

Slide 30

Slide 30 text

© DMM.com 30 Measure → Data (優れたデータ可視化) 定性的 = 主観的で感覚的な指標 インタビュー・調査 ユーザークレーム 定量的 = 科学的な数値な指標 会員登録数 売上金額 本物の指標 = 次の行動につながる指標 虚栄の指標 = 次の行動につながらない指標 ex. 会員登録数のみ = 時間の経過とともに上がる ex. 会員登録数 + 離脱率 + DAU, MAU,etc... 定量的指標 vs 定性的指標

Slide 31

Slide 31 text

© DMM.com 31 相関指標 = AとBが関係している 相関指標 vs 因果指標 これから起こることが 予測できる。 因果指標 = A to Bであること 未来を変えることができる B A 『交番の数』が多いほど『犯罪件数』も多い。 → 交番を減らしても犯罪は減らない。相関関係であって因果関係ではない。 Measure → Data =計測からデータ可視化

Slide 32

Slide 32 text

© DMM.com 32 Measure → Data (優れたデータ可視化) 相関指標 = AとBが関係している 相関指標 vs 因果指標 これから起こることが 予測できる。 因果指標 = A to Bであること 未来を変えることができる B A 『交番の数』が多いほど『犯罪件数』も多い。 → 交番を減らしても犯罪は減らない。相関関係であって因果関係ではない。 【テーマ】 因果関係を探すために相関関係がありそうな 数値をグラフ化してモニタリングし続ける!

Slide 33

Slide 33 text

© DMM.com 33 先行指標 = 未来を予測した指標 先行指標 vs 遅行指標 ex. 3ヶ月後の DAUの伸び率を予測して、 仮説検証を行う 遅行指標 = 変更後の数値を示す チャーンとも呼ばれ離脱率もキチン と集計する t Action now 先行指標 Action 遅行指標 now Measure → Data =計測からデータ可視化

Slide 34

Slide 34 text

© DMM.com 34 KGI KPI CSF KPI CSF 中長期的な目標 KGI達成の要因 KGI達成の要因 CSF達成の数値 CSF達成の数値 LTV,etc.. CVR, CTR,etc.. Measure → Data =計測からデータ可視化

Slide 35

Slide 35 text

© DMM.com 35 Measure → Data (優れたデータ可視化) KGI KPI CSF KPI CSF 中長期的な目標 KGI達成の要因 KGI達成の要因 CFS達成の数値 CFS達成の数値 CSF, KPIは、定数ではなく変数であるべき 直接的に影響が与えられない数値は目標としてはダメ

Slide 36

Slide 36 text

© DMM.com 36 Measure → Data (優れたデータ可視化) KGI KPI CSF KPI CSF 中長期的な目標 KGI達成の要因 KGI達成の要因 CFS達成の数値 CFS達成の数値 CSF, KPIは、先行指標あるべき 遅行指標といった後からついてくる結果を 目標設定するのではなく、短期目標として可能な数値を目標とするべきです。 売上・利益 t KPI KPI KPI

Slide 37

Slide 37 text

© DMM.com 37 Measure → Data (優れたデータ可視化) KGI KPI CSF KPI CSF 中長期的な目標 KGI達成の要因 KGI達成の要因 CFS達成の数値 CFS達成の数値 プロダクトにおいて どれが先行指標となり得るかを考える ヒント : 相関指標を探る ex. Facebookは 「アカウント作成後、10日以内に複数の友達とつながれば そのユーザーはエンゲージメントする」という相関指標を見つけました。 相関指標1 相関指標2 相関指標3 相関指標4 相関指標5

Slide 38

Slide 38 text

© DMM.com 38 Agenda About DMM.com 38 38 What is DevOps x Data-Driven Product → Measure (DWH構築) Measure → Data (優れたデータ可視化) Data → Learn (どう学習するか) Learn → Idea(効果的な施策立案) IDEA BUILD PRODUCT MEASURE DATA LEARN

Slide 39

Slide 39 text

© DMM.com Data → Learn (どう学習するか) 39 IDEA BUILD PRODUCT MEASURE DATA LEARN データ分析のアプローチには3つある。 1. 現状理解 ビジネスモデル理解からのCSF、KGI、KPIの数値 2. 仮説検証型アプローチ 施策実施に対して、その結果がどうなっているかの数値 3. 探索的データ分析 ユーザーの行動からボトルネック特定や仮説立案

Slide 40

Slide 40 text

© DMM.com Data → Learn (どう学習するか) 40 IDEA BUILD PRODUCT MEASURE DATA LEARN データ分析のアプローチには3つある。 1. 現状理解 ビジネスモデル理解からのCSF、KGI、KPIの数値 2. 仮説検証型アプローチ 施策実施に対して、その結果がどうなっているかの数値 3. 探索的データ分析 ユーザーの行動からボトルネック特定や仮説立案

Slide 41

Slide 41 text

© DMM.com Data → Learn (どう学習するか) 41 仮説検証型アプローチ 施策実施に対して、その結果がどうなっているかの数値 仮説を実施中 その施策がどういう結果をもたらしか データ分析して可視化します。 例) 新しい決済手段を増やす施策を実施する。

Slide 42

Slide 42 text

© DMM.com 42 例) 新しい決済手段を増やす施策を実施する。 KPI CSF 新しい決済手段で 全体の決済数を上げたい 新しい決済手段での 購入率を30% ● 新しい決済手段での購入数/率 (KPI) ● 他の決済手段での購入数/率 (相関指標) ● 全体の決済手段での購入数 (KGI)

Slide 43

Slide 43 text

© DMM.com Data → Learn (どう学習するか) 43 IDEA BUILD PRODUCT MEASURE DATA LEARN データ分析のアプローチには3つある。 1. 現状理解 ビジネスモデル理解からのCSF、KGI、KPIの数値 2. 仮説検証型アプローチ 施策実施に対して、その結果がどうなっているかの数値 3. 探索的データ分析 ユーザーの行動からボトルネック特定や仮説立案

Slide 44

Slide 44 text

© DMM.com Data → Learn (どう学習するか) 44 探索的データ分析 ユーザーの行動からボトルネック特定や仮説立案 ユーザー行動をベースにボトルネックを探る 方法 : ユーザーセグメント/ファネルごと 例) ファネルごとに行動可視化

Slide 45

Slide 45 text

© DMM.com 45 例) ファネルごとに行動可視化 ファネル 行動件数(月) No 1 検索/流入 商品ページ閲覧 レコメンド閲覧 カート追加 決済 2 3 4 5 3,000 1000 80 40 2 ファネル遷移 = ユーザーがコンバージョンするまでの行動 50% 0.6%

Slide 46

Slide 46 text

© DMM.com 46 例) ユーザーセグメント/ファネルごとに行動可視化 ファネル 年月 No 1 検索/流入 商品ページ閲覧 レコメンド閲覧 カート追加 決済 2 3 4 5 1,000 2,000 3,000 80 50 25 17 150 100 50 25 100 80 40 20 ファネル遷移 0.7% 50% 50% 仮説サンプル 検索/流入→ 商品ページ閲覧のファネル間遷移が「0.7%」と低い 検索/流入→ 商品ページ閲覧のファネル間遷移が「0.7%」と低い 仮説サンプル 「4.カート追加 → 5.決済」のファネル遷移が「0.6%」と低い 「3.レコメンド閲覧 → 4.カート追加」のファネル遷移が「 50%」と高い = 「4.カート追加 → 5.決済」を増やせば 全体的な購入数が上がるはず! 次のアクション ・バスケットからの決済導線CTRを定量化 ・UI/UX観点でヒートマップを見てみよう

Slide 47

Slide 47 text

© DMM.com 47 Agenda About DMM.com 47 47 What is DevOps x Data-Driven Product → Measure (DWH構築) Measure → Data (優れたデータ可視化) Data → Learn (どう学習するか) Learn → Idea(効果的な施策立案) IDEA BUILD PRODUCT MEASURE DATA LEARN

Slide 48

Slide 48 text

© DMM.com 48 Learn → Idea(効果的な施策立案) IDEA BUILD PRODUCT MEASURE DATA LEARN ✔ データも集約完了 ✔ 追うべき指標も見つけた ✔ 分析アプローチも見つけた → 仮説立案の心得

Slide 49

Slide 49 text

© DMM.com 49 Learn → Idea(効果的な施策立案) 仮説立案ポイント   定量データからの 仮説立案 定性データからの 仮説立案 仮説立案を定量データだけに頼ってはいけない Data-informedな側面も必要 Data 意思決定 Data-Driven 意思決定 Data Data-informed

Slide 50

Slide 50 text

© DMM.com Data-Driven x DevOps プロダクトをグロースさせる文化を作る 最後に 50 Dev Ops Photo by people building structure during daytime on Unsplash

Slide 51

Slide 51 text

© DMM.com ご清聴ありがとうございました 51 最後に