Upgrade to Pro — share decks privately, control downloads, hide ads and more …

エンジニアだけで企画開発分析すべてを遂行するチームを立ち上げた話

 エンジニアだけで企画開発分析すべてを遂行するチームを立ち上げた話

2019/7/30 s-dev talks 〜サービス開発勉強会〜「チームビルディング」での小野の講演資料になります

Recruit Technologies

July 30, 2019
Tweet

More Decks by Recruit Technologies

Other Decks in Technology

Transcript

  1. 自己紹介 • 小野 駿(おの しゅん) • Twitter: @susunshun • 株式会社リクルートテクノロジーズ ◦

    リクルートマーケティングパートナーズも兼務 ◦ 3年前にSIerから転職してきました • お仕事 ◦ ◦◦マネージャーや◦◦リーダーが多い ◦ ときには企画したりごりごり開発したり分析したり • 目標 ◦ ”やさしいせかいをつくりたい” https://twitter.com/mok2mok2/status/893455693302214657
  2. (当時の)プロダクトの状況 導入期 成長期 成熟期 衰退期 売上 (イメージ) 多分この辺 • 成長期のプロダクトなのでやることは沢山

    ◦ 大玉の案件で当分やることは決まっている ◦ そしてMustであろう機能は出揃ってきた • これからもう1段、プロダクトが成長するために、僕らが目指すべき方向、ユー ザーへ提供すべき価値は何であろうかを改めて考え始める時期 • どのような機能・価値が求められているかを仮説検証しながら模索するムーブが 重要なのではないか
  3. Build - Measure - Learnのサイクル • Build - Measure -

    Learnのサイクルをベースに改善を考えていく • Build ◦ 構築してリリース • Measure ◦ データを計測して検証する • Learn ◦ 検証結果から学びを得て、 次に踏むべきアクションを 明確にする Learn Measure Build
  4. 段階的なプロセスの磨き込み 初期 STEP1 STEP2 STEP3 開発以外のことが わからない As-Isプロセスの 踏襲 仮説検証サイクルを

    回す 仮説検証サイクルの 高速化 ? ? Build Learn Measure Build Learn Measur e Build Learn Measur e Build
  5. AS-ISプロセスの可視化 • Build - Measure - Learn になぞらえてIN/OUTを整理する Learn Measure

    Build idea data Product アクション オブジェクト XX定例 案だし会 振り返り共有会 施策リスト 施策内容 プランニング 開発・テスト リリース 効果測定 Webアプリ スマホアプリ etc... 数値の結果 知見 タスク/セレモニー 成果物 IN OUT OUT IN IN OUT Learn Build Measure
  6. 段階的な権限移譲 やってない 伴走 独力 伴走 独力 やってない 独力 伴走 やってない

    伴走 独力 伴走 仮説立案 仮説詳細化 プランニング 開発 効果測定 振り返り 自立度 高 低 企 画 職 の 方 に 任 せ て い た 範 囲 伴 走 し て も ら っ て い た 範 囲 独 力 で 実 行 で き る 範 囲
  7. 段階的なプロセスの磨き込み 初期 STEP1 STEP2 STEP3 開発以外のことが わからない As-Isプロセスの 可視化 仮説検証サイクルを

    回す 仮説検証サイクルの 高速化 ? ? Build Learn Measure Build Learn Measur e Build Learn Measur e Build DONE DONE
  8. チーム目標の見直し 利益 売上 コスト LTV A B C いままでフォーカス していた目標

    ▼ 再設定した目標 ▼ 一段ブレークダウン • 施策毎にアプローチするサブKPIが異なり、知見が集約されない • 大きい指標にすぐアプローチするためには、大きい施策を打たざる を得ない力学が働き、これによって仮説検証スピードが低下する • なんとかしようと短期的な利益に得る施策に落ちがち
  9. 分析設計の型化 • 作業の無駄 ◦ いざリリースしてみたら、効果測定に必要なログが取れていなかった ◦ 分析のSQL書くのにめっちゃ時間掛かる ◦ そうすると満足に深掘りできない •

    仮説を詳細化できていない ◦ 各指標を見た後にどういう効果があったかを考える(予測していない) ◦ 施策の調子が良くなさそうでも数値が改善されている指標を探しちゃう 効果測定がブレブレだった
  10. 分析設計の型化 • 作業の無駄 ◦ いざリリースしてみたら、効果測定に必要なログが取れていなかった ◦ 分析のSQL書くのにめっちゃ時間掛かる ◦ そうすると満足に深掘りできない •

    仮説を詳細化できていない ◦ 各指標を見た後にどういう効果があったかを考える(予測していない) ◦ 施策の調子が良くなさそうでも数値が改善されている指標を探しちゃう 効果測定がブレブレだった 仮説立案 仮説詳細化 プランニング 開発 効果測定 振り返り 分析設計 分析設計フェーズ を設ける
  11. 分析設計の型化 Why What Where How When 何を検証したいのか どの指標を見るのか データソースはどこか 比較方法は何か(前後比較/ABテスト等)

    算出方法は何か いつ測定するのか (リリース直後、3日後、7日後等) いつ どの指標が どうなったら(上がる、下がる等) どうする(切り戻し、静観、計測終了) アクションの整理 分析対象の整理 ✖
  12. 段階的なプロセスの磨き込み 初期 STEP1 STEP2 STEP3 開発以外のことが わからない As-Isプロセスの 可視化 仮説検証サイクルを

    回す 仮説検証サイクルの 高速化 ? ? Build Learn Measure Build Learn Measur e Build Learn Measur e Build DONE DONE DONE
  13. BMLを高速に回す 初期 STEP1 STEP2 STEP3 開発以外のことが わからない As-Isプロセスの 可視化 仮説検証サイクルを

    回す 仮説検証サイクルの 高速化 ? ? Build Learn Measure Build Learn Measur e Build Learn Measur e Build DONE DONE DONE • プロダクト改善の成果を Learnの質 ✕ サイクル回数で考える • ここまでは Learnの質を高める 話 • 今度は サイクル回数を増やす 話
  14. 定常モニタリング基盤の構築 目的は2つ • 分析の自動化(サイクルの回数を増やす 文脈) ◦ 実はここまで(時にして半年弱)、ほとんどの効果測定をSQLで行っていた ◦ 漢のSQL直打ちを続けてきたが、満を持して半自動化(理由は後述) •

    プロダクトの健康状態を可視化(Learnの質を高める 文脈) ◦ プロダクトの主要KPIを定常的にモニタリングする ◦ 施策による予期せぬ副作用の影響を検知しやすくする ◦ 施策以外の影響を検知しやすくする
  15. 定常モニタリング構築のSTEP • ここでも仮説検証を繰り返しながら構築していく • 目的の不確実性を下げてから、手段の不確実性を下げていく 俺の定常モニタリング(物理) 真・俺の定常モニタリング チームの定常モニタリング プロダクトの定常モニタリング 「何を」「どのように」

    見るかの検証 自動化によるコスト削減 副作用の検出 健康状態の可視化 保守性の向上 運用の最適化 自分は見えていない領域 目的 漢のSQL直打ち RedashやDataStudio等の 簡易的なツールでサクッと 自動化 ←の磨き込み データマートの整備 プロに任せる 手段 目的の不確実性を 下げる 手段の不確実性を 下げる
  16. 手軽に始める定常モニタリング構築のSTEP • ここでも仮説検証を繰り返しながら構築していく • 目的の不確実性を下げてから、手段の不確実性を下げていく 俺の定常モニタリング(物理) 真・俺の定常モニタリング チームの定常モニタリング プロダクトの定常モニタリング 「何を」「どのように」

    見るかの検証 自動化によるコスト削減 副作用の検出 健康状態の可視化 保守性の向上 運用の最適化 自分は見えていない領域 目的 漢のSQL直打ち RedashやDataStudio等の 簡易的なツールでサクッと 自動化 ←の磨き込み データマートの整備 プロに任せる 手段 目的の不確実性を 下げる 手段の不確実性を 下げる 何も無い所から始めるのであれば、 まず何を見るべきかを最小コストで検証する
  17. 手軽に始める定常モニタリング構築のSTEP • ここでも仮説検証を繰り返しながら構築していく • 目的の不確実性を下げてから、手段の不確実性を下げていく 俺の定常モニタリング(物理) 真・俺の定常モニタリング チームの定常モニタリング プロダクトの定常モニタリング 「何を」「どのように」

    見るかの検証 自動化によるコスト削減 副作用の検出 健康状態の可視化 保守性の向上 運用の最適化 自分は見えていない領域 目的 漢のSQL直打ち RedashやDataStudio等の 簡易的なツールでサクッと 自動化 ←の磨き込み データマートの整備 プロに任せる 手段 目的の不確実性を 下げる 手段の不確実性を 下げる ある程度の規模になってきたら データ基盤の乱立を避け、任せるべき所は 任せて全体の最適化を図る
  18. 作らない • 極力作らない ◦ 価値ある最小単位、MVPを強く意識する ◦ 作らないことが一番フィードバックを早く得られる、失敗リスクも小さい • 段階を分ける ◦

    機能を分割して段階リリース ◦ インクリメンタルにリリース • そもそも作らない ◦ ツールを駆使してノーコーディングで検証(メルマガ、アプリ内メッセージ) • 機能や対象セグメントを小さくしすぎて充分なフィードバックを得られない なんて失敗もありました
  19. 段階的なプロセスの磨き込み 初期 STEP1 STEP2 STEP3 開発以外のことが わからない As-Isプロセスの 可視化 仮説検証サイクルを

    回す 仮説検証サイクルの 高速化 ? ? Build Learn Measure Build Learn Measur e Build Learn Measur e Build DONE DONE DONE DONE?
  20. 仮説検証型チームを立ち上げて得られた学び • やってみて分かったメリット ◦ 一個小隊にBuild - Measure - Learn をすべて担うケーパビリティをもたせ、各工程の伝導率

    を高めることで最速の仮説検証を実現することにあると思う ◦ なので全員エンジニアである必要はない • エンジニアしかいない背景 ◦ 実は企画の人をアサインできなかったからです... • 理想 ◦ 各ロール(企画、エンジニア、アナリスト等)が一個小隊に揃っている状態