スタートアップにおけるデータマネジメントの始め方の事例紹介(datatech-jp Casual Talks #5)

Slide 1

Slide 1 text

Slide 2

Slide 2 text

©10X, Inc. All Rights Reserved. 自己紹介  ● 吉田康久  ○ Twitterやはてなidは@syou6162 / id:syou6162  ● 株式会社10XでAnalytics Engineer  ○ 2022/09に入社  ○ グロース本部データサイエンス&エンジニアリング部に所属  ○ データマネジメント / データガバナンスの仕事をしてます  ○ 京都から働いてます  ● これまでの職歴としては研究者(NLP) => Webアプリケーションエンジニア => データエンジニア => Analytics Engineer  ● 最近はdatatech-jpのオーガナイザーの一人をやってます   2

Slide 3

Slide 3 text

No content

Slide 4

Slide 4 text

No content

Slide 5

Slide 5 text

©10X, Inc. All Rights Reserved. スタートアップにおけるデータマネジメントの始め方  ● DMBOKなどデータマネジメントの教科書的な本は存在する   ● データ品質など個別のデータマネジメント課題の発表はコミュニティ内でもよく聞く   ● 一方で、データマネジメント全体の進め方についての個別事例はそれほど多くはない   ○ 自分自身知りたかった & 発表することでフィードバックが欲しい  ● 昨年9月に10Xに入社してからデータマネジメント観点でやったこと / 考えたことを共有します   ○ 進め方に絶対の正解があるわけではないと思うので、一事例として  5

Slide 6

Slide 6 text

©10X, Inc. All Rights Reserved. 本発表のアジェンダ  ● 入社してから感じた課題  ○ 一人目職種かつオンラインでのオンボーディング  ○ 様々なデータマネジメントの課題が山積  ● 社内一人目職種相談会の開催   ● データマネジメント成熟度アセスメントの実施   ○ 部内でのアセスメント  ○ 社内へのヒアリング  ○ 社内へのヒアリングを受けて再度優先度付け  ● 現状の課題 / 目指したい世界観を社内に伝える   ○ 10Xでのデータ利活用のToBe: ガードレールとセルフサービス化  ○ 他職種への協力依頼の進め方  ● アセスメントが現在のデータマネジメント関連の業務にどう役に立っているか   6

Slide 7

Slide 7 text

Slide 8

Slide 8 text

Slide 9

Slide 9 text

©10X, Inc. All Rights Reserved. 一人目職種かつオンラインでのオンボーディング  ● データマネジメントを専門にする職種は10Xでは一人目   ○ 社内でデータマネジメントに関する認知はそれほどまだ高くない  ● データのことを全般的に責任を持つ自分の仕事は、一人ではなくAs One Teamとして取り組まなければ価値が発揮できない / されない側面が大きいことも関係   ● 実際、データに関連する職種の幅は広い   ○ 分析を専門とするアナリスト  ○ データを元にパートナーと会話するBizDev  ○ 分析の元データを担当することになる開発チーム  ○ セキュリティや個人情報などの扱いを相談するリーガルやコーポレートIT  9 理想ともすると...

Slide 10

Slide 10 text

©10X, Inc. All Rights Reserved. データにまつわる課題例: 必要なデータはどれ?!問題  10 分析には正しいデータを使うことが必須 ...だけど現実は厳しい BigQueryにはOrderって名前のテーブルがたくさんあるけど、自分の用途に合っているのはどのテーブル ...? このテーブルな気がするけど、カラム AとカラムBの違いが分からない...微妙に数字が違うけど、どっちを使えばいいの ... そもそもこのテーブルを管理しているのは誰なの... よく分からないけど、今回はこのテーブルで分析してみるか (案の定用途に合ってないテーブルで手戻り発生 ) BizDevやアナリスト

Slide 11

Slide 11 text

©10X, Inc. All Rights Reserved. データにまつわる課題例: データ品質が低い  11 聞いてるだけで胃が痛い ... やっとのことでそれっぽいテーブルが見つかったぞ... 分析に使いたいカラム、 20%くらい欠損してるけど、なんで ... どうも去年の10月分までのデータしか入ってないんだが ... えっ、そもそもデータ更新のバッチが先月から止まってるの ?! こんな品質のデータではパートナーの信用は勝ち取れないよ ... BizDevやアナリスト

Slide 12

Slide 12 text

©10X, Inc. All Rights Reserved. データにまつわる課題例: このデータどうやって作られてるの問題  12 エンジニアの悩み...データがどうやって作られているかの謎を解き明かすために我々はアマゾンの奥地に FireStore GCS BigQuery(ローデータ) BigQuery上で様々な加工... スプレッドシート上で様々な加工... BI上で様々な加工... 品質に問題があるって言われたから、このデータどうやって作られてるか見てみるか... 構成図もないから、コードを読み解くしかない。このテーブルを作っているのはどこだ... いくつもの層で加工されていて頭が混乱してきた... この作り(アーキテクチャ)で求められてる品質を満たすの無理じゃないか... 元データもそういう用途で使われることを想定していなかったらしいエンジニアやアナリスト

Slide 13

Slide 13 text

©10X, Inc. All Rights Reserved. データにまつわる課題例: 全体をいい感じに回さないといけない問題  13 各所からくる要望が溢れていて、困り果てる担当者メタデータが整備されないと、分析するまで大変です ! データ品質が高くないと業務に支障が出ます! データアーキテクチャちゃんとしないと要求に答えられないです! データセキュリティ、ちゃんとしてください! とにかく色んな要望があることだけは分かる。それ以外は何も分からない... どれが本当に重要度が高くて、どういう順番でアプローチすればいいんだ...

Slide 14

Slide 14 text

Slide 15

Slide 15 text

©10X, Inc. All Rights Reserved. 社内一人目職種相談会の開催  ● オンライン環境下で一人目職種として入社された方は他にもいる   ● その方々に相談して知見を教えてもらうという会:「社内一人目職種相談会」の開催   ● 合計14人にヒアリング  ○ Customer Support / Data Manager / Software Engineer in Test / Business Development / Corporate Strategy / Corporate Operations Manager / HR (Talent Acquisition) / HR（HRBP） / Product Manager / Corporate Engineer / Legal / Retail Strategy Manager / CCO  15 先駆者から知恵を拝借、先駆者はたくさんいた !

Slide 16

Slide 16 text

©10X, Inc. All Rights Reserved. 社内一人目職種相談会の開催  ● データマネジメント観点でも効用は大きかった   ● 他職種の解像度が高まった  ○ 日々の仕事の進め方、最近の困り事  ● データマネジメントで目指したい世界観を伝える   ○ 頭の中で考えるだけでは伝わらない  ○ 明示的に言語化して、社内でも周知していく  ● 他職種への期待を明示的に伝える機会   ● 詳細は10X Blogに書いてます!  16 データマネジメント観点でもオススメです前職では同職種3人目で入社だったが、その時もやるとよかったな...と感じました。オススメです

Slide 17

Slide 17 text

Slide 18

Slide 18 text

©10X, Inc. All Rights Reserved. データにまつわる課題例: 全体をいい感じに回さないといけない問題  18 各所からくる要望が溢れていて、困り果てる担当者 (=私) メタデータが整備されないと、分析するまで大変です ! データ品質が高くないと業務に支障が出ます! データアーキテクチャちゃんとしないと要求に答えられないです! データセキュリティ、ちゃんとしてください! とにかく色んな要望があることだけは分かる。それ以外は何も分からない... どれが本当に重要度が高くて、どういう順番でアプローチすればいいんだ...

Slide 19

Slide 19 text

©10X, Inc. All Rights Reserved. データマネジメント成熟度アセスメントの実施  ● 何がどれくらいできていてどういう優先度なのか、包括的には誰も分かっていなかった   ● 全体感を知るためにアセスメントを実施した   ○ 基本的にはDMBOKベース  ○ 詳細は前職のTech Blogに書いてます  ○ Why: 前々職でもやっていて、色々整理できるなという感触を持っている  ● 3段階で進めた  ○ 部内でのアセスメント: データ基盤を管理するデータに詳しい人の立場から  ○ 社内へのヒアリング: データ利用者、経営層、セキュリティ担当者、などなど  ○ 社内へのヒアリングを受けて再度優先度付け  19

Slide 20

Slide 20 text

©10X, Inc. All Rights Reserved. 第一段階: 部内でのアセスメント  20 ● 成熟度レベルを5段階で評価 ● レベル感が低いこと自体はここでは問題ではなく、レベル感の認識を合わせるのが目的 ● 社内での暫定的な優先順位も付ける ● アセスメントをすることで「この項目にはあの課題も含まれるか...」という共通認識を持てたのもアセスメントを実施してよかったこと参考: https://speakerdeck.com/yuzutas0/20200528

Slide 21

Slide 21 text

©10X, Inc. All Rights Reserved. 第二段階: 社内へのヒアリング  ● 社内のかなりの職種にヒアリング(計10回)   ○ BizDev / アナリスト / リーガル / データエンジニア / コーポレートストラテジー / SRE / CorpIT / PdM / 開発  ● それぞれの職種に対してどういう観点のことを聞きたいかを事前に明らかにしてヒアリングに望む  ● 注意: ヒアリングの場では問題解決は目指さない   21 データ利用者以外へのヒアリングも重要

Slide 22

Slide 22 text

©10X, Inc. All Rights Reserved. ヒアリングの質問とリサーチの質問  ● ヒアリングの質問: データマネジメントの専門用語で質問しても、対象者が理解できるとは限らない  ● リサーチの質問: 対象者に寄り過ぎたヒアリングになっても、データマネジメントで必要な答えが手に入るとは限らない  ● 事前に仮説は持ちつつも、ヒアリング当日は対象者から引き出すことをメインにする(誘導し過ぎたり、Yes / Noで終わるような質問ばかりしない)   ○ 詳細はBlogでも紹介してます!  22 コミュニケーション能力が足りない部分は事前準備でカバーするデータ品質での具体例データ基盤も社内向けのプロダクトと捉えると、 UXリサーチの考え方が役に立った!

Slide 23

Slide 23 text

©10X, Inc. All Rights Reserved. 第三段階: 社内へのヒアリングを受けて再度優先度付け  23 取り組む順番を依存関係の DAGとして定義 ● 社内へのヒアリングの結果、部内とそれほど大きなズレがないことが分かった ● データセキュリティとデータ品質は特に優先して進めたい ● しかし、それを効率的に進めるためには先にやる必要がある項目がある ● 何をどういう順序で解くとデータガバナンスとしてよさそうか、依存関係を決めた特に優先して進めたい項目 !

Slide 24

Slide 24 text

Slide 25

Slide 25 text

©10X, Inc. All Rights Reserved. 現状の課題 / 目指したい世界観を社内に伝える  ● アセスメントにより、現在の社内のデータに関わる課題やそれに対する進め方は一定整理できた  ● そのまま日々の仕事を進めるではなく「どういう課題感があってどういう世界を目指すことでデータマネジメントが会社に貢献していきたいと思っているか」を社内に広く伝えていく   ○ Good Morning Talkという社内の勉強会の場があるので、その場を活用して社内に展開  25

Slide 26

Slide 26 text

©10X, Inc. All Rights Reserved. 課題例: アナリスト工数足りない問題  ● 契約パートナー数は順調に増加している   ● アナリストは現在2名  ○ すでに工数はパツパツ気味。パートナー数に線形で増やす想定ではない  ○ 様々な部署から簡易なデータ分析やデータ抽出の依頼もきており、時間が細切れになって、深い分析をする時間がなかなか取れない  ○ (当然ながら)依頼があるのが悪いのではなく、元のデータが難しかったり罠が多いことでアナリストしか分析できない状況になっているのが本質  26 パートナーA パートナーB パートナーC パートナーD パートナーE … アナリストX アナリストY アナリストZ

Slide 27

Slide 27 text

©10X, Inc. All Rights Reserved. 課題例: DWHのカバレッジが不足  ● グロース本部でDWHの開発を進めている   ○ data vaultなど業界の中でも割と先進的なアーキテクチャの取り組みができている  ○ 作成済みの範囲だとデータ品質は高い  ● 一方でカバーできている範囲はまだまだ局所的   ○ 開発面でのリソースが足りていない  ○ 対応すべきデータソースが増えてきた場合や開発者が増えてきた場合にスケールするためのドキュメントも整備が必要  ○ 開発に必要な要件が明らかになっていない面も多い  27

Slide 28

Slide 28 text

©10X, Inc. All Rights Reserved. その他の課題例  ● データ品質  ○ ダッシュボード間でGMVの数字が合わない、どれを信用してよいのか分からない  ○ そもそも同じような目的のダッシュボードが複数存在している(SSoTになってない)  ● データセキュリティ  ○ 人数が少なかった頃の名残  ■ 30~50人くらいの頃  ○ 要件に対して広い権限の付与  ○ 現状の組織体制に合わせた形にしていく必要がある  ■ 現在は100名を越えたあたり  28

Slide 29

Slide 29 text

©10X, Inc. All Rights Reserved. データマネジメント / データガバナンスとは  ● データにまつわるよく起きる課題領域(例: メタデータ / データ品質 / データアーキテクチャ)をまとめたもの  ○ データにまつわる足元の様々な課題に対応しながら  ○ データをビジネスに生かしていくためのToBeを描いて  ○ それを継続的に維持 / 進化させる営みを組織的に行なうこと  ● 個々の問題領域だけでなく、全体感をどう進めていくかがデータガバナンスという伝え方をしています  ○ データのセキュリティだけやってる人、DWHだけ作ってる人と捉えられないようにする  29 この辺を色々やるのが仕事です ● 10Xでデータマネジメントやデータガバナンスに責任を持つのは Analytics Engineer ● 世の中でのAnalytics Engineerはもう少しスコープが狭い気がするけど、10Xだとそこだけでは不十分かなと思ってる

Slide 30

Slide 30 text

Slide 31

Slide 31 text

©10X, Inc. All Rights Reserved. 10Xでのデータ利活用のToBe  ● データマネジメントやデータガバナンスを推し進めていった先には何が待っているのかを社内に伝えていく  ○ 依頼される人にとっての協力するインセンティブを説明していく  ● キーワードは「ガードレール」と「セルフサービス化」   ○ 今後パートナーのローンチの増加やそれ以降のグロースフェイズでアナリストがボトルネックになる可能性は高い  ● 特にセルフサービス化は人によって思い浮べるイメージが大分違う可能性が高いので、詳細説明します  31

Slide 32

Slide 32 text

©10X, Inc. All Rights Reserved. ガードレール  ● パートナーのグロースをアナリストだけの力だけでなく、BizDevやPdMなどその他の職種の方でもセルフサービスで行なうガードレールを敷いていくためのフレームワーク   ● レールの上を走ってもらう分にはスピード出してもらっても、安心・安全・簡単に分析できるよ   ● そもそもレールの外を走れない、走っていたら検知できるようにしていく   ○ 具体的にはデータセキュリティやデータアーキテクチャの強化  32

Slide 33

Slide 33 text

Slide 34

Slide 34 text

©10X, Inc. All Rights Reserved. セルフサービス化: きっとこうではない例  ● みんなデータに広くアクセスできて、みんなが必要なSQLを自前で書いている   ○ かっこいいと言えばかっこいい(?)かもしれないけど、10xさせる中で多分これはすぐスケールしなくなる  34 生データを何とか読み解いて、分析AをやるSQL を書いてみたよこのケースを考慮しないと、分析の結論が逆になることもあるよみんなSQL書けたほうがいいんだよね! スキルとしては書けたほうがよいけど、組織で考えるとみんな書けるべきかはよく考える必要があるよいいテーブルができたら、ここに置いとくね ! そこはその用途に適した場所ではないよ

Slide 35

Slide 35 text

Slide 36

Slide 36 text

©10X, Inc. All Rights Reserved. セルフサービス化: ガードレールを敷いた上で自走  36 複雑な生データ DWH データマート BIツール (Tableau) Analytics Engineerやデータに詳しいアナリストが汎用的なデータを切り出すアナリストやデータに詳しい BizDev / PdMがユースケースに特化したデータを作るデータにそれほど詳しくない BizDev / PdMがSQLを書かずにさっと分析できる安心・安全にデータが使えるね簡単にデータが使えるね

Slide 37

Slide 37 text

©10X, Inc. All Rights Reserved. セルフサービス化: ガードレールを敷いた上で自走  37 複雑な生データ DWH データマート BIツール (Tableau) データ品質を満たせるアーキテクチャは Analytics Engineerで担保 Analytics Engineerやデータに詳しいアナリストが汎用的なデータを切り出すアナリストやデータに詳しい BizDev / PdMがユースケースに特化したデータを作るデータにそれほど詳しくない BizDev / PdMがSQLを書かずにさっと分析できるリーガルやSREと相談した上で、個人情報を適切に扱えるようにAnalytics Engineerが設計、運用簡易かつ個別の分析はアナリストに依頼する必要はない。アナリストはより難易度の高い分析に集中できるように取り回しがよいDWHがあることにより、個別のユースケースにもデータ品質を担保しつつ対応がしやすいメタデータが整備されていることで、ユースケースに沿ったものかが自分で判断できるより適切なSQLになるようにAnalytics Engineerがレビュー、分析方法自体はアナリストがレビューする場合も安心・安全にデータが使えるね簡単にデータが使えるね

Slide 38

Slide 38 text

Slide 39

Slide 39 text

Slide 40

Slide 40 text

Slide 41

Slide 41 text

©10X, Inc. All Rights Reserved. 他職種への協力依頼: エンジニア向け  ● いくらDWHやデータマートを整備しても、生データが重要なことは揺がない事実です   ● 生データの仕様やその変更、意図など色々質問に行くことがあると思います   ● 特にイベントログはデータとしてまだ取れていないものも多いです   ● Analytics Engineerやアナリストが食材(=生データ)を生かしていくためにも、力を貸してください   41

Slide 42

Slide 42 text

©10X, Inc. All Rights Reserved. 協力依頼のサマリー:  ● あなたのデータの困りはみんなの困り   ○ 社内でも同じように困っている人がきっといるはず  ● みんなのデータの困りを解決させるためのフレームワークがデータマネジメント   ○ 個別の課題を解決する、というよりはある程度問題を汎化させて考える  ○ 色んな会社でデータ周りの課題になっていることをノウハウの塊のようなもの  ● データを使ってStailerを10xさせていく仕組みをデータマネジメントで作っていきたい   ○ データマネジメントは一般的なフレームワーク  ○ 10Xの現状に合わせてカスタマイズして進める必要がある  ● Analytics Engineer(10Xでは現在私のみ!)だけでは困難なので、様々な職種の方と#AsOneTeam で実現していきたい  42 データマネジメント + #AsOneTeam

Slide 43

Slide 43 text

Slide 44

Slide 44 text

©10X, Inc. All Rights Reserved. 現在データマネジメントでやっていること  ● データセキュリティ  ○ 付与する権限を最小化  ○ IaCでの設定のコード化、変更におけるレビューフローの整備  ● データウェアハウス  ○ カバレッジの増強  ○ 開発者や必要なmart / データソースが増えた際にも対応できるアーキテクチャ設計やドキュメント整備  ○ 旧データウェアハウスの撤退、MetabaseからTableauへの移行  ● アセスメントをやってみて、↑はどう変わったか   ○ 他にもやることはたくさんあるものの、優先度や納得感が得やすくなった / 説明もしやすくなった  ○ 特に他職種とのコミュニケーション時の前提となる背景が共有できたのは大きかった  ○ 日々のタスクを倒していくだけでなく、どういう世界を実現していきたいかを言語化する機会になったのもよかった  44

Slide 45

Slide 45 text

©10X, Inc. All Rights Reserved. まとめ  ● スタートアップにおけるデータマネジメントの始め方の事例を紹介しました   ○ 一人目やオンライン環境下での難しさとどう向き合っているか  ○ アセスメントと通じて、データマネジメントの課題をどう優先順位を付けているか  ○ 社内への展開の仕方  ○ 日々の業務への生かし方  ● 一事例に過ぎないとは思うので、他社さんでの事例も今後聞いてみたい   ● 本発表へのフィードバックもお待ちしております!   45

Slide 46

Slide 46 text

No content