Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
解説!データ基盤の進化を後押しする手順とタイミング
Search
ShoMaekawa/ウィル
May 17, 2024
Science
550
1
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
解説!データ基盤の進化を後押しする手順とタイミング
データマネジメントの勘所第 4 回目徹底
ShoMaekawa/ウィル
May 17, 2024
More Decks by ShoMaekawa/ウィル
See All by ShoMaekawa/ウィル
Conversation is the New Dashboard: 属人性を排除する第4世代BIツールの勢力図
shomaekawa
1
650
BIツール研究所の所長が激推しするThoughtSpotの魅力
shomaekawa
0
89
スタートアップにおけるこれからの「データ整備」
shomaekawa
2
1.1k
2025-03-25Communeデータの魅力&仕事の魅力
shomaekawa
0
700
属人化からデータマネジメントをチームで実行するまでの道のり
shomaekawa
2
640
SaaSスタートアップにおけるデータマネジメントの始め方
shomaekawa
2
1.1k
フルスタック一人目データアナリストがデータ基盤を作ったお話
shomaekawa
1
1.2k
BtoBSaaSCS-LightningTalks_CS_Ops立ち上げのアンチパターン5撰
shomaekawa
2
970
オープンエイトの CS Ops事例〜データで顧客を見える化し CS業務を強化する〜
shomaekawa
0
1.6k
Other Decks in Science
See All in Science
サンプル対応のない複数遺伝子発現プロファイルに対するテンソル分解型統合解析の要約
tagtag
PRO
0
250
1. CPC理論の展開と集合的知能モデル(JSAI2026 KS-27 集合的予測符号化と新たな知性の時代)
hayashiyus884
1
360
科学で迫る勝敗の法則-スポーツデータ分析の最前線 (刈谷市連携講座.2026年7月) / The principle of victory discovered by science. at Kariya City, 2027.07
konakalab
0
160
生成AIと司法書士の未来.pdf
tagtag
PRO
0
170
Leitner Inauguration Lecture Chalmers University of Technology
xleitix
0
340
東北地方における過去20年間の降水量の変化
naokimuroki
1
480
Inside the Mind of an LLM
baggiponte
0
320
データベース15: ビッグデータ時代のデータベース
trycycle
PRO
1
560
From Prediction to Understanding: Causal Discovery for Data Science and AI Applications
sshimizu2006
0
300
(SIGBIO84) Inverse MSMD法による化合物部分構造プロファイリングと結合親和性推定
keisukeyanagisawa
PRO
0
120
生成AI・プレプリント時代における 研究成果公開の再設計 ― トップカンファレンス文化はどこへ向かうのか / Redesigning the Dissemination of Research Outputs in the Age of Generative AI and Preprints — Where Is the Top-Conference Culture Heading?
ykiyota
0
30k
機械学習 - DBSCAN
trycycle
PRO
0
2.1k
Featured
See All Featured
Become a Pro
speakerdeck
PRO
31
6.2k
Exploring anti-patterns in Rails
aemeredith
3
500
How Software Deployment tools have changed in the past 20 years
geshan
1
34k
Skip the Path - Find Your Career Trail
mkilby
1
220
Impact Scores and Hybrid Strategies: The future of link building
tamaranovitovic
0
430
Mozcon NYC 2025: Stop Losing SEO Traffic
samtorres
1
520
Avoiding the “Bad Training, Faster” Trap in the Age of AI
tmiket
0
230
Bash Introduction
62gerente
615
220k
From Legacy to Launchpad: Building Startup-Ready Communities
dugsong
0
330
XXLCSS - How to scale CSS and keep your sanity
sugarenia
249
1.3M
Tell your own story through comics
letsgokoyo
1
1.1k
The Language of Interfaces
destraynor
162
27k
Transcript
第4回 データマネジメントの勘所 徹底解説!データ基盤の進化を後押しする手 順とタイミング 2024/05/14 コミューン株式会社 sho maekawa
「⾃⼰紹介‧会社紹介」 1
©Commune Inc. All rights reserved 前側 将 コミューン- DataTeam Acting
Manager 経歴 ヤフーなどの大規模会員データを持つ企業でデータアナリストを担当。前職では、1からデー タ組織を組成しデータ基盤の運用に取り組む。コミューンには 2023年6月に入社し最短で安 定し価値を届けるデータ基盤を作るべく基盤作りをリード。 データ基盤の運用だけでなく、アナリストやサイエンティストの分析チーム採用〜組成、データ プロダクトの開発企画など、従来の枠に囚われないデータチームのあり方を模索中。 その他 書籍「BIツール活用超入門」 子育ての機会に2年前より地元札幌移住。東京に毎月出張するようなライフスタイル Sho Maekawa X (旧 Twitter) アイコン 3 自己紹介
©Commune Inc. All rights reserved 4 コミューンは、単なる場作りを越えて活性化し、 事業成果が出るコミュニティプラットフォームです コミューンとは
©Commune Inc. All rights reserved コミュニティが企業成⻑の源泉となる ‧コミュニティによって、既存顧客育成を実現することができる ‧既存顧客育成の過程で得られたインサイトは、マーケティング活動を中⼼に企業活動全体の基盤となる 新規顧客獲得のためのファネル 既存顧客育成のためのファネル
認知 興味‧関⼼ 検討 購⼊ リピート アップセル クロスセル ロイヤル ユーザー化 コミュニティが影響を与える領域 コミュニティが得意な領域 5 コミュニティの価値
AGENDA 1. ⾃⼰紹介‧会社紹介 2. データ基盤運⽤作業の⾟み 3. データ基盤の進化を後押しする⼿順とタイミング 4. コミューンの状況
©Commune Inc. All rights reserved 発表で伝えいたこと(ターゲット別のゴール) 成熟した組織を動かすことに苦戦している方へ 2024年のトレンドに合わせて良いデータ基盤を1から高速に作る例をご紹介します! 大規模データ組織のデータエンジニアへ
大量のデータ基盤に対する要望を少数精鋭でなんとか耐え忍んでいる皆様へ 辛い状況の打開のタイミングや順番をお伝えします! 片手間データエンジニアさんへ 7
「データ基盤の運⽤作業の⾟み」 1
©Commune Inc. All rights reserved データ基盤の運⽤作業の⾟み 環境ごとに⾟みは違ったりする リソース その他 ⾟み
‧成熟していて評価を出せるタスクが少ない ‧ツールを投資できない ‧⼈員補強がされない ‧今使っているツールがあり、リプレイスできない ‧⼈員計画が決まっている ‧評価者がいないので正当な評価がされない 基盤運用 忙しさ 関係者 基盤運用 忙しさ 関係者 ‧関係者が多すぎて説明コストが⼤きい ‧運⽤物が多くコストがかかる ‧ベストプラクティスがわからない ‧⼀⼈で全スキルカバーできない ‧未知のトラブルに遭遇 ‧出来上がっていて運⽤メイン ‧分業されていて、スキルの幅が⾝につか ない ‧⼤規模特有のハードなトラブルに遭遇 ‧別部署管轄などで満⾜のいく処理が作れ ない ‧アラートなど予防策を打つ暇がない ‧他に業務があり対応できない ‧知らないことがあるが学習する時間 がない ‧ドキュメント作る時間がない ‧未発達なので簡単な依頼が多い ‧問い合わせコントロールコスト必要 ‧ドキュメントコスト必要 大規模データ組織のデータエン ジニアさん 9 片手間データエンジニアさん
©Commune Inc. All rights reserved データ基盤の運⽤作業の⾟み データアナリスト時代は⼤規模環境を担当していた リソース その他 ⾟み
‧成熟していて評価を出せるタスクが少ない ‧今使っているツールがあり、リプレイスできない ‧⼈員計画が決まっている 基盤運用 忙しさ 関係者 ‧関係者が多すぎて説明コストが⼤きい ‧運⽤物が多くコストがかかる ‧出来上がっていて運⽤メイン ‧分業されていて、スキルの幅が⾝につか ない ‧⼤規模特有のハードなトラブルに遭遇 ‧別部署管轄などで満⾜のいく処理が作れ ない ‧問い合わせコントロールコスト必要 ‧ドキュメントコスト必要 僕の場合 専門性のある優秀な仲間と働ける経験ができてよかった! スキルも構想もあるが、自チームで、できることは限界に達し、成熟している 組織を変えることが難しく「俺的ベストプラクティスなデータ基盤を作るのに時 間がかかりすぎる」と思い、転職 僕の場合 専門性のある優秀な仲間と働ける経験ができてよかった! スキルも構想もあるが、自チームで、できることは限界に達し、成熟している 組織を変えることが難しく「俺的ベストプラクティスなデータ基盤を作るのに時 間がかかりすぎる」と思い、転職。 スピード感と調整コストの観点が辛みだった ポジティブな点 ・専門スキルを積みたい人におすすめ! ・運用の正解例がわかる ・大規模特有のトラブルへの対処法が学べる 10 大規模データ組織のデータエンジニアさん
©Commune Inc. All rights reserved データ基盤の運⽤作業の⾟み 直近2回はスタートアップで⽚⼿間からスタートしている リソース その他 ⾟み
‧ツールを投資できない ‧⼈員補強がされない ‧評価者がいないので正当な評価がされない 基盤運用 忙しさ 関係者 ‧ベストプラクティスがわからない ‧⼀⼈で全スキルカバーできない ‧未知のトラブルに遭遇 ‧アラートなど予防策を打つ暇がない ‧他に業務があり対応できない ‧知らないことがあるが学習する時間 がない ‧ドキュメント作る時間がない ‧未発達なので依頼が多い 僕の場合 「俺的ベストプラクティスを実践した基盤を作りたい」という思いが強烈にあり ます。 2回も1から基盤を作るのはハード、、だが、経験値豊富な仲間を集 めること、経営レベルでデータに投資する文化があるという 2点さえあれば 一番最高の基盤が作れると思っている ポジティブな点 ・実用的な経験や対応力を積みたい人におすすめ! ・信頼を獲得した時の裁量が大きく、大規模なチャレンジができる 11 片手間データエンジニアさん
データ基盤の後押しする⼿順と タイミング🤔
©Commune Inc. All rights reserved 4つのフェーズに分け解説 戦略と連動期 品質向上期 オペレーション構築期 ⽴ち上げ期
phase4 phase3 phase2 phase1 ⽬指す 状態 ①依頼対応などが最低限回っ ている ②lake-dwh-martなどで構成 した最低限の基盤ができてい る ①データモデリングを⾒直し 最⼤効率かつチーム運⽤を実 現 ②将来の価値発揮のために投 資を受ける 経験豊富なメンバーで最速最 短で基盤を構築する ①経営戦略やデータ戦略と連 動 ②俺的ベストプラクティスを 実践 • まずは最低限の基盤作りに集中す る。依頼の期⽇などをコントロー ルし効率的に業務できるようにす る ⽚⼿間さん ⼤規模さん • 副業でアドバイスなどするのがお すすめ。⾃分にあった環境か⾒極 める • 改善能⼒がある⼈員と投資計画が あれば転職もおすすめ • 転職した意味を正解にするために 新しい挑戦をどんどんするべき • データモデリング既存コードの⾒ 直しはかなり⼤変 • 投資を受けることができるか重要 • 最⾼に楽しい時期! • これまでの努⼒が報われる • ⼀⽅で要求レベルが⾼度化する • 評価が会社の戦略に連動する • データプロダクトなどコストセン ターから脱却される データ基盤の後押しする⼿順とタイミング 13
コミューンの状況 4
©Commune Inc. All rights reserved 15 2023年6月 入社したタイミング 状況整理と目線合わせ なんでも屋のMGRだが、一応アナリストとして JOIN。DataMLで4人 目。
データ組織を拡大する方針はあったため、優秀な仲間を集めること ができれば辛みを乗り越えることができると確信していた 個人が場当たり的にデータ集計していたところをチームで精度高く 運用するフェーズに変化するタイミング アセスメントを行いメンバー間のこだわりや技術観点のすり合わせ を先に行うことで目線が揃い、チームでのずれが減る 将来の仲間のために業務を型化することを徹底した!めちゃくちゃ⼤事!
©Commune Inc. All rights reserved 16 2023年12月 ~6ヶ月目 拡大と変革 分析者と業務委託で支援してくださるアナリティクスエンジニアさん が参画したため、依頼対応の負荷を軽減。他社の経験豊富な有識 者がすでに経験した課題が多いのでアンチパターンを踏まなくて済
む。 組織組成、組織拡大、データプロダクト、通常業務運営、成果出し とかなりハードだが、ここまでやることで理想のデータ基盤が作れ ると思う。 BQに入ってから活用するまでの主要なデータモデリングの整備に集中する 民主化してもメンテする余力がないため、 SQLやBIの積極展開はまだしない データプロダクトとして顧客にデータを提供するためのデータ品質担保に取り 組む 基盤運用 早期にデータプロダクトにチャレンジし予算を獲得する 誰かの支援をする従来の社内向けデータ組織だと、成果が不確実で経営目 線での成果がわかりづらい。 そのため経営レベルでわかりやすい直接貢献をできる組織を作った。 採用
©Commune Inc. All rights reserved 17 データ人材全員がデータで直接価値を作る動きができている モダンデータスタック構築 (社内最適) データプロダクト開発
(直接価値算出) ~2024年のトレンド
直近6ヶ⽉くらいで うまくいかなかったこと
©Commune Inc. All rights reserved 当然うまくいかないこともある ・ DMBOKのアセスメントが停止していること ・権限管理などガバナンス整理にあまり時間をかけられなかったこと
・要求レベルの向上についていけないことも ・外部のイベント登壇などにあまり時間が避けないこと ・全くツールや技術に投資していない(あえて投資していない) しかし皆様に朗報です。考え方をポジティブに変換すると、、、
©Commune Inc. All rights reserved 20 2024年のトレンドに合わせた最高なデータ基盤は? 経験豊富なメンバーの知見を駆使して基盤を再設計できる!
最後に宣伝です📢
©Commune Inc. All rights reserved 22 コミューンはあなたのキャリアを実現するビークルです! 採用情報 DataMLチームの勉強会News
23 積極採用中〜 アナリティクスエンジニアの募集がオープンしております ⭐ X (旧 Twitter) で直接 DM して頂いても大丈夫です👍
※魅力的なデータ人材が集まっているのでぜひ JDチェックください🙏 🚀アナリティクスエンジニア🚀 🚀カジュアル面談🚀 🚀ウィルX🚀 フォローお願いします!
24 ©Commune Inc. All rights reserved