Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Speaker Deck
PRO
Sign in
Sign up
for free
freeeのデータ基盤におけるDWH/BIの運用事例紹介
yusuken
July 15, 2020
Technology
0
3.8k
freeeのデータ基盤におけるDWH/BIの運用事例紹介
yusuken
July 15, 2020
Tweet
Share
Other Decks in Technology
See All in Technology
ch1aki
2
250
dena_tech
0
180
korodroid
0
230
shoichiron
1
160
yuji1484
3
900
ishiayaya
PRO
0
160
benzookapi
1
450
hololab
0
210
akitok_
2
790
yamamuteki
3
860
tricknotes
1
140
leaner_tech
0
1.3k
Featured
See All Featured
marcelosomers
221
15k
frogandcode
128
20k
kneath
219
15k
caitiem20
308
17k
jakevdp
775
200k
chriscoyier
683
180k
philhawksworth
190
17k
addyosmani
1346
190k
addyosmani
494
110k
ammeep
656
54k
myddelton
109
11k
scottboms
251
11k
Transcript
freee 株式会社 freeeのデータ基盤におけるDWH/BIの運⽤事例紹介 Data Engineering Study #1 2020.07.15
新卒で外資系IT企業にて技術営業 2017年5⽉ freeeに⼊社 ⼊社当初はデータサイエンティスト 2017年10⽉からデータ総合格闘家 (フライ級) 最近ハマっている⻝べ物は鯵の⼲物 freee株式会社 中⼭ 裕介
(yusuken ※nは黙字)
スモールビジネスを、世界の主役に。 アイデアやパッションやスキルがあればだれでも、 ビジネスを強くスマートに育てられるプラットフォーム 161億603万円 (資本準備⾦等含む) 従業員数 事業内容 クラウド型バックオフィスサービス の開発・販売 資本⾦
設⽴年⽉⽇ 2012年7⽉ 506名(2019年6⽉末時点)
創業からIPOまで、バックオフィス領域における中⼩企業活性化のためのサービスを⼀気通貫で提供 ❂ 納税する ↗ 育てる ↻ 運営する ✩ はじめる 会社設⽴
freee 開業 freee クラウド会計ソフト freee ⼈事労務 freee (マイナンバー管理 freee 含む) クラウド申告 freee 7つのメインプロダクト
アジェンダ 1. データ基盤紹介 2. 運⽤事例紹介 3. まとめ・今後の課題
1 データ基盤紹介 6 Section
特徴 • さまざまなユーザー • 多様なデータソース • セキュリティ⼤事
現状のデータ基盤の全容 基本的にはAWSのサービスを使っています σʔλιʔε σʔλநग़ɾՃɾऔΓࠐΈ #* RDS/Aurora (プロダクトDBs) S3(ログ) 外部SaaS %8)
Batch Redshift S3(Data Lake) Athena Lambda Digdag EC2 参照 参照 S3 ECS Glue ※説明の都合上、⼀部簡略化して書いております
本⽇の発表範囲 DWH/BIの話ということで、Redshift/Redashの話をメインにします σʔλιʔε σʔλநग़ɾՃɾऔΓࠐΈ #* RDS/Aurora (プロダクトDBs) S3(ログ) 外部SaaS %8)
Batch Redshift S3(Data Lake) Athena Lambda Digdag EC2 参照 参照 S3 ECS Glue ※説明の都合上、⼀部簡略化して書いております
2 運⽤事例紹介 10 Section
Redshiftの運⽤ • データ ◦ マスク処理、カラム落としを⾏ったデータ • クラスター3台を使い分け ◦ primary, replica-1,
replica-2
Redshiftの使ってみて 良いところ 苦労しているところ • コストの⾒通しは⽴てやすい ◦ データスキャン量課⾦ではない • ちょっとした集計クエリを回す分には◦ •
S3との相性◎ • キャパシティプランニング難しい ◦ 気づいた時にはDiskの100% • テーブルのチューニング必要 ◦ DISTSTYLE/DISTKEY/SORTKEY周りの 指定 ◦ 再分散が起こるとクエリは重い
Redashの運⽤ • データソースは都度追加 • EC2インスタンスにDockerいれて稼働 • Mackerelで監視 • 全社員に開放 Redashのクエリ画⾯
Redashをつかってみて • (OSS版)運⽤費が安い ◦ インスタンス費⽤だけ! • 定期的にKPI集計⽤のクエリを回す分には⼗分 • Spreadsheetへ集計結果も連携可能 (セキュリティがガチガチでなければ・・)
• SQL書く前提のツールなので⼈によってはハー ドル⾼いので普及に限界 • Schedule実⾏のクエリが同時多発で実⾏されて RedashのWorkerのQueueが詰まる ◦ ひいてはRedshiftも・・・・ 良いところ 苦労しているところ
こういう⽅におすすめ • Redshift ◦ 予め予算を取る際に確実な⾦額をださないと通りにくい企業 ◦ 全社的にAWS使っている企業 • Redash ◦
無料でつかってみたい⽅(OSS版) ◦ さくっと簡単な可視化をしたい⽅ ◦ SQLで書くことが苦でない⽅
3 まとめ・今後の課題 16 Section
まとめ • freeeの中でRedshift/Redashは現役バリバリ • Redshiftまぁまぁいいぞ • Redashは試しに使ってみるのオススメ
今後の課題 • Redshiftの新しいインスタンスタイプ試す • データカタログ整備(メタデータ管理) • ETL周りの処理のリファクタ・レガシーなやつを移⾏
最後に データエンジニア募集中!! https://jobs.forkwell.com/freee/jobs/7063
スモールビジネスを、 世界の主役に。