Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
dbtで作るデータ分析基盤
Search
RyutoYoda
February 11, 2025
71
0
Share
dbtで作るデータ分析基盤
RyutoYoda
February 11, 2025
More Decks by RyutoYoda
See All by RyutoYoda
Streamlitで構築する マルチデータ プラットフォーム対応の アドホック分析環境
ryutoyoda
0
470
AIエージェント多すぎて迷子になっていませんか
ryutoyoda
0
36
databricks,dbt,AWS S3を使ったデータパイプラインレシピ
ryutoyoda
0
92
EmoEcho
ryutoyoda
0
63
Featured
See All Featured
Designing for humans not robots
tammielis
254
26k
Large-scale JavaScript Application Architecture
addyosmani
515
110k
The Curious Case for Waylosing
cassininazir
0
290
The Impact of AI in SEO - AI Overviews June 2024 Edition
aleyda
5
790
B2B Lead Gen: Tactics, Traps & Triumph
marketingsoph
0
100
Fashionably flexible responsive web design (full day workshop)
malarkey
408
66k
Code Reviewing Like a Champion
maltzj
528
40k
KATA
mclloyd
PRO
35
15k
[RailsConf 2023] Rails as a piece of cake
palkan
59
6.5k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
234
17k
Optimizing for Happiness
mojombo
378
71k
Site-Speed That Sticks
csswizardry
13
1.1k
Transcript
dbtで作るデータ分析基盤 Ryuto Yoda 2025年2月14日
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
データ活用の課題 データ分析したい! AIを作りたい!
データ活用の課題 使える綺麗なデータがない、、、
データ活用の課題 データ分析やAIモデル開発には「綺麗なデータ」が必要。 でも、現実は違います。 複数のファイルやテーブルがごちゃごちゃ 名前の揃わないカラムや欠損値だらけのデータ ビジネスで利用できる形式になっていない このカオスを整理するためのツールがdbtです!
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
主にSQLで書ける「データ変換ツール」data build toolの頭文字をとって「dbt」 データベースのクエリエンジンに依存せず、自由 度が高い(PostgreSQL、BigQuery、Snowflake など対応) 類似サービス(dataform) エンジニアと分析担当の架け橋になるツールです! dbtとは?
dbtとは? データアーキテクチャにおけるdbtの立ち位置
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
dbtの魅力 冪等性が高く同じ処理を何度実行しても結果 が変わらない安心感 ビジネスロジックを組み込んだデータ開発が 可能
冪等性について dbtでは依存関係を明確に管理する設計が組み込ま れており、コードで入力と出力を明確に定義する ことができます。 入力元テーブル 出力先テーブル
ビジネスロジックを組み込んだデータ開発 dbtではディメンショナルモデルング(データをビジネス 分析しやすくするために切り出す手法)を簡単に組み込 む関数が充実しています。
dbtデモ 実際に動かしてみます!
・データ活用の課題 ・dbtとは? ・dbtの魅力 ・dbtの課題 ・質問タイム おしながき
dbtの課題 dbtはSQLベースで簡単に開発を進めることができますが、 ビジネス特性の理解やデータモデリングに関する知識がなけ ればデータカオスは解消されず、dbtの機能を十分に活かす ことは難しくなります
dbtの課題 そこでdbtを使ったモデリングに 関するおすすめ資料をまとめてみました。 kimball-dimensional-model dbt_data_vault ・ディメンショナルモデリングの実践 ・データボルト2.0の実践
これで完全に理解...
質問タイム