Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
〜可視化からアクセス制御まで〜 BigQuery×Looker Studioで コスト管理とデ...
Search
CUEBiC Inc.
May 27, 2025
Programming
3
330
〜可視化からアクセス制御まで〜 BigQuery×Looker Studioで コスト管理とデータソース認証制御する方法
CUEBiC Inc.
May 27, 2025
Tweet
Share
More Decks by CUEBiC Inc.
See All by CUEBiC Inc.
今だから言えるセキュリティLT_Wordpress5.7.2未満を一斉アップデートせよ
cuebic9bic
2
110
BigQuery Remote FunctionでLooker Studioをインタラクティブ化
cuebic9bic
3
360
構造化すれば怖くない 画像検索から始める木を見て森に入る勉強法
cuebic9bic
2
390
〜基礎から発展まで〜 BigQuery×Looker Studio のクエリコスト削減方法!
cuebic9bic
3
250
Looker Studio×BigQuery×スプレッドシートで爆速プロトタイピングする方法!
cuebic9bic
2
250
Terraform Registryで公開されているTerraform Modulesが便利だった件
cuebic9bic
2
1.4k
CUEBiC 会社説明資料 デザイナー向け
cuebic9bic
0
3.4k
trocco第5回ユーザー会_troccoとAmazon Redshiftで挑んだコンテンツマーケティングの分析基盤構築
cuebic9bic
1
840
CUEBiC社のデジタルメディア事業を支えるデータ分析基盤の変遷
cuebic9bic
1
800
Other Decks in Programming
See All in Programming
The Niche of CDK Grant オブジェクトって何者?/the-niche-of-cdk-what-isgrant-object
hassaku63
1
580
“いい感じ“な定量評価を求めて - Four Keysとアウトカムの間の探求 -
nealle
2
12k
なぜ適用するか、移行して理解するClean Architecture 〜構造を超えて設計を継承する〜 / Why Apply, Migrate and Understand Clean Architecture - Inherit Design Beyond Structure
seike460
PRO
3
790
Modern Angular with Signals and Signal Store:New Rules for Your Architecture @enterJS Advanced Angular Day 2025
manfredsteyer
PRO
0
250
スタートアップの急成長を支えるプラットフォームエンジニアリングと組織戦略
sutochin26
1
7k
PicoRuby on Rails
makicamel
2
140
「テストは愚直&&網羅的に書くほどよい」という誤解 / Test Smarter, Not Harder
munetoshi
0
200
What's new in AppKit on macOS 26
1024jp
0
150
ソフトウェア品質を数字で捉える技術。事業成長を支えるシステム品質の マネジメント
takuya542
2
15k
猫と暮らす Google Nest Cam生活🐈 / WebRTC with Google Nest Cam
yutailang0119
0
170
商品比較サービス「マイベスト」における パーソナライズレコメンドの第一歩
ucchiii43
0
140
#kanrk08 / 公開版 PicoRubyとマイコンでの自作トレーニング計測装置を用いたワークアウトの理想と現実
bash0c7
1
920
Featured
See All Featured
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
29
9.6k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
44
2.4k
Gamification - CAS2011
davidbonilla
81
5.4k
Testing 201, or: Great Expectations
jmmastey
43
7.6k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
35
2.4k
実際に使うSQLの書き方 徹底解説 / pgcon21j-tutorial
soudai
PRO
181
54k
Product Roadmaps are Hard
iamctodd
PRO
54
11k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
47
9.6k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
45
7.5k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
26
2.9k
Done Done
chrislema
184
16k
Designing Dashboards & Data Visualisations in Web Apps
destraynor
231
53k
Transcript
〜可視化からアクセス制御まで〜 BigQuery×Looker Studioで コスト管理とデータソース認証制御する方法 株式会社キュービック テクノロジーエキスパートセンター Tech Lead/データエンジニア 尾﨑勇太 2025.05.16
開示範囲:公開ドキュメント 1
自己紹介 2 株式会社キュービック 役割:Tech Lead/データエンジニア 名前: 尾﨑 勇太(おざき ゆうた) 覚え方:尾崎豊(おざきゆたか)と一字違い
業務領域 「データに関わる全て」
3 Looker Studioで可視化したは 良いものの、コストとロール設 計が課題。。。。
LT内容 4 1.BigQuery×Looker Studioでコスト管理する方法 2.BigQuery×Looker Studioのデータソース認証制御
よくあるGCPの請求周りの課題 5 コンソールからPJ単位の利用状況は見えるが・・・ ・請求アカウント単位で見れない ・サービスごとの精緻な情報が見れない ・BigQueryのコストの内訳がわからない ・通知設定だけだと不十分 ・コスト悪化の予兆を検知したい
よくある課題 6 いわゆる・・・ コストのブラックボックス化
7 コストが把握できないとか 本末転倒だよね。。。。 可視化しちゃえ!!
BigQueryでコスト管理するには? 8 Cloud BillingをBigQueryに同期してLooker Studioで可視化する 課金データをエクスポートすることで、請求のロール設定の課題を緩和できる ▷同期開始より前のデータは取得できないので計画的に BigQuery 課金データ
BigQueryのクエリコストを管理するには? 9 Looker StudioでBigQueryのINFOMATION SCHEMAのログを可視化 Looker Studioからのジョブ情報を抽出することで、クエリコストを可視化 ▷データスキャン量が大きいのでご利用は計画的に BigQuery INFOMATION
SCHEMA
クエリコストを「管理する」だけじゃない 10 テンプレート単位での浸透率とデータ量の割合を可視化 利用率とスキャンデータ量の相関を把握 利用者にヒアリング(アタック)をかける モニタリング環境の改善とコスト削減が可能に ✋効果の薄いデータソースをクローズ ※オーナー認証やサービスアカウント認証では同一メールアドレスになります 非公開 非公開
非公開 非公開 テンプレート単位で分布を確認する 📊👀大体偏りがある
LT内容 11 1.BigQuery×Looker Studioでコスト管理する方法 2.BigQuery×Looker Studioのデータソース認証制御
よくある課題 12 人に紐づいたデータ資産の整理>権限管理 間の収集/蓄積プロセス 退職やチーム移動で再現が不可に データの取得経路がわからない。。。。 ORZ
よくある課題 13 人に紐づいたデータ資産の整理>権限管理 退職やチーム移動しても参照先は変わらない データの蓄積方法は残す BigQuery
よくある課題 14 人に紐づいたデータ資産の整理>権限管理 BigQuery あとは適切なロール設計
15 運用者目線 開発者目線 フェーズ別に適切な権限設定をする 可のものがあったら 後で泣くかも💦 ⚠まさかIAMに追加し続 けてないよね??
16 サービスアカウントの IAMでデータセット単位でアクセス制御 ここだけ変更する BigQuery テンプレート マスタ 独自ルート🚪 魔改造
17 まとめ BigQueryでGCPのコスト管理するには? ▷Cloud BillingをBigQueryに同期し、Looker Studioでモニタリング 🉐請求モニタリングのための過剰な権限付与を軽減 BigQueryのクエリコスト管理するには? ▷INFOMATION SCHEMAのログをLooker
Studioでモニタリング 🉐利用率とスキャンデータ量から運用改善も可能 BigQuery×Looker Studioでデータソースの制御するには? ▷フェーズに合わせて最適な認証方法を選択 🉐サービスアカウント認証を選択すればIAMで大元から制御可能
18 ご清聴、ありがとうございました