Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Unity Catalogの自動有効化
Search
Databricks Japan
May 29, 2024
Technology
1
270
Unity Catalogの自動有効化
Unity Catalogの自動有効化について説明します。
Databricks Japan
May 29, 2024
Tweet
Share
More Decks by Databricks Japan
See All by Databricks Japan
AIもデータも、もっと身近に。Databricksで広がる金融業界の可能性 / FDUA-Study
databricksjapan
0
100
OTFSG勉強会 / Introduction to the History of Delta Lake + Iceberg
databricksjapan
0
160
[2025年5月版] Azure Databricks最新機能アップデート / 202505 Azure Databricks Latest Updates
databricksjapan
0
200
DatabricksとPower BIの連携メリット / Databricks PowerBI Integration Merits
databricksjapan
1
210
[2025年4月版] Databricks Academy ラボ環境 利用開始手順 / Databricks Academy Labs Onboarding
databricksjapan
2
420
Lakeflow Connectのご紹介
databricksjapan
1
240
MLflowの現在と未来 / MLflow Present and Future
databricksjapan
1
690
Iceberg Meetup Japan #1 : Iceberg and Databricks
databricksjapan
0
850
JEDAI Meetup! Databricks AI/BI概要
databricksjapan
0
650
Other Decks in Technology
See All in Technology
[SRE NEXT] ARR150億円_エンジニア140名_27チーム_17プロダクトから始めるSLO.pdf
satos
5
3k
Microsoft Defender XDRで疲弊しないためのインシデント対応
sophiakunii
1
320
SREの次のキャリアの道しるべ 〜SREがマネジメントレイヤーに挑戦して、 気づいたこととTips〜
coconala_engineer
1
4.4k
アクセスピークを制するオートスケール再設計: 障害を乗り越えKEDAで実現したリソース管理の最適化
myamashii
1
670
クラウド開発の舞台裏とSRE文化の醸成 / SRE NEXT 2025 Lunch Session
kazeburo
1
590
Data Engineering Study#30 LT資料
tetsuroito
1
190
【あのMCPって、どんな処理してるの?】 AWS CDKでの開発で便利なAWS MCP Servers特集
yoshimi0227
6
950
安定した基盤システムのためのライブラリ選定
kakehashi
PRO
3
130
Figma Dev Mode MCP Serverを用いたUI開発
zoothezoo
0
230
Amplify Gen2から知るAWS CDK Toolkit Libraryの使い方/How to use the AWS CDK Toolkit Library as known from Amplify Gen2
fossamagna
1
350
Delegating the chores of authenticating users to Keycloak
ahus1
0
190
ABEMAの本番環境負荷試験への挑戦
mk2taiga
5
1.3k
Featured
See All Featured
Being A Developer After 40
akosma
90
590k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
667
120k
How to Ace a Technical Interview
jacobian
278
23k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
126
53k
Intergalactic Javascript Robots from Outer Space
tanoku
271
27k
Bash Introduction
62gerente
613
210k
Designing for humans not robots
tammielis
253
25k
How to Think Like a Performance Engineer
csswizardry
25
1.7k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
45
7.5k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
357
30k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
13k
Transcript
©2023 Databricks Inc. — All rights reserved Unity Catalogの 自動有効化
ワークスペース組み込みの ガバナンス Date 8/31/2023 Name データブリックス ジャパン株式会社
©2023 Databricks Inc. — All rights reserved DatabricksレイクハウスはデータとAIの ガバナンスを統合します 外部コンピュート
プラットフォーム BI & データ ウェアハウス データエンジニ アリング ストリー ミング データ サイエンス & ML Open Interfaces Databricks Unity Catalog 構造化、非構造化データ + AIに対する単一のガバナンスモデル 外部データソース クラウドデータレイク すべての構造化、半構造化、非構造化データ 外部カタログ
©2023 Databricks Inc. — All rights reserved Unity Catalog はレイクハウス
の基盤です ワークスペース横断の ガバナンス リネージ 行 & 列のフィルタリング テーブルの 自動チューニング タグ ボリューム ML特徴量 & モデル システムテーブル Delta Sharing レイクハウスフェデレーション クリーンルーム レイクハウスモニタリング DatabricksIQ Databricksマーケットプレイス
発表 Unity Catalogはすべてのワークスペース で自動で有効化されます!
©2023 Databricks Inc. — All rights reserved メリット ▪ 新規ワークスペースはUnity
Catalogへのアクセスが事前設定されて提供さ れ、デフォルトでアセットのガバナンスが確保されます ▪ アカウント管理者に「電話をかける」必要なしにワークスペースの 「利用を開始」できます ▪ Unity Catalogをベースとした最新のDatabricks機能にアクセスできます ▪ Hiveサポートを含むUC以前のワークロードとの完全互換性があります
©2023 Databricks Inc. — All rights reserved 概要 ワーク スペースでUCが
自動有効化 1 ワークスペース 専用のカタログ 2 ワークスペース管理者が カタログの所有者 3 Hiveサポートに 変更なし 4
©2023 Databricks Inc. — All rights reserved 動作原理
©2023 Databricks Inc. — All rights reserved 動作原理 ワーク スペース
1 UC カタログ 1 ストレージ WS管理者 UCメタストア あるリージョンに最初のワークスペースが作成さ れると、それとともに自動でメタストアも作成されま す 自動作成されたメタストアには、ワーク スペース分離を維持するために、ルート ストレージやメタストア管理者は設定されません 新規 ワークスペース
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス
1 UC カタログ1 ストレージ WS管理者 ワークスペー ス 2 ストレージ WS管理者 UCメタストア 新規ワークスペースは同じ リージョンのUCメタストアに自 動でアタッチされます 新規ワーク スペース UC カタログ2
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス1
UC カタログ1 ストレージ WS管理者 ワークスペー ス2 UC カタログ2 ストレージ WS管理者 UCメタストア ワークスペースとともに、ワークスペース名 のついた事前設定済みのカタログが提供さ れます カタログはデフォルトでワークスペースに 「紐づけ」られており、明示的に解放しない 限りそのワークスペースからしかアクセスで きないことを意味します
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス1
UC カタログ1 ストレージ WS管理者 ワークスペー ス2 UC カタログ2 ストレージ WS管理者 ワークスペース管理者はカタログの所有権を 持ち、UCで新規カタログ、 ロケーション、コネクション、その他のルート レベルのオブジェクトを作成することができま す UCメタストア
©2023 Databricks Inc. — All rights reserved ワークスペー ス2 UC
カタログ2 ストレージ WS管理者 動作原理 ワークスペー ス1 UC カタログ1 ストレージ WS管理者 このカタログはワークスペース専用の ストレージを使用します: • Azure - DBFSに隣接する新規 コンテナ • AWS - ワークスペースストレージ配 下で分離されたプレフィクス UCメタストア
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス1
UCカタログ1 ストレージ WS管理者 ワークスペー ス2 UC ストレージ WS管理者 ユーザーがカタログ/スキーマを指定せず に‘CREATE TABLE myTable’を実行した 場合、‘default’として設定されているカタ ログにテーブルが作成されます。 これは‘workspace default catalog’ という新たなワークスペース設定で制御さ れます。 Hiveを使い続けたい場合には、この 設定を変更します。 UCメタストア Hive
©2023 Databricks Inc. — All rights reserved Before vs After
コンポーネント 以前のリリース 新規リリース Unity Catalog ワークスペース作成後にアカウント管理者に よって有効化 ワークスペース作成時に自動で有効化 Hiveメタストア それぞれのワークスペースで自身の Hive メタストアを保持 それぞれのワークスペースで自身の Hive メタストアを保持 アイデンティティシステム ワークスペースごとのアイデンティティ システム、ローカルグループ アイデンティティフェデレーション , アカウントグルー プ (アカウント管理者、ワークスペース管理者に よって作成) デフォルトのカタログ Hive UI/APIで設定可能 (UCカタログかHiveを選択可 能) UCメタストアのストレージルート とメタストア管理者 必須 オプション (分散ガバナンスをサポート ) UCストレージ資格情報の作成 アカウント管理者のみ アカウント管理者、メタストア管理者、ワークスペー ス管理者、CREATE STORAGE CREDENTIAL権限 を持つユーザー UCカタログ作成 (コネクション、外部ロケーショ ン、共有にも適用) メタストア管理者、CREATE CATALOG CREDENTIAL 権限を持つユーザー メタストア管理者、ワークスペース管理者、 CREATE CATALOG CREDENTIAL権限を持つユー ザー
©2023 Databricks Inc. — All rights reserved Demo