Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Unity Catalogの自動有効化
Search
Databricks Japan
May 29, 2024
Technology
0
35
Unity Catalogの自動有効化
Unity Catalogの自動有効化について説明します。
Databricks Japan
May 29, 2024
Tweet
Share
More Decks by Databricks Japan
See All by Databricks Japan
Unity Catalog データ分離設計ガイド / Unity Catalog Data Isolation Design Guide
databricksjapan
0
110
機械学習モデルの運用と実用的なアプローチ
databricksjapan
0
470
Unity Catalog 技術ディープダイブ
databricksjapan
1
210
パフォーマンス最適化のベストプラクティス
databricksjapan
0
1.2k
Databricks アシスタントとは?
databricksjapan
0
120
DatabricksによるRAGアーキテクチャー
databricksjapan
0
53
Databricksの課金体系
databricksjapan
0
64
Databricksによるセキュアで効率的なデータエンジニアリングの実現
databricksjapan
0
35
オープンLLM DBRXについて
databricksjapan
0
48
Other Decks in Technology
See All in Technology
生成AI向け機械学習クラスタ 構築のレシピ 北海道石狩編
pfn
PRO
3
730
アウトプット エンジニアリング 〜 インプット偏重から脱却して飛躍するための発想 /20240621-AWS-Summit-hatano-output
opelab
4
230
Comment nous avons transformé les Restos du Coeur en Cloud Provider
ju_hnny5
1
140
Jetpack Compose: 効果的なComposable関数のAPI設計
haru067
0
290
良いユニットテストの性質を整理してたら考えるべき設計も見えてきたの
bun913
11
4.7k
Adopting ZGC in HBase for LINE Messaging
lycorptech_jp
PRO
2
380
AWS構成図から CloudFormationとパラメータシートを 自動生成するシステムを作ってみた
tsukuboshi
0
5.4k
PCI DSSの観点から見た セキュアなJavaアプリケーション開発
nannany
0
160
Fintech事業部流・爆速開発
layerx
PRO
0
110
JVM言語でもできる、競技プログラミング
dhirabayashi
0
190
AI の進化によるパラダイムシフト ~ プログラミング、コスト効率化、 新たなビジネスの可能性 ~
yoshizaki
1
480
もうブロッカーにしない!コードレビューを爆速にする組織づくり🚀
bicstone
3
1.1k
Featured
See All Featured
Teambox: Starting and Learning
jrom
129
8.5k
Bootstrapping a Software Product
garrettdimon
PRO
302
110k
How to name files
jennybc
66
95k
VelocityConf: Rendering Performance Case Studies
addyosmani
321
23k
BBQ
matthewcrist
80
8.9k
A Tale of Four Properties
chriscoyier
154
22k
Designing with Data
zakiwarfel
96
4.9k
Let's Do A Bunch of Simple Stuff to Make Websites Faster
chriscoyier
501
140k
Build your cross-platform service in a week with App Engine
jlugia
227
17k
Building Better People: How to give real-time feedback that sticks.
wjessup
356
18k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
118
18k
Designing on Purpose - Digital PM Summit 2013
jponch
112
6.6k
Transcript
©2023 Databricks Inc. — All rights reserved Unity Catalogの 自動有効化
ワークスペース組み込みの ガバナンス Date 8/31/2023 Name データブリックス ジャパン株式会社
©2023 Databricks Inc. — All rights reserved DatabricksレイクハウスはデータとAIの ガバナンスを統合します 外部コンピュート
プラットフォーム BI & データ ウェアハウス データエンジニ アリング ストリー ミング データ サイエンス & ML Open Interfaces Databricks Unity Catalog 構造化、非構造化データ + AIに対する単一のガバナンスモデル 外部データソース クラウドデータレイク すべての構造化、半構造化、非構造化データ 外部カタログ
©2023 Databricks Inc. — All rights reserved Unity Catalog はレイクハウス
の基盤です ワークスペース横断の ガバナンス リネージ 行 & 列のフィルタリング テーブルの 自動チューニング タグ ボリューム ML特徴量 & モデル システムテーブル Delta Sharing レイクハウスフェデレーション クリーンルーム レイクハウスモニタリング DatabricksIQ Databricksマーケットプレイス
発表 Unity Catalogはすべてのワークスペース で自動で有効化されます!
©2023 Databricks Inc. — All rights reserved メリット ▪ 新規ワークスペースはUnity
Catalogへのアクセスが事前設定されて提供さ れ、デフォルトでアセットのガバナンスが確保されます ▪ アカウント管理者に「電話をかける」必要なしにワークスペースの 「利用を開始」できます ▪ Unity Catalogをベースとした最新のDatabricks機能にアクセスできます ▪ Hiveサポートを含むUC以前のワークロードとの完全互換性があります
©2023 Databricks Inc. — All rights reserved 概要 ワーク スペースでUCが
自動有効化 1 ワークスペース 専用のカタログ 2 ワークスペース管理者が カタログの所有者 3 Hiveサポートに 変更なし 4
©2023 Databricks Inc. — All rights reserved 動作原理
©2023 Databricks Inc. — All rights reserved 動作原理 ワーク スペース
1 UC カタログ 1 ストレージ WS管理者 UCメタストア あるリージョンに最初のワークスペースが作成さ れると、それとともに自動でメタストアも作成されま す 自動作成されたメタストアには、ワーク スペース分離を維持するために、ルート ストレージやメタストア管理者は設定されません 新規 ワークスペース
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス
1 UC カタログ1 ストレージ WS管理者 ワークスペー ス 2 ストレージ WS管理者 UCメタストア 新規ワークスペースは同じ リージョンのUCメタストアに自 動でアタッチされます 新規ワーク スペース UC カタログ2
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス1
UC カタログ1 ストレージ WS管理者 ワークスペー ス2 UC カタログ2 ストレージ WS管理者 UCメタストア ワークスペースとともに、ワークスペース名 のついた事前設定済みのカタログが提供さ れます カタログはデフォルトでワークスペースに 「紐づけ」られており、明示的に解放しない 限りそのワークスペースからしかアクセスで きないことを意味します
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス1
UC カタログ1 ストレージ WS管理者 ワークスペー ス2 UC カタログ2 ストレージ WS管理者 ワークスペース管理者はカタログの所有権を 持ち、UCで新規カタログ、 ロケーション、コネクション、その他のルート レベルのオブジェクトを作成することができま す UCメタストア
©2023 Databricks Inc. — All rights reserved ワークスペー ス2 UC
カタログ2 ストレージ WS管理者 動作原理 ワークスペー ス1 UC カタログ1 ストレージ WS管理者 このカタログはワークスペース専用の ストレージを使用します: • Azure - DBFSに隣接する新規 コンテナ • AWS - ワークスペースストレージ配 下で分離されたプレフィクス UCメタストア
©2023 Databricks Inc. — All rights reserved 動作原理 ワークスペー ス1
UCカタログ1 ストレージ WS管理者 ワークスペー ス2 UC ストレージ WS管理者 ユーザーがカタログ/スキーマを指定せず に‘CREATE TABLE myTable’を実行した 場合、‘default’として設定されているカタ ログにテーブルが作成されます。 これは‘workspace default catalog’ という新たなワークスペース設定で制御さ れます。 Hiveを使い続けたい場合には、この 設定を変更します。 UCメタストア Hive
©2023 Databricks Inc. — All rights reserved Before vs After
コンポーネント 以前のリリース 新規リリース Unity Catalog ワークスペース作成後にアカウント管理者に よって有効化 ワークスペース作成時に自動で有効化 Hiveメタストア それぞれのワークスペースで自身の Hive メタストアを保持 それぞれのワークスペースで自身の Hive メタストアを保持 アイデンティティシステム ワークスペースごとのアイデンティティ システム、ローカルグループ アイデンティティフェデレーション , アカウントグルー プ (アカウント管理者、ワークスペース管理者に よって作成) デフォルトのカタログ Hive UI/APIで設定可能 (UCカタログかHiveを選択可 能) UCメタストアのストレージルート とメタストア管理者 必須 オプション (分散ガバナンスをサポート ) UCストレージ資格情報の作成 アカウント管理者のみ アカウント管理者、メタストア管理者、ワークスペー ス管理者、CREATE STORAGE CREDENTIAL権限 を持つユーザー UCカタログ作成 (コネクション、外部ロケーショ ン、共有にも適用) メタストア管理者、CREATE CATALOG CREDENTIAL 権限を持つユーザー メタストア管理者、ワークスペース管理者、 CREATE CATALOG CREDENTIAL権限を持つユー ザー
©2023 Databricks Inc. — All rights reserved Demo