Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Data Catalog Service 概要 / Data Catalog Service overview

Data Catalog Service 概要 / Data Catalog Service overview

oracle4engineer

May 31, 2022
Tweet

More Decks by oracle4engineer

Other Decks in Technology

Transcript

  1. Oracle Cloud Infrastructure: サービス構成 インフラストラクチャ コンピュート Bare Metal / VM

    コンテナ K8s, Registry ストレージ Block, File, Object, Archive ネットワーク VCN, LB, VPN FastConnect データ管理 データ管理 GoldenGate Database Migration Data Integration, Catalog データ処理 Data Flow Big Data Autonomous Database Transaction, Data Warehouse データベース Bare Metal, VM Exadata, NoSQL, MySQL, SQL Server アプリケーション開発 サーバーレス Functions, Events API Gateway, Streaming インテグレーション Integration, Apiary アナリティクス Analytics Analytics, Cloud SQL Data Science 開発者 DevOps Low Code Visual Builder Digital Assistant APEX 開発者 Developer API/SDKs Infrastructure as Code Resource Manager Terraform セキュリティ ガバナンス ガバナンス IAM, Policy, Tagging Compartment Cost Analysis セキュリティ IAM, Encryption Vault, DDoS, WAF 監視 Monitoring, Logging Notification, Events, Alarm Copyright © 2022, Oracle and/or its affiliates 4
  2. データマネージメントの課題 [Date] Copyright © 2022, Oracle and/or its affiliates 5

    分析シナリオに最適なデータ 準備が困難 データ・ガバナンスの管理 が困難 データレイクのデータ把握 が困難 Data Analysts Data Scientists Data Engineers Developers Data Stewards 社内のどのシステムにど のようなデータがあるの? SQLが使えないので 担当者に依頼しなく ては。。。 いろんなデータがあるが、 整理されていない。。。 このデータは誰が 作ったもの?勝手に 使っていいの? 機密データなのか どうかがわからな い。。。
  3. • オンプレミスおよびクラウド上のデータストアのメタ データを収集 • 散在しているデータを論理統合 • データを必要とする誰もが、単一のインタフェース から、専門知識不要でデータを検索 • 無償のサービス

    Data Catalog Service [Date] Copyright © 2022, Oracle and/or its affiliates 6 Data Catalog Service オンプレミスの データストア クラウドの データストア Data Analysts Data Scientists Data Engineers Developers Data Stewards メタデータの収集 データ検索にSQL、 コマンド、RESTなど の知識不要 全ての人が単一の インタフェースで同 じ方法でデータを 検索
  4. • 各データストアのメタデータを収集し、カタログ化 • 対応データストア • Oracle DB、Exadata、MySQL、 PostgreSQL、MS SQL Server、IBM

    DB2 • Autonomous Database、Azure SQL Database • Apache Hive、Apache Kafka • Object Storage • CSV, XML, ORC, Avro, Parquet, JSON, Excel サポート・データストア [Date] Copyright © 2022, Oracle and/or its affiliates 7 ダッシュボード サポートデータストア(最新情報)とバージョン情報 https://docs.oracle.com/en-us/iaas/data-catalog/using/harvest- technical-metadata.htm
  5. Data Catalogの主要機能 [Date] Copyright © 2022, Oracle and/or its affiliates

    8 メタデータの収集 • カタログ化したいデータストア(RDBやオブジェクトストレー ジ)を指定し、Data Catalogの中にメタデータを抽出 • データストアの接続情報、認証情報が必要 • 定期的にスケジュール実行可能 データへのタグ付け • データ(テーブル、カラム、ファイルなど)を論理的に識別するため のキーワード(自由書式)を設定 • 特定のキーワードでタグ付けされた全てのデータを検索可能に ビジネス用語 • 組織内で予め決められた用語を使い、データに検索、分類の ための目印を付与 • キーワードはビジネス用語として管理、メンテナンス データの検索 • SQLやRESTではなくキーワードで検索 • テーブル名、カラム名、ファイル名などでデータを検索 • 特定の「タグ」、「ビジネス用語」に合致する全てのデータを 検索可能
  6. デモの流れ [Date] Copyright © 2022, Oracle and/or its affiliates 10

    データストアの 登録 メタデータの収 集 タグ、ビジネス 用語の付与 検索
  7. デモの流れ [Date] Copyright © 2022, Oracle and/or its affiliates 11

    データストアの 登録 メタデータの収 集 タグ、ビジネス 用語の付与 検索
  8. デモの流れ [Date] Copyright © 2022, Oracle and/or its affiliates 30

    データストアの 登録 メタデータの収 集 タグ、ビジネス 用語の付与 検索
  9. デモの流れ [Date] Copyright © 2022, Oracle and/or its affiliates 41

    データストアの 登録 メタデータの収 集 タグ、ビジネス 用語の付与 検索
  10. デモの流れ [Date] Copyright © 2022, Oracle and/or its affiliates 64

    データストアの 登録 メタデータの収 集 タグ、ビジネス 用語の付与 検索