【Oracle Cloud ウェビナー】【特別開催：日本語で解説！】Oracle CloudWorld 2023 最新情報フィードバック

Oracle Cloud ウェビナーシリーズ情報: https://oracle.com/goto/ocws-jp
セッション動画: https://go.oracle.com/ocws-jp-ondemand

Transcript

1. 【特別開催：日本語で解説！】 Oracle CloudWorld 2023 最新情報フィードバック 日本オラクル株式会社 事業戦略統括 事業開発本部 本部長 佐藤裕之
2. Copyright © 2023, Oracle and/or its affiliates 2
3. Oracle CloudWorld 2023 テクノロジ領域の進化 外観 全ての層を統合しAIや分散クラウドで拡張 3 Copyright © 2023, Oracle and/or its affiliates AI マルチクラウド Alloy 統合されたクラウド アプリケーション インフラストラクチャ インダストリー エンタープライズ ニーズに応じた基盤拡充 高度なデータ活用・管理の実現 セキュリティの拡充 ベンダー間協業の拡充 多様なビルディングブロックの提供 生成AIのためのインフラストラクチャ 生成AIの活用 生成AIサービス提供 ベクトル・デーベース サービスでの生成AI活用 新たなマルチクラウド マイクロソフト社との協業強化 データベースのクラウド化 新たなハイブリット お客様DC内のクラウド お客様管理のクラウド NRI様の採用 データ活用基盤の強化 開発者のための強化 アプリとデータの乖離の解消 サービス生成AIの活用 ビジネスアプリケーションでの生成AI活用 業務・業種毎のアプリケーションでのAIによる効率化
4. Oracle CloudWorld 2023 テクノロジ領域 主要サービスの発表 生成AI/分散クラウド/データ活用/クラウド基盤技術においてOCIの大幅な進化 4 Copyright © 2023, Oracle and/or its affiliates OCI Generative AI Services Oracle Database 23c - AI Vector Search MySQL HeatWave - Vector Store NVIDIA H100 Tensor Core GPU NVIDIA L40S GPU Ampere AmpereOne CPU Zero Trust Packet Routing(ZPR) Platform Thales - External KMS Cloud Guard - Log Insights Director - Integrated Workload Protection - Kubernetes Container Governance Access Governance - Dynamic Access Control - No-Code Workflow Formation - Swift Application Onboarding OCI Database with PostgreSQL OCI GoldenGate 23c OCI Search with OpenSearch 2.8 OCI Cache with Redis Java 21 GraalOS OCI Functions powered by GraalOS Graal Cloud Native 4.0 Red Hat OpenShift Oracle Database@Azure MySQL HeatWave Lakehouse on AWS Oracle Database 23c - JSON relational duality - Property Graph - SQL Firewall Exascale Autonomous Database - Select AI - Free Container Image - Elastic Resource Pools - Globally Distributed Autonomous APEX - AI-Assisted Development and Multilingual(MLE) support GoldenGate 23c GoldenGate Veridate23c MySQL HeatWave - Autopilot indexing - JavaScript stored procedures - JSON acceleration etc. Oracle Analytics - Generative AI Data Interactions - AI-Powered Document Understanding - Contextual Insights - Collaboration Software Integrations Distributed Cloud Database & Analytics OCI Generative AI
5. Oracle CloudWorld 2023 テクノロジ領域 主要サービスの発表 生成AI/分散クラウド/データ活用/クラウド基盤技術においてOCIの大幅な進化 5 Copyright © 2023, Oracle and/or its affiliates OCI Generative AI Services Oracle Database 23c - AI Vector Search MySQL HeatWave - Vector Store NVIDIA H100 Tensor Core GPU NVIDIA L40S GPU Ampere AmpereOne CPU Zero Trust Packet Routing(ZPR) Platform Thales - External KMS Cloud Guard - Log Insights Director - Integrated Workload Protection - Kubernetes Container Governance Access Governance - Dynamic Access Control - No-Code Workflow Formation - Swift Application Onboarding OCI Database with PostgreSQL OCI GoldenGate 23c OCI Search with OpenSearch 2.8 OCI Cache with Redis Java 21 GraalOS OCI Functions powered by GraalOS Graal Cloud Native 4.0 Red Hat OpenShift Oracle Database@Azure MySQL HeatWave Lakehouse on AWS Oracle Database 23c - JSON relational duality - Property Graph - SQL Firewall Exascale Autonomous Database - Select AI - Free Container Image - Elastic Resource Pools - Globally Distributed Autonomous APEX - AI-Assisted Development and Multilingual(MLE) support GoldenGate 23c GoldenGate Veridate23c MySQL HeatWave - Autopilot indexing - JavaScript stored procedures - JSON acceleration etc. Oracle Analytics - Generative AI Data Interactions - AI-Powered Document Understanding - Contextual Insights - Collaboration Software Integrations Distributed Cloud Database & Analytics OCI Generative AI 生成AI + データ活用 の進化
6. Oracle CloudWorld 2023 テクノロジ領域 ポイント データ活用の大幅な進化 6 Copyright © 2023, Oracle and/or its affiliates 現状の認識・背景 1. ビジネス・ニーズに追従するデータ活用・基盤構築 2. 非構造データの活用(JSON、グラフ、ベクトル etc) 3. 企業内生成AIニーズの実現(業務データとの融合) OCIの方向性 1. コンバージドデータベースの強化 2. 新たな自律化の強化 3. データベースとクラウド基盤の融合 Oracle CloudWorld 2023でのOCIの進化 1. Oracle Database 23c •長期サポートを提供するOracle Databaseの最新版 •進化したコンバージドデータベース機能 Json Relational Duality •JSONとリレーショナルデータの乖離をデータベースで吸収 Property Graph •JSONとグラフデータの乖離をデータベースで吸収 AI Vector Search • 生成AIの回答精度を高めるためのRAG(Retrieval Augmented Generation) の手法を実現 • 業界をリードするOracle Databaseにベクトル・データベースの機能を追加 • 業務データ(構造化データ)とベクトルデータを同一のデータベースで活用 • Oracle Databaseもつ高度な非機能要件をそのまま適用可能(性能、可用性、セ キュリティ 等) 2. Autonomous Database • 生成AIの活用、コンテナ対応の強化、リソースプールの強化、分散DBの機能強化等 を提供する最新版 Select AI • クラウドサービスによる生成AIの活用も推進 • LLM(大規模言語モデル)を活用した自然言語からのSQL生成 3. Exascale • ExadataとOCIのテクノロジを融合 • OCIのネットワークにExadataのデータベースサーバとストレージサーバを直接接続 • 更なる構成の柔軟性とスケーラビリティを確保 4. Oracle Database@Azure • AzureデータセンターでOCI Database Serviceで利用
7. Oracle CloudWorld 2023 テクノロジ領域 ポイント 生成AIの大幅な進化 7 Copyright © 2023, Oracle and/or its affiliates 現状の認識・背景 1. 生成AI活用の広がり 2. 企業向け生成AIの新たな仕組みの必要性 3. 生成AIの効率化の必要性(価格性能) OCIの方向性 1. インフラからビジネス・アプリケーションまで含めた 生成AIの強化 2. 価格性能比が優れた環境の提供 3. 生成AIサービスの選択肢の柔軟性の提供 Oracle CloudWorld 2023でのOCIの進化 1. OCI Generative AI • エンタープライズ向け生成AIを提供するCohere社との協業 • 各業界のナレッジ・ワーカーが独自の企業データに基づき、 業界に特化したリクエストに回答できるよう、特別に開発 • 情報源を明らかにしハルシネーション(幻想)を軽減 2. Oracle Database 23c – AI Vector Search • 生成AIの回答精度を高めるためのRAG(Retrieval Augmented Generation) の手法を実現 • 業界をリードするOracle Databaseにベクトル・データベースの機能を追加 • 業務データ(構造化データ)とベクトルデータを同一のデータベースで活用 • Oracle Databaseもつ高度な非機能要件をそのまま適用可能(性能、可用性、セ キュリティ 等) 3. Oracle Autonomous Database – Select AI • クラウドサービスによる生成AIの活用も推進 • LLM(大規模言語モデル)を活用した自然言語からのSQL生成 4. OCI Supercluster • RoCE(RDMA over Converged Ethernet) v2を活用したOCI独自の高性能 ネットワーク・アーキテクチャ • NVIDIA H100/A100を数万個まで拡張可能なスケーラビリティ • ノード間のレイテンシはマイクロ秒単位 5. その他大規模言語モデル(LLM) • NVIDIA NeMo(NVIDIA DGX Cloud上)/MosaicML等のサードパーティ 大規模言語モデルをOCI上で提供 • マイクロソフト社との協業(Azure Interconnect/Oracle Database for Azure(ODSA)/Oracle Database@Azure)を活用したAzure OpenAI Serviceの利用
8. Oracle CloudWorld 2023 テクノロジ領域 主要サービスの発表 生成AI/分散クラウド/データ活用/クラウド基盤技術においてOCIの大幅な進化 8 Copyright © 2023, Oracle and/or its affiliates OCI Generative AI Services Oracle Database 23c - AI Vector Search MySQL HeatWave - Vector Store NVIDIA H100 Tensor Core GPU NVIDIA L40S GPU Ampere AmpereOne CPU Zero Trust Packet Routing(ZPR) Platform Thales - External KMS Cloud Guard - Log Insights Director - Integrated Workload Protection - Kubernetes Container Governance Access Governance - Dynamic Access Control - No-Code Workflow Formation - Swift Application Onboarding OCI Database with PostgreSQL OCI GoldenGate 23c OCI Search with OpenSearch 2.8 OCI Cache with Redis Java 21 GraalOS OCI Functions powered by GraalOS Graal Cloud Native 4.0 Red Hat OpenShift Oracle Database@Azure MySQL HeatWave Lakehouse on AWS Oracle Database 23c - JSON relational duality - Property Graph - SQL Firewall Exascale Autonomous Database - Select AI - Free Container Image - Elastic Resource Pools - Globally Distributed Autonomous APEX - AI-Assisted Development and Multilingual(MLE) support GoldenGate 23c GoldenGate Veridate23c MySQL HeatWave - Autopilot indexing - JavaScript stored procedures - JSON acceleration etc. Oracle Analytics - Generative AI Data Interactions - AI-Powered Document Understanding - Contextual Insights - Collaboration Software Integrations Distributed Cloud Database & Analytics OCI Generative AI 生成AI + データ活用 の進化
9. Oracle Database 23c データ活用基盤の強化 Oracle CloudWorld 2023 最新情報フィードバック 中山 厚紀 事業戦略統括 事業開発本部 日本オラクル株式会社
10. Copyright © 2023, Oracle and/or its affiliates 10 Oracle Database 23c 300以上の新機能 開発者とAIを重視 加えて、スケーラビリティ、可用性、セキュリ ティ、分析などの先端領域を強化 Developer Release が利用可能 Oracle.com/23cFREE App Simple
11. 発表: Oracle Database 23c: Oracle Cloudで一般提供開始 Copyright © 2023, Oracle and/or its affiliates 11 すべてのユース・ケースで最新のアプリケーションを簡単に開発および実行 Oracle Database 23c: 300以上の機能拡張によりシンプルで完全 JSONと リレーショナル の二面性 オペレーショナル プロパティ・ グラフ マイクロ サービスの サポート True キャッシュ SQLドメイン 自動 マテリアライズド・ ビュー ロックフリー列値の 予約 開発者ロール OKafka 改善されたML アルゴリズム … Oracle Database 23c: Oracle Base Database Service (BaseDB)で利用可能* • 迅速かつ簡単なデータベース・プロビジョニング(本番、開発、テスト)により、Database 23cの新機能を導入 • すべてのデータベース・ライフサイクル管理のための完全な自動化 • データベース・クローンのワンクリック作成 • 完全管理型の自動バックアップ • 数回のクリックでData Guardによる障害時リカバリ • データベース・ソフトウェアの更新 • インスタンス・タイプの選択: AMD E4 (1.. 64 OCPU)、Intel X9 (1 .. 32 OCPU) • OCPUの動的スケーリング(1 OCPU単位) • 常にデータが暗号化される高い安全性 • すべてのOCI商用リージョンで利用可能 *単一インスタンスのみ。RACのサポートはCY2024を予定 *ドキュメント: https://docs.oracle.com/en/cloud/paas/bm-and-vm-dbs-cloud/index.html
12. Oracle Database 23c JSON Relational Duality JSONとリレーショナルの二面性 12 Copyright © 2023, Oracle and/or its affiliates { "student" : "S3245", "name" : "ジル", "major" : "数学", "schedule" : [ { "time" : "14:00", "course" : "数学201", "room" : "A102", "teacher" : "アダム" }, { "time" : "16:00", "course” : "サイエンス102", "room” : "B405", "teacher” : "アニタ" } ] } スケジュール: ジル GET PUT アプリケーションは単にGETを使って、 JSONドキュメントで 必要なすべてのデータを階層形式のままで取得 その後、アプリケーションはドキュメントを編集し、PUTで戻す ジルの時間割 数学専攻 時間 午後4:00 部屋 B405 講師 アニタ 時間 午後2:00 部屋 A102 講師 アダム 数学201 サイエンス102
13. Oracle Database 23c JSON Relational Duality JSONとリレーショナルの二面性 13 Copyright © 2023, Oracle and/or its affiliates CREATE JSON DUALITY VIEW student_schedule AS student {{ student : stuid name : sname major : major schedule : student_courses [ { course { time : time course : cname courseId : cid room : room teacher @unnest { teacher : tname } } } ] }; ビューの定義で JSONの PUT / GET に対応, 動的に変換 あらゆる JSONフォーマットに 対応 { "student" : "S3245", "name" : "ジル", "major" : "数学", "schedule" : [ { "time" : "14:00", "course" : "数学201", "room" : "A102", "teacher" : "アダム" }, { "time" : "16:00", "course” : "サイエンス102", "room” : "B405", "teacher” : "アニタ" } ] } スケジュール: ジル 変換
14. Oracle Database 23c JSON Relational Duality JSONとリレーショナルの二面性 アプリケーション開発に大きなメリット 14 Copyright © 2023, Oracle and/or its affiliates 時間 午後4:00 部屋 B405 講師 アニタ 時間 午後2:00 部屋 A102 講師 アダム 数学201 サイエンス102 時間 午後2:00 部屋 A312 学生60人 時間 午後4:00 部屋 B405 学生90人 時間 午後6:00 部屋 A151 学生20人 サイエンス102 コース サイエンス101 講師 アダム、アレン コース サイエンス102 講師 アニタ、 アンナ コース サイエンス201 講師 アニタ、 アダム アニタの講師スケジュール サイエンス部門 サイエンスのコース・カリキュラム ジルの時間割 数学専攻 同じソース・データをカスタマイズし 各アプリケーションのユース・ケースに あわせて加工可能 データの複製は一切なし 常に一貫している
15. Oracle Database 23c Property Graph 15 Copyright © 2023, Oracle and/or its affiliates グラフは、データ間の接続と関係を問い合 せる強力な方法 たとえば、銀行口座「B」から銀行口座「E」 への間接的な資金移動を検出する D A C B Z E F H G A 銀行口座 (グラフ頂点) 送金 (グラフ・エッジ) 銀行口座 送金
16. Oracle Database 23c Property Graph 16 Copyright © 2023, Oracle and/or its affiliates D A C B Z E F H G A 銀行口座 (グラフ頂点) 送金 (グラフ・エッジ) CREATE PROPERTY GRAPH bank_graph VERTEX TABLES ( bank_accounts as accounts PROPERTIES (id, balance)) EDGE TABLES ( bank_transfers SOURCE KEY (from_acc) REFERENCES ACCOUNTS(ID) DESTINATION KEY (to_acc) REFERENCES ACCOUNTS(ID) PROPERTIES (amount, to_acc)) ; グラフ頂点とエッジに対応する表 銀行口座(bank_account), 送金(bank_transfer) を定義するだけ グラフ・モデルの定義
17. Oracle Database 23c Property Graph 17 Copyright © 2023, Oracle and/or its affiliates D A C B Z E F H G A 銀行口座 (グラフ頂点) 送金 (グラフ・エッジ) リレーショナルSQLを使用して同じ問合せを記述するには、 12個の結合と3つのunionが必要… トランザクショナル・データにリアルタイムで対応 アカウント'B'からアカウント'E'への資金フローを見つける問合せ SELECT graph.path FROM GRAPH_TABLE ( bank_graph MATCH (v1)-[e is BANK_TRANSFERS]->{1,3} (v2) WHERE v1.id = 'B' AND v2.id = 'E' COLUMNS LISTAGG(e.to_acc, ',') AS path) ) graph ;
18. 18 Copyright © 2023, Oracle and/or its affiliates 新しい技術 AI Vector Searchにより 非構造化データに対する セマンティック検索が可能に 33 42 16 21 50 Coming Soon!
19. 19 Copyright © 2023, Oracle and/or its affiliates お客様がアップロードした写真に 似た物件を見つけるのに役立つ、 「住まい探し」アプリケーションの 開発を想定 - 似た物件 - 金額条件あり - 東京近郊で
20. Copyright © 2023, Oracle and/or its affiliates 20 AIベクトル検索と顧客や商品に関するビジネス・データを 結合する問合せが可能 SELECT … FROM house_for_sale WHERE price <= (SELECT budget FROM customer …) AND city in (SELECT search_city FROM customer …) ORDER BY vector_distance(house_vector, :input_vector); この図に類似した家屋で かつ、顧客の希望する 市区町村と予算に一致した物件を見つける 顧客データ、商品データ、 AI検索を5行のSQLで統合！ 単一の統合ソリューション、かつ すべてのデータが完全に一貫
21. Copyright © 2023, Oracle and/or its affiliates 21 家屋 ご参考) 例: “特徴” としての家屋イメージ 各次元(数値)は、 家屋毎に異なる 特徴を表す ベクトル 特徴 注: 特徴はMLアルゴリズムによって決定されるもので、ここで示すほど単純ではありません 33 42 16 21 装飾 建築材料 階数 屋根のタイプ ベクトル索引化し データベースで処理
22. 22 Copyright © 2023, Oracle and/or its affiliates True Cache JavaScript ストアド・プロシージャ SQL のシンプル化 JSONとリレーショナルの 二面性 データベース内 マイクロサービスのサポート オペレーショナル プロパティグラフ Oracle Database 23c アプリケーション開発を簡単にする魅力的な機能を追加 App Server App Server App Server SQL SQL SQL CACHE CACHE CACHE
23. 23 Copyright © 2023, Oracle and/or its affiliates Database 23c ミッション・クリティカルなアプリケーション向けの強化 複雑な変更に対応する ローリング・パッチ適用 トランザクション 優先付け 読取り可能 PDB スタンバイ リアルタイム SQL 計画管理 データベース内 ファイアウォール GoldenGate Zero Data Loss の簡易化 Raftによる グローバル規模の 分散データベース Kubernetes上で RAC
24. 24 Copyright © 2023, Oracle and/or its affiliates Oracle CloudWorld 2023 キーノート・リプレイ プレスリリース 統合ベクトル・データベースを発表 Oracle Database 23c: 次の長期サポート (Blog) ご参考) Oracle CloudWorld 2023 データベース最新情報
25. ご参考) Oracle Database 23cリリース・ロードマップ 25 Copyright © 2023, Oracle and/or its affiliates Oracle Database 23c (23.3) Base Database Service • Oracle Cloud Infrastructure上 Oracle Database 23c (23.3) Free • Oracle Linux 8/Redhat Linux 8 Oracle Database 23c Beta3のダウンロード • Betaプログラム参加でご利用可能 12c 18c 11g 19c 23c 21c 12c 注: オンプレミスおよびその他クラウド版はCY2024H1以降にローリング・リリースを予定 Oracle Database 23c Beta Oracle.com/ 23cFREE
26. ご参考) データベース・リリースおよびサポート・タイムライン 26 Copyright © 2023, Oracle and/or its affiliates • イノベーション・リリース(Innovation) - 少なくとも2年間のPremier Support、および拡張サポートなし • 長期リリース(Long Term) - 5年間のPremier Support、および3年間の拡張サポート • 最新のMOSノートを参照 : 現在のデータベース・リリースのリリース・スケジュール(Doc ID 742060.1) 2016 2017 2018 2019 2020 2021 2022 2023 2024 2025 2026 2027 2028 2029 2030 2031 2032 2033 2034 19c Long Term 23c Long Term Extended Extended Beta 21c Innovation Waived Extended 2024 4月末 2026 4月末 2027 4月末 2032 4月末
27. Copyright © 2023, Oracle and/or its affiliates 27 まとめ DatabaseWorld フィードバック DBA、開発者、アナリストの 生産性の向上にフォーカス Oracle Database 23c 一般提供開始 開発者とＡＩを重視し、300以上の新機能を搭載! 加えて、スケーラビリティ、可用性、セキュリティ、分析などの 先端領域を強化 Converged Databaseの継続進化 すべてのユースケースで最新のアプリケーションを簡単に 開発し実行可能 加えて、ＡＩ検索機能がビジネス・データの検索と融合し、 魅力的なアプリケーション開発が身近に (近日中) 今すぐ始めてみましょう https://www.oracle.com/jp/database/23c/ から へ ミッション・クリティカルな アプリケーション向けの強化も!
28. Oracle AI 近藤 暁太 事業戦略統括 事業開発本部 日本オラクル株式会社
29. 29 Copyright © 2023, Oracle and/or its affiliates Oracle CloudWorld 2023 ビジネス・アプリケーションで、50 以上の生成AIを使用した機能 の実装を予定。 お客様は、AI開発コスト不要で、 最新の生成AIをすぐにビジネス で活用可能に。 Generative AI Serviceを発 表し、限定提供(LA)を開始。 また、最新のGPUと高性能なOC I Superclusterにより、お客様 の開発を推進。 Oracle Database 23c Oracle AI Vector Searchを発表(今後 提供予定)。 生成AIで、最新の企業データを活 用するデータ基盤として、Oracle Databaseが使用可能に。 オラクルは、SaaSからPaaS、IaaS、データまで、包括的にAIをお客様に提供 SaaS PaaS/IaaS データ
30. 企業向けAIをビジネス・アプリ(SaaS)から、PaaS、IaaSにわたって提供 30 Copyright © 2023, Oracle and/or its affiliates AI インフラストラクチャ: 高性能・低コストなGPUインフラ AI サービス: 事前学習済みモデル MLサービス: AI開発プラットフォーム ビジネス・アプリケーション(SaaS)にAIを組み込んで提供 OCI Data Science OCI Generative AI NVIDIA GPUs OCI Supercluster with RDMA networking Block, object, HPC filesystems ML in Oracle Database MySQL Heatwave AutoML OCI Data Labeling Digital Assistant Speech Language Vision Document データ: 高性能でセキュアなデータ・プラットフォーム Database Service Data Integration Database Catalog Data Lakehouse ERP HCM SCM Manufacturing Healthcare CRM Finance SaaS PaaS IaaS
31. 31 Copyright © 2023, Oracle and/or its affiliates さまざまなオラクルのビジネス・アプリケーションに生成AIを組み込み(予定) Cerner (ヘルスケア) • 退院サマリーの作成 • 保険レター作成 • レファレンス・レター作成 • 支払者のためのデータ構造化 • 情報検索 Fusion SCM • 品目の説明、属性 • サプライヤーからの交渉提案 Fusion ERP • 経営報告シナリオ • 財務報告ナレーション • 仕訳入力 • 照合注記 • 財務データの説明 Fusion HCM • 従業員プロフィール • 目標作成 • 職務記述書、求人 • アンケートの質問 • 業績評価サマリー • 候補者のクオリフィケーション NetSuite • 対象者への個別の回答書の作成 • 財務報告書の要約 • 調達オーダー、リクエスト・レターの作成 • 商品説明の作成 • カスタマーサポート Fusion CX • サービスエージェントの対応 • ナレッジ記事 • 検索補強 • 管理者ガイダンス • フィールドサービスの推奨事項 • 顧客エンゲージメント・サマリー
32. 32 Copyright © 2023, Oracle and/or its affiliates ERP サプライチェーン 在庫管理 購買 製造 CRM ファイナンス ユーザー アプリ AI リアルタイム 業務データ 安定・高速 クラウド・インフラストラクチャ 企業固有のデータを最大限活用できる、 企業向け生成AI • 企業データをリアルタイムに、安全に生 成AIで活用 • 企業に最適なAIモデルを提供 • AIアプリケーションを安定して、高性能、 低コストで稼働 Generative AI Service Oracle Database
33. 33 Copyright © 2023, Oracle and/or its affiliates 企業固有データをAIで活用する２つの方法 ファインチューニング と RAG（Retrieval-Augmented Generation：検索拡張生成） Generative AI Service ファインチューニング 企業データを使用して、AIモデルを更新。 • 自社で使用する単語や文章をより理解 • 生成する文章のスタイルを自社に合わせられる • 学習に時間とリソースがかかる • 最新の情報を使用した回答はできない RAG 問い合わせ時に必要なデータを参照。 • 学習時間がかからない。 • 最新の情報を参照して回答ができる • 回答の元となった情報を提示できる • 生成する文章のスタイルは変えられない Generative AI Service 企業固有データ 学習 企業固有データ 参照
34. エンタープライズにおける生成AIのアプローチ RAG(Retrieval augmented generation)による最新の企業情報の活用 Copyright © 2023, Oracle and/or its affiliates 34 “製品Aに関する品質 レポート、顧客アンケー トの分析結果をもとに 製品Aの課題を示せ” 質問 質問内容を ベクトル変換 既存情報を ベクトル変換 質問に対する回答に必 要なデータをベクトル値 の近似性を利用し検索 • 品質レポート • 顧客アンケート • 生産計画 • 品質管理 • 他 質問に近似情報を 付加して補完 回答 質問 ＋ AIモデル お客様固有のデータ 質問に対する回答を 生成
35. Copyright © 2023, Oracle and/or its affiliates 35 OCI Generative AI service *OCI: Oracle Cloud Infrastructure ベータ公開開始
36. OCI Generative AI service 企業向けに最適化された生成AIサービスを提供 Copyright © 2023, Oracle and/or its affiliates 36 カスタマイズ可能 コンパクトなモデル 専有サーバー環境 高い拡張性 パラメータ数が少なく 独自モデルの作成が 比較的容易 データがプロバイダーや 他の顧客に利用され ることはない モデルのコンパクトさに 加え、高速なAI基盤 上からサービス提供 ビジネスの状況に応じ たリソース拡張・縮退 が可能 拡張性 セキュリティ 高性能 独自性
37. Copyright © 2023, Oracle and/or its affiliates 37 OCI Generative AI service カスタマイズが容易な企業向けAIサービスを提供 520億 OpenAI (GPT-3) パラメータ数 1,750億 第三者によるLLMベンチマーク カスタマイズが容易 Cohereのモデルは、非常に高性能ながらコンパクト。 お客様によるカスタマイズがしやすく、稼働に必要な GPUリソースも少なくて済む。 高性能なモデル Cohereは、第三者による生成AIのベンチマーク(HELM) において、高いスコアを達成。 (not included: GPT-4 from OpenAI)
38. Copyright © 2023, Oracle and/or its affiliates 38 Oracle Database 23c AI Vector Search 高速なセマンティック検索を可能にする、ベクトル検索を提供。 Oracle Databaseのデータを生成AI(LLM)の活用して、 新しい価値を創造。 New! ベクトル検索 Coming Soon
39. 39 Copyright © 2023, Oracle and/or its affiliates 既存データ 7 1 4 9 ベクトル・データ 既存業務データを生成AIで活用するために、 Oracle Databaseにベクトル・データ型を導入 Oracle Database 23c AI Vector Search
40. Oracle Database 23c AI Vector Search 40 Copyright © 2023, Oracle and/or its affiliates Oracle Database 23c • Oracle Databaseに、ベクトル・データ型を追加 • ベクトル検索により、意味的に近いデータを検索可能 （セマンティック検索) • ビジネス・データとベクトルの両方を活用可能 • データの転送や同期、複数DBの運用の手間が不要 7 1 4 9
41. 再掲: エンタープライズにおける生成AIのアプローチ RAG(Retrieval augmented generation)による最新の企業情報の活用 Copyright © 2023, Oracle and/or its affiliates 41 “製品Aに関する品質 レポート、顧客アンケー トの分析結果をもとに 製品Aの課題を示せ” 質問 質問内容を ベクトル変換 既存情報を ベクトル変換 質問に対する回答に必 要なデータをベクトル値 の近似性を利用し検索 • 品質レポート • 顧客アンケート • 生産計画 • 品質管理 • 他 質問に近似情報を 付加して補完 回答 質問 ＋ AIモデル お客様固有のデータ 質問に対する回答を 生成 Oracle Database 23c AI Vector Search Generative AI Service Embedモデル(ベクトル化) Generative AI Service
42. ID ベクトル 画像パス カテゴリ 0 0.1, 0.2, 0.6. .... $../.../... 001 1 0.8, 0.1, 0.4. .... $../.../... 003 2 0.5, 0.3, 0.9. .... $../.../... 002 42 Copyright © 2023, Oracle and/or its affiliates 一貫したセキュリティ、アクセス制御をデータベースで担保 あらゆるAIで安全に企業データを活用可能 リアルタイム業務データを RAGで活用 業務データを更新 + ベクトル Oracle Database 23c AI Vector Search ID ベクトル 文書パス カテゴリ 0 0.1, 0.2, 0.6. .... $../.../... 001 1 0.8, 0.1, 0.4. .... $../.../... 002 2 0.5, 0.3, 0.9. .... $../.../... 001 アクセス制御 ERP サプライチェーン 在庫管理 CRM アプリ AI Generative AI Service
43. Copyright © 2023, Oracle and/or its affiliates 43 NVIDIA GPU ＋ OCI Supercluster
44. GPU 新シェイプの提供 NVIDIA H100 GPU NVIDIA L40S GPU Oracle CloudWorld Copyright © 2023, Oracle and/or its affiliates • CPU: 112 Cores, 4th Gen Intel Xeon • GPU: 8x NVIDIA H100 80GB • メモリー: 2 TB DDR5 • ローカル・ストレージ: 16.384 TB NVMe • クラスタ・ネットワーク: 8x 400 Gb/sec • CPU: 最大112 Cores, Intel Xeon • GPU: NVIDIA L40S • メモリー: 最大 1TB • ローカル・ストレージ: 最大15.36 TB NVMe • クラスタ・ネットワーク: 400 Gb/sec CY2024提供予定 提供開始
45. OCI Supercluster GPU性能を最大限引き出すクラウド基盤 Copyright © 2023, Oracle and/or its affiliates 45 同じGPUでも、他のクラウドとは性能が違う 圧倒的高性能を実現する、オラクル独自のテクノロジー GPUサーバーの性能が違う: • 仮想化オーバーヘッドの排除 • GPUに最適なサーバー設計により、NVIDIA DGXと 同等のパフォーマンスを実現 GPUのネットワーク基盤が違う: • 低遅延(2μs)を実現するRoCEv2 RDMAネットワーク • H100 GPUでは3.2Tbpsの広帯域 • 最大16,384基のH100 GPUを接続 低遅延(2μs)/広帯域ネットワーク RDMA over Converged Ethernet (RoCE) v2 最大16,384GPU までスケール GPU GPU GPU GPU GPU GPU GPU
46. Copyright © 2023, Oracle and/or its affiliates 46 “我々は、OCIがベストな選択であることを判断しました。 精度80%付近でOCIをAWSと比較した場合、OCIはAWSの 半分の時間、半分のコスト。 これは非常に大きい。 $200と$100の場合は気にすることはないかもしれないが、 $200,000と$100,000だと気にする必要がある。” Naveen Rao CEO/CoFounder, MosaicML AIモデルの学習時間（Time-to-Train）を 短縮し、市場投入までのリードタイムとコストを 削減する MosaicML 様 目的： • 先行者優位のポジションを築く • 生成 AI と大規模言語モデル (LLM) プラットフォームを データサイエンティストに提供する • スケールアウトにより1次関数的に演算能力を拡大させる 目的達成に向けて： • OCIをGPUプラットフォームとして選択 • Time-to-Train(学習時間)：50%削減 • Cost-to-Train(学習コスト)：50％削減 Source: https://youtu.be/IAZPpUVjNJ0
47. AI InfrastructureとしてOCIを選択いただいている企業様（一例） 47 Copyright © 2023, Oracle and/or its affiliates Source: oracle.com
48. 48 Copyright © 2023, Oracle and/or its affiliates Oracle CloudWorld 2023 まとめ: SaaS: 50以上の生成AIを使用した機能の実装 を予定。お客様は、AI開発コスト不要で、最新の 生成AIをすぐにビジネスで活用可能に。 企業におけるAI活用を SaaSからPaaS/IaaS、データまで、 包括的にサポート PaaS/IaaS: Generative AI Serviceを発表 し、限定提供(LA)を開始。また、最新の GPU(H100、L40S)と高性能なOCI Superclusterにより、お客様の開発を推進。 データ: Oracle Database 23c Oracle AI Vector Searchを発表(今後提供予定)。 生成AIで、最新の企業データを活用するデータ基 盤として、Oracle Databaseが使用可能に。
49. 本日のセッションのまとめ 佐藤裕之 本部長 事業戦略統括 事業開発本部 日本オラクル株式会社
50. Oracle CloudWorld 2023 テクノロジ領域 主要サービスの発表 生成AI/分散クラウド/データ活用/クラウド基盤技術においてOCIの大幅な進化 50 Copyright © 2023, Oracle and/or its affiliates OCI Generative AI Services Oracle Database 23c - AI Vector Search MySQL HeatWave - Vector Store NVIDIA H100 Tensor Core GPU NVIDIA L40S GPU Ampere AmpereOne CPU Zero Trust Packet Routing(ZPR) Platform Thales - External KMS Cloud Guard - Log Insights Director - Integrated Workload Protection - Kubernetes Container Governance Access Governance - Dynamic Access Control - No-Code Workflow Formation - Swift Application Onboarding OCI Database with PostgreSQL OCI GoldenGate 23c OCI Search with OpenSearch 2.8 OCI Cache with Redis Java 21 GraalOS OCI Functions powered by GraalOS Graal Cloud Native 4.0 Red Hat OpenShift Oracle Database@Azure MySQL HeatWave Lakehouse on AWS Oracle Database 23c - JSON relational duality - Property Graph - SQL Firewall Exascale Autonomous Database - Select AI - Free Container Image - Elastic Resource Pools - Globally Distributed Autonomous APEX - AI-Assisted Development and Multilingual(MLE) support GoldenGate 23c GoldenGate Veridate23c MySQL HeatWave - Autopilot indexing - JavaScript stored procedures - JSON acceleration etc. Oracle Analytics - Generative AI Data Interactions - AI-Powered Document Understanding - Contextual Insights - Collaboration Software Integrations Distributed Cloud Database & Analytics OCI Generative AI 生成AI + データ活用 の進化
51. Oracle CloudWorld 2023 テクノロジ領域 主要サービスの発表 生成AI/分散クラウド/データ活用/クラウド基盤技術においてOCIの大幅な進化 51 Copyright © 2023, Oracle and/or its affiliates OCI Generative AI Services Oracle Database 23c - AI Vector Search MySQL HeatWave - Vector Store NVIDIA H100 Tensor Core GPU NVIDIA L40S GPU Ampere AmpereOne CPU Zero Trust Packet Routing(ZPR) Platform Thales - External KMS Cloud Guard - Log Insights Director - Integrated Workload Protection - Kubernetes Container Governance Access Governance - Dynamic Access Control - No-Code Workflow Formation - Swift Application Onboarding OCI Database with PostgreSQL OCI GoldenGate 23c OCI Search with OpenSearch 2.8 OCI Cache with Redis Java 21 GraalOS OCI Functions powered by GraalOS Graal Cloud Native 4.0 Red Hat OpenShift Oracle Database@Azure MySQL HeatWave Lakehouse on AWS Oracle Database 23c - JSON relational duality - Property Graph - SQL Firewall Exascale Autonomous Database - Select AI - Free Container Image - Elastic Resource Pools - Globally Distributed Autonomous APEX - AI-Assisted Development and Multilingual(MLE) support GoldenGate 23c GoldenGate Veridate23c MySQL HeatWave - Autopilot indexing - JavaScript stored procedures - JSON acceleration etc. Oracle Analytics - Generative AI Data Interactions - AI-Powered Document Understanding - Contextual Insights - Collaboration Software Integrations Distributed Cloud Database & Analytics OCI Generative AI
52. Oracle CloudWorld 2023 テクノロジ領域 主要サービスの発表 生成AI/分散クラウド/データ活用/クラウド基盤技術においてOCIの大幅な進化 52 Copyright © 2023, Oracle and/or its affiliates OCI Generative AI Services Oracle Database 23c - AI Vector Search MySQL HeatWave - Vector Store NVIDIA H100 Tensor Core GPU NVIDIA L40S GPU Ampere AmpereOne CPU Zero Trust Packet Routing(ZPR) Platform Thales - External KMS Cloud Guard - Log Insights Director - Integrated Workload Protection - Kubernetes Container Governance Access Governance - Dynamic Access Control - No-Code Workflow Formation - Swift Application Onboarding OCI Database with PostgreSQL OCI GoldenGate 23c OCI Search with OpenSearch 2.8 OCI Cache with Redis Java 21 GraalOS OCI Functions powered by GraalOS Graal Cloud Native 4.0 Red Hat OpenShift Oracle Database@Azure MySQL HeatWave Lakehouse on AWS Oracle Database 23c - JSON relational duality - Property Graph - SQL Firewall Exascale Autonomous Database - Select AI - Free Container Image - Elastic Resource Pools - Globally Distributed Autonomous APEX - AI-Assisted Development and Multilingual(MLE) support GoldenGate 23c GoldenGate Veridate23c MySQL HeatWave - Autopilot indexing - JavaScript stored procedures - JSON acceleration etc. Oracle Analytics - Generative AI Data Interactions - AI-Powered Document Understanding - Contextual Insights - Collaboration Software Integrations Distributed Cloud Database & Analytics OCI Generative AI 分散クラウドセキュリティの拡充 （標準化/プラットフォーム） アプリとデータの乖離の解消 と AIによるデータ 管理・活用の効率化 （アプリとデータ/拡張性/ AIによる自動化と開発生産性） AIと融合した アナリティクス マルチ・ベンダー・エコシステム拡充による分散クラウドの拡充 クラウドネイティブの ビルディングブロック拡充 サステナビリティ 生成AIの活用促進 (生成AIサービス/ベクトル・データベース/SuperCluster)