Oracle Cloud AI/ML Service Portfolio

Oracle Cloud のAI、機械学習関連のサービス総まとめ

Transcript

1. 第一回 Oracle AI Brown Bag Seminar Oracle Cloud AI/ML 関連サービス総まとめ 日本オラクル株式会社
2. 2023/10/28 Kenichi Sonoda Solution Architect 日本オラクル入社後、Exadata技術担当、IaaS技術担当を経て、現在ビックデータ およびデータサイエンスのクラウド技術を担当 “複雑な技術をわかりやすく”をモットーにData Management & Analyticsの分野で Oracle Groundbreakers Advocate として活動 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
3. Oracle AI Stack 2023/10/28 … Machine learning services Data AI services AI infrastructure OCI Data Science ML in Oracle Database MySQL Heatwave AutoML Compute bare metal instances and VMs Cluster networking Block, object, file storage, HPC filesystems Digital Assistant Speech Language Vision Document Understanding Anomaly Detection Data Labeling OCI Generative AI + Business applications, Oracle SaaS portfolio Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
4. Oracle AI Stack 2023/10/28 … Machine learning services Data AI infrastructure OCI Data Science ML in Oracle Database MySQL Heatwave AutoML Compute bare metal instances and VMs Cluster networking Block, object, file storage, HPC filesystems Data Labeling Business applications, Oracle SaaS portfolio Digital Assistant Speech Language Vision Document Understanding Anomaly Detection OCI Generative AI + AI services ①特定の分析手法に個別最適化された機械学習サービスのシリーズ Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
5. Oracle AI Stack 2023/10/28 … Data AI services AI infrastructure OCI Data Science Compute bare metal instances and VMs Cluster networking Block, object, file storage, HPC filesystems Digital Assistant Speech Language Vision Document Understanding Anomaly Detection Data Labeling OCI Generative AI + Business applications, Oracle SaaS portfolio ML in Oracle Database MySQL Heatwave AutoML Machine Learning services ②データベースに組み込まれた機械学習モデ ルの開発環境とデプロイ環境 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
6. Oracle AI Stack 2023/10/28 … Data AI services AI infrastructure ML in Oracle Database MySQL Heatwave AutoML Compute bare metal instances and VMs Cluster networking Block, object, file storage, HPC filesystems Digital Assistant Speech Language Vision Document Understanding Anomaly Detection Data Labeling OCI Generative AI + Business applications, Oracle SaaS portfolio OCI Data Science Machine Learning services ③Pythonのコーディングによる機械学習モデ ルの開発環境とデプロイ環境 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
7. 2023/10/28 AI Services Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
8. Oracle Cloud Infrastructure AI Services 専門知識不要 エンタープライズ向けAIを提供 無償から利用可能 専門家ではない開発者が機械学習を 深く知らなくても、AIを適用することを可 能にするサービス群を提供することで、ビ ジネス課題を解決することが可能 Oracle DatabaseやExadataなどに 蓄積したデータ、Fusion Application やNetSuiteのようなアプリケーションから のデータ、OCIによるクラウドインフラを提 供し、様々なデータを持っている唯一の 企業が提供するAIサービス 機械学習は学習にかかる費用とコスト が高いが、Oracleは、最もコスト競争 力を持ったAIサービスを提供。 これによって、すべてのデータにAIが気 軽に利用可能 クラウドサービス、アプリ、データ資産にまたがる統合AI/MLプラットフォーム 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
9. OCI AI Services lineup Digital Assistant Language Speech Vision Anomaly Detection チャット・ボットの開発・運用に必 要な機能を All in Oneで提供 テキスト生成以外のベーシック な自然言語解析のモデルを提 供 一部の機能でカスタムモデ ルも可能 音声ファイルからテキストトラン スクリプション(文字起こし)が可 能なモデルを提供 画像認識の学習済機械学習 モデルを提供 カスタムモデルも 可能 時系列データから異常検出 モデルを簡単に構築 Document Understanding OCRやドキュメント分類などドキュ メント分析のモデルを提供 一部 の機能でカスタムモデルも可能 Generative AI BETA 大規模言語モデルをによる テキスト生成モデルを提供 契約者占有環境でのファイ ンチューニングも可能 2023/10/28 ※2023/10現在日本語未対応 Generative AI(BETA), Digital Assistant, Speech Document Understanding, Language ※Generative AiはGA版で日本語対応予定 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
10. Generative AI (大規模言語モデル) BETA • 高性能の大規模言語モデルをフルマネージドで提供 • LLMプロバイダー大手の Cohere社と提携 • ベンチマーク結果(スタンフォード大学人間中心AI研究所 HELM)で実証済の高性能なLLMを提供 • エンタープライズクラスのセキュリティとプライバシー • 入力テキストや学習データが他の契約者に漏れることはありま せん • 入力テキストはOCIには保存されず、マーケティングやその他の 調査などに使われることはありません • 専用環境でのファインチューニング • オラクル独自のAI SuperclusterアーキテクチャによりGPUインフ ラの高性能を実現 • 占有環境のため、パフォーマンスと価格のプランが容易 • 新製品のピッチ、マーケティングキャンペーンのスローガン、 顧客への営業メール、SNS投稿記事などテキスト生成 • チャットによるFAQ 製品概要 ユースケース Note: Based on official HELM Stanford benchmark results as of March 19th Cohere’s model has top-tier LLM performance with a fraction of funding; weekly retraining further im Stanford’s benchmark ranks Cohere as #1 in model perf • Command(1) models have much higher accuracy than Base models, thus it’s ne https://crfm.stanford.edu/helm/latest/ エンタープライズ・クラスのセキュリティ、柔軟性、 チューニングを実現した生成AIクラウドサービス 2023/10/28 https://apexadb.oracle.com/ords/f?p=108:501:700020839517758::::: ベータプログラム申し込みサイト Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
11. Vision(画像認識) • 事前学習済み画像認識モデルをフルマネージドのPaaSとし て提供 • イメージ分類、物体検出、顔認識 • わずか数クリック、ウィザード形式のGUI画面で、機械学習 モデルの構築、デプロイが可能 • イメージ分類、物体検出 • OCI Data Labeling Serviceとの併用により、学習データ セットの構築と管理がシンプルかつ容易に • 生産ラインなどでの不良品の自動検出 • 医療画像解析による病変の検出 • セキュリティカメラでの不正侵入者の検出 • 製品や部品の位置検出(産業用ロボットアームの制御) • 顧客導線追跡による、集客、製品陳列の最適化 製品概要 ユースケース 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
12. Anomaly Detection(異常検出) EarlyWarning Days, weeks or months before traditional threshold trip warning SPRT Alarms • 時系列データ(IoTセンサーデータ、ビジネス取引データ、ロ グデータ)から異常検出の推論モデルを簡単に構築 • 複数の異常検知モデルを構築し、最も精度の高いものを 自動的に選択して、重要なインシデントを早期に警告 • 短変量解析 One Class SVM • 多変量解析 MSET-2 • センサーデータのクロック、欠損値などを自動補正 • 生産ラインの機械、輸送車両、その他重機材など企業が 運用管理するファシリティの設備保全 • 購買活動、サービス利用状況、ネットワークトラフィックの異 常状態などを検出 製品概要 ユースケース 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
13. Document Understanding（ドキュメント分析） • ドキュメントデータ分析の学習済モデル • テキストデータの抽出 • 表データの抽出 • キー・バリュー形式データの抽出 • ドキュメント分類(請求書、履歴書、税金フォーム、パスポート、 銀行取引明細書、給与明細) • わずか数クリック、ウィザード形式のGUI画面で、機械学習 モデルの構築、デプロイが可能 • ドキュメント分類、表データの抽出 • バックオフィス系タスクを自動化し、ドキュメントを迅速に処 理 • 古い書類などをテキストデータに変換しデジタル書庫ライブ ラリを構築 OCR/OCR-PDF ドキュメント分類 キー・バリュー抽出 表抽出 製品概要 ユースケース 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
14. Language(自然言語処理) • 事前学習済みモデルによる言語分析機能 • 言語検出、キーフレーズ、名前付きエンティティの検出 • テキスト分類(600以上のカテゴリーとサブカテゴリー) • センチメント分析 • テキスト翻訳 • カスタムモデルの構築が可能(GUIウィザードで数クリック) • テキスト分類、名前付きエンティティ • 医療分野の言語処理を支援するモデルを提供(OCI Language Healthcare NLP) • Word、PPT、HTML、JSON、Excelなどさまざまな形式 のドキュメント翻訳機能 • ニュース記事、報告書、契約書、カスタマーサポートの応 答文章、SNS投稿、その他企業内で扱われるドキュメント やテキストデータに関するあらゆる処理の効率化に BETA ※2023/10現在、Language DetectionとText Translationのみが日本語対応 製品概要 ユースケース BETA 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
15. Speech(音声認識) “Good afternoon, everyone, and welcome to Oracle's fourth-quarter and fiscal-year 2021 earnings conference call. A copy of…” OUTPUT TEXT OCI Speech • 音声ファイルからトランスクリプション(文字起こし)機能を提 供する機械学習モデル • オブジェクトストレージ内のデータを直接処理するため、 データの移動が不要 • タイムスタンプ付きのトランスクリプションを生成 • 会議録音データなどの文字起こしなど • 医師の診療時の医療記録 • 音声入力システムによるコンピュータソフトウェアの制御 • カスタマーサポートセンターでの顧客問い合わせの履歴作 成 Audio File 製品概要 ユースケース 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
16. Digital Assistant(チャットボット) • チャット・ボットの開発・運用に必要な機能を包括的 に提供 • FB Messenger, Line, Slack, その他カスタムアプリ との連携コンポーネントが実装済み • バックエンドシステム（ERP, HCM, CX, 3rd Party） との連携モジュールが組み込み済 • 大規模言語モデル(Generative AI)との連携により 高度な応答が可能に • 医療業界の知識を学習済の組み込み言語モデルを 提供(Oracle Clinical Digital Assistant) • FAQベースのチャット・ボットを簡単に構築し、業務 効率化に • 自然言語処理を活用したサービスを構築 会話 フロー エンジン AIエンジン 言語解析/ 機械学習 翻訳 サービス （Google/Azure） Oracle Service Cloud またはその他の アプリケーション カスタムWebアプリ 利用状況の 蓄積/可視化 Oracle Digital Assistant メッセージ処理 Slack 用 チャネル Slack FB Messenger 用チャネル Web アプリ用 チャネル Facebook Messenger LINE用 チャネル LINE メッセージング プラットフォーム チャネル 会話 フ ロー 定義 連携用 コンポーネント チャットのコンテキストに沿った 会話の流れをWeb UIベース の開発ツールで簡単定義 BETA ※2023/10現在日本語未対応 製品概要 ユースケース BETA 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
17. 2023/10/28 Oracle Machine Learning Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
18. Oracle Autonomous Database AI/機械学習を利用した完全自動運用 チューニングをはじめとしたDB運用は消滅 完全な マネージド サービス 1CPU単位でCPUを無停止で増減可能 ワークロードに応じたオートスケールも可能 CPU/ストレージは1秒間単位で課金 完全な 柔軟性 あらゆるワークロード(OLTP/分析/混在) あらゆるデータタイプ(構造化/JSON/グラフ等) 1つのデータベースで対応可能 完全な マルチモデル 運用管理が自動化された、スケールアップ可能なクラウド・データベース 大規模言語モデルとの連携による自然言語でのデータ分析(SELECT AI) ベクトル型データによるセマンティック検索、類似検索(AI Vector Search) Generative AIとの連携による検索拡張生成(RAG) AI関連機能 New BETA BETA 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
19. One Stopの機械学習環境 Autonomous Database Autonomous Database Machine Learning 機械学習に必要な全てのツールがセットアップ済、インスタンス作成後すぐに利用可能 OML4SQL Oracle Machine Learning (OML) Oracle Database OML4Py OML4R Oracle Machine Learning AutoML UI SQL Oracle Application Express Database Actions Oracle Machine Learning Notebook あらゆるWebアプリケーションをGUI ベースで容易に構築できる開発ツー ル(Web UI) Oracle Databaseに実装された機械 学習の実行処理エンジン(Oracle AutoML実装済) 運用・管理が自動化されたスケール アップ可能なクラウドデータベース Apache Zeppelinベースの Notebookインタフェース。 SQL/Python/Rをサポート コーディング不要、 GUIのみのシンプ ルなワークフローで機械学習を実行で きるインタフェース(WebUI) 主要開発言語による機械学習の実 行ライブラリ データのロードやあらゆるSQL処理を 実行するための統合開発環境(Web UI) 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
20. OML AutoML UI 学習データの表を指定 予測したい列を選択 予測問題のタイプを指定 複数アルゴリズムで学習を実行 予測モデルに寄与した特徴量のランキング 各予測のスコア What it is • モデルを自動ビルドし、管理・デプロイ を可能にするノーコードのユーザインタ ーフェイス • データベース内の表と予測対象列のみ を指定するシンプルなワークフロー • 複数アルゴリズムで同時に自動学習し、 自動スコアリング Benefits • データサイエンティストの生産性を向上 • 専門知識無しでも機械学習を身近 なものに • アルゴリズムの詳細の知識不要 • モデル管理とデプロイをシンプルに 学習 GUIベース、ノーコードの機械学習インタフェース Copyright © 2023 Oracle and/or its affiliates. All rights reserved. 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
21. Generative AIとの連携によるRAG構成 2023/10/28 Oracle Database 23c AI Vector Search あらゆるビジネス・データを検索 生成AIアプリ Generative AI Service + 問い合わせ （テキスト) ベクトル検索 ① 問合せ解釈 ② ベクトル化(Embed) ③ 回答作成 高速・高性能なGenerative AIのEmbedと、AI Vector Searchに よる高速な検索により、LLMの適用範囲を企業内のビジネス・データに 回答 結果 非構造化データ 構造化データ + ベクトル・データ 非構造化データをベクト ルデータに変換して保持 構造化データと非構造 化データをコンバージ Oracle Database 23c AI Vector Searchとの組み合わせで、企業内のビジネス・データを生成AIで活用 RAG : Retrieval Augmented Generation BETA Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
22. オラクルデータベース系クラウドサービスでのOMLの実装 2023/10/28 Autonomous Database Database Cloud Exadata Cloud Oracle Database Exadata OML4SQL 〇 〇 〇 OML4Py 〇 × × OML4R 〇 〇 〇 OML Notebook 〇 × × OML Service 〇 × × Oracle Data Miner 〇 〇 〇 Auto ML UI 〇 × × Machine Learning in Oracle Database https://www.oracle.com/jp/artificial-intelligence/database-machine-learning/ Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
23. 2023/10/28 MySQL Heatwave AutoML Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
24. MySQL HeatWave AutoML 2023/10/28 • 機械学習特有の複雑さを排除したIn Database の機械学習機能 • 誰でも容易に扱える、自動化された機械学習の ワークフロー • 追加コスト不要(IaaSのみの課金) • 予測モデルの解釈を支援し、ブラックボックス化を 排除 • ベクトル型のデータをサポート • オブジェクトストレージ内のデータの学習、推論 (Heatwave Lakehouse) • モデル・トレーニングの進行状況をモニター New New New Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
25. MySQL HeatWaveのインデータベース機械学習 完全に自動化され、モデルとデータはデータベース内で管理、追加コストなし mysqlsh, mysql client MySQL Workbench モデル クエリプッシュダウン 学習データのロード テストデータのロード 予測、説明 HW Node HW Node HW Node 学習処理 推論処理 モデルの説明のための処理 Heatwave Cluster インスタンス MySQL Database SQL 一般的なノートブックやmysqlのクライアン トツール、workbenchなどで機械学習の SQLを実行 通常のデータベーストランザクションは MySQL Databaseインスタンスで処理 機械学習の処理をHeatwave Cluster にオフロード ※MySQLのクライアントアプリやノートブック環境は個別に構築する必要があ ります。MySQLサービスには膨れまていません。 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
26. 2023/10/28 Data Science Service Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
27. Data Science Service 2023/10/28 Operating System(Oracle Linux) MLライブラリ群 etc. Compute CPU Compute GPU データロード データ変換 モデル学習 モデル評価 モデル解釈 etc. 機械学習のワークフロー Big Data Service Object Storage Data Flow API Gateway ExaCS ADB 様々なPythonライ ブラリを自由にイン ストール ... ... コーディング • クラウド化のメリット • 機械学習に必要な主要SW、HWスタックを数 分でプロビジョニング • 設定不要、メンテナンス不要、構成変更容易 • 使用量に応じた従量課金 • PaaSとしては無償のサービス • IaaSのみの課金(Compute, Block, Object Storage, Network) • 初期学習コストが低い(既存Pythonユーザー) • 既存コードの再利用、最低限のコード改修 • OCI他サービスとの連携 • データレイク(Big Data, Object Storage) • DB(ExaCS、ADB、MySQLなど) • データ処理(Data Flow、Functions、API Gateway、Streaming) Streaming Data Science Service Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
28. • Oracle Cloud Infrastructure Data Scienceの一 部として機能するPythonライブラリ • 機械学習のライフサイクル全てのフェーズで使いやすく シンプルなAPI • OCIのその他のサービスおよび他社サービス(Amazon S3、Google Cloud Storage、Azure Blob)との連 携API • Oracle AutoML 1. 最適なアルゴリズム選択の自動化 2. データのサンプリングの自動化 3. 最適な特徴量選択の自動化 4. ハイパーパラメータ・チューニングの自動化 Oracle Accelerated Data Science(ADS) 2023/10/28 機械学習のワークフロー Confidential – © 2020 Oracle Internal ⑥モデルの 解釈 ②データの 変換 ①データの ロード ⑤モデルの 評価 ③データの 可視化 ④モデルの 学習 Accelerated data Science AutoML Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
29. Oracle AI Stack 2023/10/28 … Machine learning services Data AI services AI infrastructure OCI Data Science ML in Oracle Database MySQL Heatwave AutoML Compute bare metal instances and VMs Cluster networking Block, object, file storage, HPC filesystems Digital Assistant Speech Language Vision Document Understanding Anomaly Detection Data Labeling OCI Generative AI + Business applications, Oracle SaaS portfolio Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
30. 製品ポジショニング 2023/10/28 … Machine learning services Data AI infrastructure OCI Data Science ML in Oracle Database MySQL Heatwave AutoML Compute bare metal instances and VMs Cluster networking Block, object, file storage, HPC filesystems Data Labeling Business applications, Oracle SaaS portfolio Digital Assistant Speech Language Vision Document Understanding Anomaly Detection OCI Generative AI + AI services Data Science Service Oracle Machine Learning MySQL Heatwave AutoML AI Services 適用範囲 古典機械学習からディープラニン グまで全ての機械学習用途に 対応できるPythonベースの機 械学習サービス 古典機械学習を中心としたIn Databaseの機械学習サービス(現 在GPUインスタンス未対応) 特定の分析手法に個別最適化 された機械学習サービス 開発スタイル プログラミングによる開発のみ プログラミングによる開発 ローコード開発(ADB、MySQL)のみ ローコード開発のみ このような顧客に おすすめします 既にPythonベースの機械学習 環境を運用している顧客 深層学習の最新の学習手法、 アルゴリズム、運用手法を求める 顧客 既にデータがデータベースに入ってい る顧客 対象データをデータベースにする要件 があるシステム 特定の分析をプログラミングなしで 簡単に利用したい顧客 プログラミングスキルのある人員が 少ない顧客(もしくはプログラミング 工数をなくしたい) Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
31. Oracle Big Data Jam Session データサイエンスやビッグデータの技術情報を初学者の方対象にご紹介する勉強会シリーズ 「難解な専門用語や数式を可能な限り排除し、デモを交え、平たく、分かり易く」をコンセプトに実施中 実施履歴 第14回 ChatGPTによるデータベース分析 [Qiita記事] 第13回 ChatGPTのコア技術「GPT」を理解する [Qiita記事] 第12回 機械学習の自動化テクニック TPOT編 [Qiita記事] 第11回 機械学習の自動化テクニック AutoSklearn編 [Qiita記事] 第10回 機械学習のキソ 分類問題・回帰問題編 [Qiita記事] 第9回 MLflowで学ぶMLOpsことはじめ 第8回 はじめての強化学習 第7回 次世代AI「GAN」による仮想現実の生成 第6回 ディープラーニングの基礎から転移学習まで 第5回 自然言語と機械学習(入門) 第4回 画像データの機械学習（実事例 付！） 第3回 Oracleのビッグデータ系サーバレス・サービスを吟味しよう！ 第2回 Oracle Data Science Serviceのご紹介 第1回 Oracle ビッグデータ系サービスのポートフォリオ 絶賛実施中 参加申し込み https://oracle-code-tokyo- dev.connpass.com/ https://youtube.com/playlist?list=PL8x2FJpi0g- uDelTpagDe3pSZGePQFO58&si=LIvdTBuCEhnPQ_2F 2023/10/28 Copyright © 2023 Oracle and/or its affiliates. All rights reserved.
32. ChatGPTとベクトルデータベースによる 企業内エンタープライズ・データの活用 ◼ 開催日 ：2023年11月29日（水） ◼ 開催時間：18:30 - 20:00 ＊18:20 接続開始 (Zoom) 11月29日開催 Oracle BigData JAM session 今回は、ファインチューニングや、LLMとベクトルデータベースを組み合わせる RAG(Retrieval-Augmented Generation)と呼ばれる構成についてその仕組みをご紹介します。 https://oracle-code-tokyo-dev.connpass.com/event/295533/ Copyright © 2023 Oracle and/or its affiliates. All rights reserved.