【Oracle Cloud ウェビナー】企業データをCohere、Llama 2で手軽に活用、生成AIクラウドサービス + エージェントによる企業AIとは

Oracle Cloud ウェビナーシリーズ情報: https://oracle.com/goto/ocws-jp
セッション動画: https://go.oracle.com/ocws-jp-ondemand

Transcript

1. Oracle Cloud ウェビナー 日本オラクル株式会社 2024年2月28日 企業データをCohere、Llama 2で手軽に活用、 生成AIクラウドサービス + エージェントによる企業AIとは
2. Copyright © 2024, Oracle and/or its affiliates 2 本日お伝えしたい内容 1. Oracle Cloudの生成AIサービスの構成はどうなっているのか？ 2. 企業における生成AIの構成 – RAGの活用 3. AI支援サービスのご案内
3. Copyright © 2024, Oracle and/or its affiliates 3 本日お伝えしたい内容 1. Oracle Cloudの生成AIサービスの構成はどうなっているのか？ 2. 企業における生成AIの構成 – RAGの活用 3. AI支援サービスのご案内
4. Copyright © 2024, Oracle and/or its affiliates 4 Oracle Cloud アプリケーションへの組込AI AIサービス ＆ データ AIインフラストラクチャ マルチクラウド 分散 クラウド 統合されたクラウド アプリケーション インフラストラクチャ インダストリー エンタープライズ カスタム AI データ
5. Copyright © 2024, Oracle and/or its affiliates 5 データ プラットフォーム アプリケーション データ Oracle AI パートナー Fusion Applications NetSuite Industry Applications 3rd Party Applications Embedded Generative and Classic AI OCI Data Science ML in Oracle database AI インフラストラクチャー Compute bare metal instances and VMs with NVIDIA GPUs OCI Supercluster with RDMA networking Block, object, and file storage; HPC filesystems AI サービス Generative AI Digital Assistant Speech Language Vision Document Understanding AI Agents OCI Data Labeling MySQL Heatwave AutoML Fusion Analytics Oracle Database Vector Search and Select AI MySQL HeatWave Vector Store and GenAI Oracle CloudにおけるAIサービスの全体構成 データを中心に、インフラからビジネス・アプリケーションまで包括的にAIを提供
6. データ プラットフォーム Copyright © 2024, Oracle and/or its affiliates 6 Oracle Database Vector Search MySQL HeatWave Vector Store Oracle Data Science Quick Actions AI Agents 主な生成AI関連サービス データ・プラットフォームを中心にエージェント、生成AIサービスを構成 Llama2, Mistral Generative AI Cohere & Llama2 Beta Beta 限定公開
7. Copyright © 2024, Oracle and/or its affiliates 7 本日お伝えしたい内容 1. Oracle Cloudの生成AIサービスの構成はどうなっているのか？ 2. 企業における生成AIの構成 – RAGの活用 3. AI支援サービスのご案内
8. 企業における生成AIでは、最新の自社データの参照が必要となります。 Copyright © 2024, Oracle and/or its affiliates 8 製品Aの在庫状況を教えて! 社内にxxのスキルがある人いる？ 現在の注文と出荷状況を一覧で表示 して。 AI 自社データ +
9. 企業固有データをAIで活用する２つの方法 ファインチューニングとRAG（Retrieval-Augmented Generation：検索拡張生成） ファインチューニング 企業データを使用して、AIモデルを更新。 （人間が暗記するようなもの） RAG 問い合わせ時に必要なデータを参照。 （回答する時に、都度調べて回答） 生成AI 企業固有データ 学習 企業固有データ 参照 生成AI Copyright © 2024, Oracle and/or its affiliates 9
10. 企業固有データをAIで活用する２つの方法 ファインチューニングとRAG（Retrieval-Augmented Generation：検索拡張生成） ファインチューニング 企業データを使用して、AIモデルを更新。 • 学習した情報を使った回答が可能 • 学習に時間とリソースがかかる • 最新の情報を使用した回答はできない • 回答の元となったソースの提示が不可 RAG 問い合わせ時に必要なデータを参照。 生成AI 企業固有データ 学習 企業固有データ 参照 生成AI Copyright © 2024, Oracle and/or its affiliates 10
11. 企業固有データをAIで活用する２つの方法 ファインチューニングとRAG（Retrieval-Augmented Generation：検索拡張生成） ファインチューニング 企業データを使用して、AIモデルを更新。 • 学習した情報を使った回答が可能 • 学習に時間とリソースがかかる • 最新の情報を使用した回答はできない • 回答の元となったソースの提示が不可 RAG 問い合わせ時に必要なデータを参照。 • 最新の情報を参照して回答ができる • 回答の元となった情報を提示できる • 学習時間がかからない • 生成する文章のスタイルは変えられない 生成AI 企業固有データ 学習 企業固有データ 参照 生成AI Copyright © 2024, Oracle and/or its affiliates 11
12. 企業固有データをAIで活用する２つの方法 ファインチューニングとRAG（Retrieval-Augmented Generation：検索拡張生成） RAG 問い合わせ時に必要なデータを参照。 • 最新の情報を参照して回答ができる • 回答の元となった情報を提示できる • 学習時間がかからない • 生成する文章のスタイルは変えられない 企業における生成AIの活用では、 最新のデータを活用でき、 信頼できる回答が得られるRAGが最適 企業固有データ 参照 生成AI Copyright © 2024, Oracle and/or its affiliates 12
13. Copyright © 2024, Oracle and/or its affiliates 13 質問 RAG(Retrieval-Augmented Generation)の構成 “製品Aに関する品質 レポート、顧客アンケー トの分析結果をもとに 製品Aの課題を示せ” データベース • 品質レポート • 顧客アンケート • 生産計画 • 品質管理 • 他 質問に関連するデータを検索 質問 + AI 回答 “製品Aについては、品 質レポートでxxxといった 問題が指摘されていま す。また、ユーザーから xxxのような問い合わせ があります。” Retrieve Augmente Generate 検索データ
14. 質問 “製品Aに関する品質 レポート、顧客アンケー トの分析結果をもとに 製品Aの課題を示せ” データベース • 品質レポート • 顧客アンケート • 生産計画 • 品質管理 • 他 質問に関連するデータを検索 質問 + AI 回答 “製品Aについては、品 質レポートでxxxといった 問題が指摘されていま す。また、ユーザーから xxxのような問い合わせ があります。” Retrieve Augmente Generate 検索データ RAGの精度において重要になるのは、いかに正しい情報を精度良く取得できるか。 必要な正しいデータが得られないと、欲しい回答が生成されない。 Copyright © 2024, Oracle and/or its affiliates 14
15. Copyright © 2024, Oracle and/or its affiliates 15 0.1, 0.8, 0.1, 0.0,... 質問 “製品Aに関する品質 レポート、顧客アンケー トの分析結果をもとに 製品Aの課題を示せ” 文書のベクトル 質問のベクトル 0.9, 0.0, 0.0, 0.0,... 0.1, 0.8, 0.1, 0.1,... 0.1, 0.9, 0.1, 0.0,... 0.0, 0.8, 0.4, 0.0,... 0.8, 0.0, 0.3, 0.0,... 質問の意味に沿ったデータの取得は、 質問をベクトルに変換し、ベクトルが近いデータを検索することで可能。 文書 製品Zのxxが問題があり... xxから製品Aの問合せ... 製品Aの部品が不足... 製品Bの出荷... ... ベクトル化 ベクトル検索 ベクトル化
16. Copyright © 2024, Oracle and/or its affiliates 16 ベクトルとは、次元と呼ばれる数値の配 列。データの重要な「特徴」を表すために 使用される。 ベクトルは、単語や画素ではなく、データ の意味内容を表す。 ベクトル ベクトル: 非構造化データの特徴を数列で表現 ７ 2 0 1 8 ...
17. Copyright © 2024, Oracle and/or its affiliates 17 類似する文章のベクトルは、近いところにある。 近いところのベクトルを検索することで、意味的に近いデータを取得。 d 1 クワの実 いちご リンゴの木 木苺 洋ナシ セイヨウスモモ 猫 子猫 犬 子犬 狼 ライオン テキサス カリフォルニア ニューヨーク キウイフルーツ 象 動物 果物 米国 d 2 ベクトル検索 近い場所にあるベクトルを検索することで、意味的に近いデータを検索
18. Copyright © 2024, Oracle and/or its affiliates 18 OCI Generative AI ServiceでのEmbed(ベクトル化)の実行例: より近い話題の文章が、より近いところに位置している。 スポーツの話題 経済の話題 ITの話題
19. Copyright © 2024, Oracle and/or its affiliates 19 精度の高いベクトル検索を行うためのOracle Cloud AIサービス Oracle Generative AI Service Cohere Embed モデル Oracle Database 23c AI Vector Search 7 1 4 9 高品質なベクトル化 多様なデータソースから収集した“ノイズの多い”データ セットに対しても、より正確な結果を得ることが可能 Source: Cohere https://txt.cohere.com/introducing-embed-v3/ 精度の高いベクトル検索 ベクトル・データ型の導入により、非構造化データの類 似検索に対応。既存データと結合して検索することで、 より精度の高い検索を実現。
20. Copyright © 2024, Oracle and/or its affiliates 20 0.1, 0.8, 0.1, 0.0,... 質問 “製品Aに関する品質 レポート、顧客アンケー トの分析結果をもとに 製品Aの課題を示せ” 文書のベクトル 質問のベクトル 0.9, 0.0, 0.0, 0.0,... 0.1, 0.8, 0.1, 0.1,... 0.1, 0.9, 0.1, 0.0,... 0.0, 0.8, 0.1, 0.0,... 0.8, 0.0, 0.3, 0.0,... 質問の意味に沿ったデータの取得は、 質問をベクトルに変換し、ベクトルが近いデータを検索することで可能。 文書 製品Zのxxが問題があり... xxから製品Aの問合せ... 製品Aの部品が不足... 製品Bの出荷... ... ベクトル化 ベクトル検索 ベクトル化 Generative AI Service Cohere Embed Oracle Databse Vector Serch Generative AI Service Cohere Embed
21. Copyright © 2024, Oracle and/or its affiliates 21 質問 RAG(Retrieval-Augmented Generation)の構成 “製品Aに関する品質 レポート、顧客アンケー トの分析結果をもとに 製品Aの課題を示せ” データベース • 品質レポート • 顧客アンケート • 生産計画 • 品質管理 • 他 質問に関連するデータを検索 質問 + AI 回答 “製品Aについては、品 質レポートでxxxといった 問題が指摘されていま す。また、ユーザーから xxxのような問い合わせ があります。” Retrieve Augmente Generate 検索データ
22. Copyright © 2024, Oracle and/or its affiliates 22 回答の生成を行うためのOracle Cloud 生成AIサービス Oracle Generative AI Service Oracle Data Science Quick Actions OSSの生成AIをノーコードでデプロイ OSSの生成AIモデルを少ない手間でOCI上にデプロイ。 用途にあったさまざまな生成AIモデルが使用可能に。 生成AIをフルマネージドで提供 CohereおよびLlama2をフルマネージドで提供。 企業で求められる、安定したパフォーマンス、レスポンス を実現。
23. Copyright © 2024, Oracle and/or its affiliates 23 質問 RAG(Retrieval-Augmented Generation)の構成 “製品Aに関する品質 レポート、顧客アンケー トの分析結果をもとに 製品Aの課題を示せ” データベース • 品質レポート • 顧客アンケート • 生産計画 • 品質管理 • 他 質問に関連するデータを検索 質問 + AI 回答 “製品Aについては、品 質レポートでxxxといった 問題が指摘されていま す。また、ユーザーから xxxのような問い合わせ があります。” Retrieve Augmente Generate 検索データ Generative AI Service Generative AI Service + Oracle Database 23c AI Vector Serch
24. Copyright © 2024, Oracle and/or its affiliates 24 質問 Generative AI Agents サービス - RAG AgentによるRAGの構成 “製品Aに関する品質 レポート、顧客アンケー トの分析結果をもとに 製品Aの課題を示せ” 回答 “製品Aについては、品 質レポートでxxxといった 問題が指摘されていま す。また、ユーザーから xxxのような問い合わせ があります。” AI Agents Beta データベース • 品質レポート • 顧客アンケート • 生産計画 • 品質管理 • 他 生成AI
25. Copyright © 2024, Oracle and/or its affiliates 25 RAGを実際に導入する時の 課題とは？ RAG 質問 製品 に関する品質 レポート、顧客アンケー トの分析結果をもとに 製品 の課題を示せ データベース 品質レポート 顧客アンケート 生産計画 品質管理 他 質問に関連するデータを検索 質問 回答 製品 については、品 質レポートで といった 問題が指摘されていま す。また、ユーザーから のような問い合わせ があります。 検索データ
26. システム全体でのアプローチが必要 適切なAIモデルの活用 • 適切なAIモデルの選択 • ファイン・チューニング 適切なデータを渡す • 最新の自社データ • 一貫した品質の高いデータ • 必要なデータの精度の高い検索 信頼性を向上させる • 業務要件を満たすパフォーマンスの実現 • 堅牢なセキュリティ • 開発容易性、効率的な運用で実現 実業務で生成AIを活用するためには、精度と信頼性が高いRAGが必要 お客様の自社データ AIモデル Copyright © 2024, Oracle and/or its affiliates 26
27. ベクトル・データベースや検索エンジンの課題に直面されるお客様が増えています 特化型データベースにより散在化されたデータが、検索精度向上の障壁に “この図に似た商品で、このコメントに似ていてかつXXXといった 言葉が含まれる口コミがあって、製品カテゴリは文房具で、価格 は1000円以下の商品の平均年間売上は？” Item A Item B … Item B, 1500 Item D, 1000 ベクトル化 ベクトル化 直面する課題 1. データ信頼性の低下 • ベクトル・データベースへの反映に時間がかかり、 最新の情報が検索できない • データが散在化するため、データ一貫性を保つことが困難 • バラバラなセキュリティ管理によるデータ漏洩リスク 2. RAGシステムの複雑化/開発コストや保守コストの上昇 • 画像や文書などデータの種類に応じてデータベースが増え、また対応 するベクトル・データベースも乱立 • 各データストア毎への検索と、結果データとの突合処理が必要 • 検索ロジックが複雑化し、構築や保守が困難に 3. システム信頼性の実現が困難 • 業務要件を満たすための、可用性、パフォーマンスやスケーラビリティ の確保の担保が困難 Copyright © 2024, Oracle and/or its affiliates 27
28. Oracle Database 23c - AI Vector Search 業務データをセキュアに活用し、エンタープライズRAG活用における検索精度、パフォーマンス、拡張性を向上 あらゆる生成AIをサポートする、データ・プラットフォーム 1. 様々なデータを1つのデータベースで統合管理 • ベクトルデータを含む、あらゆるデータ・タイプを一つのデータベースに集約 • ビジネスデータとベクトルデータを組み合わせた検索を一つのSQLで実現 • データベース内でデータの一貫性を保ったまま、高速にベクトル変換する ため、最新のデータもベクトル検索が可能 2. 高速なベクトル検索 • Oracle Databaseの機能を活用した検索高速化 • パーティション化された、ベクトル索引 • グラフ・テクノロジーを活用した、ベクトル検索 3. 高可用性、スケーラビリティ、セキュリティ • データ整合性を保持しながら、スケールアウトを可能に • Exadata Cloudの持つ、高性能、高可用性、堅牢なセキュリティ をベクトル検索に Oracle Database 23c AI Vector Search AI 7 1 4 2 分類 価格 テキスト ベクトル（テキスト） 画像 ベクトル（画像） 0 001 ¥1,000 …… 0.1, 0.2, 0.6. .... 0.5, 1.5, 2.6, .... 1 002 ¥2,000 BBB…… 0.8, 0.1, 0.4. .... 1.0, 0.9, 1.6, .... 2 003 ¥3,000 CCC…… 0.5, 0.3, 0.9. .... 0.6, 1.1, 1.3, .... Copyright © 2024, Oracle and/or its affiliates 28
29. Copyright © 2024, Oracle and/or its affiliates 29 生成AIサービス概要
30. Copyright © 2024, Oracle and/or its affiliates 30 OCI Generative AI Service
31. Copyright © 2024, Oracle and/or its affiliates 31 コンソール、APIで使用可能です。
32. Copyright © 2024, Oracle and/or its affiliates 32 ファインチューニングやプライベート エンドポイントの作成が可能です。
33. Copyright © 2024, Oracle and/or its affiliates 33 より高い安定した性能が必要な 場合、は専用のクラスタを割り当てる ことが可能です。
34. Copyright © 2024, Oracle and/or its affiliates 34 コンパクトでRAGに最適な生成AIモデル コンパクト 高性能ながらコンパクト。お客様によるカ スタマイズが容易で早いレスポンス。 高性能なモデル 第三者による生成AIのベンチマーク (HELM)において、高いスコアを達成 (not included: GPT-4 from OpenAI) 520億 OpenAI GPT-3 パラメータ数 1,750億 Source: Stanford's HELM benchmarks 高品質なベクトル化 高多様なデータソースから収集した“ノイ ズの多い”データセットに対しても、より正 確な結果を得ることが可能 Data Set: TREC-COVID Source: Cohere
35. Copyright © 2024, Oracle and/or its affiliates 35 オンデマンド Gen AI Service GPUサーバー 専有モデル • Cohereの基本モデルは、プレイグラウンド機能を使用 してオンデマンドで使用するか、OCI CLIおよびSDKを 介してプログラムから使用可能 • モデルは複数の顧客に同時にサービスを提供する、マル チテナント・アーキテクチャでホスト • Cohereのモデルをシングル・テナントで、高性能なGPU サーバーを専有して使用 • より高いセキュリティ、安定したパフォーマンスで運用 • トークンやリクエスト毎の課金では無く、固定の価格のため、 使いすぎなどによる予想外の課金が発生することなく、コス トの見積が予測可能 必要に応じて、オンデマンドまたは専有モデルを選択可能。 専有モデルでは、サーバーを専有できるため、安定したパフォーマンス、予測可能な課金、より高いセキュリティが可能になります。 OCI Generative AI service 企業向けの提供形態: 専有モデルにより、セキュアで安定した性能、予測可能な料金 Gen AI Service 専有GPUサーバー Gen AI Service 専有GPUサーバー
36. Copyright © 2024, Oracle and/or its affiliates 36 OSSの生成AIモデルを少ない手間でOCI上にデプロイ。 用途にあったさまざまな生成AIモデルが使用可能に。 Data ScienceのNotebookインタフェースから、 クリックのみ、ノーコードでAIモデルをデプロイし、ファイン チューニングやスケールも可能。 最初は、Llama2やMistral 7BなどのLLMをサポート 予定。 可能なアクション: • デプロイ • ファイン・チューニング • インテグレーション • スケール Beta: AI Quick Actions for OCI Data Science
37. Copyright © 2024, Oracle and/or its affiliates 37 Oracle Database 23c AI Vector Search 高速なセマンティック検索を可能にする、ベクトル検索を提供。 Oracle Databaseのデータを生成AI(LLM)の活用して、 新しい価値を創造。 限定公開中 New! ベクトル検索
38. Copyright © 2024, Oracle and/or its affiliates 38 Oracle Database 23c AI Vector Search Oracle Database 23c • あらゆるデータをデータベースに格納可能 • 構造化データ: 表データ、位置データなど • 非構造化データ: 文書、JSON、画像、動画など • 新しいベクトル・データ型を付け加えることで、 非構造データの類似検索が可能に。 • 構造化データと非構造化データを組み合わせて、 精度の高い検索。 Convergedとベクトルにより、AIで必要な あらゆるデータの格納・検索が可能 Converged (あらゆるデータを格納) 7 1 4 9 ベクトル・データ型 +
39. Copyright © 2024, Oracle and/or its affiliates 39 表データ 一般的なRDBMS 構造化データ(表データ）を格納。 関連するデータを結合して取得。 表データ 表データ Oracle Database 23c (Converged Database) 表データだけでは無く、画像や文書などあらゆる データを格納可能。 表データ 表データ 表データ
40. Copyright © 2024, Oracle and/or its affiliates 40 表データ 構造化データ(表データ）を格納。 関連するデータを結合して取得。 表データ 表データ 文書や画像に対応するベクトルを付加して検索。 構造化データとの結合、組み合わせての検索も可能。 表データ 表データ 表データ 一般的なRDBMS Oracle Database 23c (Converged Database)
41. Copyright © 2024, Oracle and/or its affiliates 41 文書や画像を id vector Text 1 [0.8, 0.5, 1.6, -2.5, …] “It was the best of times, it was the worst of times, it was..” 2 [1.1, 0.3, 0.6, -1.3, …] “It is a truth universally acknowledged, that a single man..” 3 [1.3, 0.1, 0.2, -1.1, …] “It was a bright cold day in pril, and the clocks were striking..” … … … id vector Image 1 [0.5, 1.5, 2.6, -1.1, …] 2 [1.0, 0.9, 1.6, -1.3, …] 3 [0.6, 1.1, 1.3, -0.9, …] … … … 文章 画像 文章をベクトル値に 変換し格納 画像をベクトル値に 変換し格納
42. Copyright © 2024, Oracle and/or its affiliates 42 0.1, 0.2... 0.9, 0.0... 佐藤 東京都... 0.3, 0.7... 0.7, 0.1... 鈴木 大阪府... 0.1, 0.1... 0.0, 0.8... 高橋 愛知県... 0.9, 0.5... 0.2, 0.1... 田中 北海道... 画像ベクトル 写真 文書ベクトル 経歴書 名前 住所 SQL検索 Oracle Database 23c Vector Search AIかそれと同等の経験があって、xxに 住んでいる人 xxさんと似た経歴の人は？ カメラに映った人と似ていて、住所 がxxの人 1つのSQL文で、あらゆる情報を横断的に検索
43. Copyright © 2024, Oracle and/or its affiliates 43 ビジネスデータとベクトルデータを結合した検索で絞り込むことで、検索精度を向上 ベクトル検索の例 SELECT id FROM prod_info WHERE prod_name in (SELECT name FROM products …) AND prod_category in (SELECT category FROM products …) ORDER BY vector_distance(doc_vector, :input_vector); 似たような顧客コメントがあって、かつ、製品カテゴリは“XX”で、かつ製品名に“YYY”が含まれている製品は？ サンフランシスコに住んでいて、この写真に似ている上位５人の顧客名は？ SELECT id, photo FROM customer ORDER BY VECTOR_DISTANCE(phot_vec, search_vec) FETCH APPROXIMATE FIRST 10 ROWS ONLY WITH TARGET ACCURACY 95 PERCENT
44. Copyright © 2024, Oracle and/or its affiliates 44 Oracle Database 23c Vector Search データベース側でベクトル化が可能 ベクトル化の手間を削減し、データの更新時に 遅延なくベクトル変換が可能。 これにより、最新のデータをRAGで使用可能。 東京都... 佐藤 0. , 0.0... 0.1, 0.2... 大阪府... 鈴木 0. , 0.1... 0.3, 0. ... 愛知県... 高橋 0.0, 0. ... 0.1, 0.1... 北海道... 田中 0.2, 0.1... 0. , 0. ... 住所 名前 経歴書 文書ベクトル 写真 画像ベクトル
45. Oracle Autonomous Database: あらゆるデータを格納、かつ運用の手間を削減 Converged Database Approach 画像も文書も1つのデータベースに集約 様々なデータをシンプルなSQL文で一度に検索 データ・ロード 変換 データモデラー スケジューリング インサイト 空間分析・グラフ分析 機械学習 ローコード アプリ開発 Autonomous Database AIを活用することでインフラ運用を自動化、 AI開発を効率化する、自律型データベース Complete Simple Copyright © 2024, Oracle and/or its affiliates 45
46. Copyright © 2024, Oracle and/or its affiliates 46 Autonomous Database - Select AI：自然言語によるSQL問い合わせ 「AIの民主化」を実現するため、自然言語を通じたインタラクションで、データからの価値創出をより容易に DBへ質問文を投げかけると、 SQLに変換し結果を返す 「2010年以降でもっともよく見られた映画のトップ10を教えて」 Cohere OpenAI Azure OpenAI Oracle Generative AI
47. Copyright © 2024, Oracle and/or its affiliates 47
48. Copyright © 2024, Oracle and/or its affiliates 48 Generative AI Agents 生成AIを活用し、データやアプリケーションと連携する、 チャット・インタフェース Beta AI
49. Copyright © 2024, Oracle and/or its affiliates 49 Introducing: OCI Generative AI Agents RAG Agent(ベータ) Generative AI Agent 生成AI Agentが仲介して、データベースから最新の データを取得し、AIに入力して回答を生成。 データベース
50. Copyright © 2024, Oracle and/or its affiliates 50
51. Copyright © 2024, Oracle and/or its affiliates 51
52. Copyright © 2024, Oracle and/or its affiliates 52 AgentはRAGをさらに拡張予定:Action Agents 意思決定と実行において、人間 の介入なしに独立性を実現 協力 自主性 学習 共通の目標を達成するために、 他のエージェントやシステムと連携 し、やり取りする アルゴリズムとフィードバックを通じて、 知識を獲得し、状況の変化に適応し、 パフォーマンスを向上します Agent Agentは、継続的な人間の介入なしにユーザーまたはシステムのかわりに動作する、 自律型プログラム。-> 自動化することで企業のオペレーション・コストを大幅に削減
53. Copyright © 2024, Oracle and/or its affiliates 53 Action Agentsが処理を自動化 Agent + LLM プロンプトの 理解と解釈 必要なアクショ ンを決定 必要に応じて データを取得 アクションの 実行 「シアトル行きの フライトを予約し てください」 「あなたのフライト が予約されまし た!」
54. Copyright © 2024, Oracle and/or its affiliates 54 Gen AI Agents: 今後の予定 情報の取得(RAG) RAG Agentのベータでは データソースとして、 OCI Search(OpenSearch)をサポート • 2024年1月ベータ版: OpenSearch • 2024年後半: Oracle Database 23c AI Vector Search MySQL HeatWave Vector Store Action Agents エージェントは、情報検索タスクにとどまらず、APIを代わりに呼び出すことで、さまざまな 手間のかかるタスクを自動化できる可能性があります。 高品質の生成AIモデルを使用 お客様独自のモデルを持ち込む必要はありません。デフォルトでは、エージェントはOCI Generative AI サービスのモデル(CohereおよびLlama-2)を利用します。 Reasoning & Planning エージェントは、ReActフレームワークに基づいて推論して計画し、一連の思考および行 動、観察に基づいてアクションします。 マルチターン・エージェント エージェントに過去の記憶を保持させ、モデルのコンテキストと応答をさらに豊かにします。
55. Copyright © 2024, Oracle and/or its affiliates 55 本日お伝えしたい内容 1. Oracle Cloudの生成AIサービスの構成はどうなっているのか？ 2. 企業における生成AIの構成 – RAGの活用 3. AI支援サービスのご案内
56. Copyright © 2024, Oracle and/or its affiliates 56 AI支援サービス（無償）を提供しています。 何にAIを活用できるかわからない 目的を明確化したい AIワークショップ/ AIビジネス企画構想サービス AIを活用した新たな取組みや新 規ビジネスに関して、ビジネスプラン 策定支援、企画AIワークショップ、 MVP構築、社会実装を支援 クラウドを活用し、 AI環境を構築したい AI環境構築支援サービス GPUを活用したAI環境、生成AI開 発基盤のクラウド環境構築を支援 何から始めればいいか分からない プロジェクト化したい プロジェクトアセスメント、データ・プロ ファイリング、プロジェクトスタートアップ 支援 AIプロジェクト支援サービス （一部有償）
57. Copyright © 2024, Oracle and/or its affiliates 57 まとめ
58. Copyright © 2024, Oracle and/or its affiliates 58 • 企業における生成AIの活用では、自社データを活用したRAGが 重要になります。 • Oracle Database AI Vector Searchにより、さまざまなデータ を横断的に検索でき、問合せとの関連したデータを高い精度で取 得可能です。 • Cohere、Llama2に対応したGenerative AIサービスおよび RAG Agentを活用してRAGを少ない手間で構築可能です。 • 今後、AgentやSaaSへの組み込みにより、企業のオペレーション の自動化が可能になります。それにより、コストを大きく下げられる 可能性があります。 まとめ
59. Copyright © 2024, Oracle and/or its affiliates 59 https://developer.oracle.com/ja/community/japan-events/ai-brown-bag.html より技術的な詳細は、こちらから参照いただけます。ぜひご活用ください。 → Oracle AI Brown Bag Seminar 直近は、「OCI Generative AI Service 実践編」