[HeatWavejpMeetup#09] HeatWave GenAI で社内データを徹底活用(できるのか) [成田 優隆 氏（スマートスタイル）]

HeatWavejp Meetup #09 「誰でもできる機械学習と生成AIを試してみよう！ HeatWave AutoMLとGenAIのお話。」（2024/8/28 開催）の講演資料です。

【講演内容】
HeatWave GenAI で社内データを徹底活用(できるのか)

　≪アジェンダ≫
　1．HeatWave Gen AI is now available！
　　・GenAI is 何
　　・HeatWaveGenAIの機能
　　・VSCode for MySQL で HeatWave Chat
　　・SQL で HeatWave Chat
　　・In-Database LLMs
　　・In-Database Vector Store
　　・Retreival-Augmented Generation(RAG)

2．HeatWave Chat を試してみる
　　・文書をHeatWaveに登録する
　　・問い合わせ前の準備
　　・問い合わせの実行(RAGなし)
　　・RAGを使用した問い合わせ

【発表者】
株式会社スマートスタイル
データベース&クラウド事業部 技術本部 DB部
成田 優隆 氏

【イベント情報】
HeatWavejp Meetup #09
https://heatwavejp.connpass.com/event/327359/

Transcript

1. HeatWavejp Meetup #09 HeatWave GenAI で社内データを徹底活用(できるのか) 2024年8月28日 株式会社スマートスタイル 成田 優隆(なりた まさたか) m-narita@s-style.co.jp
2. Copyright © 2024 HeatWavejp All Rights Reserved. • 成田 優隆 (なりた まさたか) • 株式会社スマートスタイル • データベース&クラウド事業部 技術本部 データベース部 副部長 • 趣味 • 最近は家庭菜園 2 自己紹介
3. Copyright © 2024 HeatWavejp All Rights Reserved. HeatWave GenAI is now available！ 3
4. Copyright © 2024 HeatWavejp All Rights Reserved. 4 https://www.oracle.com/jp/news/announcement/oracle-announces-in-database-llms-and-automated-in-database-vector-store-with-heatwave-genai-2024-06-26/
5. Copyright © 2024 HeatWavejp All Rights Reserved. GenAI is 何 • GenAI = Generative AI = 生成AI • テキスト・音楽・画像・動画 等の様々なメディア を生成することができる人工知能プログラム、 またそれを使用したサービスの名称 • 生成AIを使用したサービス例 • ChatGPT • Github Copilot • Google Gemini 5
6. Copyright © 2024 HeatWavejp All Rights Reserved. 6 いわゆるこのような事のできる機能
7. Copyright © 2024 HeatWavejp All Rights Reserved. HeatWave GenAI の機能 7 HeatWave Chat • HeatWave GenAI への問い合わせインタフェース In-Database LLMs • 組み込みLLM（大規模言語モデル）の搭載 In-Database Vector Store • VECTOR型 • sys.VECTOR_STORE_LOAD()による OCIオブジェクトストレージからのデータロード処理 Retreival- Augmented Generation(RAG) • sys.ML_RAG()による拡張プロンプト
8. Copyright © 2024 HeatWavejp All Rights Reserved. VSCode for MySQL で HeatWave Chat 8 HeatWave ノード * 1 の場合の 応答速度 => 12～13秒 くらい？
9. Copyright © 2024 HeatWavejp All Rights Reserved. SQL で HeatWave Chat 9 sys.HEATWAVE_CHAT() https://dev.mysql.com/doc/heatwave/en/mys-hwgenai-hw-chat.html
10. Copyright © 2024 HeatWavejp All Rights Reserved. In-Database LLMs 10 Llama (llama2-7b-v1) https://huggingface.co/meta-llama/Llama-2-7b Mistral (mistral-7b-instruct-v1) https://huggingface.co/mistralai/Mistral-7B-Instruct-v0.1 現時点では公開データでトレーニング済みの2モデルが選択可能 ※ OCI Generative AIと連携することでより高性能な Cohere、Llama2-70b等のモデルを利用可能ですが、 2024/08現在では日本リージョン(ap-tokyo-1, ap-osaka-1)での提供はありません 7b = 7billion (70億パラメータ) OpenAI GPT-3.5(無料)は1750億パラメータ OpenAI GPT-4.0-Turbo(有料)は1兆7500億(非公表)パラメータ
11. Copyright © 2024 HeatWavejp All Rights Reserved. LLMのパラメータ数 11 パラメータ数少ない = ？ No パラメータ数が多い = パラメータ数が少ない = 大量のデータでトレーニングされている 幅広い問い合わせに対応できる 多彩な表現で回答できる 特定領域に限ったトレーニング 軽量に動作する 特定分野に正確な答えを返す
12. Copyright © 2024 HeatWavejp All Rights Reserved. In-Database Vector Store 12 • Vector 型 https://dev.mysql.com/doc/refman/9.0/en/vector.html 4byte float型数値(エントリ) * エントリ数(デフォルト2048、最大16383) からなる 文章、単語、ドキュメント等をエンべディングによって変換された数値ベクトル表現を格納 • Vector 関数 https://dev.mysql.com/doc/refman/9.0/en/vector-functions.html DISTANCE()関数を除きオンプレ版 MySQL でも利用可 Name Description DISTANCE() Calculates the distance between two vectors per the specified method STRING_TO_VECTOR() Get the binary value of the VECTOR column represented by a conforming string VECTOR_DIM() Get the length of a vector (that is, the number of entries it contains) VECTOR_TO_STRING() Get the string representation of a VECTOR column, given its value as a binary string
13. Copyright © 2024 HeatWavejp All Rights Reserved. In-Database Vector Store 13 https://dev.mysql.com/doc/heatwave/en/mys-hwgenai-vector-store-load.html ① OCI Object Storage上のドキュメント(pptx, docx, txt, pdf...)を取得 ② 各ファイルに対して エンべディングを施しHeatWaveノードにロード ③ インポート先となるVector Store(テーブル)を作成し永続化 エンべディングを簡単に作成するためのユーティリティ関数
14. Copyright © 2024 HeatWavejp All Rights Reserved. Retreival-Augmented Generation(RAG) 14 LLMへの問い合わせの際に、追加のリソース(検索エンジン、データベース)からの情報をLLMにフィード バックすることで、より正確な回答を得ることを目的とした技術 • 追加情報リソース → MySQL HeatWave Vector Store • RAGを使用した問い合わせ → ML_RAG() ファンクション Q A 類似性検索 ML_RAG() 拡張プロンプ ト LLM VECTOR STORE 自然言語 クエリ 自然言語 クエリ 検索結果 拡張 問い合わせ 生成結果
15. Copyright © 2024 HeatWavejp All Rights Reserved. 文書をHeatWaveに登録する 15 ① OCI Object Storage上に文書ファイル(pptx, pdf, docx, txt …)をアップロード $ oci os object bulk-upload -bn hw-bucket --src-dir scraped_news_202408 Uploaded article_100.txt [####################################] 100% Uploaded article_101.txt [####################################] 100% Uploaded article_102.txt [####################################] 100% Uploaded article_103.txt [####################################] 100% Uploaded article_104.txt [####################################] 100% Uploaded article_105.txt [####################################] 100% Uploaded article_106.txt [####################################] 100% Uploaded article_107.txt [####################################] 100% Uploaded article_108.txt [####################################] 100% Uploaded article_109.txt [####################################] 100% Uploaded article_110.txt [####################################] 100% Uploaded article_111.txt [####################################] 100% Uploaded article_112.txt [####################################] 100% : 2024/08のニュースのスクラップ記事
16. Copyright © 2024 HeatWavejp All Rights Reserved. 文書をHeatWaveに登録する 16 ② MySQL HeatWaveからOCI Object Storageへアクセスするための動的グループ及びポリシを定義 # MySQL HeatWave用 動的グループの作成 $ oci iam dynamic-group create ¥ --matching-rule "ALL{resource.type='mysqldbsystem', resource.compartment.id='ocid1.compartment.oc1..xxxx'}" ¥ --name MySQLHeatWave-DG-For-Dev ¥ --description "成田 検証用" # 動的グループにオブジェクトストレージアクセス用ポリシの割当て $ oci iam policy create -c ocid1.compartment.oc1..xxxx --description "成田 検証用" --name MySQLHeatWaveBucketAccessPolicy --statements ‘[ "allow dynamic-group MySQLHeatWave-DG-For-Dev to read buckets in compartment m-narita" ,"allow dynamic-group MySQLHeatWave-DG-For-Dev to read objects in compartment m-narita" ]'
17. Copyright © 2024 HeatWavejp All Rights Reserved. 文書をHeatWaveに登録する 17 ③ VECTOR STOREに文書をロード -- 非同期タスク管理用スキーマの初期化(DB Systemで未実施の場合に一回のみ実施) MySQL> select mysql_task_management_ensure_schema(); -- データベースの作成 MySQL> create database genai; -- ドキュメントのロード MySQL> call sys.VECTOR_STORE_LOAD("oci://hw-bucket@xxxxxxxx/article_100.txt", '{"table_name": "vector_store", "schema_name": "genai"}’); ERROR: 1305 (42000): PROCEDURE sys.VECTOR_STORE_LOAD does not exist ？？？？？
18. Copyright © 2024 HeatWavejp All Rights Reserved. 文書をHeatWaveに登録する 18 MySQL > select @@version, count(*) from information_schema.routines where routine_name = 'vector_store_load'; +-------------+----------+ | @@version | count(*) | +-------------+----------+ | 9.0.1-cloud | 0 | +-------------+----------+ MySQL > select @@version, count(*) from information_schema.routines where routine_name = 'vector_store_load'; +----------------+----------+ | @@version | count(*) | +----------------+----------+ | 9.0.0-u1-cloud | 1 | +----------------+----------+
19. Copyright © 2024 HeatWavejp All Rights Reserved. 文書をHeatWaveに登録する 19 VECTOR_STORE_LOADの代わりにheatwave_load()を使用する https://dev.mysql.com/doc/heatwave/en/mys-hw-genai-troubleshoot.html#mys-hw-genai-heatwave-load MySQL> set @dl_tables = ' [{ "db_name": "genai", "tables": [ { "table_name": "vector_store", "engine_attribute": { "dialect": {"format": “txt"}, "file": [ // article_ から始まるファイルをロード {"region": "ap-tokyo-1", "namespace": “xxxxxx", "bucket": "hw-bucket", “pattern": "article_.*¥.txt"}, ] } } ] }]'; WA
20. Copyright © 2024 HeatWavejp All Rights Reserved. 文書をHeatWaveに登録する 20 VECTOR_STORE_LOADの代わりにheatwave_load()を使用する https://dev.mysql.com/doc/heatwave/en/mys-hw-genai-troubleshoot.html#mys-hw-genai-heatwave-load -- VECTOR STOREへのロード時にはsys.heatwave_load()の@options引数が必要 MySQL> set @options = JSON_OBJECT('mode', 'normal); -- VECTOR STOREへのロードを実行 MySQL> call sys.heatwave_load(CAST(@dl_tables AS JSON), @options); …略… +-------------------------------------------------------------------------------+ | LOAD SUMMARY | +-------------------------------------------------------------------------------+ | | | SCHEMA TABLES TABLES COLUMNS LOAD | | NAME LOADED FAILED LOADED DURATION | | ------ ------ ------ ------- -------- | | `genai` 1 0 6 57.43 s | | | +-------------------------------------------------------------------------------+ WA
21. Copyright © 2024 HeatWavejp All Rights Reserved. 文書をHeatWaveに登録する 21 VECTOR_STORE テーブルの確認 MySQL> show create table genai.vector_store¥G *************************** 1. row *************************** Table: vector_store Create Table: CREATE TABLE `vector_store` ( `document_name` varchar(1024) NOT NULL COMMENT 'RAPID_COLUMN=ENCODING=VARLEN', `metadata` json NOT NULL COMMENT 'RAPID_COLUMN=ENCODING=VARLEN', `document_id` int unsigned NOT NULL, `segment_number` int unsigned NOT NULL, `segment` varchar(1024) NOT NULL COMMENT 'RAPID_COLUMN=ENCODING=VARLEN', `segment_embedding` vector(384) NOT NULL COMMENT 'RAPID_COLUMN=ENCODING=VARLEN' /*!80021 ENGINE_ATTRIBUTE '{"model": "minilm"}' */, PRIMARY KEY (`document_id`,`segment_number`) ) ENGINE=Lakehouse DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci SECONDARY_ENGINE=RAPID /*!80021 ENGINE_ATTRIBUTE='{"file": [{"name": “xxxxxx.txt", "bucket": "hw-bucket", "region": "ap-tokyo-1", "namespace": “xxxxxxxxx"}], "dialect": {"format": "txt", "is_strict_mode": false}}' */
22. Copyright © 2024 HeatWavejp All Rights Reserved. -- 利用するLLMをロードする MySQL> call sys.ML_MODEL_LOAD('mistral-7b-instruct-v1', NULL); Query OK, 0 rows affected (0.1559 sec) 問い合わせ前の準備 22
23. Copyright © 2024 HeatWavejp All Rights Reserved. 質問 23 2024年の台風10号のニュースを教えてください
24. Copyright © 2024 HeatWavejp All Rights Reserved. 問い合わせの実行(RAGなし) 24 -- 問い合わせ文字列(台風に関する質問) set @query := "2024年の台風10号のニュースを教えてください"; -- 問い合わせの実行(結果を変数に格納) MySQL> select sys.ML_GENERATE(@query, JSON_OBJECT("task", "generation", "model_id", "mistral-7b-instruct-v1")) INTO @response; -- 結果を整形して表示 MySQL> SELECT JSON_UNQUOTE(JSON_EXTRACT(@response, '$.text')) AS response¥G *************************** 1. row *************************** response: I apologize, but I cannot provide news about a specific typhoon that occurred in 2024 as it has not yet happened. However, I can tell you that the 2024 season is still several years away and there is no way to predict with certainty what will happen during that time. It's important to stay informed about weather patterns and potential hazards in your area, but it's also important to remember that forecasting the future is inherently uncertain and subject to change. 2024年時点のデータ ではトレーニングされて いないため回答不可
25. Copyright © 2024 HeatWavejp All Rights Reserved. RAGを使用した問い合わせ 25 台風１０号、暴風大雨警戒 ２８日以降、西日本上陸か―気象庁時事通信 社会部2024年08月26日10時29分配信 【図解】台風１０号の予想進路（２６日９時現在）強 い台風１０号は２６日午前、奄美大島から東へ離れた海 上を西北西へ進んだ。気象庁によると、２８日午前に非常に強い勢力で鹿児島県・屋久島の南海上に進んだ 後、 進路を東寄りに変えながら３０日にかけて九州か四国、紀伊半島などに上陸して縦断する恐れがある。同庁は 西日本の太平洋側を中心に暴風や高波、大雨に厳 重に警戒するよう呼び掛けている。２９日も計画運休の可能 性 東海道新幹線、台風１０号接近２８日に予想される最大瞬間風速は九州南部と奄美６０メートル、 四国３ ５メートル、近畿と九州北部３０メートル。九州南部と奄美では風が強まる前に頑丈な建物の中に移動する必 要があるという。波の高さは四国と九州南部、 奄美９メートル、九州北部８メートル、近畿７メートル。２７ 日午前６時までの２４時間予想雨量は多い所で、東海１５０ミリ、近畿１２０ミリ、四国１００ミリ 。その後、 ２８日午前６時までの同雨量は、東海と九州南部２００ミリ、四国１５０ミリ、奄美１２０ミリ、近畿と九州 北部１００ミリ。１０号は２６日午前９時 、奄美大島の東海上を時速２０キロで西北西へ進んだ。中心気圧は ９８０ヘクトパスカル、最大風速３５メートル。半径５５キロ以内が風速２５メートル以上の暴 風域、北東側 ３９０キロ以内と南西側２２０キロ以内が風速１５メートル以上の強風域。 2024年の台風に関するニュースをVECTOR STOREにインプットする
26. Copyright © 2024 HeatWavejp All Rights Reserved. RAGを使用した問い合わせ 26 -- 問い合わせ文字列(台風に関する質問) MySQL> set @query := "2024年の台風10号のニュースを教えてください"; -- sys.ML_RAG()に渡すためのオプションの作成(JSON) MySQL> set @options = JSON_OBJECT("vector_store", JSON_ARRAY("genai.vector_store"), "n_citations", 100, "model_options", JSON_OBJECT("max_tokens", 8000)); -- 拡張問い合わせの実行 MySQL> call sys.ML_RAG(@query, @response, @options); n_citations LLMに渡すCitations(引用)数。1～100を指定(デフォルト3) 増やすほどRAGによる多数の検索結果が考慮された回答となる model_options.max_tokens LLMが処理する最大トークン数。入出力の文字数に関係し、長文の質 問や回答が予想される場合は増やす(デフォルト256) LLMごとに最大が異なりMistralでは8000、llama2では4000
27. Copyright © 2024 HeatWavejp All Rights Reserved. RAGを使用した問い合わせ 27 MySQL> select JSON_PRETTY(@response) response¥G *************************** 1. row *************************** response: { "text": " Answer: I apologize, but I cannot provide the news for a specific typhoon that occurred in 2024 as it has not yet happened and there is no information available on it. Please check back later or refer to reliable sources for updates.", "citations": [ { "segment": "**************************************************************************************************", "distance": 0.8344436287879944, "document_name": "https://objectstorage.ap-tokyo-1.oraclecloud.com/n/xxxxx/b/hw-bucket/o/article_105.txt" }, { "segment": "********************************* ***2024*08*26*10*29**************************************************************************************************************** *********************************************************************************************************************************** *********************************************************************************************************************************** **********************************************************************************************************", "distance": 0.8914675712585449, "document_name": "https://objectstorage.ap-tokyo-1.oraclecloud.com/n/nro5qchj5wtp/b/hw-bucket/o/article_105.txt" } ], "vector_store": [ "genai.vector_store" ] } ? Segmentがアスタリスクで登録されてしまっている…？ heatwave_load()によるセグメンテーション処理はマルチバイト未対応…?
28. Copyright © 2024 HeatWavejp All Rights Reserved. RAGを使用した問い合わせ 28 Typhoon No. 10, strong winds and heavy rains, may hit Western Japan after the 28th - Japan Meteorological Agency Jiji Press Social Affairs Department Published on August 26, 2024 at 10:29 [Illustrated] Expected path of Typhoon No. 10 (as of 9:00 on the 26th) The strong Typhoon No. 10 moved west-northwest over the sea east of Amami Oshima on the morning of the 26th. According to the Japan Meteorological Agency, it is likely to move with very strong force over the sea south of Yakushima, Kagoshima Prefecture, on the morning of the 28th, then change course eastward and make landfall on Kyushu, Shikoku, Kii Peninsula, etc. by the 30th, crossing the country. The agency is calling for people to be on high alert for strong winds, high waves, and heavy rains, mainly on the Pacific side of Western Japan. Planned suspension of service possible on the 29th Typhoon No. 10 approaches the Tokaido Shinkansen line The maximum instantaneous wind speed expected on the 28th is 60 meters in southern Kyushu and Amami, 35 meters in Shikoku, and 30 meters in Kinki and northern Kyushu. In southern Kyushu and Amami, people are advised to move into sturdy buildings before the winds get stronger. Wave heights are 9 meters in Shikoku, southern Kyushu, and Amami, 8 meters in northern Kyushu, and 7 meters in Kinki. Expected rainfall in the 24 hours until 6 a.m. on the 27th is 150 mm in Tokai, 120 mm in Kinki, and 100 mm in Shikoku. The same amount of rainfall until 6 a.m. on the 28th is 200 mm in Tokai and southern Kyushu, 150 mm in Shikoku, 120 mm in Amami, and 100 mm in Kinki and northern Kyushu. At 9 a.m. on the 26th, Typhoon No. 10 moved west-northwest at 20 kilometers per hour over the sea east of Amami Oshima. The central pressure was 980 hectopascals, and the maximum wind speed was 35 meters. A storm with a wind speed of 25 meters or more is expected within a radius of 55 kilometers, and strong winds of 15 meters or more are expected within 390 kilometers to the northeast and 220 kilometers to the southwest. 2024年の台風に関するニュースを英訳して再インプットしてみる
29. Copyright © 2024 HeatWavejp All Rights Reserved. RAGを使用した問い合わせ 29 MySQL> select document_name, segment from genai.vector_store limit 3¥G *************************** 1. row *************************** document_name: https://objectstorage.ap-tokyo-1.oraclecloud.com/n/nro5qchj5wtp/b/hw-bucket/o/en_article_06.txt segment: kilometers to the southwest. *************************** 2. row *************************** document_name: https://objectstorage.ap-tokyo-1.oraclecloud.com/n/nro5qchj5wtp/b/hw-bucket/o/en_article_06.txt segment: Kyushu and Amami, 35 meters in Shikoku, and 30 meters in Kinki and northern Kyushu. In southern Kyushu and Amami, people are advised to move into sturdy buildings before the winds get stronger. Wave heights are 9 meters in Shikoku, southern Kyushu, and Amami, 8 meters in northern Kyushu, and 7 meters in Kinki. Expected rainfall in the 24 hours until 6 a.m. on the 27th is 150 mm in Tokai, 120 mm in Kinki, and 100 mm in Shikoku. The same amount of rainfall until 6 a.m. on the 28th is 200 mm in *************************** 3. row *************************** document_name: https://objectstorage.ap-tokyo-1.oraclecloud.com/n/nro5qchj5wtp/b/hw-bucket/o/en_article_06.txt segment: Tokai and southern Kyushu, 150 mm in Shikoku, 120 mm in Amami, and 100 mm in Kinki and northern Kyushu. At 9 a.m. on the 26th, Typhoon No. 10 moved west-northwest at 20 kilometers per hour over the sea east of Amami Oshima. The central pressure was 980 hectopascals, and the maximum wind speed was 35 meters. A storm with a wind speed of 25 meters or more is expected within a radius of 55 kilometers, and strong winds of 15 meters or more are expected within 390 kilometers to the northeast and 220 OK
30. Copyright © 2024 HeatWavejp All Rights Reserved. 台風１０号、暴風大雨警戒 ２８日以降、西日本上陸か―気 象庁時事通信 社会部2024年08月26日10時29分配信【図解】 台風１０号の予想進路（２６日９時現在）強 い台風１０号 は２６日午前、奄美大島から東へ離れた海上を西北西へ進ん だ。気象庁によると、２８日午前に非常に強い勢力で鹿児島 県・屋久島の南海上に進んだ 後、進路を東寄りに変えなが ら３０日にかけて九州か四国、紀伊半島などに上陸して縦断 する恐れがある。同庁は西日本の太平洋側を中心に暴風や高 波、大雨に厳 重に警戒するよう呼び掛けている。２９日も 計画運休の可能性 東海道新幹線、台風１０号接近２８日に 予想される最大瞬間風速は九州南部と奄美６０メートル、 四国３５メートル、近畿と九州北部３０メートル。九州南部 と奄美では風が強まる前に頑丈な建物の中に移動する必要が あるという。波の高さは四国と九州南部、 奄美９メートル、 九州北部８メートル、近畿７メートル。２７日午前６時まで の２４時間予想雨量は多い所で、東海１５０ミリ、近畿１２ ０ミリ、四国１００ミリ 。その後、２８日午前６時までの 同雨量は、東海と九州南部２００ミリ、四国１５０ミリ、奄 美１２０ミリ、近畿と九州北部１００ミリ。１０号は２６日 午前９時 、奄美大島の東海上を時速２０キロで西北西へ進 んだ。中心気圧は９８０ヘクトパスカル、最大風速３５メー トル。半径５５キロ以内が風速２５メートル以上の暴 風域、 北東側３９０キロ以内と南西側２２０キロ以内が風速１５ メートル以上の強風域。 RAGを使用した問い合わせ 30 response: Answer: The news reports that Typhoon No. 10 may hit Western Japan after August 28th, bringing strong winds, heavy rains, and high waves. The agency advises people to be on high alert for these hazards, especially in the Pacific side of Western Japan. The maximum wind speed expected on the 28th is 60 meters in southern Tokai and southern Kyushu, 150 mm in Shikoku, 120 mm in Amami, and 100 mm in Kinki and northern Kyushu. People are advised to move into sturdy buildings before the winds get stronger in southern Kyushu and Amami. The expected rainfall in the 24 hours until 6 a.m. on the 27th is 150 mm in Tokai, 120 mm in Kinki, and 100 mm in Shikoku. ニュースでは、台風10号が8月28日以降に西日本に上陸し、強風、 大雨、高波をもたらす可能性があると報じています。同庁は人々に 対し、特に西日本の太平洋側ではこれらの危険に厳重に警戒するよ う勧告している。 ２８日に予想される最大風速は、東海南部と九 州南部で６０メートル、四国で１５０ミリ、奄美で１２０ミリ、近 畿と九州北部で１００ミリ。九州南部や奄美では風が強まる前に頑 丈な建物に避難するよう呼び掛けている。 ２７日午前６時までの ２４時間に予想される雨量は、多いところで東海１５０ミリ、近畿 １２０ミリ、四国１００ミリ。
31. Copyright © 2024 HeatWavejp All Rights Reserved. RAGを使用した問い合わせ 31 MySQLの特徴は右記の通り。 有料であり、ソースコードは公開されていない。 性能が悪く簡単な利用には適していない。 学習が非常に難しい。 あまり世界的に使われていない。 MySQLのロゴはサルです。 ウソを教えてみる MySQL has the following features: It is paid and the source code is not public. It has poor performance and is not suitable for simple use. It is very difficult to learn. It is not widely used worldwide. The MySQL logo is a monkey.
32. Copyright © 2024 HeatWavejp All Rights Reserved. RAGを使用した問い合わせ 32 MySQL> set @query := "What animal is used in the MySQL logo?"; MySQL> call sys.ML_RAG(@query,@response,@options); MySQL> SELECT JSON_UNQUOTE(JSON_EXTRACT(@response, '$.text')) AS response¥G *************************** 1. row *************************** response: The animal used in the MySQL logo is a monkey. MySQL> set @query := "Is MySQL open source?"; MySQL> call sys.ML_RAG(@query,@response,@options); MySQL> SELECT JSON_UNQUOTE(JSON_EXTRACT(@response, '$.text')) AS response¥G *************************** 1. row *************************** response: No, MySQL is not open source.
33. Copyright © 2024 HeatWavejp All Rights Reserved. 所感 33 • RAGを使用した問い合わせについては、比較的期待した回答が得られた • 現時点のHeatWave GenAIのRAGは日本語(マルチバイト)未対応 ✓ 今後に期待 • VECTOR STOREに登録するドキュメントソースの信頼性は人間が担保する必要あり ✓ 理想的には公開トレーニングデータとの突き合わせで自己修正してほしい • 最低スペック(HeatWaveノード * 1)では長文の問い合わせでは10～20秒かかるため、 短く目的の回答を得られるようにプロンプト・エンジニアリングが必要
34. Copyright © 2024 HeatWavejp All Rights Reserved. 34 ご清聴ありがとうございました
35. Copyright © 2023 HeatWavejp All Rights Reserved. 35