Elasticsearchによる質問応答～NLP機械学習モデルの利用～

Slide 1

Slide 1 text

Slide 2

Slide 2 text

自己紹介 ⚫ 名前：樋口慎 ⚫ 所属：Acroquest Technology株式会社 ⚫ 業務：Elasticコンサルティング全般、データ分析、システム開発 ⚫ 資格／執筆：世界初「Elastic Certification」3種取得 Elasticsearch NEXT STEP 執筆

Slide 3

Slide 3 text

ElasticsearchにおけるNLPの変遷 Copyright © Acroquest Technology Co., Ltd. All rights reserved. 教師あり機械学習をサポート開始 (テキスト分類や言語判定等を利用可) Ver 7.6 Ver 7.7 複数クラスの分類に対応 Ver 8.0 PyTorchモデルのインポートが可能に。 Fill-mask・固有表現抽出・テキスト分類・Embeddingなどに対応 Ver 8.3 質問応答（Question-Answering）に対応

Slide 4

Slide 4 text

Slide 5

Slide 5 text

質問応答のユースケース例（やりたいこと） Copyright © Acroquest Technology Co., Ltd. All rights reserved. 製品マニュアル等「ネットに繋がらない」大量の情報源の中から特定の情報を探したい利用者「印刷時にカタカタという音がすることがありますが、インク・紙の走行によるものであり異常ではありません...<略>... インターネットに繋がらない場合は機器背面のボタンを長押しして再起動をしてください。...<略>...用紙の設定とカセットに登録した用紙のサイズ、種類が一致していない場合は、モニタにメッセージが表示されます。」

Slide 6

Slide 6 text

質問応答のユースケース例（Elasticsearchによる実現） Copyright © Acroquest Technology Co., Ltd. All rights reserved. ②製品マニュアル等のテキスト Elasticsearch ネットに繋がらないインターネットに繋がらない場合は機器背面のボタンを長押しして再起動をしてください学習済みモデル ①質問文 ③ ②から抽出された回答印刷時にカタカタという音がすることがありますが、インク・紙の走行によるものであり異常ではありません...<略>...インターネットに繋がらない場合は機器背面のボタンを長押しして再起動をしてください。...<略>...用紙の設定とカセットに登録した用紙のサイズ、種類が一致していない場合は、モニタにメッセージが表示されます。

Slide 7

Slide 7 text

Elasticsearchで質問応答モデルを利用するには Copyright © Acroquest Technology Co., Ltd. All rights reserved. Kibana Elasticsearch 学習済みモデル ② Elandを利用して、学習済みモデルを Elasticsearchに登録する ① 質問応答用に学習したモデルを用意するネットに繋がらない製品マニュアル等 ③ 情報源となるドキュメント＋質問文を投げて回答を得る

Slide 8

Slide 8 text

質問応答の実行方法 Copyright © Acroquest Technology Co., Ltd. All rights reserved. Kibana 1．Kibana UI上での実行(モデルのテストという扱い) Elasticsearch 2. Inference APIを利用 3．Ingest Nodeを利用（Inference Processor） ※Simulateもしくは、登録済みPipelineをデータ登録時に呼び出し POST _ml/trained_models//_infer POST /_ingest/pipeline/my-pipeline-id/_simulate

Slide 9

Slide 9 text

Slide 10

Slide 10 text

サードパーティーでそのまま利用できる質問応答モデルの例 Copyright © Acroquest Technology Co., Ltd. All rights reserved. • BERT large model (uncased) whole word masking finetuned on SQuAD • DistilBERT base cased distilled SQuAD • Electra base squad2 • TinyRoBERTa squad2 ※基本的には英語のデータセットで学習しているモデル。日本語の場合は、同種の日本語モデルを利用する必要あり。

Slide 11

Slide 11 text

Eland による import Copyright © Acroquest Technology Co., Ltd. All rights reserved. • Elandは、HuggingFaceのモデルをデプロイする簡易なスクリプトを提供 eland_import_hub_model --cloud-id \ -u -p \ --hub-model-id \ --task-type <タスク種別> \ ElasticCloudにモデルをデプロイする例

Slide 12

Slide 12 text

Eland による import Copyright © Acroquest Technology Co., Ltd. All rights reserved. • 質問応答のモデルをデプロイする例 eland_import_hub_model --cloud-id xxxx \ -u ml_import_user -p xxxx \ --hub-model-id deepset/tinyroberta-squad2 \ --task-type question_answering \