Tweet
Tweet

Slide 1

Slide 1 text

© Link and Motivation Group VectorStoreを使って社内向けの ChatGPTを少し頭よくした件 リンクアンドモチベーション 白田 幹

Slide 2

Slide 2 text

2 © Link and Motivation Group #ChatGPTjp 2023/05/11 白田 幹 株式会社リンクアンドモチベーション ● 2020年新卒入社 ● データサイエンティスト ● →LLM推進担当 ● 趣味は筋トレとアメフト 自己紹介 @motoshira20

Slide 3

Slide 3 text

3 © Link and Motivation Group #ChatGPTjp 2023/05/11 モチベーションクラウド 診断 変革 ※ 2022年度 実績 10,060 社 312 万人

Slide 4

Slide 4 text

4 © Link and Motivation Group #ChatGPTjp 2023/05/11 ストレッチクラウド 個人の成長を定量化する 自立的な成長サイクルを実現する 人材育成クラウド

Slide 5

Slide 5 text

5 © Link and Motivation Group #ChatGPTjp 2023/05/11 ChatGPT APIを使った機能開発もTry中

Slide 6

Slide 6 text

6 © Link and Motivation Group #ChatGPTjp 2023/05/11 誰でも簡単にドキュメントと対話できるbotを作った ● chatbot-uiのrepositoryをforkして作成 (https://github.com/mckaywrigley/chatbot-ui) ● chatbot-uiの標準機能 + PDFやcsvをアップして対話できる機能を追 加 ● 複数のドキュメントを1つのindexにして扱える ● historyを共有しながら、通常のGPTと indexへの問い合わせを使い分けられる 「SaaSにおけるLLMの重要性と実践 | SaaS.tech #7」での登壇資料より （https://saas-tech.connpass.com/event/278317/）

Slide 7

Slide 7 text

7 © Link and Motivation Group #ChatGPTjp 2023/05/11 今日話すこと ● 作ったものの紹介 ● 作った背景 ● 仕組み ● まとめ

Slide 8

Slide 8 text

8 © Link and Motivation Group #ChatGPTjp 2023/05/11 作ったもの Chatbot-uiにpinecone繋いでちょっと頭良くしてみた

Slide 9

Slide 9 text

9 © Link and Motivation Group #ChatGPTjp 2023/05/11 開発の背景 何かを考える上で 大事なことは何かを聞く

Slide 10

Slide 10 text

10 © Link and Motivation Group #ChatGPTjp 2023/05/11 開発の背景 それを参照して 質問に答えさせる

Slide 11

Slide 11 text

11 © Link and Motivation Group #ChatGPTjp 2023/05/11 何度も同じ FBするの大変だな 「〜重要なこと教えて」 →「〜やって」って言うの 面倒だな 開発の背景

Slide 12

Slide 12 text

12 © Link and Motivation Group #ChatGPTjp 2023/05/11 何度も同じ FBするの大変だな 「〜重要なこと教えて」 →「〜やって」って言うの 面倒だな 開発の背景 どこかで一度言ったことは覚えておいてもらいたい

Slide 13

Slide 13 text

13 © Link and Motivation Group #ChatGPTjp 2023/05/11 何度も同じ FBするの大変だな 「〜重要なこと教えて」 →「〜やって」って言うの 面倒だな 開発の背景 どこかで一度言ったことは覚えておいてもらいたい →Vector Storeに質問とLLMからの出力を 保存して参照しよう

Slide 14

Slide 14 text

14 © Link and Motivation Group #ChatGPTjp 2023/05/11 基本的な仕組み スレッド内のChat Historyに基 づいた回答はしてくれる →自分で毎回ここに重要な情報を 貯めないといけない 画像引用：LangChain Blog（https://blog.langchain.dev/retrieval/）

Slide 15

Slide 15 text

15 © Link and Motivation Group #ChatGPTjp 2023/05/11 回答した内容をvector storeに格納 基本的な仕組み 画像引用：LangChain Blog（https://blog.langchain.dev/retrieval/）

Slide 16

Slide 16 text

16 © Link and Motivation Group #ChatGPTjp 2023/05/11 回答した内容をvector storeに格納 基本的な仕組み 次回以降似た質問が出たとき は、そこを参照して回答 画像引用：LangChain Blog（https://blog.langchain.dev/retrieval/）

Slide 17

Slide 17 text

17 © Link and Motivation Group #ChatGPTjp 2023/05/11 回答した内容をvector storeに格納 基本的な仕組み 画像引用元: https://blog.langchain.dev/retrieval/ 次回以降似た質問が出たとき は、そこを参照して回答 Chat Historyに加えて、別スレッドの会話内容、 FBを元に回答してくれるように!

Slide 18

Slide 18 text

18 © Link and Motivation Group #ChatGPTjp 2023/05/11 実装 pineconeのVectorDBに similarity searchする部分 pineconeのVectorDBに 質問と回答を入れる部分

Slide 19

Slide 19 text

19 © Link and Motivation Group #ChatGPTjp 2023/05/11 独自のデータ資産を増やそう、活用しよう まとめ ChatGPTの学習データに ない独自データ (社内ドキュメント等) FBして生成した アウトプット

Slide 20

Slide 20 text

20 © Link and Motivation Group #ChatGPTjp 2023/05/11 独自のデータ資産を増やそう、活用しよう まとめ Vector Store ChatGPTの学習データに ない独自データ (社内ドキュメント等) FBして生成した アウトプット VectorStore活用しよう

Slide 21

Slide 21 text

21 © Link and Motivation Group #ChatGPTjp 2023/05/11 今後の展望 ● 組織内のいろんな人が使えるようにしたい ● metadataを利用、goodボタンが押された出力のみ保存するなどして、良質なFBのみ 参照するようにしたい ○ →他の人が入れた良いFBを元に回答出来る、集合知がVector Storeに溜まっていく ● pinecone, weaviate, milvus, zilliz等沢山サービスあるのでどんどん使っていきたい