VectorStoreを使って社内向けのChatGPTを少し頭よくした件/ChatGPT Meetup 230511 Link and Motivation

【ChatGPT Meetup Tokyo #1】
リンクアンドモチベーション登壇資料（2023/05/11）

『VectorStoreを使って社内向けのChatGPTを少し頭よくした件』

#chatgptjp #リンクアンドモチベーション #リンモチ
=============================================
【イベント情報】
■イベントページ
　https://chatgpt.connpass.com/event/280987/

【株式会社リンクアンドモチベーション】
■お問い合わせ
　engineer_pr@lmi.ne.jp
■Entrancebook
　https://note.com/lmi/n/n179505e048f4
■テックブログ
　https://link-and-motivation.hatenablog.com/
=============================================

Transcript

1. © Link and Motivation Group VectorStoreを使って社内向けの ChatGPTを少し頭よくした件 リンクアンドモチベーション 白田 幹
2. 2 © Link and Motivation Group #ChatGPTjp 2023/05/11 白田 幹 株式会社リンクアンドモチベーション • 2020年新卒入社 • データサイエンティスト • →LLM推進担当 • 趣味は筋トレとアメフト 自己紹介 @motoshira20
3. 3 © Link and Motivation Group #ChatGPTjp 2023/05/11 モチベーションクラウド 診断 変革 ※ 2022年度 実績 10,060 社 312 万人
4. 4 © Link and Motivation Group #ChatGPTjp 2023/05/11 ストレッチクラウド 個人の成長を定量化する 自立的な成長サイクルを実現する 人材育成クラウド
5. 5 © Link and Motivation Group #ChatGPTjp 2023/05/11 ChatGPT APIを使った機能開発もTry中
6. 6 © Link and Motivation Group #ChatGPTjp 2023/05/11 誰でも簡単にドキュメントと対話できるbotを作った • chatbot-uiのrepositoryをforkして作成 (https://github.com/mckaywrigley/chatbot-ui) • chatbot-uiの標準機能 + PDFやcsvをアップして対話できる機能を追 加 • 複数のドキュメントを1つのindexにして扱える • historyを共有しながら、通常のGPTと indexへの問い合わせを使い分けられる 「SaaSにおけるLLMの重要性と実践 | SaaS.tech #7」での登壇資料より （https://saas-tech.connpass.com/event/278317/）
7. 7 © Link and Motivation Group #ChatGPTjp 2023/05/11 今日話すこと • 作ったものの紹介 • 作った背景 • 仕組み • まとめ
8. 8 © Link and Motivation Group #ChatGPTjp 2023/05/11 作ったもの Chatbot-uiにpinecone繋いでちょっと頭良くしてみた
9. 9 © Link and Motivation Group #ChatGPTjp 2023/05/11 開発の背景 何かを考える上で 大事なことは何かを聞く
10. 10 © Link and Motivation Group #ChatGPTjp 2023/05/11 開発の背景 それを参照して 質問に答えさせる
11. 11 © Link and Motivation Group #ChatGPTjp 2023/05/11 何度も同じ FBするの大変だな 「〜重要なこと教えて」 →「〜やって」って言うの 面倒だな 開発の背景
12. 12 © Link and Motivation Group #ChatGPTjp 2023/05/11 何度も同じ FBするの大変だな 「〜重要なこと教えて」 →「〜やって」って言うの 面倒だな 開発の背景 どこかで一度言ったことは覚えておいてもらいたい
13. 13 © Link and Motivation Group #ChatGPTjp 2023/05/11 何度も同じ FBするの大変だな 「〜重要なこと教えて」 →「〜やって」って言うの 面倒だな 開発の背景 どこかで一度言ったことは覚えておいてもらいたい →Vector Storeに質問とLLMからの出力を 保存して参照しよう
14. 14 © Link and Motivation Group #ChatGPTjp 2023/05/11 基本的な仕組み スレッド内のChat Historyに基 づいた回答はしてくれる →自分で毎回ここに重要な情報を 貯めないといけない 画像引用：LangChain Blog（https://blog.langchain.dev/retrieval/）
15. 15 © Link and Motivation Group #ChatGPTjp 2023/05/11 回答した内容をvector storeに格納 基本的な仕組み 画像引用：LangChain Blog（https://blog.langchain.dev/retrieval/）
16. 16 © Link and Motivation Group #ChatGPTjp 2023/05/11 回答した内容をvector storeに格納 基本的な仕組み 次回以降似た質問が出たとき は、そこを参照して回答 画像引用：LangChain Blog（https://blog.langchain.dev/retrieval/）
17. 17 © Link and Motivation Group #ChatGPTjp 2023/05/11 回答した内容をvector storeに格納 基本的な仕組み 画像引用元: https://blog.langchain.dev/retrieval/ 次回以降似た質問が出たとき は、そこを参照して回答 Chat Historyに加えて、別スレッドの会話内容、 FBを元に回答してくれるように!
18. 18 © Link and Motivation Group #ChatGPTjp 2023/05/11 実装 pineconeのVectorDBに similarity searchする部分 pineconeのVectorDBに 質問と回答を入れる部分
19. 19 © Link and Motivation Group #ChatGPTjp 2023/05/11 独自のデータ資産を増やそう、活用しよう まとめ ChatGPTの学習データに ない独自データ (社内ドキュメント等) FBして生成した アウトプット
20. 20 © Link and Motivation Group #ChatGPTjp 2023/05/11 独自のデータ資産を増やそう、活用しよう まとめ Vector Store ChatGPTの学習データに ない独自データ (社内ドキュメント等) FBして生成した アウトプット VectorStore活用しよう
21. 21 © Link and Motivation Group #ChatGPTjp 2023/05/11 今後の展望 • 組織内のいろんな人が使えるようにしたい • metadataを利用、goodボタンが押された出力のみ保存するなどして、良質なFBのみ 参照するようにしたい ◦ →他の人が入れた良いFBを元に回答出来る、集合知がVector Storeに溜まっていく • pinecone, weaviate, milvus, zilliz等沢山サービスあるのでどんどん使っていきたい