誰でも簡単にQ&A botが作れるツールを作ってみた/SaaS tech 07 LT Link and Motivation

【SaaSにおけるLLMと重要性と実践 | SaaS.tech #7】
リンクアンドモチベーション登壇資料（2023/04/19）

『誰でも簡単にQ&A botが作れるツールを作ってみた』

#SaaStech #ChatGPT #リンクアンドモチベーション #リンモチ
=============================================
【イベント情報】
■イベントページ
　https://saas-tech.connpass.com/event/278317/

【株式会社リンクアンドモチベーション】
■お問い合わせ
　engineer_pr@lmi.ne.jp
■Entrancebook
　https://note.com/lmi/n/n179505e048f4
■テックブログ
　https://link-and-motivation.hatenablog.com/
■登壇者 梅原Twitter
　https://twitter.com/ipeblb
=============================================

Transcript

1. © Link and Motivation Group 誰でも簡単にQ&A botが作れるツールを 作ってみた リンクアンドモチベーション 梅原 穂高
2. 2 © Link and Motivation Group #SaaStech #LLM 2023/04/19 梅原 穂高 株式会社リンクアンドモチベーション • 2019年1月〜中途入社 • プロダクトマネージャー → エンジニア • Pythonでのアプリケーション開発がメイン • 社内でLLMの活用を促進中 @ipeblb 自己紹介
3. 3 © Link and Motivation Group #SaaStech #LLM 2023/04/19 モチベーションクラウド 診断 変革 ※ 2022年度 実績 10,060 社 312 万人
4. 4 © Link and Motivation Group #SaaStech #LLM 2023/04/19 ChatGPT APIを使った機能開発もTry中
5. 5 © Link and Motivation Group #SaaStech #LLM 2023/04/19 今日話すこと • 作ったものの紹介 • 作った背景
6. 6 © Link and Motivation Group #SaaStech #LLM 2023/04/19 誰でも簡単にドキュメントと対話できるbotを作った • chatbot-uiのrepositoryをforkして作成 (https://github.com/mckaywrigley/chatbot-ui) • chatbot-uiの標準機能 + PDFをアップして対話できる機能を追加 • 複数のPDFを１つのindexにして扱える • historyを共有しながら、通常のGPTと indexへの問い合わせを使い分けられる
7. 7 © Link and Motivation Group #SaaStech #LLM 2023/04/19 誰でも簡単にドキュメントと対話できるbotを作った pdfをアップして１つのindexに 削除時は対応したindexのみ削除 通常のGPTへの問い合わせと、 ドキュメントへの問い合わせを 同じ会話の中で切り替えられる
8. 8 © Link and Motivation Group #SaaStech #LLM 2023/04/19 基本的な仕組み 画像引用元: https://blog.langchain.dev/retrieval/
9. 9 © Link and Motivation Group #SaaStech #LLM 2023/04/19 開発の背景 ◦◦◦◦のデータ学習させて なにかできませんか？
10. 10 © Link and Motivation Group #SaaStech #LLM 2023/04/19 開発の背景 • みんな漠然とした「GPTに対する期待」はある • でも「何ができるか？」はわかりづらい ◦ 特に In-context learning と Fine-tuning の違いは馴染みのない人は理解しづらい • 実際に体験するのにもハードルがある ◦ Chat PDF (https://www.chatpdf.com/) などもあるが、やはり機密データは入れられない ◦ とはいえ、テクノロジーに馴染みがない人が自分でAPIを使って試すのもハードルがある • 体験しないと見えないものもある
11. 11 © Link and Motivation Group #SaaStech #LLM 2023/04/19 開発の背景 • みんな漠然とした「GPTに対する期待」はある • でも「何ができるか？」はわかりづらい ◦ 特に In-context learning と Fine-tuning の違いは馴染みのない人は理解しづらい • 実際に体験するのにもハードルがある ◦ Chat PDF (https://www.chatpdf.com/) などもあるが、やはり機密データは入れられない ◦ とはいえ、テクノロジーに馴染みがない人が自分でAPIを使って試すのもハードルがある • 体験しないと見えないものもある →じゃあ、簡単に試せる場を用意しよう！ あとは単に業務外でなんでも良いから作りたかった
12. 12 © Link and Motivation Group #SaaStech #LLM 2023/04/19 SaaSの開発において大事なこと 技術 顧客理解 • 「技術」と「顧客理解」の重なるところが「顧客価値」になる • この重なりを増やすことが大事 顧客価値
13. 13 © Link and Motivation Group #SaaStech #LLM 2023/04/19 重なりを増やすための活動 • エンジニアの顧客理解度を高める ◦ ユーザーインタビューしてみる ◦ 業務を体験してみる • エンジニアとCS・セールスの距離を近づける ◦ コミュニケーションの場を増やす
14. 14 © Link and Motivation Group #SaaStech #LLM 2023/04/19 重なりを増やすための活動 • エンジニアの顧客理解度を高める ◦ ユーザーインタビューしてみる ◦ 業務を体験してみる • エンジニアとCS・セールスの距離を近づける ◦ コミュニケーションの場を増やす • 技術を民主化する ◦ 顧客に近い人が簡単に扱える技術を増やす
15. 15 © Link and Motivation Group #SaaStech #LLM 2023/04/19 まとめ • LLMを顧客価値やサービス価値に繋げるためにもみんなで試す • みんなで試すことで、組織として理解度が上がる • 組織全体で使い倒すためにも技術の民主化大事
16. 16 © Link and Motivation Group #SaaStech #LLM 2023/04/19 最後にお知らせ 週1ペースでテックブログ更新中です！ （LLM関連情報もいろいろ） Chat GPT ×UXデザイン 4/20 明日オンラインイベントあります！ AIからのアドバイスに 納得感を持たせるヒント #TechDMeetup