AI Chatbotを上回る？生成AI/LLMがプロダクト情報を回答する設計と実装

CustomerSuccess meets ChatGPT #12 LT資料です。

イベントページ
https://btob-cs.connpass.com/event/279453/

登壇者
□カスタマーサクセス｜比留間
　Twitter：https://twitter.com/hiruma_poker
　note　：https://note.com/hiruma_poker

Transcript

1. AI Chatbotを上回る？ 生成AI/LLMがプロダクト情報を 回答する設計と実装 株式会社ログラス｜カスタマーサクセス 比留間心之介 CUSTOMERSUCCESS MEETS CHATGPT #12 LT
2. What I Talk Today CustomerSuccess meets ChatGPT #12 LT Beginning はじめに Architecture & Application 設計と実装 Output & Benefit 成果と便益 In the End おわりに
3. Speaker 株式会社ログラス 比留間心之介 CustomerSuccess meets ChatGPT #12 LT CUSTOMER SUCCESS ENTERPRISE ARCHITECT https://note.com/hiruma_poker/ https://twitter.com/hiruma_poker
5. 設計の前提 そもそも生成AI/LLM の関係 CustomerSuccess meets ChatGPT #12 LT 引用｜大規模言語モデル（LLM ：Large Language Model ）とは？
6. LLMを独自データで補強する方法 In-context learning コンテキスト内学習 設計の前提 設計と実装 Fine-tuning 転移学習手法のひとつ 入力プロンプトに文脈を挿入し、 LLMの推論機能を利用して応答を生成可能 CustomerSuccess meets ChatGPT #12 LT
7. LLMと独自データを連携するインターフェース：LlamaIndex 設計の前提 設計と実装 CustomerSuccess meets ChatGPT #12 LT
8. LLMと独自データを連携するインターフェース：LlamaIndex 設計の前提 設計と実装 非構造化データおよび構造化 データのインデックス生成 既存データソースやデータ フォーマットへのデータコネクタ In-context learning の ための一般的な定型文や 問題点を抽象化するのに 役立つ API PDF docs SQL Gmail Notionなど CustomerSuccess meets ChatGPT #12 LT
9. 設計 設計と実装 CustomerSuccess meets ChatGPT #12 LT ※OpenAI へのAPI リクエスト含む
10. Python スクリプト サポートサイト 記事取得 公開済み か？ 設計 設計と実装 終了 参照対象に 含める Zendesk API CustomerSuccess meets ChatGPT #12 LT YES NO
11. 1.ドキュメントを読み込む 2.インデックスを構築 3.インデックスにクエリを実行 実装 設計と実装
12. 実装 設計と実装 ログラス生成AI/LLMチームのたわむれ 経営データを持っているがこそ付加価値の高い活用ができる CustomerSuccess meets ChatGPT #12 LT
13. 成果 成果と便益 SlackでメンションするとZendesk Guideに公開されているテキスト 情報を学習して応答するアプリケーションができた CustomerSuccess meets ChatGPT #12 LT
14. 期待される便益 成果と便益 Slack(などのチャットツール)というお客様/社内業務プロセスに 馴染みやすいUI/UXで情報コンテンツにアクセスできる （⇔一般的にユーザーはサポートサイトで情報を探す行為を嫌う） Zendesk Guide標準の検索エンジンの代替と、回答精度・質の向上 にともなうユーザー(自社社員含む)の自己解決率の向上 もはやデザイン・UXに凝ったサポートサイトの 運用をしなくて済む（最新で正確な情報コンテンツがLLMに渡せる 状態でありさえすればよい。図解は図解で溜めればよい） CustomerSuccess meets ChatGPT #12 LT
15. レポート機能と自然言語レポート作成補助機能 設定GUI ではなく自然言語から経営データのレポートを導出 CustomerSuccess meets ChatGPT #12 LT
16. レポート機能と自然言語レポート作成補助機能 設定GUI ではなく自然言語から経営データのレポートを導出 CustomerSuccess meets ChatGPT #12 LT
17. WE ARE HIRING!! Twitter@hiruma_pokerでもfacebookでもLinkedInでもご連絡待ってます！ CustomerSuccess meets ChatGPT #12 LT