ChatGPT_APIのEmbedding_カスタマイズ入門

ジーズアカデミー主催のChatGPT勉強会の登壇内容です。
https://gsfukuoka.connpass.com/event/279487/

Twitter
https://twitter.com/ryoheiigushi

カスタマーサポートAI(デモ動画で紹介したサイト)
https://customersupportai.net/

Transcript

1. ChatGPT APIの Embedding カスタマイズ入門 伊串涼平 | Ryohei Igushi
2. ChatGPTの問題点
3. 嘘つき！
4. ChatGPT使えないじゃん
5. そんなことない！
6. 情報ソースを与える方法がある！ 1.Fine-tuning ChatGPTモデル自体に情報を学習させる方法 2.Embedding 命令文(プロンプト)に情報を入れておく方法
7. Fine-tuning 大量のデータが必要でコストも高い。 GPT3までの対応。。 https://platform.openai.com/docs/guid es/fine-tuning/preparing-your-dataset
8. Embedding 今回はこちらに焦点を当てた話！ https://platform.openai.com/doc s/guides/embeddings
9. Embeddingとは
10. なぜベクトル化するのか？ コンピューターが言語データを効率的に扱うため 言語データ ベクトルデータ
11. ベクトルの使用例 Google検索は、ベクトル検索だから速い。 https://cloud.google.com/blog/ja /topics/developers- practitioners/find-anything- blazingly-fast-googles-vector- search-technology
12. ベクトル検索の仕組み 「りんご」 「りんご」の情報 ベクトルデータベース ベクトル化 (Embedding) 一番近いベクトルの情報を取って、高速で返却
13. ベクトル検索で、 どう独自データを扱うの？
14. 次のスライドが超重要
15. ChatGPT バックエンド 「日本の首相は誰？」 ①「日本の首相は誰？」をベクトル化 ②一番近い文脈をデータベースから取得 ③文脈を加えたプロンプトをChatGPTに投げる 自作の データベース ユーザー プロンプト 文脈に沿って、質問に答えてください 文脈 : { 日本の首相は岸田文雄です。 1957年7月29日生まれで、65歳で す。・・・} 質問 : { 日本の首相は誰？} 答え : 答え：日本の首相は岸田文雄です プロンプトに文脈を埋め込む！
16. 概念がわかったので 作ってみましょう！
17. Embeddingの使い方 実は、Tutorialで解説されている！詳しくはそちらで https://platform.openai.com/doc s/tutorials/web-qa-embeddings
18. Embeddingの使い方 text-embedding-ada-002モデルを利用 ①事前にデータベースを全てベクトル化して保存
19. Embeddingの使い方 ②今回の質問もベクトル化
20. Embeddingの使い方 ③質問とデータベースのベクトル距離を計算
21. Embeddingの使い方 ④関連度順に並べて、近いものを文脈として返却
22. Embeddingの使い方 ⑤プロンプトに質問と文脈を埋め込んで完了！
23. カスタマーサポートに 応用してみた！
24. 準備 大量のFAQ情報をベクトル化
25. デモ https://youtu.be/KEz-Phz9aus
26. Embedding系サービスはどんどん登場 Chatbase ChatPDF chatbase.co chatpdf.com
27. Embedding大変そう
28. すごいライブラリがある！
29. LlamaIndex Embeddingを簡単に利用できる！ https://github.com/jerryjliu/ llama_index
30. これだけで動く
31. LlamaHub あらゆる独自データを連携できるコードが公開中!! https://llamahub.ai/
32. ChatGPTの展開 Input Output
33. ChatGPTの展開 Input Output 独自データ Embedding, LlamaIndex
34. ChatGPTの展開 Input Output 独自データ 行動ができる Plugin, LangChain Embedding, LlamaIndex
35. ChatGPTの展開 Input Output 独自データ Plugin, LangChain Embedding, LlamaIndex 画像・音声も取り込み GPT4, Whisper 行動ができる
36. ChatGPTの展開 Input Output 独自データ Plugin, LangChain Embedding, LlamaIndex 画像・音声も取り込み GPT4, Whisper 画像・音声の出力 StableDiffusion, Midjourney RVC, EllevenLab, Play.ht 行動ができる
37. ChatGPTの展開 Input Output 独自データ Plugin, LangChain Embedding, LlamaIndex 画像・音声も取り込み GPT4, Whisper 自分で修正できる Auto-GPT, BabyAGI 画像・音声の出力 StableDiffusion, Midjourney RVC, EllevenLab, Play.ht 行動ができる
38. おまけ
39. AI面接官をリリース いいね！RTお願いします！
40. AI面接官の技術構成 Input Output 音声入力 Speech to Text Deepgram Azure 音声出力 Text to Speech
41. 凄い技術の波が来ている。 どんどん開発しましょう！
42. 自己紹介: 伊串涼平 東大法卒、三井物産でロンドン勤務を経て退職 後、東大FoundXに参加。G's ACADEMYを経て、 カスタマーサポートAI、AI面接官を開発中。 @ryoheiigushi ・ChatGPT活用に興味がある企業の方 ・開発に興味があるエンジニアの方 ぜひご連絡ください！