スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills

2023/04/28 ChatGPTMeetup #0 LT

Transcript

1. スキル育成に生かすLlamaIndexの活用
 ChatGPTMeetup #0 LT
 2023/04/28
 DevelopersIO BASECAMPディレクター 大瀧隆太
 1
2. 2 誰 • 名前: 大瀧隆太 @takipone
 • お仕事: 事業開発 @クラスメソッド
 • 好きな技術:
 ◦ Amazon Route 53, CloudFront
 ◦ SORACOM
 ◦ Tailscale
 ◦ Starlink

3. 3 クラスメソッドの技術支援 今日はChatGPTユーザーとしてのお話 https://classmethod.jp/services/openai-chatgpt/
4. 4 5/25(木) ChatGPT Meetup #2の会場提供 これから常連になる方へ #1のWeWorkと同じビルですが、 1階で乗るエレベーターが違うことに注 意！ （シャトルエレベーター経由です） https://chatgpt.connpass.com/event/281310/
5. 5 クラスメソッドの情報発信と情報共有メディア • DevelopersIO
 • Zenn

6. 6 DevelopersIO BASECAMP DevelopersIO BASECAMP(以下デベキャン)は、 AWSを仕事で使うための体験型プログラムです。

7. 7 DevelopersIO BASECAMPのサポート体制
8. 8 DevelopersIO BASECAMP運営の課題 • ロールプレイはWebミーティングやチャットによる
 同期的なやりとり
 • 平日夜間、土日の受講生の活動時間帯に合わせて
 運営メンバーが活動するのに大きな負担
 • 次期以降、受け入れ人数を増やしていきたい

9. 9 DevelopersIO BASECAMPのサポート体制
10. 10 DevelopersIO BASECAMP運営の課題 • 発注者(顧客担当者)役は課題となる案件について
 受講生から質問を受けたら答えるロール
 ◦ 案件情報以外を答える必要はない
 ◦ 完璧な回答を一発で返す必要はない
 OpenAI APIを利用したチャットボットがよさそう
11. 11 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー
 独自のコンテキストデータを便利に
 使うためのPythonライブラリ
 • インデックス作成
 コンテキストデータを関連性を
 持たせたインデックスに分割する
 • クエリ
 インデックスから質問文に関連するもの をピックアップしてLLMに質問
 https://dev.classmethod.jp/articles/llamaindex-overview/
12. 12 デモ
13. 13 構成とブログ https://dev.classmethod.jp/articles/run-slackapp-with-llamaindex-on-fargate/
14. https://dev.classmethod.jp/articles/llamaindex-overview/ 14 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー
 独自のコンテキストデータを便利に
 使うためのPythonライブラリ
 • インデックス作成
 コンテキストデータを関連性を
 持たせたインデックスに分割する
 • クエリ
 インデックスから質問文に関連するもの をピックアップしてLLMに質問
 内部ではOpenAI API に特定のプロンプトで 質問している
15. 15 この辺をチューニング中 https://github.com/jerryjliu/llama_index/blob/main/gpt_index/prompts/default_prompts.py ときおりレスポンスが英語になるので、 プロンプトを日本語に訳したもので上書き
16. 16 まとめ • 課題の参考情報の提供手段としてチャットボット活用
 • LlamaIndexでインデックス作成とクエリを簡単に実装
 • プロンプトをカスタマイズして日本語の回答を得る
 
 聞きたいこと
 • LlamaIndexのチューニングノウハウ
 • 教育・人材育成用途のChatGPT活用例、サービス開発
 情報交換して有効に活用していきましょう！