スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills

2023/04/28 ChatGPTMeetup #0 LT

Transcript

1. スキル育成に生かすLlamaIndexの活用

   ChatGPTMeetup #0 LT

   2023/04/28

   DevelopersIO BASECAMPディレクター 大瀧隆太

   1
   

   View Slide

2. 2
   誰
   ● 名前: 大瀧隆太 @takipone

   ● お仕事: 事業開発 @クラスメソッド

   ● 好きな技術:

   ○ Amazon Route 53, CloudFront

   ○ SORACOM

   ○ Tailscale

   ○ Starlink

   

   View Slide

3. 3
   クラスメソッドの技術支援
   今日はChatGPTユーザーとしてのお話
   https://classmethod.jp/services/openai-chatgpt/
   

   View Slide

4. 4
   5/25(木) ChatGPT Meetup #2の会場提供
   これから常連になる方へ
   #1のWeWorkと同じビルですが、
   1階で乗るエレベーターが違うことに注
   意！
   （シャトルエレベーター経由です）
   https://chatgpt.connpass.com/event/281310/
   

   View Slide

5. 5
   クラスメソッドの情報発信と情報共有メディア
   ● DevelopersIO

   ● Zenn

   

   View Slide

6. 6
   DevelopersIO BASECAMP
   DevelopersIO BASECAMP(以下デベキャン)は、
   AWSを仕事で使うための体験型プログラムです。

   

   View Slide

7. 7
   DevelopersIO BASECAMPのサポート体制
   

   View Slide

8. 8
   DevelopersIO BASECAMP運営の課題
   ● ロールプレイはWebミーティングやチャットによる

   同期的なやりとり

   ● 平日夜間、土日の受講生の活動時間帯に合わせて

   運営メンバーが活動するのに大きな負担

   ● 次期以降、受け入れ人数を増やしていきたい

   

   View Slide

9. 9
   DevelopersIO BASECAMPのサポート体制
   

   View Slide

10. 10
    DevelopersIO BASECAMP運営の課題
    ● 発注者(顧客担当者)役は課題となる案件について

    受講生から質問を受けたら答えるロール

    ○ 案件情報以外を答える必要はない

    ○ 完璧な回答を一発で返す必要はない

    OpenAI APIを利用したチャットボットがよさそう
    

    View Slide

11. 11
    LlamaIndexとは
    LlamaIndexはOpenAI APIでユーザー

    独自のコンテキストデータを便利に

    使うためのPythonライブラリ

    ● インデックス作成

    コンテキストデータを関連性を

    持たせたインデックスに分割する

    ● クエリ

    インデックスから質問文に関連するもの
    をピックアップしてLLMに質問

    https://dev.classmethod.jp/articles/llamaindex-overview/
    

    View Slide

12. 12
    デモ
    

    View Slide

13. 13
    構成とブログ
    https://dev.classmethod.jp/articles/run-slackapp-with-llamaindex-on-fargate/
    

    View Slide

14. https://dev.classmethod.jp/articles/llamaindex-overview/
    14
    LlamaIndexとは
    LlamaIndexはOpenAI APIでユーザー

    独自のコンテキストデータを便利に

    使うためのPythonライブラリ

    ● インデックス作成

    コンテキストデータを関連性を

    持たせたインデックスに分割する

    ● クエリ

    インデックスから質問文に関連するもの
    をピックアップしてLLMに質問

    内部ではOpenAI API
    に特定のプロンプトで
    質問している
    

    View Slide

15. 15
    この辺をチューニング中
    https://github.com/jerryjliu/llama_index/blob/main/gpt_index/prompts/default_prompts.py
    ときおりレスポンスが英語になるので、
    プロンプトを日本語に訳したもので上書き
    

    View Slide

16. 16
    まとめ
    ● 課題の参考情報の提供手段としてチャットボット活用

    ● LlamaIndexでインデックス作成とクエリを簡単に実装

    ● プロンプトをカスタマイズして日本語の回答を得る

    

    聞きたいこと

    ● LlamaIndexのチューニングノウハウ

    ● 教育・人材育成用途のChatGPT活用例、サービス開発

    情報交換して有効に活用していきましょう！
    

    View Slide

17. View Slide