Upgrade to Pro — share decks privately, control downloads, hide ads and more …

スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills

takipone
April 28, 2023
2.8k

スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills

2023/04/28 ChatGPTMeetup #0 LT

takipone

April 28, 2023
Tweet

More Decks by takipone

Transcript

  1. スキル育成に生かすLlamaIndexの活用

    ChatGPTMeetup #0 LT

    2023/04/28

    DevelopersIO BASECAMPディレクター 大瀧隆太

    1

    View full-size slide

  2. 2

    ● 名前: 大瀧隆太 @takipone

    ● お仕事: 事業開発 @クラスメソッド

    ● 好きな技術:

    ○ Amazon Route 53, CloudFront

    ○ SORACOM

    ○ Tailscale

    ○ Starlink


    View full-size slide

  3. 3
    クラスメソッドの技術支援
    今日はChatGPTユーザーとしてのお話
    https://classmethod.jp/services/openai-chatgpt/

    View full-size slide

  4. 4
    5/25(木) ChatGPT Meetup #2の会場提供
    これから常連になる方へ
    #1のWeWorkと同じビルですが、
    1階で乗るエレベーターが違うことに注
    意!
    (シャトルエレベーター経由です)
    https://chatgpt.connpass.com/event/281310/

    View full-size slide

  5. 5
    クラスメソッドの情報発信と情報共有メディア
    ● DevelopersIO

    ● Zenn


    View full-size slide

  6. 6
    DevelopersIO BASECAMP
    DevelopersIO BASECAMP(以下デベキャン)は、
    AWSを仕事で使うための体験型プログラムです。


    View full-size slide

  7. 7
    DevelopersIO BASECAMPのサポート体制

    View full-size slide

  8. 8
    DevelopersIO BASECAMP運営の課題
    ● ロールプレイはWebミーティングやチャットによる

    同期的なやりとり

    ● 平日夜間、土日の受講生の活動時間帯に合わせて

    運営メンバーが活動するのに大きな負担

    ● 次期以降、受け入れ人数を増やしていきたい


    View full-size slide

  9. 9
    DevelopersIO BASECAMPのサポート体制

    View full-size slide

  10. 10
    DevelopersIO BASECAMP運営の課題
    ● 発注者(顧客担当者)役は課題となる案件について

    受講生から質問を受けたら答えるロール

    ○ 案件情報以外を答える必要はない

    ○ 完璧な回答を一発で返す必要はない

    OpenAI APIを利用したチャットボットがよさそう

    View full-size slide

  11. 11
    LlamaIndexとは
    LlamaIndexはOpenAI APIでユーザー

    独自のコンテキストデータを便利に

    使うためのPythonライブラリ

    ● インデックス作成

    コンテキストデータを関連性を

    持たせたインデックスに分割する

    ● クエリ

    インデックスから質問文に関連するもの
    をピックアップしてLLMに質問

    https://dev.classmethod.jp/articles/llamaindex-overview/

    View full-size slide

  12. 13
    構成とブログ
    https://dev.classmethod.jp/articles/run-slackapp-with-llamaindex-on-fargate/

    View full-size slide

  13. https://dev.classmethod.jp/articles/llamaindex-overview/
    14
    LlamaIndexとは
    LlamaIndexはOpenAI APIでユーザー

    独自のコンテキストデータを便利に

    使うためのPythonライブラリ

    ● インデックス作成

    コンテキストデータを関連性を

    持たせたインデックスに分割する

    ● クエリ

    インデックスから質問文に関連するもの
    をピックアップしてLLMに質問

    内部ではOpenAI API
    に特定のプロンプトで
    質問している

    View full-size slide

  14. 15
    この辺をチューニング中
    https://github.com/jerryjliu/llama_index/blob/main/gpt_index/prompts/default_prompts.py
    ときおりレスポンスが英語になるので、
    プロンプトを日本語に訳したもので上書き

    View full-size slide

  15. 16
    まとめ
    ● 課題の参考情報の提供手段としてチャットボット活用

    ● LlamaIndexでインデックス作成とクエリを簡単に実装

    ● プロンプトをカスタマイズして日本語の回答を得る


    聞きたいこと

    ● LlamaIndexのチューニングノウハウ

    ● 教育・人材育成用途のChatGPT活用例、サービス開発

    情報交換して有効に活用していきましょう!

    View full-size slide