スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills

by takipone

Slide 1

Slide 1 text

スキル育成に生かすLlamaIndexの活用  ChatGPTMeetup #0 LT  2023/04/28  DevelopersIO BASECAMPディレクター大瀧隆太  1

Slide 2

Slide 2 text

2 誰 ● 名前: 大瀧隆太 @takipone  ● お仕事: 事業開発 @クラスメソッド  ● 好きな技術:  ○ Amazon Route 53, CloudFront  ○ SORACOM  ○ Tailscale  ○ Starlink 

Slide 3

Slide 3 text

3 クラスメソッドの技術支援今日はChatGPTユーザーとしてのお話 https://classmethod.jp/services/openai-chatgpt/

Slide 4

Slide 4 text

4 5/25(木) ChatGPT Meetup #2の会場提供これから常連になる方へ #1のWeWorkと同じビルですが、 1階で乗るエレベーターが違うことに注意！（シャトルエレベーター経由です） https://chatgpt.connpass.com/event/281310/

Slide 5

Slide 5 text

5 クラスメソッドの情報発信と情報共有メディア ● DevelopersIO  ● Zenn 

Slide 6

Slide 6 text

6 DevelopersIO BASECAMP DevelopersIO BASECAMP(以下デベキャン)は、 AWSを仕事で使うための体験型プログラムです。 

Slide 7

Slide 7 text

7 DevelopersIO BASECAMPのサポート体制

Slide 8

Slide 8 text

8 DevelopersIO BASECAMP運営の課題 ● ロールプレイはWebミーティングやチャットによる  同期的なやりとり  ● 平日夜間、土日の受講生の活動時間帯に合わせて  運営メンバーが活動するのに大きな負担  ● 次期以降、受け入れ人数を増やしていきたい 

Slide 9

Slide 9 text

9 DevelopersIO BASECAMPのサポート体制

Slide 10

Slide 10 text

10 DevelopersIO BASECAMP運営の課題 ● 発注者(顧客担当者)役は課題となる案件について  受講生から質問を受けたら答えるロール  ○ 案件情報以外を答える必要はない  ○ 完璧な回答を一発で返す必要はない  OpenAI APIを利用したチャットボットがよさそう

Slide 11

Slide 11 text

11 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー  独自のコンテキストデータを便利に  使うためのPythonライブラリ  ● インデックス作成  コンテキストデータを関連性を  持たせたインデックスに分割する  ● クエリ  インデックスから質問文に関連するものをピックアップしてLLMに質問  https://dev.classmethod.jp/articles/llamaindex-overview/

Slide 12

Slide 12 text

12 デモ

Slide 13

Slide 13 text

13 構成とブログ https://dev.classmethod.jp/articles/run-slackapp-with-llamaindex-on-fargate/

Slide 14

Slide 14 text

https://dev.classmethod.jp/articles/llamaindex-overview/ 14 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー  独自のコンテキストデータを便利に  使うためのPythonライブラリ  ● インデックス作成  コンテキストデータを関連性を  持たせたインデックスに分割する  ● クエリ  インデックスから質問文に関連するものをピックアップしてLLMに質問  内部ではOpenAI API に特定のプロンプトで質問している

Slide 15

Slide 15 text

15 この辺をチューニング中 https://github.com/jerryjliu/llama_index/blob/main/gpt_index/prompts/default_prompts.py ときおりレスポンスが英語になるので、プロンプトを日本語に訳したもので上書き

Slide 16

Slide 16 text

16 まとめ ● 課題の参考情報の提供手段としてチャットボット活用  ● LlamaIndexでインデックス作成とクエリを簡単に実装  ● プロンプトをカスタマイズして日本語の回答を得る    聞きたいこと  ● LlamaIndexのチューニングノウハウ  ● 教育・人材育成用途のChatGPT活用例、サービス開発  情報交換して有効に活用していきましょう！