Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enh...
Search
takipone
April 28, 2023
1
3.1k
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills
2023/04/28 ChatGPTMeetup #0 LT
takipone
April 28, 2023
Tweet
Share
More Decks by takipone
See All by takipone
ロールプレイトレーニングでクラウドエンジニアを短期育成した知見を一挙公開 / roll playing training benefits and cases
takipone
0
420
DNSにちょっとだけ詳しくなりたい人に贈る少し突っ込んだDNSの話 / devioday1_dns
takipone
2
10k
Amazon VPC Latticeに期待する / look-for-vpc-lattice
takipone
0
1.1k
DevelopersIOのアウトプット文化をハックして人材育成に繋げる話 /deviosapporo2022fall_takipone
takipone
0
860
AWSネットワークリソースをサービスでマルチテナントに 提供するときのスケーラビリティ / nwjaws202112-takipone
takipone
1
650
ネットワークがクラウドに載って変わることと変わらないこと /nwjaws201909-takipone
takipone
0
1.9k
AWSネイティブなEC/CRMシステム運用に欠かせないログ基盤構築 / cmdevio2018-aws-log-infra
takipone
7
2.9k
日本🇯🇵でAWS Direct Connect を利用する話/akiba-aws-dx
takipone
1
2.3k
CMブートキャンプ(社内勉強会) DNS 第4回 AWSのDNSサービス /cm-dnsstudy-4
takipone
2
19k
Featured
See All Featured
Optimizing for Happiness
mojombo
376
69k
The Art of Programming - Codeland 2020
erikaheidi
51
13k
The Cult of Friendly URLs
andyhume
78
6k
Put a Button on it: Removing Barriers to Going Fast.
kastner
59
3.5k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
9
670
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
41
2.1k
YesSQL, Process and Tooling at Scale
rocio
167
14k
The World Runs on Bad Software
bkeepers
PRO
65
11k
ReactJS: Keep Simple. Everything can be a component!
pedronauck
664
120k
Code Review Best Practice
trishagee
64
17k
Fantastic passwords and where to find them - at NoRuKo
philnash
50
2.8k
Code Reviewing Like a Champion
maltzj
519
39k
Transcript
スキル育成に生かすLlamaIndexの活用 ChatGPTMeetup #0 LT 2023/04/28 DevelopersIO BASECAMPディレクター 大瀧隆太 1
2 誰 • 名前: 大瀧隆太 @takipone • お仕事: 事業開発 @クラスメソッド
• 好きな技術: ◦ Amazon Route 53, CloudFront ◦ SORACOM ◦ Tailscale ◦ Starlink
3 クラスメソッドの技術支援 今日はChatGPTユーザーとしてのお話 https://classmethod.jp/services/openai-chatgpt/
4 5/25(木) ChatGPT Meetup #2の会場提供 これから常連になる方へ #1のWeWorkと同じビルですが、 1階で乗るエレベーターが違うことに注 意! (シャトルエレベーター経由です)
https://chatgpt.connpass.com/event/281310/
5 クラスメソッドの情報発信と情報共有メディア • DevelopersIO • Zenn
6 DevelopersIO BASECAMP DevelopersIO BASECAMP(以下デベキャン)は、 AWSを仕事で使うための体験型プログラムです。
7 DevelopersIO BASECAMPのサポート体制
8 DevelopersIO BASECAMP運営の課題 • ロールプレイはWebミーティングやチャットによる 同期的なやりとり • 平日夜間、土日の受講生の活動時間帯に合わせて 運営メンバーが活動するのに大きな負担 •
次期以降、受け入れ人数を増やしていきたい
9 DevelopersIO BASECAMPのサポート体制
10 DevelopersIO BASECAMP運営の課題 • 発注者(顧客担当者)役は課題となる案件について 受講生から質問を受けたら答えるロール ◦ 案件情報以外を答える必要はない ◦ 完璧な回答を一発で返す必要はない
OpenAI APIを利用したチャットボットがよさそう
11 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を 持たせたインデックスに分割する
• クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 https://dev.classmethod.jp/articles/llamaindex-overview/
12 デモ
13 構成とブログ https://dev.classmethod.jp/articles/run-slackapp-with-llamaindex-on-fargate/
https://dev.classmethod.jp/articles/llamaindex-overview/ 14 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を
持たせたインデックスに分割する • クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 内部ではOpenAI API に特定のプロンプトで 質問している
15 この辺をチューニング中 https://github.com/jerryjliu/llama_index/blob/main/gpt_index/prompts/default_prompts.py ときおりレスポンスが英語になるので、 プロンプトを日本語に訳したもので上書き
16 まとめ • 課題の参考情報の提供手段としてチャットボット活用 • LlamaIndexでインデックス作成とクエリを簡単に実装 • プロンプトをカスタマイズして日本語の回答を得る 聞きたいこと
• LlamaIndexのチューニングノウハウ • 教育・人材育成用途のChatGPT活用例、サービス開発 情報交換して有効に活用していきましょう!
17