Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enh...
Search
takipone
April 28, 2023
1
3.4k
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills
2023/04/28 ChatGPTMeetup #0 LT
takipone
April 28, 2023
Tweet
Share
More Decks by takipone
See All by takipone
OJTに夢を見すぎていませんか? ロールプレイ研修の試行錯誤/tryanderror-in-roleplaying-training
takipone
1
160
ロールプレイトレーニングでクラウドエンジニアを短期育成した知見を一挙公開 / roll playing training benefits and cases
takipone
0
630
DNSにちょっとだけ詳しくなりたい人に贈る少し突っ込んだDNSの話 / devioday1_dns
takipone
2
11k
Amazon VPC Latticeに期待する / look-for-vpc-lattice
takipone
0
1.1k
DevelopersIOのアウトプット文化をハックして人材育成に繋げる話 /deviosapporo2022fall_takipone
takipone
0
960
AWSネットワークリソースをサービスでマルチテナントに 提供するときのスケーラビリティ / nwjaws202112-takipone
takipone
1
740
ネットワークがクラウドに載って変わることと変わらないこと /nwjaws201909-takipone
takipone
0
2.1k
AWSネイティブなEC/CRMシステム運用に欠かせないログ基盤構築 / cmdevio2018-aws-log-infra
takipone
7
3.1k
日本🇯🇵でAWS Direct Connect を利用する話/akiba-aws-dx
takipone
1
2.4k
Featured
See All Featured
The Invisible Side of Design
smashingmag
301
51k
The Art of Programming - Codeland 2020
erikaheidi
54
13k
Music & Morning Musume
bryan
46
6.6k
Raft: Consensus for Rubyists
vanstee
140
7k
Making the Leap to Tech Lead
cromwellryan
134
9.4k
Six Lessons from altMBA
skipperchong
28
3.9k
Making Projects Easy
brettharned
116
6.3k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
357
30k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
331
22k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
50k
What's in a price? How to price your products and services
michaelherold
246
12k
The Cult of Friendly URLs
andyhume
79
6.5k
Transcript
スキル育成に生かすLlamaIndexの活用 ChatGPTMeetup #0 LT 2023/04/28 DevelopersIO BASECAMPディレクター 大瀧隆太 1
2 誰 • 名前: 大瀧隆太 @takipone • お仕事: 事業開発 @クラスメソッド
• 好きな技術: ◦ Amazon Route 53, CloudFront ◦ SORACOM ◦ Tailscale ◦ Starlink
3 クラスメソッドの技術支援 今日はChatGPTユーザーとしてのお話 https://classmethod.jp/services/openai-chatgpt/
4 5/25(木) ChatGPT Meetup #2の会場提供 これから常連になる方へ #1のWeWorkと同じビルですが、 1階で乗るエレベーターが違うことに注 意! (シャトルエレベーター経由です)
https://chatgpt.connpass.com/event/281310/
5 クラスメソッドの情報発信と情報共有メディア • DevelopersIO • Zenn
6 DevelopersIO BASECAMP DevelopersIO BASECAMP(以下デベキャン)は、 AWSを仕事で使うための体験型プログラムです。
7 DevelopersIO BASECAMPのサポート体制
8 DevelopersIO BASECAMP運営の課題 • ロールプレイはWebミーティングやチャットによる 同期的なやりとり • 平日夜間、土日の受講生の活動時間帯に合わせて 運営メンバーが活動するのに大きな負担 •
次期以降、受け入れ人数を増やしていきたい
9 DevelopersIO BASECAMPのサポート体制
10 DevelopersIO BASECAMP運営の課題 • 発注者(顧客担当者)役は課題となる案件について 受講生から質問を受けたら答えるロール ◦ 案件情報以外を答える必要はない ◦ 完璧な回答を一発で返す必要はない
OpenAI APIを利用したチャットボットがよさそう
11 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を 持たせたインデックスに分割する
• クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 https://dev.classmethod.jp/articles/llamaindex-overview/
12 デモ
13 構成とブログ https://dev.classmethod.jp/articles/run-slackapp-with-llamaindex-on-fargate/
https://dev.classmethod.jp/articles/llamaindex-overview/ 14 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を
持たせたインデックスに分割する • クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 内部ではOpenAI API に特定のプロンプトで 質問している
15 この辺をチューニング中 https://github.com/jerryjliu/llama_index/blob/main/gpt_index/prompts/default_prompts.py ときおりレスポンスが英語になるので、 プロンプトを日本語に訳したもので上書き
16 まとめ • 課題の参考情報の提供手段としてチャットボット活用 • LlamaIndexでインデックス作成とクエリを簡単に実装 • プロンプトをカスタマイズして日本語の回答を得る 聞きたいこと
• LlamaIndexのチューニングノウハウ • 教育・人材育成用途のChatGPT活用例、サービス開発 情報交換して有効に活用していきましょう!
17