Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enh...
Search
takipone
April 28, 2023
1
3.3k
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills
2023/04/28 ChatGPTMeetup #0 LT
takipone
April 28, 2023
Tweet
Share
More Decks by takipone
See All by takipone
OJTに夢を見すぎていませんか? ロールプレイ研修の試行錯誤/tryanderror-in-roleplaying-training
takipone
1
130
ロールプレイトレーニングでクラウドエンジニアを短期育成した知見を一挙公開 / roll playing training benefits and cases
takipone
0
610
DNSにちょっとだけ詳しくなりたい人に贈る少し突っ込んだDNSの話 / devioday1_dns
takipone
2
11k
Amazon VPC Latticeに期待する / look-for-vpc-lattice
takipone
0
1.1k
DevelopersIOのアウトプット文化をハックして人材育成に繋げる話 /deviosapporo2022fall_takipone
takipone
0
950
AWSネットワークリソースをサービスでマルチテナントに 提供するときのスケーラビリティ / nwjaws202112-takipone
takipone
1
730
ネットワークがクラウドに載って変わることと変わらないこと /nwjaws201909-takipone
takipone
0
2.1k
AWSネイティブなEC/CRMシステム運用に欠かせないログ基盤構築 / cmdevio2018-aws-log-infra
takipone
7
3.1k
日本🇯🇵でAWS Direct Connect を利用する話/akiba-aws-dx
takipone
1
2.4k
Featured
See All Featured
A designer walks into a library…
pauljervisheath
206
24k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
331
22k
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
42
2.4k
Code Review Best Practice
trishagee
68
18k
YesSQL, Process and Tooling at Scale
rocio
172
14k
Scaling GitHub
holman
459
140k
How to Ace a Technical Interview
jacobian
276
23k
A Modern Web Designer's Workflow
chriscoyier
693
190k
Building an army of robots
kneath
306
45k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
16
910
What’s in a name? Adding method to the madness
productmarketing
PRO
22
3.5k
Transcript
スキル育成に生かすLlamaIndexの活用 ChatGPTMeetup #0 LT 2023/04/28 DevelopersIO BASECAMPディレクター 大瀧隆太 1
2 誰 • 名前: 大瀧隆太 @takipone • お仕事: 事業開発 @クラスメソッド
• 好きな技術: ◦ Amazon Route 53, CloudFront ◦ SORACOM ◦ Tailscale ◦ Starlink
3 クラスメソッドの技術支援 今日はChatGPTユーザーとしてのお話 https://classmethod.jp/services/openai-chatgpt/
4 5/25(木) ChatGPT Meetup #2の会場提供 これから常連になる方へ #1のWeWorkと同じビルですが、 1階で乗るエレベーターが違うことに注 意! (シャトルエレベーター経由です)
https://chatgpt.connpass.com/event/281310/
5 クラスメソッドの情報発信と情報共有メディア • DevelopersIO • Zenn
6 DevelopersIO BASECAMP DevelopersIO BASECAMP(以下デベキャン)は、 AWSを仕事で使うための体験型プログラムです。
7 DevelopersIO BASECAMPのサポート体制
8 DevelopersIO BASECAMP運営の課題 • ロールプレイはWebミーティングやチャットによる 同期的なやりとり • 平日夜間、土日の受講生の活動時間帯に合わせて 運営メンバーが活動するのに大きな負担 •
次期以降、受け入れ人数を増やしていきたい
9 DevelopersIO BASECAMPのサポート体制
10 DevelopersIO BASECAMP運営の課題 • 発注者(顧客担当者)役は課題となる案件について 受講生から質問を受けたら答えるロール ◦ 案件情報以外を答える必要はない ◦ 完璧な回答を一発で返す必要はない
OpenAI APIを利用したチャットボットがよさそう
11 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を 持たせたインデックスに分割する
• クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 https://dev.classmethod.jp/articles/llamaindex-overview/
12 デモ
13 構成とブログ https://dev.classmethod.jp/articles/run-slackapp-with-llamaindex-on-fargate/
https://dev.classmethod.jp/articles/llamaindex-overview/ 14 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を
持たせたインデックスに分割する • クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 内部ではOpenAI API に特定のプロンプトで 質問している
15 この辺をチューニング中 https://github.com/jerryjliu/llama_index/blob/main/gpt_index/prompts/default_prompts.py ときおりレスポンスが英語になるので、 プロンプトを日本語に訳したもので上書き
16 まとめ • 課題の参考情報の提供手段としてチャットボット活用 • LlamaIndexでインデックス作成とクエリを簡単に実装 • プロンプトをカスタマイズして日本語の回答を得る 聞きたいこと
• LlamaIndexのチューニングノウハウ • 教育・人材育成用途のChatGPT活用例、サービス開発 情報交換して有効に活用していきましょう!
17