Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enh...
Search
takipone
April 28, 2023
1
3.3k
スキル育成に生かすLlamaIndexの活用 /using-llamaIndex-to-enhance-ones-skills
2023/04/28 ChatGPTMeetup #0 LT
takipone
April 28, 2023
Tweet
Share
More Decks by takipone
See All by takipone
OJTに夢を見すぎていませんか? ロールプレイ研修の試行錯誤/tryanderror-in-roleplaying-training
takipone
1
83
ロールプレイトレーニングでクラウドエンジニアを短期育成した知見を一挙公開 / roll playing training benefits and cases
takipone
0
590
DNSにちょっとだけ詳しくなりたい人に贈る少し突っ込んだDNSの話 / devioday1_dns
takipone
2
11k
Amazon VPC Latticeに期待する / look-for-vpc-lattice
takipone
0
1.1k
DevelopersIOのアウトプット文化をハックして人材育成に繋げる話 /deviosapporo2022fall_takipone
takipone
0
940
AWSネットワークリソースをサービスでマルチテナントに 提供するときのスケーラビリティ / nwjaws202112-takipone
takipone
1
730
ネットワークがクラウドに載って変わることと変わらないこと /nwjaws201909-takipone
takipone
0
2.1k
AWSネイティブなEC/CRMシステム運用に欠かせないログ基盤構築 / cmdevio2018-aws-log-infra
takipone
7
3.1k
日本🇯🇵でAWS Direct Connect を利用する話/akiba-aws-dx
takipone
1
2.4k
Featured
See All Featured
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.7k
Become a Pro
speakerdeck
PRO
28
5.3k
How to train your dragon (web standard)
notwaldorf
91
6k
Docker and Python
trallard
44
3.4k
Building a Scalable Design System with Sketch
lauravandoore
462
33k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
12k
4 Signs Your Business is Dying
shpigford
183
22k
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
16k
How STYLIGHT went responsive
nonsquared
100
5.5k
The World Runs on Bad Software
bkeepers
PRO
68
11k
Rebuilding a faster, lazier Slack
samanthasiow
81
9k
Visualization
eitanlees
146
16k
Transcript
スキル育成に生かすLlamaIndexの活用 ChatGPTMeetup #0 LT 2023/04/28 DevelopersIO BASECAMPディレクター 大瀧隆太 1
2 誰 • 名前: 大瀧隆太 @takipone • お仕事: 事業開発 @クラスメソッド
• 好きな技術: ◦ Amazon Route 53, CloudFront ◦ SORACOM ◦ Tailscale ◦ Starlink
3 クラスメソッドの技術支援 今日はChatGPTユーザーとしてのお話 https://classmethod.jp/services/openai-chatgpt/
4 5/25(木) ChatGPT Meetup #2の会場提供 これから常連になる方へ #1のWeWorkと同じビルですが、 1階で乗るエレベーターが違うことに注 意! (シャトルエレベーター経由です)
https://chatgpt.connpass.com/event/281310/
5 クラスメソッドの情報発信と情報共有メディア • DevelopersIO • Zenn
6 DevelopersIO BASECAMP DevelopersIO BASECAMP(以下デベキャン)は、 AWSを仕事で使うための体験型プログラムです。
7 DevelopersIO BASECAMPのサポート体制
8 DevelopersIO BASECAMP運営の課題 • ロールプレイはWebミーティングやチャットによる 同期的なやりとり • 平日夜間、土日の受講生の活動時間帯に合わせて 運営メンバーが活動するのに大きな負担 •
次期以降、受け入れ人数を増やしていきたい
9 DevelopersIO BASECAMPのサポート体制
10 DevelopersIO BASECAMP運営の課題 • 発注者(顧客担当者)役は課題となる案件について 受講生から質問を受けたら答えるロール ◦ 案件情報以外を答える必要はない ◦ 完璧な回答を一発で返す必要はない
OpenAI APIを利用したチャットボットがよさそう
11 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を 持たせたインデックスに分割する
• クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 https://dev.classmethod.jp/articles/llamaindex-overview/
12 デモ
13 構成とブログ https://dev.classmethod.jp/articles/run-slackapp-with-llamaindex-on-fargate/
https://dev.classmethod.jp/articles/llamaindex-overview/ 14 LlamaIndexとは LlamaIndexはOpenAI APIでユーザー 独自のコンテキストデータを便利に 使うためのPythonライブラリ • インデックス作成 コンテキストデータを関連性を
持たせたインデックスに分割する • クエリ インデックスから質問文に関連するもの をピックアップしてLLMに質問 内部ではOpenAI API に特定のプロンプトで 質問している
15 この辺をチューニング中 https://github.com/jerryjliu/llama_index/blob/main/gpt_index/prompts/default_prompts.py ときおりレスポンスが英語になるので、 プロンプトを日本語に訳したもので上書き
16 まとめ • 課題の参考情報の提供手段としてチャットボット活用 • LlamaIndexでインデックス作成とクエリを簡単に実装 • プロンプトをカスタマイズして日本語の回答を得る 聞きたいこと
• LlamaIndexのチューニングノウハウ • 教育・人材育成用途のChatGPT活用例、サービス開発 情報交換して有効に活用していきましょう!
17