Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ChatGPTの現状理解と今月のLLM情報
Search
skume
June 14, 2023
Programming
0
790
ChatGPTの現状理解と今月のLLM情報
1. ChatGPTの現状理解
・前回の振り返り
・ChatGTP界隈の1ヶ月間のアップデート
2. LLM界隈の話題提供 (雑多)
skume
June 14, 2023
Tweet
Share
More Decks by skume
See All by skume
240807 Bio"Pack"athon 2024 #8 Replicate API とその使い方
skume
0
60
Bio"Pack"athon 2024 #6 2024年6月版 LLM情報アップデート
skume
0
66
Bio"Pack"athon 2024 #5 2024年5月版 LLM情報アップデート
skume
0
35
Bio"Pack"athon 2024 #4 2024年4月版 LLM情報アップデート
skume
0
140
Bio"Pack"athon 2024 #1 2023年のLLM情報の振り返り
skume
0
140
ソフトウェア開発 × LLM 〜 Rパッケージ開発を題材に 〜
skume
0
210
deepRstudio: RStudio上でシームレス翻訳をしよう
skume
0
360
RでLangChainっぽいことを やってる話【画像生成(猫)編】
skume
0
480
ChatGPT の現状理解と 2023年7月版 LLM情報アップデート
skume
0
1.1k
Other Decks in Programming
See All in Programming
みんなでプロポーザルを書いてみた
yuriko1211
0
290
Missing parts when designing and implementing Android UI
ericksli
0
230
Better Code Design in PHP
afilina
PRO
0
130
Duckdb-Wasmでローカルダッシュボードを作ってみた
nkforwork
0
140
RubyLSPのマルチバイト文字対応
notfounds
0
120
3 Effective Rules for Using Signals in Angular
manfredsteyer
PRO
1
110
DevTools extensions で 独自の DevTool を開発する | FlutterKaigi 2024
kokiyoshida
0
140
Why Jakarta EE Matters to Spring - and Vice Versa
ivargrimstad
0
1.3k
Amazon Qを使ってIaCを触ろう!
maruto
0
420
初めてDefinitelyTypedにPRを出した話
syumai
0
440
イベント駆動で成長して委員会
happymana
1
340
WebAssembly Unleashed: Powering Server-Side Applications
chrisft25
0
250
Featured
See All Featured
Typedesign – Prime Four
hannesfritz
40
2.4k
Into the Great Unknown - MozCon
thekraken
32
1.5k
How STYLIGHT went responsive
nonsquared
95
5.2k
Speed Design
sergeychernyshev
25
620
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
6.8k
Why Our Code Smells
bkeepers
PRO
334
57k
Being A Developer After 40
akosma
87
590k
Adopting Sorbet at Scale
ufuk
73
9.1k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
27
850
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
111
49k
Stop Working from a Prison Cell
hatefulcrawdad
267
20k
YesSQL, Process and Tooling at Scale
rocio
169
14k
Transcript
4BUPTIJ,VNF !TLVNF $IBU(15ͷݱঢ়ཧղͱ ࠓ݄ͷ--.ใ #JP1BDLBUIPO +6/
ࠓͷఏڙ $IBU(15ͷݱঢ়ཧղ લճͷৼΓฦΓ $IBU(51ք۾ͷϲ݄ؒͷΞοϓσʔτ --.ք۾ͷఏڙ ࡶଟ
DIBU(15PS--. ͬͯ·͔͢ʁʁ
લճͷৼΓฦΓ $IBU(15ͱʁ ✦$IBU(FOFSBUJWF1SFUSBJOFE5SBOTGPSNFS (15 ͷུ ✦0QFO"*͕݄ࣾʹެ։ͨ͠"*νϟοτϘοτɻ ✦ʮDIBU(15ʯ(15ͷνϟοτػೳΛࢦ͢ɻ ✦୯ʹʮ(15ʯͱݴ͏ͱɺϞσϧࣗମ͋Δ͍ଞͷػೳࢦ͢ɻ ✦ݱࡏͷ࠷৽൛(15 ݄
ɺ$IBU(15.BZ7FSTJPO ✦େنݴޠϞσϧʢ--. -BSHF-BOHVBHF.PEFMʣͷͭ ✦େྔͷςΩετΛֶशͨ͠"*Ϟσϧɻ ✦ςΩετੜաఔͰɺ࣍ʹདྷΔ୯ޠΛߴ֬Ͱ༧ଌͰ͖Δɻ ✦݁Ռͱͯ͠ɺਓ͕ؒࣗવʹײ͡ΔจষΛੜͰ͖Δ"*Ϟσϧɻ ✦(15ɾ--.ͰԿ͕มΘͬͨ͜ͱɻɻɻ ✦ίϯϐϡʔλݴޠΛհͣ͞ʹɺࣗવݴޠΛϓϩϯϓτ ࢦࣔจ ͱͯ͠ɺ"*ɾܭࢉػʹ໋ྩͰ͖ΔΑ͏ʹͳͬͨɻ
$IBU(15ͷ࣮ߦڥ 6*ฤ IUUQTDIBUPQFOBJDPN NPEFMHQU ຊΛ͢લʹɺॳΊͯͷํ͚ʹ$IBU(15ͷ࣮ԋಈըΛʜ
$IBU(15ͷ࣮ߦڥ 6*ฤ ຊΛ͢લʹɺॳΊͯͷํ͚ʹ$IBU(15ͷ࣮ԋಈըΛʜ
$IBU(51ք۾ͷ ϲ݄ؒͷΞοϓσʔτ ɾJ04൛$IBU(15ΞϓϦ͕ϦϦʔε ɾЌ൛GFBUVSFTػೳ͕࣮ ɾΣϒݕࡧػೳͷ࣮ ɾ1MVHJOT͕͑Δ
J04൛$IBU(15ΞϓϦ͕ϦϦʔε IUUQTPQFOBJDPNCMPH JOUSPEVDJOHUIFDIBUHQUBQQGPSJPT ِΞϓϦ͕ଟϦϦʔε͞Ε ͍ͯΔͨΊɺඞͣެ͔ࣜΒ "QQTUPSFʹඈ΅͏ɻ
IUUQTPQFOBJDPNXBJUMJTUHQUBQJ IUUQTPQFOBJDPNXBJUMJTUQMVHJOT (15"1*$IBU(15QMVHJOT ͷར༻ॱ൪ͪ
Ќ൛ͰɺQMVHJOػೳ͕͑ΔΑ͏ʹ ϩάΠϯ 4FUUJOHT #FUBGFBUVSFT (15࣌ʹ બՄೳʹ
˞ར༻ʹ0QFO"*αϒεΫඞཁ
#SPXTJOHͰ࠷৽ͷΣϒใΛऔಘ ※ ͯ͢ͷΣϒใʹΞΫηεͰ͖ͣɺ෦ج४ͰɺΞΫηεՄೳͳΣϒαΠτʹ੍ݶ͕͋Δ ※ WebϒϥδϯάϓϥάΠϯͷʮWebPilotʯ͕༏ल͔ɻ ※ Codex: GPT-3ͷೖྗ͘͠ग़ྗ͕ϓϩάϥϛϯάίʔυͰ͋Δ෦ΛऔΓग़ͨ͠code extension model
(PPHMF#BSEͰΣϒใ͑Δ IUUQTCBSEHPPHMFDPN
Σϒݕࡧػೳͷൺֱʹ͍ͭͯ ॲཧ ςΩετͷ ੜਫ਼ DIBU(15(15 ❌ʙ˛ ˕ ʢจੜʣ (PPHMF#BSE ˓
˓ #JOH"*$IBU ˓ ˓
1MVHJOTUPSFͰ ͍ۙ1MVHJOT͕ެ։ ݱࡏ
1PQVMBS1MVHJOT
1SPNQU1FSGFDU ϓϩϯϓτʹ QFSGFDU ͱه ࣮ߦલʹɺ ϓϩϯϓτͷमਖ਼͕ೖΔ
8PMGSBN WolfranͰ༷ʑͳλεΫΛ࣮ߦՄೳ 1. ֶతͳܭࢉ: తͳܭࢉɺඍɺੵ ɺߦྻͷૢ࡞ɺ౷ܭతͳܭࢉͳͲ 2. ཧɺԽֶɺੜֶͳͲͷՊֶతͳ͍ ߹Θͤ: ཧఆͷɺԽֶతͳԠɺ
ੜֶతͳσʔλͳͲɺՊֶతͳใΛ ఏڙ 3. ཧతͳใ 4. ͱ࣌ؒͷܭࢉ 5. ϓϩοτͱάϥϑͷ࡞ 6. WolframݴޠͷίʔυͷධՁ 7. ࣗવݴޠͷΫΤϦͷղऍ:
લճͷৼΓฦΓ $IBU(15͕ۤखͳ͜ͱ
$IBU(15͕ۤखͳ͜ͱ - Ϟσϧͷֶशσʔλ͕2021·Ͱ - هࣄʹͳ͍ͬͯͳ͍ใʢձһαΠτɺҬωλ etcʣʹऑ͍
ࠓޙɺ$IBU(15QMVHJOTͰͷରԠʹظ ࣌ʹฉ͖ฦ͢͜ͱେ $IBU(15͕ۤखͳ͜ͱ - Ϟσϧͷֶशσʔλ͕2021·Ͱ - هࣄʹͳ͍ͬͯͳ͍ใʢձһαΠτɺҬωλ etcʣʹऑ͍
ຊॳͷDIBU(15QMVHJO৯ϩά IUUQTUFDICMPHUBCFMPHDPNFOUSZ fi STUDIBMMFOHFUBCFMPHDIBUHQUQMVHJOEFWMFPQNFOU
ຊॳͷDIBU(15QMVHJO৯ϩά IUUQTUFDICMPHUBCFMPHDPNFOUSZ fi STUDIBMMFOHFUBCFMPHDIBUHQUQMVHJOEFWMFPQNFOU ࣗવݴޠ ϓϩϯϓτ ΛೖྗͰɺ (51ͰΫΤϦ࡞ KTPO
%#ݕࡧ ݕࡧ݁Ռͷϝλσʔλͷऔಘ KTPO औಘใΛͱʹɺ(51Ͱจॻੜ
ࠓͷఏڙ $IBU(15ͷݱঢ়ཧղ લճͷৼΓฦΓ $IBU(51ք۾ͷϲ݄ؒͷΞοϓσʔτ --.ք۾ͷఏڙ ࡶଟ
(155FDIOJDBM3FQPSU IUUQTBSYJWPSHBCT ϓϨϓϦϯτͰςΫχΧϧϨϙʔτެ։ ӳޠΠϯϓοτͰͷੑೳ͕࠷ߴ͍ Ґ
ϓϩϯϓτΤϯδχΞϦϯάྲྀߦΓͦ͏ɻɻɻ ϓϩϯϓτΤϯδχΞϦϯάͱʁ ɾݴޠϞσϧʢLMsʣΛޮతʹ༻͢ΔͨΊͷϓϩϯϓτΛ։ൃ͓ Αͼ࠷దԽ͢Δൺֱత৽ֶ͍͠ɻ ɾϓϩϯϓτΤϯδχΞϦϯάͷεΩϧΛʹ͚ͭΔ͜ͱͰɺେن ݴޠϞσϧʢLLMsʣͷೳྗͱݶքΛΑΓཧղͰ͖Δɻ IUUQTHJUIVCDPNEBJSBJ1SPNQU&OHJOFFSJOH(VJEF ຊޠ൛IUUQTXXXQSPNQUJOHHVJEFBJKQ ӳޠ൛IUUQTXXXQSPNQUJOHHVJEFBJ Prompt
Engineering Guide: dair-ai͕ఏڙ͢ΔϓϩϯϓτΤϯδχΞϦϯάΛֶͿͨΊͷΨΠυɻ
.BHJD IUUQTNBHJDEFWCMPHMUN ѻ͑ΔςΩετͷ͞ GPT3.5: ࠷େ4097 τʔΫϯ GPT4: 32,768 τʔΫϯʢ2ສ5000ޠʣ LTM-1:
ϓϩάϥϛϯ άʹಛԽͨ͠LLM
.BHJD https://www.youtube.com/watch?v=E0YFFhBt8-Y&t=18s
·ͱΊ ɾ $IBU(15ʹ͍ͭͯͷલճͷৼΓฦΓ ɾ ք۾ͷϲ݄ؒͷΞοϓσʔτ