Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ChatGPTの現状理解と今月のLLM情報
Search
skume
June 14, 2023
Programming
0
930
ChatGPTの現状理解と今月のLLM情報
1. ChatGPTの現状理解
・前回の振り返り
・ChatGTP界隈の1ヶ月間のアップデート
2. LLM界隈の話題提供 (雑多)
skume
June 14, 2023
Tweet
Share
More Decks by skume
See All by skume
250719_もくもく会_3Dモデル生成技術の現状と将来展望
skume
0
15
250622 京橋データ分析もくもく会: Cursor x 文書作成
skume
0
39
AI-driven Development Slide created by Claude Code
skume
0
100
20240920 AI/LLMで Rパッケージを開発する
skume
0
33
240807 Bio"Pack"athon 2024 #8 Replicate API とその使い方
skume
0
100
Bio"Pack"athon 2024 #6 2024年6月版 LLM情報アップデート
skume
0
130
Bio"Pack"athon 2024 #5 2024年5月版 LLM情報アップデート
skume
0
68
Bio"Pack"athon 2024 #4 2024年4月版 LLM情報アップデート
skume
0
180
Bio"Pack"athon 2024 #1 2023年のLLM情報の振り返り
skume
0
190
Other Decks in Programming
See All in Programming
マイコンでもRustのtestがしたい その2/KernelVM Tokyo 18
tnishinaga
2
1.7k
変化を楽しむエンジニアリング ~ いままでとこれから ~
murajun1978
0
690
11年かかって やっとVibe Codingに 時代が追いつきましたね
yimajo
1
250
kiroでゲームを作ってみた
iriikeita
0
150
Dart 参戦!!静的型付き言語界の隠れた実力者
kno3a87
0
180
0から始めるモジュラーモノリス-クリーンなモノリスを目指して
sushi0120
0
250
STUNMESH-go: Wireguard NAT穿隧工具的源起與介紹
tjjh89017
0
290
大規模FlutterプロジェクトのCI実行時間を約8割削減した話
teamlab
PRO
0
450
可変性を制する設計: 構造と振る舞いから考える概念モデリングとその実装
a_suenami
10
1.7k
新世界の理解
koriym
0
130
Constant integer division faster than compiler-generated code
herumi
2
550
Scale out your Claude Code ~自社専用Agentで10xする開発プロセス~
yukukotani
9
1.7k
Featured
See All Featured
Faster Mobile Websites
deanohume
308
31k
[RailsConf 2023 Opening Keynote] The Magic of Rails
eileencodes
29
9.6k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
29
1.8k
Testing 201, or: Great Expectations
jmmastey
45
7.6k
Git: the NoSQL Database
bkeepers
PRO
431
65k
Fireside Chat
paigeccino
38
3.6k
Designing for Performance
lara
610
69k
4 Signs Your Business is Dying
shpigford
184
22k
GraphQLとの向き合い方2022年版
quramy
49
14k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
26
3k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
22
1.4k
Principles of Awesome APIs and How to Build Them.
keavy
126
17k
Transcript
4BUPTIJ,VNF !TLVNF $IBU(15ͷݱঢ়ཧղͱ ࠓ݄ͷ--.ใ #JP1BDLBUIPO +6/
ࠓͷఏڙ $IBU(15ͷݱঢ়ཧղ લճͷৼΓฦΓ $IBU(51ք۾ͷϲ݄ؒͷΞοϓσʔτ --.ք۾ͷఏڙ ࡶଟ
DIBU(15PS--. ͬͯ·͔͢ʁʁ
લճͷৼΓฦΓ $IBU(15ͱʁ ✦$IBU(FOFSBUJWF1SFUSBJOFE5SBOTGPSNFS (15 ͷུ ✦0QFO"*͕݄ࣾʹެ։ͨ͠"*νϟοτϘοτɻ ✦ʮDIBU(15ʯ(15ͷνϟοτػೳΛࢦ͢ɻ ✦୯ʹʮ(15ʯͱݴ͏ͱɺϞσϧࣗମ͋Δ͍ଞͷػೳࢦ͢ɻ ✦ݱࡏͷ࠷৽൛(15 ݄
ɺ$IBU(15.BZ7FSTJPO ✦େنݴޠϞσϧʢ--. -BSHF-BOHVBHF.PEFMʣͷͭ ✦େྔͷςΩετΛֶशͨ͠"*Ϟσϧɻ ✦ςΩετੜաఔͰɺ࣍ʹདྷΔ୯ޠΛߴ֬Ͱ༧ଌͰ͖Δɻ ✦݁Ռͱͯ͠ɺਓ͕ؒࣗવʹײ͡ΔจষΛੜͰ͖Δ"*Ϟσϧɻ ✦(15ɾ--.ͰԿ͕มΘͬͨ͜ͱɻɻɻ ✦ίϯϐϡʔλݴޠΛհͣ͞ʹɺࣗવݴޠΛϓϩϯϓτ ࢦࣔจ ͱͯ͠ɺ"*ɾܭࢉػʹ໋ྩͰ͖ΔΑ͏ʹͳͬͨɻ
$IBU(15ͷ࣮ߦڥ 6*ฤ IUUQTDIBUPQFOBJDPN NPEFMHQU ຊΛ͢લʹɺॳΊͯͷํ͚ʹ$IBU(15ͷ࣮ԋಈըΛʜ
$IBU(15ͷ࣮ߦڥ 6*ฤ ຊΛ͢લʹɺॳΊͯͷํ͚ʹ$IBU(15ͷ࣮ԋಈըΛʜ
$IBU(51ք۾ͷ ϲ݄ؒͷΞοϓσʔτ ɾJ04൛$IBU(15ΞϓϦ͕ϦϦʔε ɾЌ൛GFBUVSFTػೳ͕࣮ ɾΣϒݕࡧػೳͷ࣮ ɾ1MVHJOT͕͑Δ
J04൛$IBU(15ΞϓϦ͕ϦϦʔε IUUQTPQFOBJDPNCMPH JOUSPEVDJOHUIFDIBUHQUBQQGPSJPT ِΞϓϦ͕ଟϦϦʔε͞Ε ͍ͯΔͨΊɺඞͣެ͔ࣜΒ "QQTUPSFʹඈ΅͏ɻ
IUUQTPQFOBJDPNXBJUMJTUHQUBQJ IUUQTPQFOBJDPNXBJUMJTUQMVHJOT (15"1*$IBU(15QMVHJOT ͷར༻ॱ൪ͪ
Ќ൛ͰɺQMVHJOػೳ͕͑ΔΑ͏ʹ ϩάΠϯ 4FUUJOHT #FUBGFBUVSFT (15࣌ʹ બՄೳʹ
˞ར༻ʹ0QFO"*αϒεΫඞཁ
#SPXTJOHͰ࠷৽ͷΣϒใΛऔಘ ※ ͯ͢ͷΣϒใʹΞΫηεͰ͖ͣɺ෦ج४ͰɺΞΫηεՄೳͳΣϒαΠτʹ੍ݶ͕͋Δ ※ WebϒϥδϯάϓϥάΠϯͷʮWebPilotʯ͕༏ल͔ɻ ※ Codex: GPT-3ͷೖྗ͘͠ग़ྗ͕ϓϩάϥϛϯάίʔυͰ͋Δ෦ΛऔΓग़ͨ͠code extension model
(PPHMF#BSEͰΣϒใ͑Δ IUUQTCBSEHPPHMFDPN
Σϒݕࡧػೳͷൺֱʹ͍ͭͯ ॲཧ ςΩετͷ ੜਫ਼ DIBU(15(15 ❌ʙ˛ ˕ ʢจੜʣ (PPHMF#BSE ˓
˓ #JOH"*$IBU ˓ ˓
1MVHJOTUPSFͰ ͍ۙ1MVHJOT͕ެ։ ݱࡏ
1PQVMBS1MVHJOT
1SPNQU1FSGFDU ϓϩϯϓτʹ QFSGFDU ͱه ࣮ߦલʹɺ ϓϩϯϓτͷमਖ਼͕ೖΔ
8PMGSBN WolfranͰ༷ʑͳλεΫΛ࣮ߦՄೳ 1. ֶతͳܭࢉ: తͳܭࢉɺඍɺੵ ɺߦྻͷૢ࡞ɺ౷ܭతͳܭࢉͳͲ 2. ཧɺԽֶɺੜֶͳͲͷՊֶతͳ͍ ߹Θͤ: ཧఆͷɺԽֶతͳԠɺ
ੜֶతͳσʔλͳͲɺՊֶతͳใΛ ఏڙ 3. ཧతͳใ 4. ͱ࣌ؒͷܭࢉ 5. ϓϩοτͱάϥϑͷ࡞ 6. WolframݴޠͷίʔυͷධՁ 7. ࣗવݴޠͷΫΤϦͷղऍ:
લճͷৼΓฦΓ $IBU(15͕ۤखͳ͜ͱ
$IBU(15͕ۤखͳ͜ͱ - Ϟσϧͷֶशσʔλ͕2021·Ͱ - هࣄʹͳ͍ͬͯͳ͍ใʢձһαΠτɺҬωλ etcʣʹऑ͍
ࠓޙɺ$IBU(15QMVHJOTͰͷରԠʹظ ࣌ʹฉ͖ฦ͢͜ͱେ $IBU(15͕ۤखͳ͜ͱ - Ϟσϧͷֶशσʔλ͕2021·Ͱ - هࣄʹͳ͍ͬͯͳ͍ใʢձһαΠτɺҬωλ etcʣʹऑ͍
ຊॳͷDIBU(15QMVHJO৯ϩά IUUQTUFDICMPHUBCFMPHDPNFOUSZ fi STUDIBMMFOHFUBCFMPHDIBUHQUQMVHJOEFWMFPQNFOU
ຊॳͷDIBU(15QMVHJO৯ϩά IUUQTUFDICMPHUBCFMPHDPNFOUSZ fi STUDIBMMFOHFUBCFMPHDIBUHQUQMVHJOEFWMFPQNFOU ࣗવݴޠ ϓϩϯϓτ ΛೖྗͰɺ (51ͰΫΤϦ࡞ KTPO
%#ݕࡧ ݕࡧ݁Ռͷϝλσʔλͷऔಘ KTPO औಘใΛͱʹɺ(51Ͱจॻੜ
ࠓͷఏڙ $IBU(15ͷݱঢ়ཧղ લճͷৼΓฦΓ $IBU(51ք۾ͷϲ݄ؒͷΞοϓσʔτ --.ք۾ͷఏڙ ࡶଟ
(155FDIOJDBM3FQPSU IUUQTBSYJWPSHBCT ϓϨϓϦϯτͰςΫχΧϧϨϙʔτެ։ ӳޠΠϯϓοτͰͷੑೳ͕࠷ߴ͍ Ґ
ϓϩϯϓτΤϯδχΞϦϯάྲྀߦΓͦ͏ɻɻɻ ϓϩϯϓτΤϯδχΞϦϯάͱʁ ɾݴޠϞσϧʢLMsʣΛޮతʹ༻͢ΔͨΊͷϓϩϯϓτΛ։ൃ͓ Αͼ࠷దԽ͢Δൺֱత৽ֶ͍͠ɻ ɾϓϩϯϓτΤϯδχΞϦϯάͷεΩϧΛʹ͚ͭΔ͜ͱͰɺେن ݴޠϞσϧʢLLMsʣͷೳྗͱݶքΛΑΓཧղͰ͖Δɻ IUUQTHJUIVCDPNEBJSBJ1SPNQU&OHJOFFSJOH(VJEF ຊޠ൛IUUQTXXXQSPNQUJOHHVJEFBJKQ ӳޠ൛IUUQTXXXQSPNQUJOHHVJEFBJ Prompt
Engineering Guide: dair-ai͕ఏڙ͢ΔϓϩϯϓτΤϯδχΞϦϯάΛֶͿͨΊͷΨΠυɻ
.BHJD IUUQTNBHJDEFWCMPHMUN ѻ͑ΔςΩετͷ͞ GPT3.5: ࠷େ4097 τʔΫϯ GPT4: 32,768 τʔΫϯʢ2ສ5000ޠʣ LTM-1:
ϓϩάϥϛϯ άʹಛԽͨ͠LLM
.BHJD https://www.youtube.com/watch?v=E0YFFhBt8-Y&t=18s
·ͱΊ ɾ $IBU(15ʹ͍ͭͯͷલճͷৼΓฦΓ ɾ ք۾ͷϲ݄ؒͷΞοϓσʔτ