Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
[LT]クールなLLMアプリをつくるのは簡単だが本番リリースするのは大変だという話/LLM Engineering
Search
吉田真吾
June 16, 2023
Technology
1
1.3k
[LT]クールなLLMアプリをつくるのは簡単だが本番リリースするのは大変だという話/LLM Engineering
2023.6.16 ChatGPT Meetup #3 で発表したLT資料です。
吉田真吾
June 16, 2023
Tweet
Share
More Decks by 吉田真吾
See All by 吉田真吾
OCI Generative AI Serviceの話/20240222
yoshidashingo
0
82
ChatGPTでちゃんと成果を出していく/20240215
yoshidashingo
1
1.8k
この先を生き残るために!!「生存戦略としてのLLMアプリ開発技術」/20240124_PE-BANK
yoshidashingo
0
52
LangChainとフルサーバーレスですばやくセキュアなRAGアプリをつくるための実践解説/LangChain_Book
yoshidashingo
8
3.8k
生成AIで本番アプリをリリースするためのAWS, LangChain, ベクターデータベース実践入門 / LangChain-Bedrock
yoshidashingo
1
890
LLM App with Momento
yoshidashingo
0
180
AWSでLLMアプリをつくろう / LLM App on AWS
yoshidashingo
0
480
Azure OpenAIをもちいたLLMアプリの企画から本番構築までの道のり/Microsoft Build Japan
yoshidashingo
8
8.5k
RAGアプリにおけるプロンプトとtemperatureの応答品質への影響ほんとのところ/the real case about temperature and template language
yoshidashingo
0
730
Other Decks in Technology
See All in Technology
IaCからAWSに入門した初心者が CloudFormationを通して考えた「AWS操作」の使い分け
maimyyym
1
110
.NET Profiler in 2024.
kkamegawa
2
1.6k
Google Cloud Next '24 Recap(Cloud Run/k8s)
mokocm
0
340
Next.js に疲れた私は Vue3 に癒やされた
akagire
0
140
IaCジェネレーターとBedrockで詳細設計書を生成してみた
tsukasa_ishimaru
4
890
AWS学習者向けにAzureの解説スライドを作成した話
handy
3
200
2024春 注目のWeb系 OSS & SaaS 3選
makies
0
180
成長をサポートするピープルマネジメントのやり方
sioncojp
9
1.2k
自己改善からチームを動かす! 「セルフエンジニアリングマネージャー」のすゝめ
shoota
6
1k
チームでロジカルシンキングに改めて向き合っている話 〜学習環境と実践⽅法〜
sansantech
PRO
3
3.3k
MapLibreとAmazon Location Service
dayjournal
1
190
GrafanaMeetup_AmazonManagedGrafanaのアクセス制御機能とマルチテナント環境下でのアクセス制御について
daitak
0
400
Featured
See All Featured
Web Components: a chance to create the future
zenorocha
306
41k
Faster Mobile Websites
deanohume
300
30k
Practical Orchestrator
shlominoach
183
9.7k
Designing with Data
zakiwarfel
96
4.8k
Become a Pro
speakerdeck
PRO
13
4.6k
Building Applications with DynamoDB
mza
88
5.6k
How To Stay Up To Date on Web Technology
chriscoyier
782
250k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
8
1.3k
Design by the Numbers
sachag
274
18k
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
221
21k
Optimising Largest Contentful Paint
csswizardry
12
2.4k
The Invisible Customer
myddelton
114
12k
Transcript
#ChatGPTjp #3 ChatGPT Meetup Tokyo LLM @yoshidashingo
3"( 3FUSJFWBM"VHNFOUFE(FOFSBUJPOݕࡧ֦ுੜ ʮ$:%"41&01-&ʯʹɺࣾһ͔Βͷ͍߹ΘͤʹࣗಈͰ͑Δ$IBU(15ػೳʮ$:%"41&01-&$PQJMPU$IBUʯ https://www.cydas.co.jp/news/press/202304_people-gpt/
⾃社のFAQをベクターデータ化 ChatGPTで回答に利⽤ ਓࣄ'"2ˍ͍߹ΘͤཤྺΛϕΫλʔσʔλԽ
σϞ
ຊ൪༻ͷ--.ΞϓϦέʔγϣϯΛͭ͘Δ --.ͰΫʔϧͳͷΛ࡞Δͷ؆୯͕ͩຊ൪ϨϕϧͷͷΛ࡞Δͷඇৗʹ͍͠ ՝ͱղܾࡦ ࣗવݴޠͷ͍͋·͍͞ ܾఆతͰͳ͍)ʹΑΔ69ෆ߹ ˠ UFNQFSBUVSFɺϓϩϯϓτ࠷ద Խɾόʔδϣχϯάཧ
ίετͱϨΠςϯγʔ ˠਪʹ͏ϞσϧબఆɺτʔΫϯͷௐɺ ݱঢ় ϨΠςϯ γʔղੳ ϓϩϯϓςΟϯά ϑΝΠϯνϡʔχϯά ͦΕҎ֎ • ϓϩϯϓτνϡʔχϯάɿ&NCFEEJOHTΛೖΕସ͑Δ 044ͰͷΈՄೳ • ϑΝΠϯνϡʔχϯάɿλεΫʹ࠷దԽͤ͞ΔͨΊͷαϯϓϧ͕ੑೳʹӨڹˠ͕ɺ͋·ΓظͰ͖ͳ͍ • ৠཹϑΝΠϯνϡʔχϯάɿ5FYUEBWJODJ େ Ͱ--B." খ ͷνϡʔχϯάʹ͏ˠ"MQBDB খ • &NCFEEJOHT ϕΫλʔετΞɿ'FXTIPUT ޙํޓੑͱલํޓੑ • ৽͍͠Ϟσϧશମతʹ༏ΕͯΔ͔͠Εͳ͍͕ɺྼ͍ͬͯΔϢʔεέʔε͋Δͣ • લͷϞσϧʹରͯ͠͏·͘ಈ͍͍ͯͨϓϩϯϓτ͕͏·͘ಈ͔ͳ͍߹ɺͲΜͳҙਤͰϓϩϯϓτ͕νϡʔ χϯά͞Ε͍ͯΔ͔ ढจ όουϓϥΫςΟε Θ͔Βͳ͘ͳΔ IUUQTIVZFODIJQDPNMMNFOHJOFFSJOHIUNM
ຊ൪༻ͷ--.ΞϓϦέʔγϣϯΛͭ͘Δ ෳͷλεΫͰ੍ޚ͞ΕΔϑϩʔߏΛͲ͏͢Δ͔ɺπʔϧͷΈࠐΈ • ϓϩάϥϛϯάʹΑΔ੍ޚϑϩʔͷ࣮ • --.ΤʔδΣϯτʹΑΔஞ੍࣍ޚ ༗ͳϢʔεέʔε •
"*ΞγελϯτɿεέδϡʔϧཧɺϝϞ࡞ɺϖΞϓϩɺϝʔϧରԠɺ༧ɺങ͍ λεΫΛ͜ͳ͢ • νϟοτCPUɿίϯύχΦϯ จࣈԻͰ૬ஊΞΠσΞͳͲͷձ • ϓϩάϥϛϯάήʔϜɿ8FCΞϓϦΛͭ͘ΔɺηΩϡϦςΟͷڴҖΛൃݟ͢ΔɺήʔϜΛ࡞͢Δ • ϥʔχϯάɿຊͷཁɺߨٛɺཧղςετɺ࠾ϑΟʔυόοΫɺσΟϕʔτ૬ख • ࣾσʔλநग़ɿࣗવݴޠ2"ܗࣜͰࣾͷσʔλΛরձ͢Δ • ݕࡧɾਪનɿΩʔϫʔυͰͳࣗ͘વݴޠ͔Βਪఆ͢Δݕࡧ • ӦۀޮΞοϓ • 4&0ରࡦ • ݁ એจ۟Λແࢹͯ͠ϲ݄ޙʹఆணͯ͠Δ͔֬ೝ͢Δ αϚϦʔΛಡΉ ࠷৽ͷπʔϧʹ৮ΕΔΑ͏ʹ৺͕͚Δ IUUQTIVZFODIJQDPNMMNFOHJOFFSJOHIUNM
None
None
None
બఆཧ༝
Microsoft Build 2023 で発表された Cosmos DB 注⽬アップデート https://speakerdeck.com/miyake/microsoft-build-2023-cosmos-db-update?slide=9
$PTNPT%#WT$PHOJUJWF4FBSDI "[VSF$PTNPT%#GPS .POHP%#W$PSF $PHOJUJWF4FBSDIXJUI $PTNPT%##MPC4UPSBHF
$PTNPT%#WT$PHOJUJWF4FBSDI "[VSF$PTNPT%#GPS .POHP%#W$PSF $PHOJUJWF4FBSDIXJUI $PTNPT%##MPC4UPSBHF
$PTNPT%#WT$PHOJUJWF4FBSDI "[VSF$PTNPT%#GPS .POHP%#W$PSF $PHOJUJWF4FBSDIXJUI $PTNPT%##MPC4UPSBHF \ TDPSF IJHIMJHIUTVOEFGJOFE EPDVNFOU\ DPOUFOU͋͋͋͋͋͋͋͋͋͋͋͋͋
NFUBEBUB@TUPSBHF@QBUIYYYYYYYYYY ^ ^ \ TDPSF IJHIMJHIUTVOEFGJOFE EPDVNFOU\ DPOUFOUb͍͍͍͍͍͍͍͍͍͍͍͍͍ NFUBEBUB@TUPSBHF@QBUIYYYYYYYYYYYY ^ ^ \ @JEOFX0CKFDU*E FGCCBCGCF DPOUFOUb࣭ʹؔ࿈ͨ͠ίϯςϯπ͕ͳͯ͘ΉΓΓฦͯ͠͠·͏ؔ ͳ͍ίϯςϯπ WFDUPS$POUFOU< தུʜ࣍ݩશ෦ NPSFJUFNT > ^
None
࣭อূ • Ϣχοτςετɿඞਢ • ηΩϡϦςΟɿ8"'ωοτϫʔΫઃఆ • ҆શੑɿ.PEFSBUJPOɺࣄલνΣοΫɺݸਓใػີใͷೖྗ νΣοΫɺఢରతϓϩϯϓτࢭɺ • ಁ໌ੑɿࢀরݩใ
• ެฏੑɿόΠΞεͷআڈ1SPNQU5FNQMBUFͰͷ;Δ·͍ࢦఆ • ੑೳɿϩάɺ"1.ࢹ • Ԡ࣭ɿϦάϨογϣϯςετɺલॲཧ ςΩετɺཁ • ਖ਼֬ੑɿ"*ʹΑΔճੜσΟεΫϨʔϚʔɺΘ͔Βͳ͍ͱ͖Θ͔Β ͳ͍ͱ͑ͤ͞Δ1SPNQU5FNQMBUF • ݖݶɿςφϯτͷ0/ઃఆ ΦϓτΠϯ ɺจॻΞοϓϩʔυݖݶ
Day1 (6/27) 17:00-17:30 LLM Azure OpenAI Cosmos DB LLM