Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
KDDI DIGITAL GATEのLLM事例紹介
Search
sh-tsukamoto
November 06, 2023
Technology
3
880
KDDI DIGITAL GATEのLLM事例紹介
sh-tsukamoto
November 06, 2023
Tweet
Share
Other Decks in Technology
See All in Technology
dbtとAIエージェントを組み合わせて見えたデータ調査の新しい形
10xinc
0
220
Biz職でもDifyでできる! 「触らないAIワークフロー」を実現する方法
igarashikana
7
3.4k
Oracle Base Database Service 技術詳細
oracle4engineer
PRO
14
82k
生成AI時代のPythonセキュリティとガバナンス
abenben
0
140
ハノーファーメッセ2025で見た生成AI活用ユースケース.pdf
hamadakoji
1
470
ソフトウェアエンジニアの生成AI活用と、これから
lycorptech_jp
PRO
0
900
知覚とデザイン
rinchoku
1
590
ブラウザのAPIで Nintendo Switch用の特殊なゲーム用コントローラーを体験型コンテンツに / IoTLT @ストラタシス・ジャパン
you
PRO
0
140
Azureコストと向き合った、4年半のリアル / Four and a half years of dealing with Azure costs
aeonpeople
1
300
AI AgentをLangflowでサクッと作って、1日働かせてみた!
yano13
1
160
Implementing and Evaluating a High-Level Language with WasmGC and the Wasm Component Model: Scala’s Case
tanishiking
0
180
AWS DMS で SQL Server を移行してみた/aws-dms-sql-server-migration
emiki
0
240
Featured
See All Featured
"I'm Feeling Lucky" - Building Great Search Experiences for Today's Users (#IAC19)
danielanewman
230
22k
Why Our Code Smells
bkeepers
PRO
340
57k
Practical Orchestrator
shlominoach
190
11k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
37
2.6k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
12
1.2k
Evolution of real-time – Irina Nazarova, EuRuKo, 2024
irinanazarova
9
1k
Building Better People: How to give real-time feedback that sticks.
wjessup
369
20k
Site-Speed That Sticks
csswizardry
13
930
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
49
3.1k
The Power of CSS Pseudo Elements
geoffreycrofte
80
6k
Into the Great Unknown - MozCon
thekraken
40
2.1k
Agile that works and the tools we love
rasmusluckow
331
21k
Transcript
KDDI DIGITAL GATEͷ LLMࣄྫհ 2023/11/02 KDDIגࣜձࣾ ௩ຊ Ұ࿕
ࣗݾհ ௩ຊ Ұ࿕ KDDIגࣜձࣾ KDDI DIGITAL GATEॴଐ ιϑτΣΞΤϯδχΞ • ීஈWEB/ϞόΠϧΞϓϦ։ൃ͕த৺
• ࠷ۙLLMΛ׆༻ͨ͠։ൃଟ͍ͬͯ͘·͢ • ̍ϲ݄લɺAmazon Bedrockͷਖ਼ࣜϦϦʔεͱ΄΅ ಉ࣌͡ظʹ່͕ੜ͠·ͨ͠
KDDI DIGITAL GATEʹ͍ͭͯ σβΠϯࢥߟδϣϒཧΛ༻͍ͨαʔϏεσβΠϯ ΞδϟΠϧ։ൃʹΑΔϓϩμΫτ։ൃɾݕূ Λ௨ͯ͠๏ਓސ٬ͷDXࣄۀ্ཱͪ͛Λαϙʔτ͢Δ৫ ࠷ۙҎԼͷΑ͏ͳ׆ಈʹྗ • ੜAIΛ׆༻ͨ͠ϓϩμΫτ։ൃ •
ࣾ֎ͰͷੜAIษڧձ։࠵
DXਪਐΛ͞Ε͚ͨͲαʔϏεσβΠϯͬͯԿΛ͢Ε͍͍ͷʁͱ͍͏୲ऀ͕ αʔϏεσβΠϯख๏ΛήʔϜײ֮ͰֶΔ Amazon Bedrock࣮ΞϓϦ ʮϏδωεΛͭ͘Ζ͏ʂʯ ུͯ͠ʮϏδͭ͘ʂʯ ※Amazon Bedrock: AWS͕ఏڙ͢ΔੜܥAIαʔϏε
ઌAWSͷهऀձݟͰগ͚ͩ͠հ͞Ε·ͨ͠
Amazon Bedrock࣮ΞϓϦʮϏδͭ͘ʂʯ ࠷ॳʹاըςʔϚΛೖྗ͢Δ͚ͩͰ
Amazon Bedrock࣮ΞϓϦʮϏδͭ͘ʂʯ པ͍͠ϝϯόʔ(LLM)͕δϣϒཧʹ͓͚ΔδϣϒϏδωεΞΠσΞΛෳఏࣔͯ͘͠ΕΔ
Amazon Bedrock࣮ΞϓϦʮϏδͭ͘ʂʯ ఏࣔ͞ΕͨδϣϒϏδωεΞΠσΞΛબͯ͠ਐΊ͍ͯ͘ͱ
Amazon Bedrock࣮ΞϓϦʮϏδͭ͘ʂʯ ࠷ऴతʹΩϟονίϐʔ·Ͱੜͯ͘͠ΕͯɺاըҊͱͯ͠ར༻Մೳ
γεςϜΞʔΩςΫνϟ ϑϩϯτ όοΫΤϯυ AWSͰ݁ʂ Ϟσϧ Anthoropicࣾͷ Claude 2Λར༻
ϓϩϯϓταϯϓϧ """Human: ҎԼͷςʔϚʹ͍ͭͯɺδϣϒཧʹج͍ͮͯδϣϒͷྫΛ4ͭ࡞͠·͢ɻ࡞͢Δδϣϒҙ֎ੑͷ͋ΔྫΛؚΊɺ੍݅ʹ ैͬͯग़ྗ͠·͢ɻ ### ςʔϚ {theme} ### ϑΥʔϚοτ {format_instructions}
### ੍݅ ϑΥʔϚοτʹै͍ɺϑΥʔϚοτ෦ͷΈग़ྗɻ Assistant:"""
Bedrock(Claude 2)ͷྑ͍ͱ͜Ζ • ίετɺճ࣭ͱʹGPT3.5ͱGPT4ͷؒ͘Β͍ ➢ 3.5ͩͱճ࣭͕ෆ͚҆ͩͲɺ4ͩͱίετ͕ߴ͗͢Δͱ͍͏ʹधཁ͕͋Γͦ ͏ • ࠷େτʔΫϯ͕10ສτʔΫϯ ➢
ChatGPT࠷େ3.2ສτʔΫϯ • ଟ͘ͷΤϯδχΞ͕͍׳ΕͨAWSڥͰ݁ͯ͠ϓϩμΫτ։ൃ͕Ͱ͖Δ • LLMܥͷ։ൃͰศརͳLangChainͱΈ߹Θͤͯར༻Մೳ
Bedrock(Claude 2)Λͬͯۤ࿑ͨ͠ • ChatGPTʹ͓͚ΔFunction Callingػೳ͕ݱ࣌Ͱͳ͍ ➢ ΞϓϦʹΈࠐΉࡍLangchainͷύʔαʔͰJSONܗࣜͰฦ٫͞ΕΔΑ͏ʹͨ͠ ➢ Function Callingʹ૬͢Δػೳ͕͋Ε։ൃ͕ͬͱָʹͳΓͦ͏
• Bedrock APIͷԠ͕ฦͬͯ͘Δ·Ͱʹ͕͔͔࣌ؒΔ͜ͱ͕͋Δ ➢ APIͷԠʹ10ඵఔ͔͔Δ ➢ ݁Ռදࣔ͢Δલͷը໘ͰࣄલʹAPIΛόοΫάϥϯυ࣮ߦ͠ɺϢʔβମײͰ API࣮ߦͷ͕ͪ࣌ؒݮΔΑ͏ʹ ➢ Claude 2౦ژϦʔδϣϯͰ͑ΔΑ͏ʹͳΕԠ͕࣌ؒ͘ͳΔ͔ʁ ※ݱ࣌(11/2)Ͱ౦ژϦʔδϣϯະରԠ
Bedrock(Claude 2)Λͬͯۤ࿑ͨ͠ • ChatGPTʹ͓͚ΔFunction Callingػೳ͕ݱ࣌Ͱͳ͍ ➢ ΞϓϦʹΈࠐΉࡍLangchainͷύʔαʔͰJSONܗࣜͰฦ٫͞ΕΔΑ͏ʹͨ͠ ➢ Function Callingʹ૬͢Δػೳ͕͋Ε։ൃ͕ͬͱָʹͳΓͦ͏
• Bedrock APIͷԠ͕ฦͬͯ͘Δ·Ͱʹ͕͔͔࣌ؒΔ͜ͱ͕͋Δ ➢ APIͷԠʹ10ඵఔ͔͔Δ ➢ ݁Ռදࣔ͢Δલͷը໘ͰࣄલʹAPIΛόοΫάϥϯυ࣮ߦ͠ɺϢʔβମײͰ API࣮ߦͷ͕ͪ࣌ؒݮΔΑ͏ʹ ➢ Claude 2౦ژϦʔδϣϯͰ͑ΔΑ͏ʹͳΕԠ͕࣌ؒ͘ͳΔ͔ʁ ※ݱ࣌(11/2)Ͱ౦ژϦʔδϣϯະରԠ ͜ͷลΓ͜Ε͔ΒͲΜͲΜྑ͘ͳ͍ͬͯͣ͘ɻظ͍ͯ͠·͢ʂ
ͦͷଞ։ൃͨ͠ϓϩμΫτΛܰ͘հ
اۀͷ࠷৽ͷۀαϚϦʔΛڭ͑ͯ͘ΕΔʮEyeRʯ ࣾͷӦۀ୲͕ར༻͢Δ͜ͱΛఆ ηΩϡϦςΟʢใ࿙͍͑ʣରࡦ ↳ձ໊ࣾͷೖྗ͚ͩͰ༨ܭͳใΛೖྗͤ͞ͳ͍ GPTͷΧοτΦϑσʔλͷରࡦ ʢGPT3.520219݄·Ͱͷσʔλ͕جͱͳ͍ͬͯΔʣ ↳Bingʹͯ࠷৽HPใΛऔಘ͠αϚϦʔ͢Δ ใͷ͔֬Β͠͞ͷূ໌ ↳αϚϦʔͷجͱͳΔϖʔδͷURLΛදࣔ͢Δ
EyeRγεςϜߏਤ
؆୯ͳ࣭ʹ͑Δ͚ͩͰ໊͋ͩΛ͚ͭͯ͘ΕΔʮNick genieʯ ChatGPTྲྀߦΓͨͯͷࠒʹ3͘Β͍Ͱ࡞ͬͨษڧ༻ϓϩμΫτ