Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
KDDI DIGITAL GATEのLLM事例紹介
Search
sh-tsukamoto
November 06, 2023
Technology
3
880
KDDI DIGITAL GATEのLLM事例紹介
sh-tsukamoto
November 06, 2023
Tweet
Share
Other Decks in Technology
See All in Technology
成長自己責任時代のあるきかた/How to navigate the era of personal responsibility for growth
kwappa
3
230
「AI駆動PO」を考えてみる - 作る速さから価値のスループットへ:検査・適応で未来を開発 / AI-driven product owner. scrummat2025
yosuke_nagai
2
500
職種別ミートアップで社内から盛り上げる アウトプット文化の醸成と関係強化/ #DevRelKaigi
nishiuma
2
130
Optuna DashboardにおけるPLaMo2連携機能の紹介 / PFN LLM セミナー
pfn
PRO
1
830
AI ReadyなData PlatformとしてのAutonomous Databaseアップデート
oracle4engineer
PRO
0
140
後進育成のしくじり〜任せるスキルとリーダーシップの両立〜
matsu0228
4
1.4k
PythonとLLMで挑む、 4コマ漫画の構造化データ化
esuji5
1
130
リーダーになったら未来を語れるようになろう/Speak the Future
sanogemaru
0
240
ACA でMAGI システムを社内で展開しようとした話
mappie_kochi
0
160
神回のメカニズムと再現方法/Mechanisms and Playbook for Kamikai scrumat2025
moriyuya
4
320
DataOpsNight#8_Terragruntを用いたスケーラブルなSnowflakeインフラ管理
roki18d
1
320
それでも私はContextに値を詰めたい | Go Conference 2025 / go conference 2025 fill context
budougumi0617
4
1.1k
Featured
See All Featured
Site-Speed That Sticks
csswizardry
11
870
XXLCSS - How to scale CSS and keep your sanity
sugarenia
248
1.3M
The Illustrated Children's Guide to Kubernetes
chrisshort
48
51k
Become a Pro
speakerdeck
PRO
29
5.5k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
19
1.2k
How STYLIGHT went responsive
nonsquared
100
5.8k
Intergalactic Javascript Robots from Outer Space
tanoku
273
27k
The Art of Programming - Codeland 2020
erikaheidi
56
14k
Code Review Best Practice
trishagee
72
19k
Measuring & Analyzing Core Web Vitals
bluesmoon
9
610
Writing Fast Ruby
sferik
629
62k
Unsuck your backbone
ammeep
671
58k
Transcript
KDDI DIGITAL GATEͷ LLMࣄྫհ 2023/11/02 KDDIגࣜձࣾ ௩ຊ Ұ࿕
ࣗݾհ ௩ຊ Ұ࿕ KDDIגࣜձࣾ KDDI DIGITAL GATEॴଐ ιϑτΣΞΤϯδχΞ • ීஈWEB/ϞόΠϧΞϓϦ։ൃ͕த৺
• ࠷ۙLLMΛ׆༻ͨ͠։ൃଟ͍ͬͯ͘·͢ • ̍ϲ݄લɺAmazon Bedrockͷਖ਼ࣜϦϦʔεͱ΄΅ ಉ࣌͡ظʹ່͕ੜ͠·ͨ͠
KDDI DIGITAL GATEʹ͍ͭͯ σβΠϯࢥߟδϣϒཧΛ༻͍ͨαʔϏεσβΠϯ ΞδϟΠϧ։ൃʹΑΔϓϩμΫτ։ൃɾݕূ Λ௨ͯ͠๏ਓސ٬ͷDXࣄۀ্ཱͪ͛Λαϙʔτ͢Δ৫ ࠷ۙҎԼͷΑ͏ͳ׆ಈʹྗ • ੜAIΛ׆༻ͨ͠ϓϩμΫτ։ൃ •
ࣾ֎ͰͷੜAIษڧձ։࠵
DXਪਐΛ͞Ε͚ͨͲαʔϏεσβΠϯͬͯԿΛ͢Ε͍͍ͷʁͱ͍͏୲ऀ͕ αʔϏεσβΠϯख๏ΛήʔϜײ֮ͰֶΔ Amazon Bedrock࣮ΞϓϦ ʮϏδωεΛͭ͘Ζ͏ʂʯ ུͯ͠ʮϏδͭ͘ʂʯ ※Amazon Bedrock: AWS͕ఏڙ͢ΔੜܥAIαʔϏε
ઌAWSͷهऀձݟͰগ͚ͩ͠հ͞Ε·ͨ͠
Amazon Bedrock࣮ΞϓϦʮϏδͭ͘ʂʯ ࠷ॳʹاըςʔϚΛೖྗ͢Δ͚ͩͰ
Amazon Bedrock࣮ΞϓϦʮϏδͭ͘ʂʯ པ͍͠ϝϯόʔ(LLM)͕δϣϒཧʹ͓͚ΔδϣϒϏδωεΞΠσΞΛෳఏࣔͯ͘͠ΕΔ
Amazon Bedrock࣮ΞϓϦʮϏδͭ͘ʂʯ ఏࣔ͞ΕͨδϣϒϏδωεΞΠσΞΛબͯ͠ਐΊ͍ͯ͘ͱ
Amazon Bedrock࣮ΞϓϦʮϏδͭ͘ʂʯ ࠷ऴతʹΩϟονίϐʔ·Ͱੜͯ͘͠ΕͯɺاըҊͱͯ͠ར༻Մೳ
γεςϜΞʔΩςΫνϟ ϑϩϯτ όοΫΤϯυ AWSͰ݁ʂ Ϟσϧ Anthoropicࣾͷ Claude 2Λར༻
ϓϩϯϓταϯϓϧ """Human: ҎԼͷςʔϚʹ͍ͭͯɺδϣϒཧʹج͍ͮͯδϣϒͷྫΛ4ͭ࡞͠·͢ɻ࡞͢Δδϣϒҙ֎ੑͷ͋ΔྫΛؚΊɺ੍݅ʹ ैͬͯग़ྗ͠·͢ɻ ### ςʔϚ {theme} ### ϑΥʔϚοτ {format_instructions}
### ੍݅ ϑΥʔϚοτʹै͍ɺϑΥʔϚοτ෦ͷΈग़ྗɻ Assistant:"""
Bedrock(Claude 2)ͷྑ͍ͱ͜Ζ • ίετɺճ࣭ͱʹGPT3.5ͱGPT4ͷؒ͘Β͍ ➢ 3.5ͩͱճ࣭͕ෆ͚҆ͩͲɺ4ͩͱίετ͕ߴ͗͢Δͱ͍͏ʹधཁ͕͋Γͦ ͏ • ࠷େτʔΫϯ͕10ສτʔΫϯ ➢
ChatGPT࠷େ3.2ສτʔΫϯ • ଟ͘ͷΤϯδχΞ͕͍׳ΕͨAWSڥͰ݁ͯ͠ϓϩμΫτ։ൃ͕Ͱ͖Δ • LLMܥͷ։ൃͰศརͳLangChainͱΈ߹Θͤͯར༻Մೳ
Bedrock(Claude 2)Λͬͯۤ࿑ͨ͠ • ChatGPTʹ͓͚ΔFunction Callingػೳ͕ݱ࣌Ͱͳ͍ ➢ ΞϓϦʹΈࠐΉࡍLangchainͷύʔαʔͰJSONܗࣜͰฦ٫͞ΕΔΑ͏ʹͨ͠ ➢ Function Callingʹ૬͢Δػೳ͕͋Ε։ൃ͕ͬͱָʹͳΓͦ͏
• Bedrock APIͷԠ͕ฦͬͯ͘Δ·Ͱʹ͕͔͔࣌ؒΔ͜ͱ͕͋Δ ➢ APIͷԠʹ10ඵఔ͔͔Δ ➢ ݁Ռදࣔ͢Δલͷը໘ͰࣄલʹAPIΛόοΫάϥϯυ࣮ߦ͠ɺϢʔβମײͰ API࣮ߦͷ͕ͪ࣌ؒݮΔΑ͏ʹ ➢ Claude 2౦ژϦʔδϣϯͰ͑ΔΑ͏ʹͳΕԠ͕࣌ؒ͘ͳΔ͔ʁ ※ݱ࣌(11/2)Ͱ౦ژϦʔδϣϯະରԠ
Bedrock(Claude 2)Λͬͯۤ࿑ͨ͠ • ChatGPTʹ͓͚ΔFunction Callingػೳ͕ݱ࣌Ͱͳ͍ ➢ ΞϓϦʹΈࠐΉࡍLangchainͷύʔαʔͰJSONܗࣜͰฦ٫͞ΕΔΑ͏ʹͨ͠ ➢ Function Callingʹ૬͢Δػೳ͕͋Ε։ൃ͕ͬͱָʹͳΓͦ͏
• Bedrock APIͷԠ͕ฦͬͯ͘Δ·Ͱʹ͕͔͔࣌ؒΔ͜ͱ͕͋Δ ➢ APIͷԠʹ10ඵఔ͔͔Δ ➢ ݁Ռදࣔ͢Δલͷը໘ͰࣄલʹAPIΛόοΫάϥϯυ࣮ߦ͠ɺϢʔβମײͰ API࣮ߦͷ͕ͪ࣌ؒݮΔΑ͏ʹ ➢ Claude 2౦ژϦʔδϣϯͰ͑ΔΑ͏ʹͳΕԠ͕࣌ؒ͘ͳΔ͔ʁ ※ݱ࣌(11/2)Ͱ౦ژϦʔδϣϯະରԠ ͜ͷลΓ͜Ε͔ΒͲΜͲΜྑ͘ͳ͍ͬͯͣ͘ɻظ͍ͯ͠·͢ʂ
ͦͷଞ։ൃͨ͠ϓϩμΫτΛܰ͘հ
اۀͷ࠷৽ͷۀαϚϦʔΛڭ͑ͯ͘ΕΔʮEyeRʯ ࣾͷӦۀ୲͕ར༻͢Δ͜ͱΛఆ ηΩϡϦςΟʢใ࿙͍͑ʣରࡦ ↳ձ໊ࣾͷೖྗ͚ͩͰ༨ܭͳใΛೖྗͤ͞ͳ͍ GPTͷΧοτΦϑσʔλͷରࡦ ʢGPT3.520219݄·Ͱͷσʔλ͕جͱͳ͍ͬͯΔʣ ↳Bingʹͯ࠷৽HPใΛऔಘ͠αϚϦʔ͢Δ ใͷ͔֬Β͠͞ͷূ໌ ↳αϚϦʔͷجͱͳΔϖʔδͷURLΛදࣔ͢Δ
EyeRγεςϜߏਤ
؆୯ͳ࣭ʹ͑Δ͚ͩͰ໊͋ͩΛ͚ͭͯ͘ΕΔʮNick genieʯ ChatGPTྲྀߦΓͨͯͷࠒʹ3͘Β͍Ͱ࡞ͬͨษڧ༻ϓϩμΫτ