Tweet
Tweet

Slide 1

Slide 1 text

͜ͷઌΛੜ͖࢒ΔͨΊʹ ʮੜଘઓུͱͯ͠ͷ--.ΞϓϦ։ൃٕज़ʯ גࣜձࣾηΫγϣϯφΠϯ ୅දऔక໾$50 ٢ాਅޗ

Slide 2

Slide 2 text

吉田真吾 n バックグラウンド 証券システム基盤開発 p基盤システム開発、Oracleチューニング エバンジェリスト‧SA p講演113回/年 pAWS設計‧構築‧移⾏ pエバンジェリスト‧SA スタートアップCTO pタレントマネジメントSaaS 開発‧運⽤ n 現在のしごと (株) セクションナイン 代表取締役 pAWS、DevOps、サーバーレス開発 n 実績等 pAWSウルトラクイズ 初代チャンピオン (2012年) pAWS Samurai 2014 / 2016 pAWS Serverless Hero

Slide 3

Slide 3 text

23-24 SEPTEMBER T okyo 2023 Three Tracks. Two Days. One Community

Slide 4

Slide 4 text

Meetup #ChatGPTjp ChatGPT Tokyo 出版記念

Slide 5

Slide 5 text

ੜ੒"* (FOFSBUJWF"* େྔͷςΩετͰτϨʔχϯά͞Εɺจষ಺ͷ࣍ͷ୯ޠΛ༧ଌ͢Δେن໛ ݴޠϞσϧ --. ͳͲΛར༻͢Δɻ "*ͷҰछɻ ੜ੒"*ͷ୅දతͳྫ ࣗવݴޠੜ੒ /-1 /-( $IBU(15ͷΑ͏ʹɺ͔͋ͨ΋ਓ͕ؒੜ੒ ͔ͨ͠ͷΑ͏ͳจষΛੜ੒͢Δٕज़ɻ෺ޠ΍اըͷੜ੒ɺνϟοτ Ϙοτͱͷର࿩ɺ&ϝʔϧͷ࡞੒ͳͲͷ༻్Ͱར༻Ͱ͖Δ ը૾ੜ੒ ("/ (FOFSBUJWF"EWFSTBM/FUXPSL ͳͲͰೖྗΛݩʹ৽ ͍͠ը૾Λੜ੒͢Δٕज़ ࣗવݴޠ͔Βը૾Λੜ੒ͨ͠Γɺݴޠͱը૾Λੜ੒͢ΔϚϧνϞʔ μϧͳϞσϧ΋͋Δ ج൫ϞσϧͷਐԽ • 5SBOTGPSNFS "UUFOUJPO*T"MM:PV/FFEɿBS9JW ͔Β (15·Ͱ • ϩʔΧϧ--.)VHHJOH'BDF $JWJU"* "*Ϟσϧ൛ͷ(JU)VC(JUMBC • ج൫Ϟσϧͷ։ൃʹ͸਺ेԯن໛͔͔Δ

Slide 6

Slide 6 text

$IBU(15ڰ૝ۂ ೥݄೔ 0QFO"*͕ࣾ$IBU(15ΛϦϦʔε • ର࿩ମݧͷੑೳ͕ߴ͍ͱ࿩୊ • िؒˠສϢʔβʔ ϲ݄ˠԯϢʔβʔ • (15ԯύϥϝʔλʔ ೥݄·Ͱ • (PPHMFඇৗࣄଶએݴ • .JDSPTPGUఏܞ Πϯϑϥఏڙ CJOH΁ͷ૊ΈࠐΈ ೥݄೔ $IBU(15 "1*ΛϦϦʔε • UFYUEBWJODJͷͷίετͰར༻Ͱ͖Δ HQUUVSCP • CPU΍ΞϓϦͳͲͷϒʔϜ ೥݄೔ (15ΛϦϦʔε • ஹݸ ࣗশ ͷύϥϝʔλ਺ • ϚϧνϞʔμϧػೳ ςΩετը૾ͳͲ ˞ະఏڙ

Slide 7

Slide 7 text

ੜ੒"*ͰͰ͖Δ͜ͱ 事業企画アシスタント 1on1相手 コード生成 最新のマーケットリサーチ

Slide 8

Slide 8 text

$IBU(15ͷϞσϧͷֶशํ๏ 3-)' https://openai.com/blog/chatgpt

Slide 9

Slide 9 text

--.׆༻ɿ೥;Γ͔͑Γ #$ ফඅऀ ## Ϗδωε׆༻ $IBU(15ϒʔϜ • ۀ຿ޮ཰Խ • ݕࡧͷ୅ସ • Ξγελϯτ FUDʜ "*ΩϟϥΫλʔ • "*൴ঁ • "*5VCFS • -JWF% 7PJDFWPYʜ ࣾ಺׆༻ • ࣾ಺$IBU(15 • ʴηΩϡϦςΟˍΨόφϯε • ࣾ಺φϨοδͷ3"(׆༻ • ࣾ಺υΩϡϝϯτΠϯσοΫε αʔϏεج൫ • αʔϏε಺ͷ3"(׆༻ • 2" • ΠϯαΠτੜ੒ • $IBU2VFSZ

Slide 10

Slide 10 text

⾃社のFAQをベクターデータ化 ChatGPTで回答に利⽤ ਓࣄ'"2ʴ໰͍߹ΘͤཤྺͰ3"(

Slide 11

Slide 11 text

For NoSQL

Slide 12

Slide 12 text

--.׆༻ɿ೥;Γ͔͑Γ • ϏδωεΞϓϦͷ੒ޭऀͷෆࡏ • ηϛφʔ΍ࣾ಺$IBU(15 ͭΔ͸͠ചΓ ͘Β͍ • ׆༻࣮ײࣗମ͸ͱͯ΋ߴ͍ • POΞγελϯτͰຖ೔ʮนଧͪܕͷᛉ૝ʯ • ͜ͷϓϨθϯ΋Ұ൪࣌ؒͷ͔͔ΔΞ΢τϥΠϯ࡞੒͸$IBU(15ʹ·͔ ͤͯ෼ͰͰ͖ͨ • $IBU(15ΞϓϦ͕υϥΠϒͷ࿩͠૬ख • ະདྷ 5P#F ͱݱࡏ "T*T ͷࠩ෼ΛͲ͏ຒΊΔ͔ ਖ਼͘͠5P#FΛఆٛ͢Δ ਖ਼͘͠"T*TΛͱΒ͑Δ ద੾ʹొ͍ͬͯ͘

Slide 13

Slide 13 text

https://chatgpt.connpass.com/event/307586/

Slide 14

Slide 14 text

τϥϯβΫγϣϯՁ஋ˢ ઐ໳ੑˢ τʔΫϯ૿ʗίετ௿ˠ ࣌ؒ࣠ˠ RAG / チャットボット エージェント / 外部実⾏性能 専⾨性⾼いがシットジョブが多い領域 ⾃⽴業務エージェント (RAG,CodeInterpreter,etc…) AIキャラクター 営業提案書⽣成＋レビュー 監査調書⽣成＋レビュー 特許申請⽣成＋レビュー AIキャバクラ AITuber 受注活動計画/通知設定 スケジュール調整 再現性 ਖ਼͘͠5P#FΛఆٛ͢Δ

Slide 15

Slide 15 text

ਖ਼͘͠"T*TΛͱΒ͑Δ • े෼ͳ౤ࢿΛ४උ͍ͯ͠Δݱ৔͸͞΄Ͳଟ͘ͳ͍ • lࣄۀߩݙzΛϕʔεʹยखؒʹ--.z΋z΍Β͟ΔΛಘͳ͍ • ద༻ՄೳͳϢʔεέʔεࣗମʹؾ͍ͮͯͳ͍ݱ৔͕େ൒Ͱ͋Δ • ٕज़ଆͷϘτϜΞοϓʹ͸ݶք͋Γ • اը΋ίϥϘϨʔγϣϯ͕؊ اըͱٕज़ݟۃΊΛ͢͹΍͘ճ͢ඞཁ • ͢΂ͯͷγνϡΤʔγϣϯʹ"*ΤʔδΣϯτɺͱͳΔʹ͸·ͩ ٕज़తͳགྷΓ৔͕Կճ͔͋Γͦ͏ • ͋ͨΓͷΤʔδΣϯτϒʔϜ ˠ ग़དྷ͸͍·͍ͪ • ݱࡏͷ՝୊ • ೖྗϓϩϯϓτʹΑΔݸਓ৘ใɺػີ৘ใͷྲྀग़͕౰ͨΓલʹى͖ͯ ͍Δ • --.ಛԽͳ߈ܸ τʔΫϯফඅ߈ܸɺϞσϧ%P4ɺϥΠϒϥϦ੬ऑੑ ͕૿͑Δ • --.ੑೳͷධՁ͸ϦʔμʔϘʔυ͕͋Δ͕ɺΞϓϦϨϕϧͰͷධՁํ ๏ཱ͕͍֬ͯ͠ͳ͍ ˠ มߋ͝ͱʹ໨ݕ֬ೝ

Slide 16

Slide 16 text

ਅͷʮ"*ͷຽओԽʯʹඞཁͳίϥϘϨʔγϣϯ "*.-ΤϯδχΞ • --.ͷ࢓૊Έ΍࠷৽৘ใɺຊ൪ӡ༻ʹ޲͚ͨϊ΢ϋ΢΍νϡʔχϯά ͳͲɺσϦόϦʔʹ޲͚ͯඞཁͳέΠύϏϦςΟ ΞϓϦέʔγϣϯΤϯδχΞ • --.ٕज़Λ࣮ࡍʹϑϩϯτΤϯυ΍Πϯϑϥ্ʹߏங͠ɺ$*$%ύΠ ϓϥΠϯʹࡌͤͯܧଓతʹσϦόϦʔ͢ΔͨΊʹඞཁͳέΠύϏϦ ςΟ υϝΠϯΤΩεύʔτ • ֤υϝΠϯͰ༗ޮͳϢʔεέʔεΛݟ͚ͭͯίϯϓϥΠΞϯεɺϓϥ ΠόγʔอޢͳͲʹਫ਼௨͍ͯ͠Δ

Slide 17

Slide 17 text

ద੾ͳొΓ͔ͨ • υϝΠϯΤΩεύʔτʴΞϓϦ։ൃऀʴ.-ΤϯδχΞͷڠۀ • Ϣʔεέʔε͝ͱͷࣄۀߩݙ౓ͷࢉग़ • ͢͹΍͍࣮ݱੑͷݕূɺσϞ࣮૷ • ٕज़తΞϓϩʔνͷϨϕϧΞοϓ • 69ݕূɺηΩϡϦςΟݕূɺίϯϓϥΠΞϯεݕূ • ΨΠυϥΠϯͷࡦఆ • औΓѻ͍σʔλ͝ͱͷϦεΫ؅ཧ • ϨϏϡʔମ੍ͷઃஔ • ౤ࢿܭըͷࡦఆ • ࣄۀϦεΫͱͷ݉Ͷ߹͍ • ૊৫ͷέΠύϏϦςΟͷௐ੔

Slide 18

Slide 18 text

Ϣʔεέʔεൃݟʲ)3ྖҬʳ ઓུɾاըཱҊɾϦαʔν • ࣗࣾͷڧΈͱۀքಛੑΛ׆͔ ͨ͠اըͷཱҊ • ਓࡐ։ൃɾ૊৫։ൃख๏ͷϦ αʔν ࠾༻ • ໾ׂʹ͓͚Δ༏ल૚ͷεΩϧͷಛ ఆ • δϣϒσΟεΫϦϓγϣϯͷ࡞੒ • ߏ଄Խ໘઀ͰݟۃΊ͍ͨࣄ߲ͱޮ Ռతͳ࣭໰ͷྫ • ৬छ͝ͱͷࣗࣾͷૌٻϙΠϯτͷ ໌֬Խ • άϨʔυͷఆٛ • .77ͷఆٛ • ෱རްੜͷاը

Slide 19

Slide 19 text

Ϣʔεέʔεൃݟʲ)3ྖҬʳ ҭ੒ • ΦϯϘʔσΟϯάϓϩηεͷ໌ ֬Խ • νʔϜͮ͘Γɾҭ੒ܭըͷஈऔ Γʹ͍ͭͯͷΞΠσΞग़͠ • Τϯήʔδϝϯτ޲্ࡦͷ૬ஊ • ؔ܎ੑߏஙɾ޲্ͷ૬ஊ • ෦Լͷҭ੒ํ๏ͷ૬ஊ • POͷนଧͪ૬ख • ैۀһຊਓͷΩϟϦΞ૬ஊ • ಛఆεΩϧͷҭ੒ํ๏ • νʔϜ಺Ͱͷ໾ׂ෼୲ɾ଍Γͳ ͍ೳྗͷͷ໌֬Խ ධՁ • ໨ඪ؅ཧํ๏ .#0 0,3 ౓ͳͲ ʜ ͷ૬ஊ • શࣾɺ໾৬ɺ෦ॺ͝ͱͷධՁ࣠ʹͭ ͍ͯͷ૬ஊ • ίʔνͷ෼୲ʹ͍ͭͯͷ૬ஊ • Ξηεϝϯτʹ͍ͭͯͷ૬ஊ

Slide 20

Slide 20 text

No content

Slide 21

Slide 21 text

Ϣʔεέʔεൃݟʲ)3ྖҬʳ ഑ஔ • δϣϒϩʔςʔγϣϯاըͷ ૬ஊ • ഑ஔస׵ͷ૬ஊ • ଺ཹऀͷԣҠಈʹ͓͚Δྨࣅ ໾ׂͷ૬ஊ • ؔ܎ੑߏஙͷίʔνϯάࢧԉ ཭৬๷ࢭ • ཭৬๷ࢭࡦͷ૬ஊ • ηϯνϝϯτ෼ੳ • ΤϯήʔδϝϯταʔϕΠͷ୯೥ ౓܏޲ɾܦ೥มԽͷಛఆ

Slide 22

Slide 22 text

ϢʔεέʔεൃݟͷΩϞ • ࣾ಺$IBU(15Ͱ·ͣ͸े෼ • ʰϓϩϯϓτΛ޻෉͢ΔʱઌਐతͳϢʔβʔ͕ॏཁ • اը΋ۀ຿׆༻΋ʰྑ͍ϓϩϯϓτʱ͔Β࢝·Δ • ϓϩϯϓτͷ޻෉ΑΓ΋ར༻͠΍͘͢͢΂͖Ϣʔεέʔε͕͋ Ε͹ಠࣗ։ൃΛ͢Δ • ࣾ಺φϨοδʹ3"(Ͱͭͳ͍Ͱ஌ࣝΛάϥ΢ϯσΟϯάͯ͠2"΍Ϩ ϙʔτΛ͍ͨ͠৔߹ • ਓࣄ'"2Ϙοτɺैۀһʹ͍ͭͯ౴͑ΔɺطଘैۀһͷϓϩϑΟʔϧ Λ׆͔ͨ͠+PC%FTDSJQUJPOͷੜ੒ FUDʜ

Slide 23

Slide 23 text

Ϣʔβʔମݧ ˙Α͍ମݧͷ࠷େԽ ü ྑ͍ࣄྫɿ,JOEMFΛىಈͨ͠Βߪಡͯ͠Δ΋ͷͷ৽ץ͕Ҋ಺͞ΕͨΓɺອըΛങͬͨΒࣅͨͪΐ͏Ͳཉ͠ ͍ͱࢥ͑Δॻ੶͕Ϩίϝϯυ͞ΕΔ ü ѱ͍ࣄྫɿ5XJUUFS΍ϝσΟΞͷόφʔʗλʔήοτ޿ࠂ ଐੑऔͬͯΔͷʹΰϛ͹͔Γԡ͚ͭͯ͘͠Δ ˙ྑ͍ମݧͷ࠷େԽ͚ͩͰ͸ͳ͍ FYۈଵγεςϜͰ"*Λ׆༻͢Δ৔߹ ❌ମݧͷ࠷େԽɿεϚϗͰλοϓ͔ͭඵͰଧࠁͰ͖Δ͜ͱ ⭕ମݧͷಁ໌Խɿଧࠁ͕Ϣʔβʔͷओۀ຿Ͱ͸ͳ͍ɻΦϑΟεʹண͍ͨΓՈͰ1$։͚ͨΒଧࠁ͞ΕΔ͜ͱ ˙छྨͷϢʔβʔମݧ ௧ΈΛղܾ͢ΔϢʔεέʔε ྑ͍ମݧΛ࠷େԽ͢ΔϢʔεέʔε ମݧΛಁ໌Խ͢ΔϢʔεέʔε

Slide 24

Slide 24 text

ࣗࣾ޲͚ͷੜ੒"*ͷར༻ΨΠυϥΠϯ https://www.jdla.org/document/#ai-guideline

Slide 25

Slide 25 text

ࣗࣾ޲͚ͷੜ੒"*ͷར༻ΨΠυϥΠϯ • ੜ੒"*ར༻ΨΠυϥΠϯ αΠμεࣾ • +%-"ͷੜ੒"*ར༻ΨΠυϥΠϯΛςϯϓϨʔ τͱͯ͠࡞੒ɾެ։ࡁΈʲެ։ʳ • ཁ఺ ͓٬༷ͷݸਓ৘ใΛੜ੒"*ʹೖྗ͠ͳ͍ '"2σʔλͳͲݸਓ৘ใҎ֎ͷൿີ৘ใ͸͓ ٬༷͝ͱʹڐՄΛͱ্ͬͨͰར༻͢Δ • ࣮༻্ͷΨʔυϨʔϧߏங • $IBU(15΁ͷݸਓ৘ใɺൿີ৘ใͷೖྗېࢭ • 0QFO"* "1*Λ༻͍ͨΫϩʔϯ͓Αͼνϟοτ CPUΛެ։͠ར༻ਪ঑ɺೖྗνΣοΫɺϞσ Ϩʔγϣϯ"1*ʹΑΔνΣοΫΛඞਢͱ͢Δ • ʮ"*͕ੜ੒ͨ͠෺ Ͱ͋Δ͜ͱʯٴͼɺʮੜ੒ ෺ͷ಺༰ʹڏِؚ͕·Ε͍ͯΔՄೳੑ͕͋Δ͜ ͱʯΛϢʔβʔʹදࣔ͢Δ

Slide 26

Slide 26 text

No content

Slide 27

Slide 27 text

-BOH$IBJOͱ͸ • LLMΛ࢖ͬͨΞϓϦέʔγϣϯ։ൃͷ OSSϑϨʔϜϫʔΫ • Python/JavaScript൛ • LLMͷϞσϧ/ϝϞϦ/ΤʔδΣϯτ/ RetrieverɺϓϩϯϓτςϯϓϨʔτͳͲΛ LangChain͕ந৅Խͨ͠ػೳͱͯ͠ར༻Մೳ →AIΦʔέετϨʔγϣϯ૚ͱͯ͠ΞϓϦ͔Β গͳ͍ίʔυͰޮ཰తʹΞϓϦ։ൃͰ͖Δ • ։ൃॳظͳͲʹෳࡶͳϓϩϯϓτΤϯδχΞ Ϧϯάͷख͕ؒল͚ͨΓɺϢʔεέʔεʹ߹கͨ͠ ϞδϡʔϧΛݟ͚ͭͯ୹ظతʹ։ൃ͢Δ͜ͱ͕Մೳ

Slide 28

Slide 28 text

ͳͥz·ͣz-BOH$IBJOͰ3"(ΛֶͿ΂͖͔ ←トランザクション価値 コスト/難易度→ RAG / チャットボット AIエージェント (リサーチ/課題解決) ※専⾨性が⾼いがシットジョブが多い領域 AITuber トレンド Copilot (作業⽀援) → LLM関連の要素技術のキャッチアップを早めに済ませておける → 的外れな期待値を持たず、スジの良いLLMとの向き合いかたができる

Slide 29

Slide 29 text

IUUQTQZUIPOMBOHDIBJODPNEPDTHFU@TUBSUFEJOUSPEVDUJPO

Slide 30

Slide 30 text

"1*Λ࢖ͬͯ--.ΞϓϦΛͭ͘Δ

Slide 31

Slide 31 text

ϓϩϯϓτςϯϓϨʔτ

Slide 32

Slide 32 text

ຊॻʹ͓͚ΔϑϧαʔόʔϨεߏ੒ • ڞ௨ • (PPHMF$PMBCʲ+VQZUFS /PUFCPPLBB4ʳ • "84$MPVEʲ౷߹։ൃ؀ڥ *%& BB4ʳ • ୈষɿ֎෦ݕࡧɺཤྺΛ౿·͑ͨԠ౴Λ͢Δ8FCΞϓϦͷ࣮૷ • 4USFBNMJU $MPVEʲ4USFBNMJU BB4ʳ • ୈষɿετϦʔϜܗࣜͰཤྺΛ౿·͑ͨԠ౴Λ͢Δ4MBDLΞϓϦͷ ࣮૷ • "84-BNCEBʲ'BB4ʳ • .PNFOUP $BDIFʲ4FSWFSMFTT $BDIFʳ • ୈষɿࣾ಺จॻʹ౴͑Δ4MBDLΞϓϦͷ࣮૷ • 1JOFDPOFʲ7FDUPS *OEFYBB4ʳ

Slide 33

Slide 33 text

౷߹։ൃ؀ڥ *%& "84$MPVE AWS Cloud9 とは？ https://docs.aws.amazon.com/ja_jp/cloud9/latest/user-guide/welcome.html

Slide 34

Slide 34 text

ୈষɿ֎෦ݕࡧɺཤྺΛ౿·͑ͨԠ౴Λ͢Δ8FCΞϓϦͷ࣮૷ ࣭໰ʹରͯ͠ɺ%VDL%VDL(PͰ֎෦ݕࡧͯ͠ ౴͑Δ8FCΞϓϦ LLM を組み込んだチャットアプリケーションを写経しながら実装できる「ChatGPT/LangChain によるチャットシステム構築［実践］⼊⾨」を読んだ https://kakakakakku.hatenablog.com/entry/2023/10/16/085525

Slide 35

Slide 35 text

ୈষɿ֎෦ݕࡧɺཤྺΛ౿·͑ͨԠ౴Λ͢Δ8FCΞϓϦͷ࣮૷ -BOH$IBJOͷ"HFOUπʔϧͱͯ͠ %VDL%VDL(Pͱ8JLJQFEJBΛϩʔυ͢Δ

Slide 36

Slide 36 text

ୈষɿ֎෦ݕࡧɺཤྺΛ౿·͑ͨԠ౴Λ͢Δ8FCΞϓϦͷ࣮૷ QVTI EFQMPZ

Slide 37

Slide 37 text

ୈষʴষɿࣾ಺จॻʹ౴͑Δ4MBDLΞϓϦͷ࣮૷ LLM を組み込んだチャットアプリケーションを写経しながら実装できる「ChatGPT/LangChain によるチャットシステム構築［実践］⼊⾨」を読んだ https://kakakakakku.hatenablog.com/entry/2023/10/16/085525 Ξοϓϩʔυͨ͠υΩϡϝϯτʹ ͍࣭ͭͯ໰ʹ౴͑Δ4MBDLΞϓϦ

Slide 38

Slide 38 text

ୈষʴষɿࣾ಺จॻʹ౴͑Δ4MBDLΞϓϦͷ࣮૷ ɾ$MPVE͔Β4FSWFSMFTT'SBNFXPSLͰσϓϩΠ ɾιέοτϞʔυˠ-BNCEBʹ੾Γସ͑ TMT EFQMPZ $MPVE

Slide 39

Slide 39 text

ষɿ--.ΞϓϦͷຊ൪ϦϦʔεʹ޲͚ͯ • ҙਤ͠ͳ͍ίϯςϯπͷೖྗ๷ࢭ νϟοτϘοτͷ࣭໰ͳͲɺೖྗίϯςϯπʹҙਤ͠ͳ͍΋ͷ Λؚ·ͳ͍Α͏ɺΞϓϦέʔγϣϯͷUIͰΨΠμϯεΛઃஔ͢ Δɻ ೖྗϑΟϧλʔػೳ͕࢖͑Δ৔߹͸࢖͏ • ෆద੾ͳग़ྗͷճආ ๫ྗతͳൃݴ΍ภݟɺෆշͳίϯςϯπͷνΣοΫ→ഉআɻ ग़ྗϑΟϧλʔػೳ͕࢖͑Δ৔߹͸࢖͏ ϨΠςϯγͱ҆શੑͷτϨʔυΦϑΛՃຯ͢Δɻ • ϓϩϯϓτΠϯδΣΫγϣϯͷ๷ࢭ ೖྗίϯςϯπͰࢦࣔΛ্ॻ͖͠ɺ೚ҙͷࢦࣔΛՄೳʹ͢Δ߈ ܸɻ ೖྗϓϩϯϓτʹΑͬͯࢦ্͕ࣔॻ͖͞Εͳ͍Α͏ͳϓϩϯϓ τςϯϓϨʔτͷߏ੒Λ͓͜ͳ͏͜ͱɻ • τʔΫϯΛେྔʹফඅͤ͞Δ߈ܸͷ๷ࢭ ೖྗίϯςϯπͷ௕͞νΣοΫ΍ɺҰఆ࣌ؒ಺ͷ࣮ߦճ਺΍ τʔΫϯফඅྔʹ্ݶΛઃ͚ΔͳͲͯ͠ɺϦΫΤετ಺༰ʹ੍ ݶΛ͔͚Δɻ • 安全でない出⼒コンテンツのチェック LLMアプリケーションの出⼒内容が、システム全体にとって安全 でない内容(たとえばXSSやCSRFを引き起こすコードなど)を出⼒ しないように、出⼒コンテンツのチェックをおこない、⼀律の⽂ 字列エンコード処理などをおこなう。 • 脆弱性の排除 新しいライブラリやフレームワークの導⼊、リリースパイプライ ンの構築で、脆弱性が混⼊しうるポイントが増える。現⾏システ ムと同等の脆弱性対応を実施する。 • エージェントを暴⾛させない 外部接続性・実⾏性が⾼いエージェントを暴⾛させない。 エージェント = 前⼯程でLLMが⽣成したコンテンツから次⼯程の 指⽰を推論することでワークフローを達成しようと動作する.。 実⾏可能な外部機能を最⼩限にし、操作対象の権限(データの取 得・編集・削除など)を最⼩化する。 ⼗分なケースでテストを実施する。 OWASP Top 10 for Large Language Model Applications https://owasp.org/www-project-top-10-for-large-language-model-applications/ ηΩϡϦςΟϦεΫ΁ͷରԠʹ͍ͭͯ

Slide 40

Slide 40 text

ຊ೔ൃച⽏

Slide 41

Slide 41 text

No content

Slide 42

Slide 42 text

No content

Slide 43

Slide 43 text

No content

Slide 44

Slide 44 text

No content

Slide 45

Slide 45 text

MeetupFuku ka ● serverless #serverlessfukuoka #Re:boot