Share
Embed
Transcript
45 slides
-
吉田真吾 n バックグラウンド 証券システム基盤開発 p基盤システム開発、Oracleチューニング エバンジェリスト‧SA p講演113回/年 pAWS設計‧構築‧移⾏ pエバンジェリスト‧SA スタートアップCTO
pタレントマネジメントSaaS 開発‧運⽤ n 現在のしごと (株) セクションナイン 代表取締役 pAWS、DevOps、サーバーレス開発 n 実績等 pAWSウルトラクイズ 初代チャンピオン (2012年) pAWS Samurai 2014 / 2016 pAWS Serverless Hero -
ੜ"* (FOFSBUJWF"* େྔͷςΩετͰτϨʔχϯά͞Εɺจষͷ࣍ͷ୯ޠΛ༧ଌ͢Δେن ݴޠϞσϧ --. ͳͲΛར༻͢Δɻ "*ͷҰछɻ ੜ"*ͷදతͳྫ ࣗવݴޠੜ
/-1 /-( $IBU(15ͷΑ͏ʹɺ͔͋ͨਓ͕ؒੜ ͔ͨ͠ͷΑ͏ͳจষΛੜ͢Δٕज़ɻޠاըͷੜɺνϟοτ Ϙοτͱͷରɺ&ϝʔϧͷ࡞ͳͲͷ༻్Ͱར༻Ͱ͖Δ ը૾ੜ ("/ (FOFSBUJWF"EWFSTBM/FUXPSL ͳͲͰೖྗΛݩʹ৽ ͍͠ը૾Λੜ͢Δٕज़ ࣗવݴޠ͔Βը૾Λੜͨ͠Γɺݴޠͱը૾Λੜ͢ΔϚϧνϞʔ μϧͳϞσϧ͋Δ ج൫ϞσϧͷਐԽ • 5SBOTGPSNFS "UUFOUJPO*T"MM:PV/FFEɿBS9JW ͔Β (15·Ͱ • ϩʔΧϧ--.)VHHJOH'BDF $JWJU"* "*Ϟσϧ൛ͷ(JU)VC(JUMBC • ج൫Ϟσϧͷ։ൃʹेԯن͔͔Δ -
$IBU(15ڰۂ ݄ 0QFO"*͕ࣾ$IBU(15ΛϦϦʔε • ରମݧͷੑೳ͕ߴ͍ͱ • िؒˠສϢʔβʔ ϲ݄ˠԯϢʔβʔ • (15ԯύϥϝʔλʔ
݄·Ͱ • (PPHMFඇৗࣄଶએݴ • .JDSPTPGUఏܞ Πϯϑϥఏڙ CJOHͷΈࠐΈ ݄ $IBU(15 "1*ΛϦϦʔε • UFYUEBWJODJͷͷίετͰར༻Ͱ͖Δ HQUUVSCP • CPUΞϓϦͳͲͷϒʔϜ ݄ (15ΛϦϦʔε • ஹݸ ࣗশ ͷύϥϝʔλ • ϚϧνϞʔμϧػೳ ςΩετ ը૾ͳͲ ˞ະఏڙ -
--.׆༻ɿ;Γ͔͑Γ #$ ফඅऀ ## Ϗδωε׆༻ $IBU(15ϒʔϜ • ۀޮԽ • ݕࡧͷସ
• Ξγελϯτ FUDʜ "*ΩϟϥΫλʔ • "*൴ঁ • "*5VCFS • -JWF% 7PJDFWPYʜ ࣾ׆༻ • ࣾ$IBU(15 • ʴηΩϡϦςΟˍΨόφϯε • ࣾφϨοδͷ3"(׆༻ • ࣾυΩϡϝϯτΠϯσοΫε αʔϏεج൫ • αʔϏεͷ3"(׆༻ • 2" • ΠϯαΠτੜ • $IBU2VFSZ -
--.׆༻ɿ;Γ͔͑Γ • ϏδωεΞϓϦͷޭऀͷෆࡏ • ηϛφʔࣾ$IBU(15 ͭΔ͠ചΓ ͘Β͍ • ׆༻࣮ײࣗମͱͯߴ͍ •
POΞγελϯτͰຖʮนଧͪܕͷᛉʯ • ͜ͷϓϨθϯҰ൪࣌ؒͷ͔͔ΔΞτϥΠϯ࡞$IBU(15ʹ·͔ ͤͯͰͰ͖ͨ • $IBU(15ΞϓϦ͕υϥΠϒͷ͠૬ख • ະདྷ 5P#F ͱݱࡏ "T*T ͷࠩΛͲ͏ຒΊΔ͔ ਖ਼͘͠5P#FΛఆٛ͢Δ ਖ਼͘͠"T*TΛͱΒ͑Δ దʹొ͍ͬͯ͘ -
τϥϯβΫγϣϯՁˢ ઐੑˢ τʔΫϯ૿ʗίετˠ ࣌ؒ࣠ˠ RAG / チャットボット エージェント / 外部実⾏性能
専⾨性⾼いがシットジョブが多い領域 ⾃⽴業務エージェント (RAG,CodeInterpreter,etc…) AIキャラクター 営業提案書⽣成+レビュー 監査調書⽣成+レビュー 特許申請⽣成+レビュー AIキャバクラ AITuber 受注活動計画/通知設定 スケジュール調整 再現性 ਖ਼͘͠5P#FΛఆٛ͢Δ -
ਖ਼͘͠"T*TΛͱΒ͑Δ • ेͳࢿΛ४උ͍ͯ͠Δݱ͞΄Ͳଟ͘ͳ͍ • lࣄۀߩݙzΛϕʔεʹยखؒʹ--.zzΒ͟ΔΛಘͳ͍ • ద༻ՄೳͳϢʔεέʔεࣗମʹؾ͍ͮͯͳ͍ݱ͕େͰ͋Δ • ٕज़ଆͷϘτϜΞοϓʹݶք͋Γ •
اըίϥϘϨʔγϣϯ͕؊ اըͱٕज़ݟۃΊΛ͘͢ճ͢ඞཁ • ͯ͢ͷγνϡΤʔγϣϯʹ"*ΤʔδΣϯτɺͱͳΔʹ·ͩ ٕज़తͳགྷΓ͕Կճ͔͋Γͦ͏ • ͋ͨΓͷΤʔδΣϯτϒʔϜ ˠ ग़དྷ͍·͍ͪ • ݱࡏͷ՝ • ೖྗϓϩϯϓτʹΑΔݸਓใɺػີใͷྲྀग़͕ͨΓલʹى͖ͯ ͍Δ • --.ಛԽͳ߈ܸ τʔΫϯফඅ߈ܸɺϞσϧ%P4ɺϥΠϒϥϦ੬ऑੑ ͕૿͑Δ • --.ੑೳͷධՁϦʔμʔϘʔυ͕͋Δ͕ɺΞϓϦϨϕϧͰͷධՁํ ๏ཱ͕͍֬ͯ͠ͳ͍ ˠ มߋ͝ͱʹݕ֬ೝ -
ਅͷʮ"*ͷຽओԽʯʹඞཁͳίϥϘϨʔγϣϯ "*.-ΤϯδχΞ • --.ͷΈ࠷৽ใɺຊ൪ӡ༻ʹ͚ͨϊϋνϡʔχϯά ͳͲɺσϦόϦʔʹ͚ͯඞཁͳέΠύϏϦςΟ ΞϓϦέʔγϣϯΤϯδχΞ • --.ٕज़Λ࣮ࡍʹϑϩϯτΤϯυΠϯϑϥ্ʹߏங͠ɺ$*$%ύΠ
ϓϥΠϯʹࡌͤͯܧଓతʹσϦόϦʔ͢ΔͨΊʹඞཁͳέΠύϏϦ ςΟ υϝΠϯΤΩεύʔτ • ֤υϝΠϯͰ༗ޮͳϢʔεέʔεΛݟ͚ͭͯίϯϓϥΠΞϯεɺϓϥ ΠόγʔอޢͳͲʹਫ਼௨͍ͯ͠Δ -
దͳొΓ͔ͨ • υϝΠϯΤΩεύʔτʴΞϓϦ։ൃऀʴ.-ΤϯδχΞͷڠۀ • Ϣʔεέʔε͝ͱͷࣄۀߩݙͷࢉग़ • ͍࣮͢ݱੑͷݕূɺσϞ࣮ • ٕज़తΞϓϩʔνͷϨϕϧΞοϓ •
69ݕূɺηΩϡϦςΟݕূɺίϯϓϥΠΞϯεݕূ • ΨΠυϥΠϯͷࡦఆ • औΓѻ͍σʔλ͝ͱͷϦεΫཧ • ϨϏϡʔମ੍ͷઃஔ • ࢿܭըͷࡦఆ • ࣄۀϦεΫͱͷ݉Ͷ߹͍ • ৫ͷέΠύϏϦςΟͷௐ -
Ϣʔεέʔεൃݟʲ)3ྖҬʳ ઓུɾاըཱҊɾϦαʔν • ࣗࣾͷڧΈͱۀքಛੑΛ׆͔ ͨ͠اըͷཱҊ • ਓࡐ։ൃɾ৫։ൃख๏ͷϦ αʔν ࠾༻ •
ׂʹ͓͚Δ༏लͷεΩϧͷಛ ఆ • δϣϒσΟεΫϦϓγϣϯͷ࡞ • ߏԽ໘ͰݟۃΊ͍ͨࣄ߲ͱޮ Ռతͳ࣭ͷྫ • ৬छ͝ͱͷࣗࣾͷૌٻϙΠϯτͷ ໌֬Խ • άϨʔυͷఆٛ • .77ͷఆٛ • རްੜͷاը -
Ϣʔεέʔεൃݟʲ)3ྖҬʳ ҭ • ΦϯϘʔσΟϯάϓϩηεͷ໌ ֬Խ • νʔϜͮ͘Γɾҭܭըͷஈऔ Γʹ͍ͭͯͷΞΠσΞग़͠ • Τϯήʔδϝϯτ্ࡦͷ૬ஊ
• ؔੑߏஙɾ্ͷ૬ஊ • ෦Լͷҭํ๏ͷ૬ஊ • POͷนଧͪ૬ख • ैۀһຊਓͷΩϟϦΞ૬ஊ • ಛఆεΩϧͷҭํ๏ • νʔϜͰͷׂ୲ɾΓͳ ͍ೳྗͷͷ໌֬Խ ධՁ • ඪཧํ๏ .#0 0,3 ͳͲ ʜ ͷ૬ஊ • શࣾɺ৬ɺ෦ॺ͝ͱͷධՁ࣠ʹͭ ͍ͯͷ૬ஊ • ίʔνͷ୲ʹ͍ͭͯͷ૬ஊ • Ξηεϝϯτʹ͍ͭͯͷ૬ஊ -
Ϣʔεέʔεൃݟʲ)3ྖҬʳ ஔ • δϣϒϩʔςʔγϣϯاըͷ ૬ஊ • ஔసͷ૬ஊ • ཹऀͷԣҠಈʹ͓͚Δྨࣅ ׂͷ૬ஊ
• ؔੑߏஙͷίʔνϯάࢧԉ ৬ࢭ • ৬ࢭࡦͷ૬ஊ • ηϯνϝϯτੳ • ΤϯήʔδϝϯταʔϕΠͷ୯ ɾܦมԽͷಛఆ -
ϢʔεέʔεൃݟͷΩϞ • ࣾ$IBU(15Ͱ·ͣे • ʰϓϩϯϓτΛ͢ΔʱઌਐతͳϢʔβʔ͕ॏཁ • اըۀ׆༻ʰྑ͍ϓϩϯϓτʱ͔Β࢝·Δ • ϓϩϯϓτͷΑΓར༻͖͘͢͢͠Ϣʔεέʔε͕͋ Εಠࣗ։ൃΛ͢Δ
• ࣾφϨοδʹ3"(Ͱͭͳ͍ͰࣝΛάϥϯσΟϯάͯ͠2"Ϩ ϙʔτΛ͍ͨ͠߹ • ਓࣄ'"2Ϙοτɺैۀһʹ͍ͭͯ͑ΔɺطଘैۀһͷϓϩϑΟʔϧ Λ׆͔ͨ͠+PC%FTDSJQUJPOͷੜ FUDʜ -
Ϣʔβʔମݧ ˙Α͍ମݧͷ࠷େԽ ü ྑ͍ࣄྫɿ,JOEMFΛىಈͨ͠Βߪಡͯ͠Δͷͷ৽ץ͕Ҋ͞ΕͨΓɺອըΛങͬͨΒࣅͨͪΐ͏Ͳཉ͠ ͍ͱࢥ͑Δॻ੶͕Ϩίϝϯυ͞ΕΔ ü ѱ͍ࣄྫɿ5XJUUFSϝσΟΞͷόφʔʗλʔήοτࠂ ଐੑऔͬͯΔͷʹΰϛ͔Γԡ͚ͭͯ͘͠Δ ˙ྑ͍ମݧͷ࠷େԽ͚ͩͰͳ͍ FYۈଵγεςϜͰ"*Λ׆༻͢Δ߹
❌ମݧͷ࠷େԽɿεϚϗͰλοϓ͔ͭඵͰଧࠁͰ͖Δ͜ͱ ⭕ମݧͷಁ໌Խɿଧࠁ͕ϢʔβʔͷओۀͰͳ͍ɻΦϑΟεʹண͍ͨΓՈͰ1$։͚ͨΒଧࠁ͞ΕΔ͜ͱ ˙छྨͷϢʔβʔମݧ ௧ΈΛղܾ͢ΔϢʔεέʔε ྑ͍ମݧΛ࠷େԽ͢ΔϢʔεέʔε ମݧΛಁ໌Խ͢ΔϢʔεέʔε -
͚ࣗࣾͷੜ"*ͷར༻ΨΠυϥΠϯ • ੜ"*ར༻ΨΠυϥΠϯ αΠμεࣾ • +%-"ͷੜ"*ར༻ΨΠυϥΠϯΛςϯϓϨʔ τͱͯ͠࡞ɾެ։ࡁΈʲެ։ʳ • ཁ
͓٬༷ͷݸਓใΛੜ"*ʹೖྗ͠ͳ͍ '"2σʔλͳͲݸਓใҎ֎ͷൿີใ͓ ٬༷͝ͱʹڐՄΛͱ্ͬͨͰར༻͢Δ • ࣮༻্ͷΨʔυϨʔϧߏங • $IBU(15ͷݸਓใɺൿີใͷೖྗېࢭ • 0QFO"* "1*Λ༻͍ͨΫϩʔϯ͓Αͼνϟοτ CPUΛެ։͠ར༻ਪɺೖྗνΣοΫɺϞσ Ϩʔγϣϯ"1*ʹΑΔνΣοΫΛඞਢͱ͢Δ • ʮ"*͕ੜͨ͠ Ͱ͋Δ͜ͱʯٴͼɺʮੜ ͷ༰ʹڏِؚ͕·Ε͍ͯΔՄೳੑ͕͋Δ͜ ͱʯΛϢʔβʔʹදࣔ͢Δ -
-BOH$IBJOͱ • LLMΛͬͨΞϓϦέʔγϣϯ։ൃͷ OSSϑϨʔϜϫʔΫ • Python/JavaScript൛ • LLMͷϞσϧ/ϝϞϦ/ΤʔδΣϯτ/ RetrieverɺϓϩϯϓτςϯϓϨʔτͳͲΛ LangChain͕நԽͨ͠ػೳͱͯ͠ར༻Մೳ
→AIΦʔέετϨʔγϣϯͱͯ͠ΞϓϦ͔Β গͳ͍ίʔυͰޮతʹΞϓϦ։ൃͰ͖Δ • ։ൃॳظͳͲʹෳࡶͳϓϩϯϓτΤϯδχΞ Ϧϯάͷख͕ؒল͚ͨΓɺϢʔεέʔεʹ߹கͨ͠ ϞδϡʔϧΛݟ͚ͭͯظతʹ։ൃ͢Δ͜ͱ͕Մೳ -
ͳͥz·ͣz-BOH$IBJOͰ3"(ΛֶͿ͖͔ ←トランザクション価値 コスト/難易度→ RAG / チャットボット AIエージェント (リサーチ/課題解決) ※専⾨性が⾼いがシットジョブが多い領域 AITuber
トレンド Copilot (作業⽀援) → LLM関連の要素技術のキャッチアップを早めに済ませておける → 的外れな期待値を持たず、スジの良いLLMとの向き合いかたができる -
ຊॻʹ͓͚ΔϑϧαʔόʔϨεߏ • ڞ௨ • (PPHMF$PMBCʲ+VQZUFS /PUFCPPLBB4ʳ • "84$MPVEʲ౷߹։ൃڥ *%& BB4ʳ
• ୈষɿ֎෦ݕࡧɺཤྺΛ౿·͑ͨԠΛ͢Δ8FCΞϓϦͷ࣮ • 4USFBNMJU $MPVEʲ4USFBNMJU BB4ʳ • ୈষɿετϦʔϜܗࣜͰཤྺΛ౿·͑ͨԠΛ͢Δ4MBDLΞϓϦͷ ࣮ • "84-BNCEBʲ'BB4ʳ • .PNFOUP $BDIFʲ4FSWFSMFTT $BDIFʳ • ୈষɿࣾจॻʹ͑Δ4MBDLΞϓϦͷ࣮ • 1JOFDPOFʲ7FDUPS *OEFYBB4ʳ -
ষɿ--.ΞϓϦͷຊ൪ϦϦʔεʹ͚ͯ • ҙਤ͠ͳ͍ίϯςϯπͷೖྗࢭ νϟοτϘοτͷ࣭ͳͲɺೖྗίϯςϯπʹҙਤ͠ͳ͍ͷ Λؚ·ͳ͍Α͏ɺΞϓϦέʔγϣϯͷUIͰΨΠμϯεΛઃஔ͢ Δɻ ೖྗϑΟϧλʔػೳ͕͑Δ߹͏ • ෆదͳग़ྗͷճආ ྗతͳൃݴภݟɺෆշͳίϯςϯπͷνΣοΫ→ഉআɻ
ग़ྗϑΟϧλʔػೳ͕͑Δ߹͏ ϨΠςϯγͱ҆શੑͷτϨʔυΦϑΛՃຯ͢Δɻ • ϓϩϯϓτΠϯδΣΫγϣϯͷࢭ ೖྗίϯςϯπͰࢦࣔΛ্ॻ͖͠ɺҙͷࢦࣔΛՄೳʹ͢Δ߈ ܸɻ ೖྗϓϩϯϓτʹΑͬͯࢦ্͕ࣔॻ͖͞Εͳ͍Α͏ͳϓϩϯϓ τςϯϓϨʔτͷߏΛ͓͜ͳ͏͜ͱɻ • τʔΫϯΛେྔʹফඅͤ͞Δ߈ܸͷࢭ ೖྗίϯςϯπͷ͞νΣοΫɺҰఆ࣌ؒͷ࣮ߦճ τʔΫϯফඅྔʹ্ݶΛઃ͚ΔͳͲͯ͠ɺϦΫΤετ༰ʹ੍ ݶΛ͔͚Δɻ • 安全でない出⼒コンテンツのチェック LLMアプリケーションの出⼒内容が、システム全体にとって安全 でない内容(たとえばXSSやCSRFを引き起こすコードなど)を出⼒ しないように、出⼒コンテンツのチェックをおこない、⼀律の⽂ 字列エンコード処理などをおこなう。 • 脆弱性の排除 新しいライブラリやフレームワークの導⼊、リリースパイプライ ンの構築で、脆弱性が混⼊しうるポイントが増える。現⾏システ ムと同等の脆弱性対応を実施する。 • エージェントを暴⾛させない 外部接続性・実⾏性が⾼いエージェントを暴⾛させない。 エージェント = 前⼯程でLLMが⽣成したコンテンツから次⼯程の 指⽰を推論することでワークフローを達成しようと動作する.。 実⾏可能な外部機能を最⼩限にし、操作対象の権限(データの取 得・編集・削除など)を最⼩化する。 ⼗分なケースでテストを実施する。 OWASP Top 10 for Large Language Model Applications https://owasp.org/www-project-top-10-for-large-language-model-applications/ ηΩϡϦςΟϦεΫͷରԠʹ͍ͭͯ