Share
Embed
運用者の各領域で向き合うLLM
運用者の各領域で向き合うLLM というタイトルで登壇しました。
イベント名: Cloud Operator Days Tokyo 2024
イベントURL:https://cloudopsdays.com/
nwiizo
June 28, 2024
Transcript
29 slides
-
࣍ w "CPVUTIBLF ࠂ w ͳͥɺӡ༻ऀ"*ٕज़Λ͏ͷ͔ʁ w "*0QTʹ͍ͭͯ w
֤ྖҬʹ͓͍ͯ--.ͷ׆༻͢Δҝʹ -
"CPVUTIBLF IUUQTKPCTTIBLFDPN w .JTTJPO w ΠϯϑϥΛγϯϓϧʹͯ͠Πϊϕʔγϣϯ͕ى͜Γ͍͢ੈքΛ࡞Δ w 7JTJPO w
࿑ۤʢ5PJMʣΛແ͘͢αʔϏεΛదਖ਼ͳՁ֨Ͱఏڙ͠ଓ͚Δ -
4SFBLF43&ʢ43&૯߹ࢧԉαʔϏεʣ wӡ༻ࢧԉ·ͰΛτʔλϧ͝ࢧԉ w 43&νʔϜɾ43&จԽͷఆணԽɾ43&ٕज़ऀͷ࠾༻ʗҭίϯ αϧςΟϯάରԠ ٕज़ઓུ ίϯαϧςΟϯά ߏங /
࣮ ࢧԉ Ξηεϝϯτ ʢύϑΥʔϚϯε / ηΩϡϦςΟʣ ӡ༻ࢧԉ γεςϜ ઃܭ IUUQTTSFBLFDPNΞΫηε͍ͯͩ͘͠͞ -
"*0QT "SUJGJDJBM*OUFMMJHFODFGPS*50QFSBUJPOT ͱʁ w"*0QTɺαʔϏεӡ༻Λվળ͢ΔςΫϊϩδʔ w "*0QTͱɺʹ(BSUOFS͕ఏএͨ֓͠೦Ͱɺ"*ΛαʔϏεӡ༻ʹ׆༻͢ΔऔΓΈ ͷ૯শͰ͢ɻ͜ͷख๏ɺେྔͷσʔλɺػցֶशɺઌਐతͳੳΛ༻͍ͯɺϞχλϦϯάɺ ࣗಈԽɺαʔϏεσεΫͳͲͷαʔϏεӡ༻ΛڧԽ͠·͢ɻ"*0QTͷಛɺ༧ଌతɺύʔ ιφϥΠζ͞ΕͨɺಈతͳಎΛఏڙ͢Δ͜ͱʹ͋Γɺ͜ΕʹΑΓෳࡶͳೝ࡞ۀΛࢧԉ ͠ɺ*5αʔϏεͷӡ༻Λվળ͢Δ͜ͱ͕Ͱ͖·͢ɻ
w ຊߨԋͰɺ"*0QTͷߟ͑ํΛิॿઢͱͭͭ͠ɺӡ༻ऀ͕֤ྖҬͰ໘͢Δ--.ʢେنݴ ޠϞσϧʣͷ׆༻ʹ͍ͭͯٞ͠·͢ɻ IUUQTCMPHTHBSUOFSDPNBOESFXMFSOFSBJPQTQMBUGPSNT "*0QT1MBUGPSNT ӡ༻࡞ۀ ख࡞ۀෳࡶͳೝ࡞ۀ͔Βղ์͞Εɺӡ༻ऀαʔϏεվળՁग़ʹྗͰ͖Δ -
ӡ༻ऀ͕֤ྖҬͰ໘͢Δ--.ͷ׆༻ wΠϯγσϯτରԠͱղܾ w --.աڈͷΠϯγσϯτϨϙʔτٕज़จॻΛֶश͠ɺྨࣅࣄྫͷਝͳಛఆղܾࡦͷఏҊΛߦ͏͜ ͱ͕Ͱ͖·͢ɻ͜ΕʹΑΓɺӡ༻ऀͷղܾೳྗ͕ڧԽ͞ΕɺμϯλΠϜͷݮʹͭͳ͕Γ·͢ɻ wυΩϡϝϯςʔγϣϯͱࣝཧ w --.Λ׆༻͢Δ͜ͱͰɺٕज़จॻͷ࡞ߋ৽ɺ2"γεςϜͷߏங͕ޮԽ͞Ε·͢ɻ͜ΕʹΑΓɺ νʔϜશମͷࣝڞ༗͕ଅਐ͞Εɺ৽ਓΦϯϘʔσΟϯά༰қʹͳΓ·͢ɻ wίʔυੳͱϦϑΝΫλϦϯά
w --.ίʔυͷ࣭ੳϕετϓϥΫςΟεͷఏҊΛߦ͏͜ͱ͕Ͱ͖·͢ɻӡ༻ऀ͜ΕΛ׆༻ͯ͠γ εςϜͷอकੑͱޮੑΛ্ͤ͞Δ͜ͱ͕Ͱ͖·͢ɻ wࣗવݴޠʹΑΔΫΤϦͱੳ w --.Λհͯࣗ͠વݴޠͰσʔλϕʔεϩάϑΝΠϧʹΫΤϦΛߦ͏͜ͱ͕ՄೳʹͳΓ·͢ɻ͜ΕʹΑ Γɺٕज़తͳ͕ࣝݶΒΕ͍ͯΔӡ༻ऀͰෳࡶͳσʔλੳ͕ՄೳʹͳΓ·͢ɻ wΧελϚʔαϙʔτͷڧԽ w --.Λ׆༻ͨ͠νϟοτϘοταϙʔτγεςϜʹΑΓɺҰ࣍ରԠͷࣗಈԽͱ্࣭͕࣮ݱ͠·͢ɻ ӡ༻ऀෳࡶͳʹूத͢Δ͜ͱ͕Ͱ͖ɺϢʔβʔຬͷ্ʹͭͳ͕Γ·͢ɻ wηΩϡϦςΟੳͱڴҖݕग़ w --.ηΩϡϦςΟϩάڴҖΠϯςϦδΣϯεΛੳ͠ɺҟৗΛݕग़ͨ͠Γɺ৽ͨͳڴҖύλʔϯΛࣝ ผͨ͠Γ͢Δ͜ͱ͕Ͱ͖·͢ɻӡ༻ऀ͜ΕΛ׆༻ͯ͠ɺϓϩΞΫςΟϒͳηΩϡϦςΟରࡦΛߨ͡Δ͜ ͱ͕Ͱ͖·͢ɻ w༧ଌతϝϯςφϯε w --.༷ʑͳσʔλιʔεΛ౷߹ɾੳ͠ɺγεςϜোੑೳԼΛ༧ଌ͢Δ͜ͱ͕Ͱ͖·͢ɻӡ༻ऀ ͜ͷใΛجʹɺࣄલʹରࡦΛߨ͡Δ͜ͱ͕ՄೳʹͳΓ·͢ɻ ίʔυੳ υΩϡϝϯςʔγϣϯ ΠϯγσϯτରԠ ༧ଌతϝϯςφϯε ηΩϡϦςΟੳ ΧελϚʔαϙʔτ ࣗવݴޠʹΑΔΫΤϦ -
͓͢͢Ίࢀߟࢿྉ w "*0QTͷͭͷ࢝Ίํ ͍͚ͬͯͳ͍ খ࢝͘͞ΊΔ ͕ࣗࣗ͢Δ
ࣗ༝ʹ࣮ݧ͍ͯͩ͘͠͞ *5෦ͷ֞ࠜΛӽ͑ͯਓࡐΛٻΊɺ׆༻ ඪ४Խ ຊ֨ಋೖΛݟਾ͑ͯߟ͑Δ IUUQTTQFBLFSEFDLDPNZVVLJUTSFOFYU IUUQTXXXHBSUOFSDPNTNBSUFSXJUIHBSUOFSIPXUPHFUTUBSUFEXJUIBJPQT "*0QTͱ43&ʹ͍ͭͯݟࣄʹཧ͞Ε͍ͯΔ IUUQTCMPHZVVLJPFOUSZUIFXPSMEPGMMNTSF --.ͱӡ༻ͷੈքʹͲͷΑ͏ͳݚڀ͕͋Δ͔ཧ͞Ε͍ͯΔ -
"*0QT"SDIJUFDUVSF 0CTFSWF .POJUPSJOH &/("(& "OBMZUJDT "$5 "VUPNBUJPO w"*0QTͷཁૉͱͦͷ࣮ફతద༻ w
"*0QTγεςϜओʹɺࢹɺੳɺࣗಈԽͷͭͷྖҬ͔Βߏ͞Ε͍ͯ· ͢ɻ"*0QTͷΞʔΩςΫνϟɺ͜ΕΒͭͷྖҬؒͷγʔϜϨεͳ౷߹Λ࣮ ݱ͢Δٕज़ͱख๏Λఏڙ͢Δ͜ͱͰɺ"*0QTͷ࣮Λࢦ͠·͢ɻ(BSUOFS ͕ఆٛ͢Δ*5ӡ༻όϦϡʔνΣʔϯͷͭͷίΞαʔϏεʹ͓͚Δ֤ϓϩηε ͱػೳʹରͯ͠ɺ"*0QTϓϥοτϑΥʔϜͷద༻Մೳੑ͕ࣔ͞Ε͍ͯ·͢ɻ w ΠϕϯτɺϝτϦΫεɺτϨʔγϯά w աڈσʔλੳ w ҟৗݕग़ w ύϑΥʔϚϯεੳ w ૬ؔؔͱจ຺Խ w োରԠɺґଘؔɺมߋ w λεΫࣗಈԽ w มߋϦεΫੳ w ύϑΥʔϚϯεੳ w ,OPXMFEHFཧ w 4DSJQUT w 3VOCPPL w "3" -
"*0QTʹৗʹੳͱϑΟʔυόοΫͷϑΣʔζ͕͋Δ 0CTFSWF .POJUPSJOH &/("(& "OBMZUJDT "$5 "VUPNBUJPO "*0QTͷ֩৺ɺܧଓతͳੳͱϑΟʔυόοΫͷαΠΫϧʹ͋Γ·͢ɻ ͜ͷαΠΫϧʹ--.ΛΈࠐΉ͜ͱͰɺαʔϏεӡ༻ͷޮͱ࣭Λେ෯ʹ্ͤ͞Δ͜ͱ͕Ͱ͖·͢ɻ
ຊདྷͰ͋Εɺ͜ΕΒΛ࣠ʹӡ༻࣌ʹ--.ͱͲͷΑ͏ʹ͖߹͏͖͔ʹ͍ͭͯਂ͘ߟ͖͢Ͱ͕͢ɺ ࠓճͦͷৄࡉͳׂٞѪ͠·͢ɻ "*0QTͷ֤ྖҬʹ͓͍ͯ--.ʢେنݴޠϞσϧʣΛޮՌతʹ׆༻͢ΔͨΊͷ۩ମతͳϓϩϯ ϓτͷઃܭͱ༻ํ๏ʹযΛͯ·͢ɻదͳϓϩϯϓτΛ༻͍Δ͜ͱͰɺ--.ͷೳྗΛ࠷େ ݶʹҾ͖ग़͠ɺαʔϏεӡ༻ͷ༷ʑͳଆ໘ΛڧԽͰ͖·͢ɻ -
"$5 "VUPNBUJPO ʹؔ͢Δ wେنݴޠϞσϧݬ֮ΛݟΔ w େنͳݴޠϞσϧɺҰݟͯ͠க໋తͱ͍͑ΔΛ๊͍͑ͯ· ͢ɻͦΕɺ࣮ࡏ͠ͳ͍ใΛੜΈग़͢͜ͱ͕͋Δͱ͍͏͜ͱͰ͢ɻઐ Ոͨͪ͜ͷݱΛʮݬ֮ʢIBMMVDJOBUJPOʣʯͱݺΜͰ͍·͢ɻਓ ͕ؒݬ֮ΛݟΔΑ͏ʹɺଘࡏ͠ͳ͍ͷΛݱ࣮ͷͷͷΑ͏ʹඳ͖ग़͢ ͜ͱ͔Βɺ͜ͷ໊લ໊͕͚ΒΕ·ͨ͠ɻ͞Βʹਂࠁͳͷɺ͜ΕΒͷ
ݬ֮ʹΑͬͯੜ͞Εͨෆਖ਼֬ͳใ͕ɺઐՈҰൠͷਓʑʹͱͬͯ ฆΒΘ͘͠ɺਅ࣮ͱݟ͚͕͔ͭͳ͍͜ͱ͕͋Δͱ͍͏ࣄ࣮Ͱ͢ɻ w·ͩɺ࣮ߦೳྗͷ͓ܽͤͯ͘͞ w େنݴޠϞσϧΛར༻ͨ͠γεςϜݬ֮ΛجʹॲཧΛ࣮ߦͯ͠͠· ͏Մೳੑ͕ৗʹ͋ΔͨΊɺݱஈ֊Ͱతͳ࣮ߦೳྗʢ&YFDVUJPOػ ೳʣΛ੍ݶ͓ͯ͘͠ඞཁ͕͋Γ·͢ɻ͜ΕʹΑΓɺγεςϜ͕ҙਤ͠ͳ ͍ঢ়ଶʹͳͬͨ߹ʹɺࣗಈతʹ෮چ͢Δ͜ͱͰ͖·ͤΜ͕ɺ҆શ ੑͷ֬อɺ৴པੑͷҡ࣋ɺਓؒͷಜͷॏཁੑɺͦͯ͠๏తɾྙཧత ྀͷόϥϯεΛऔΔ͜ͱ͕Ͱ͖·͢ɻ IUUQTXXXJXBOBNJDPKQCPPLCIUNM େنݴޠϞσϧ৽ͨͳೳ͔ "VUPNBUJPO 3FDPNNFOEBUJPO "VUPNBUJPO &YFDVUJPO ٙ͏͜ͱݱࣾձʹඞཁͰਖ਼ͳඒಙ -
ϓϩϯϓτΤϯδχΞϦϯάೖ wϓϩϯϓτͷͭͷݪଇ ํੑΛ༩͑Δʢ(JWF%JSFDUJPOʣ w ۩ମతͳࢦࣔతΛ໌֬ʹࣔ͢ ϑΥʔϚοτΛࢦఆ͢Δʢ4QFDJGZ'PSNBUʣ w ·͍͠ग़ྗܗࣜΛ໌֬ʹఆٛ͢Δ
ྫΛఏڙ͢Δʢ1SPWJEF&YBNQMFTʣ w ظ͢Δग़ྗͷ۩ମྫΛࣔ͢ ࣭ΛධՁ͢Δʢ&WBMVBUF2VBMJUZʣ w ੜ͞Εͨ݁Ռͷ࣭Λଌఆɾվળ͢Δํ๏ΛΈࠐΉ ࡞ۀΛׂ͢Δʢ%JWJEF-BCPSʣ w ෳࡶͳλεΫΛখ͞ͳஈ֊ʹׂ͢Δ ଞʹϓϩϯϓτʹؔ͢ΔυΩϡϝϯτͨ͘͞Μ͋Δ $IBU(151SPNQU&OHJOFFSJOH IUUQTXXXQSPNQUJOHHVJEFBJNPEFMTDIBUHQU IUUQTXXXQSPNQUJOHHVJEFBJNPEFMTDMBVEF 1SPNQUFOHJOFFSJOHPWFSWJFX IUUQTEPDTBOUISPQJDDPNFOEPDTCVJMEXJUI DMBVEFQSPNQUFOHJOFFSJOHPWFSWJFX --.ສೳͷئػͰͳ͍ͷͰਖ਼͘͠͏ํ๏͕͋Δ "*0QTͷͲ͜ͷྖҬΛ --.ͰΔ͔ʹ͍ͭͯߟ͑Δͱ ϓϩϯϓτΛ࡞Δ࣌ͷิॿઢʹͳΔ ྫͱͯ͠ΠϯγσϯτରԠͷద༻ΛऔΓ্͛·͢ • ྫɿʮѱ͍ϓϩϯϓτྫɿγεςϜোΛੳͤΑʯˠʮྑ͍ϓϩϯϓτྫɿۙ࣌ؒͷϩάσʔλΛੳ͠ɺ$16༻͕Λ͑ͨظؒͱؔ࿈͢ΔϓϩηεΛಛఆͤΑʯ -
ϓϩϯϓτͷͭͷݪଇɿΠϯγσϯτରԠͷద༻ ࡞ۀΛׂ͢Δʢ%JWJEF-BCPSʣ ྫɿҎԼͷखॱͰੳΛߦ͍ͬͯͩ͘͞ɿ Πϯγσϯτϩάͷཁ ӨڹΛड͚ͨγεςϜίϯϙʔωϯτͷಛఆ λΠϜϥΠϯͷ࡞
ࠜຊݪҼͷੳ ରࡦͷఏҊ w ෳࡶͳΠϯγσϯτੳΛཧՄೳͳखॱʹׂ w ֤εςοϓͰͷਫ਼্ͱɺશମతͳੳͷ࣭ͷվળ -
ଞʹ͋ΔϓϩϯϓτςΫχοΫू w1SPNQUFOHJOFFSJOH w IUUQTQMBUGPSNPQFOBJDPNEPDTHVJEFTQSPNQU FOHJOFFSJOH w1SPNQUFOHJOFFSJOHPWFSWJFX w IUUQTEPDTBOUISPQJDDPNFOEPDTCVJMEXJUIDMBVEFQSPNQU FOHJOFFSJOHPWFSWJFX
۩ମྫهࡌ͞Ε͓ͯΓɺൺֱత͍͍͢ܗʹ·ͱ·͍ͬͯΔͷͰɺ Α͚Εࢀߟʹ͍ͯͩ͘͠͞ɻ -
ϓϩϯϓτͷͭͷݪଇ·ͱΊ wݪଇͷීวੑ w ΠϯγσϯτରԠͰݟͨΑ͏ʹɺϓϩϯϓτͷͭͷݪଇӡ༻ͷଞͷྖҬͰಉ ༷ʹద༻Ͱ͖·͢ɻ w ํੑΛ༩͑Δʢ(JWF%JSFDUJPOʣ w ϑΥʔϚοτΛࢦఆ͢Δʢ4QFDJGZ'PSNBUʣ w
ྫΛఏڙ͢Δʢ1SPWJEF&YBNQMFTʣ w ࣭ΛධՁ͢Δʢ&WBMVBUF2VBMJUZʣ w ࡞ۀΛׂ͢Δʢ%JWJEF-BCPSʣ w ద༻ͷϙΠϯτ w ֤ྖҬͷಛੑΛཧղ͠ɺݪଇΛॊೈʹద༻͢Δ w ۩ମతͳΰʔϧظ͢Δग़ྗΛ໌֬ʹ͢Δ w ྖҬݻ༗ͷઐ༻ޠ֓೦ΛϓϩϯϓτʹΈࠐΉ -
ᘳ͞ΛٻΊͣʹ w"*ͷશੑͷܽͱͦͷཧղ w େنͳݴޠϞσϧʹΑΔ"*ɺ͞·͟·ͳঢ়گͰཱ͕ͭɺͦΕܾͯ͠શͰͳ͍ ͠ɺաͪ൜͢ଘࡏͰ͢ɻਓؒͱҟͳΔࢥߟύλʔϯΛ࣋ͪɺجຊతͳৗࣝྙཧ؍ʹ ͚ܽΔ͜ͱ͋Γ·͢ɻ w͖߹͍ํʹΫηͷ͋Δڠྗऀͱͯ͠ͷ"*ͱͷίϛϡχέʔγϣϯ w ͖߹͍ํʹΫηͷ͋Δڠྗऀͱͯ͠ͷ"*ͱͷίϛϡχέʔγϣϯͰɺ"*ͷಛੑΛཧղ ͠ɺ໌֬ͳࢦࣔΛ৺͕͚ɺڧ͘ରΛॏͶɺ༧ظͤ͵ఏҊʹॊೈʹରԠͭͭ͠ɺৗ
ʹ݁ՌΛۛຯ͢Δ͜ͱ͕ॏཁͰ͢ɻ͜ΕʹΑΓɺ"*ͷಠಛͳॴΛ׆͔͠ͳ͕ΒɺޮՌత ͳڠྗؔΛங͘͜ͱ͕Ͱ͖ΔͰ͠ΐ͏ɻ ӡ༻࡞ۀ ઐࣝ ͷצ ݬ֮ -
ಓ۩ͱͯ͠ͷେنݴޠϞσϧ wඞཁͳڑײ w ใ͕ඞཁͳͱ͖ɺ·ͣͦͷಉ྅ʹΛฉ͘͜ͱ͔Β࢝Ί·͢ɻ൴ੈքͷใʹ ਫ਼௨͓ͯ͠ΓɺൣͰਂ͍ࣝΛ͍࣋ͬͯΔͷͰɺͲΜͳͰऔΓΉ͜ͱ͕Ͱ ͖·͢ɻ͔͠͠ͳ͕Βɺ࣌ંେ͖ͳޡղΛੜ͡Δ͜ͱ͋Γ·͢ɻ wใͷධՁͱݕূ w ͦͷಉ྅͕ѱҙΛ͍࣋ͬͯΔΘ͚Ͱͳ͍ͷཧղ͍ͯ͠·͕͢ɺ൴ͷ͢͜ͱΛӏ ವΈʹ͢ΔͷͰͳ͘ɺҰఆͷڑΛอͪͳ͕ΒɺͦͷใΛѻ͏ඞཁ͕͋Γ·͢ɻ
ͦͯ͠ɺ൴ͷͨ͠ใΛجʹɺߋʹଟ͘ͷূڌΛूΊͯใͷݕূΛߦ͏͜ͱ͕ॏ ཁͰ͢ɻ ӡ༻࡞ۀ ઐࣝ ͷצ ݸੑతͳಉ྅ͱ͍͏දݱͬ͘͠Γ͘Δ͚Ͳඍົͦ͏ʜࢦఠ͕ೖͬͨΒΊΔ ݬ֮ -
ࢀߟࢿྉ w)PXUP(FU4UBSUFE8JUI"*0QT w IUUQTXXXHBSUOFSDPNTNBSUFSXJUIHBSUOFSIPXUPHFUTUBSUFEXJUIBJPQT w1SPNQU&OHJOFFSJOH(VJEF w IUUQTXXXQSPNQUJOHHVJEFBJ w"VUPNBUJPOBOE.BDIJOF-FBSOJOHXJUI4JUF3FMJBCJMJUZ&OHJOFFSJOH w IUUQTFWFOUTESVQBMPSHWJFOOBTFTTJPOTJOUFMMJHFOUBVUPNBUJPOBOENBDIJOFMFBSOJOHTJUFSFMJBCJMJUZFOHJOFFSJOH
w5&.1-&4JY1JMMBSTPG0CTFSWBCJMJUZ w IUUQTNFEJVNDPN!:VSJ4ILVSPUFNQMFTJYQJMMBSTPGPCTFSWBCJMJUZBDFEFC w"*࣌ʹ͚ͨΫϥυʹ͓͚Δ৴པੑΤϯδχΞϦϯάͷະདྷߏ%*$0.0 " w IUUQTTQFBLFSEFDLDPNZVVLJUEJDPNPB wେنݴޠϞσϧ৽ͨͳೳ͔ʕʕ$IBU(15͕ม͑ͨੈք ؠՊֶϥΠϒϥϦʔ w IUUQTBN[OUP0$U'; w$IBU(15ͷ಄ͷத ϋϠΧϫ৽ॻ w IUUQTBN[OUP,N'#48 wݴޠͷຊ࣭ɹ͜ͱͲ͏ੜ·ΕɺਐԽ͔ͨ͠ w IUUQTBN[OUP/R*2H w"*WTڭՊॻ͕ಡΊͳ͍ࢠͲͨͪ w IUUQTBN[OUP8YW( wʲ*5*-ެೝʳ*5*-ͷجຊਤղͱ࣮ફ w IUUQTBN[OUP&"B/