AI時代におけるSRE、 あるいはエンジニアの生存戦略

Slide 1

Slide 1 text

AI࣌୅ʹ͓͚ΔSREɺ ͋Δ͍͸ΤϯδχΞͷੜଘઓུ εϚϒϥɺ͍ͭ·Ͱܦͬͯ΋VIPʹͳΕͳ͍ΜͰ͚͢Ͳฤ

Slide 2

Slide 2 text

ࢁԼ࿨඙!QZBNB (.0ϖύϘٕज़ج൫νʔϜ γχΞɾϓϦϯγύϧ ɹΩϟϯϓɺཱྀߦɺώϧτϯ८ΓɺεϚϒϥ ػցֶशɺ$*$%

Slide 3

Slide 3 text

OpenAIͷ༂ਐʹΑΓɺզʑͷ࢓ࣄ͸AIͱ͸  ੾ͬͯ΋੾Γ཭ͤͳ͍࣌୅ͱͳΓ·ͨ͠ɻ  ࢲ͸ਖ਼௚10೥લʹ͜͏ͳΔ͜ͱΛ·ΔͰ༧૝  Ͱ͖·ͤΜͰͨ͠ɻ   AIͷൃలʹΑΓɺࠓޙՃ଎౓తʹมԽ͍ͯ͘͠Ͱ ͋Ζ͏ΤϯδχΞͷ࢓ࣄʹ͍ͭͯɺSREͱͯ͠ͷ ཱ৔͔Βߟ͑ͯΈ͍ͨͱࢥ͍·͢ɻ

Slide 4

Slide 4 text

ࠓ೔࿩͢͜ͱ • େن໛ݴޠϞσϧ(LLM) • LLMΛར༻ͨ͠αʔϏεͷࣄྫ • Site Reliability Engineering (SRE) • SREͱLLMͷؔΘΓ • ϓϩϯϓτɾΤϯδχΞϦϯά • ΤϯδχΞͷੜଘઓུ

Slide 5

Slide 5 text

େن໛ݴޠ Ϟσϧ

Slide 6

Slide 6 text

େن໛ݴޠϞσϧͱ͸(LLM) • ๲େͳςΩετσʔλΛ༻͍ͯࣗવݴޠॲཧλεΫΛߦ͏ͨΊʹઃܭ͞Ε ͨػցֶशϞσϧ • ༩͑ΒΕͨจ຺ʹج͍ͮͯ࣍ʹདྷΔ୯ޠ΍ϑϨʔζͷग़ݱ֬཰Λ༧ଌ ʮࠓ೔ͷఱؾ͸ʁʯ 1.݄༵೔ 2. ΧϨʔύϯ 3.੖Ε

Slide 7

Slide 7 text

LLM͕ੜΜͩมԽ • ίʔσΟϯά࡞ۀͳͲͷࣗಈԽ • จষͷཁ໿΍ղઆ • ը૾ɺಈըੜ੒ • όοΫΦϑΟεͷ࡞ۀޮ཰Խ

Slide 8

Slide 8 text

ίʔσΟϯά࡞ۀͷࣗಈԽ • ࣮૷ͷαδΣετ • ςετ࣮૷ͷࣗಈԽ • ϦϑΝΫλϦϯάͷఏҊ

Slide 9

Slide 9 text

จষͷཁ໿΍ղઆ • ௕͍ӳޠ࿦จͷ຋༁ɺཁ໿ • SlackͳͲͷσΟεΧογϣϯͷཁ໿ • ಡॻͰΘ͔Βͳ͔ͬͨՕॴΛChatGPTΛ΋͍ͪͯ୳ࡧతʹཧղ

Slide 10

Slide 10 text

ը૾ɺಈըੜ੒ • ςΩετ͔Βը૾ͷੜ੒͕༰қʹͳͬͨ • Soraͷিܸ • https://openai.com/index/sora/

Slide 11

Slide 11 text

όοΫΦϑΟεͷ࡞ۀͷޮ཰Խ • SQLͷࣗಈੜ੒ • εϓϨουγʔτͷ೉ղͳ਺ࣜͷ࣮૷ • DifyͳͲͷϫʔΫϑϩʔπʔϧͷීٴ

Slide 12

Slide 12 text

tblsͷεΩʔϚσʔλΛAIʹೖྗ͠  ࣗવݴޠ͔ΒΫΤϦΛࣗಈੜ੒ https://github.com/kromiii/tbls-ask-agent-slack

Slide 13

Slide 13 text

--.Λར༻ͨ͠ αʔϏεͷࣄྫ

Slide 14

Slide 14 text

ςΩετΤσΟλ • GitHub Copilot • ϓϥάΠϯͱ༷ͯ͠ʑͳΤσΟλͱ࿈ܞՄೳ • Cursor • VS CodeΛϑΥʔΫͯ͠ɺAIωΠςΟϒͳମݧ͕ՄೳͳΤσΟλ

Slide 15

Slide 15 text

ਪનγεςϜ εϦεϦAIνϟοτʢβʣ

Slide 16

Slide 16 text

OpenAIͰϢʔβʔͷจষΛ  ݕࡧՄೳͳจݴ΁มߋͯ͠ɺ SUZURIͷ঎඼Λݕࡧ LangChain LangChainͰੜ੒ͨ͠৘ใΛ΋ͱʹΫΤϦ https://js.langchain.com/docs/modules/chains/popular/api

Slide 17

Slide 17 text

Ϣʔβʔͷೖྗิॿ • B/43 AIϨγʔτಡΈऔΓػೳ ※1 • ΧϥʔϛʔAIΞγελϯτ(β) ※1 https://b43.jp/news/entry/feature-update-self-input ΑΓը૾ΛҾ༻

Slide 18

Slide 18 text

Site Reliability Engineering

Slide 19

Slide 19 text

Site Reliability Engineering GoogleͰഓΘΕͨγεςϜ؅ཧ ͱαʔϏεӡ༻ͷํ๏࿦ ࠃ಺ʹ͓͍ͯ͸຋༁ຊͷ ొ৔ʹΑͬͯҰؾʹ޿·ͬͨ https://www.oreilly.co.jp/books/9784873117911/

Slide 20

Slide 20 text

–O’REILLY SRE αΠτϦϥΠΞϏϦςΟΤϯδχΞϦϯά 1.2 αʔϏε؅ཧऀ΁ͷGoogleͷΞϓϩʔν “SREͱ͸ɺιϑτ΢ΣΞΤϯδχΞʹ ӡ༻νʔϜͷઃܭΛґཔͨ͠ͱ͖ʹͰ͖͕͋Δ΋ͷͰ͢”

Slide 21

Slide 21 text

SREͷ໾ׂ • ϞχλϦϯάͱՄ؍ଌੑͷ޲্ • Πϯγσϯτ؅ཧͱ෮چରԠ • ࣗಈԽͱޮ཰Խ

Slide 22

Slide 22 text

ϞχλϦϯά ࢮ׆؂ࢹ Ϧιʔε؂ࢹ ֎ܗ؂ࢹ γεςϜͷ݈શੑΛ؂ࢹ͢Δɺਓʑ͕ೳಈతʹߦ͏ߦҝ ྫɿαʔόɺαʔϏε͕ىಈ͍ͯ͠Δ͔ʁ ྫɿCPU΍ϝϞϦɺωοτϫʔΫͷঢ়گ͸Ͳ͏͔ʁ ྫɿhttps://pepabo.comΛ֎෦͔ΒΞΫηεͯ͠ར༻Մೳ͔ʁ

Slide 23

Slide 23 text

ΦϒβʔόϏϦςΟ γεςϜͷঢ়ଶΛ֎෦͔Βཧղ͢Δ͜ͱ͕Ͱ͖Δ=ΦϒβʔόϏϦςΟ͕ߴ͍ ͋ΔϦΫΤετͰར༻͞ΕͨϦιʔε͕୳ࡧՄೳͰ͋Δ ͋Δϓϩηεͷॲཧঢ়گ͕֎෦͔ΒΘ͔Δ ϩά͔ΒͲ͏͍ͬͨॲཧ͕ߦΘΕ͍ͯΔͷ͔Θ͔Δ Մ؍ଌੑ=γεςϜͷঢ়ଶ͕֎෦͔ΒखʹऔΔΑ͏ʹΘ͔Δ

Slide 24

Slide 24 text

Πϯγσϯτ؅ཧ

Slide 25

Slide 25 text

責任の所在は「このパラメーター変えてみたら？」「サーバ落ちてね？」この障害いつ頃に収束しますか？影響範囲を教えて下さい何もしてないのに壊れた

Slide 26

Slide 26 text

Πϯγσϯτ؅ཧͷৄࡉ https://speakerdeck.com/hiboma

Slide 27

Slide 27 text

ϙετϞʔςϜ ൃੜͨ͠γεςϜো֐΍Πϯγσϯτʹରͯ͠ɺৼΓฦΓɺจॻԽ͠ɺ  ࠜຊରԠͷ؅ཧ΍ɺະདྷ΁ͷφϨοδͱ͢Δ ൷൑ɺඇ೉Λආ͚ɺࣄ࣮Λ΋ͱʹͲ͏͢Ε͹վળͰ͖Δ͔Λߟ͑Δ

Slide 28

Slide 28 text

ࣗಈԽͱޮ཰Խ

Slide 29

Slide 29 text

τΠϧͱ͸ γεςϜͷӡ༻ʹඞཁ͕ͩɺ௕ظతʹՁ஋ͷͳ͍͜ͱ खಈʹΑΔσϓϩΠ ա৒ϦιʔεΛར༻͢ΔΫϥΠΞϯτͷ੍ݶ Զͷߟ͑ͨ࠷ڧͷεΫϦϓτͷखಈ࣮ߦ αʔϏεͷ੒௕ʹൺྫͯ͠૿͑Δ΋ͷ

Slide 30

Slide 30 text

ͳͥτΠϧΛ๾໓͢Δඞཁ͕͋Δ͔ʁ αʔϏεͷ੒௕ʹൺྫͯ͋͠ͳͨͷ࣌ؒ͸ͳ͘ͳΔ खಈʹΑΔσϓϩΠ → 1೔10ճ͔Β1೔1,000ճ΁ ա৒ϦιʔεΛར༻͢ΔΫϥΠΞϯτͷ੍ݶ → ഭΓ͘ΔDDoS Զͷߟ͑ͨ࠷ڧͷεΫϦϓτͷखಈ࣮ߦ → ࠷ڧͷεΫϦϓτϕετ1000 αʔϏεͷ੒௕ʹൺྫͯ͠૿͑Δ΋ͷ → ͓͚ۚͩ૿͑Ε͹͍͍ͷʹͶ

Slide 31

Slide 31 text

SREͱLLMͷؔΘΓ • Ξϥʔτͷ෼ੳ • ΦϖϨʔγϣϯͷิॿ

Slide 32

Slide 32 text

Ξϥʔτͷ෼ੳ • දࣔ͞ΕͨΤϥʔΛLLMͰ  ෼ੳͨ͠Γɺղܾํ๏Λ  ฉ͍ͨΓ

Slide 33

Slide 33 text

ΦϖϨʔγϣϯͷิॿ • TerraformͷఆٛͳͲɺ೔ৗ తͳߏங͸ࣗಈԽ

Slide 34

Slide 34 text

afaΛར༻ͨ͠ΦϖϨʔγϣϯͷࣗಈԽ ʮλʔϛφϧϑϨϯυϦʔͳAIίϚϯυɺafaΛ࡞ͬͨʯ  https://blog.monochromegane.com/blog/2024/09/16/afa/ $ P=“഑Լʹ͋ΔgoͰऴΘΔϑΝΠϧͷҰཡΛग़ྗͯ͠" % afa new -script -Q -j command_suggestion -p $P | jq -r ". | fromjson|.suggested_command" fi nd . -type f -name '*.go'

Slide 35

Slide 35 text

LLMΛ༻͍ͨ  ٕज़ྖҬͷ֦ு

Slide 36

Slide 36 text

LLMΛ༻͍ٕͨज़ྖҬͷ֦ு ࣮ྫ: ػցֶशΛ΋͍ͪͨΞΫηε੍ޚ

Slide 37

Slide 37 text

େྔΞΫηε ػցֶशΛ΋͍ͪͨΞϓϩʔν ECαΠτʹର͢Δɺपظੑ΍URLͷϢχʔΫੑΛ ػցֶशΛ΋͍ͪͨϞσϧͰ൑ఆ͠ɺࣗಈͰϒϩοΫ

Slide 38

Slide 38 text

Known Unknowns͔ΒKnown Knowns΁ • Known-Knowns ɹɹ஌͍ͬͯΔ͜ͱ • Known-Unknowns ɹɹ஌Βͳ͍͜ͱΛ஌͍ͬͯΔ • Unknown-Unknown ɹɹ஌Βͳ͍͜ͱΛ஌Βͳ͍ LLMΛར༻͢Δ͜ͱͰɺ ଘࡏΛ஌͍ͬͯΔٕज़Λ༻͍ͯ ࣮ݱ͢Δ͜ͱ͕ൺֱతʹ༰қʹͳͬͨ

Slide 39

Slide 39 text

༨ஊɿϓϩϯϓτ ΤϯδχΞϦϯά

Slide 40

Slide 40 text

ϓϩϯϓτɾΤϯδχΞϦϯά • ϓϩϯϓτΛ௨ͯ͡ɺ࠷దͳճ౴ΛಘΔͨΊͷςΫχοΫ • ϓϩϯϓτɾεΫʔϧͷΑ͏ͳϏδωε΋͋Γɺʮ͋ͳͨ͸ʓʓͰ͢ʯͷ Α͏ʹ໾ׂΛ༩͑ΔΑ͏ͳςΫχοΫ΍ɺϒϥοΫϘοΫεͳ࣮૷ʹ͍ͭ ͯɺޮՌతͳʓʓͱ͍͏Α͏ʹਧௌ͢ΔςΫχοΫʹ͍ͭͯ͸pyama͸ջ ٙతͰ͢

Slide 41

Slide 41 text

࣮ྫ:ϓϩͷϓϩάϥϚ Լهͷ࣮૷ΛϦϑΝΫλϦϯά͍ͯͩ͘͠͞ɻ p (1..10).map { |n| n**n.to_s.reverse.to_i % 11 }.join.chars.uniq.sort unique_sorted_chars result = (1..10).map do |n| exponent = n.to_s.reverse.to_i n**exponent % 11 end unique_sorted_digits = result.join.chars.uniq.sort p unique_sorted_digits

Slide 42

Slide 42 text

࣮ྫ:ϓϩͷϓϩάϥϚ ͋ͳͨ͸ϓϩͷϓϩάϥϚͰ͢ɻ Լهͷ࣮૷ΛϦϑΝΫλϦϯά͍ͯͩ͘͠͞ɻ p (1..10).map { |n| n**n.to_s.reverse.to_i % 11 }.join.chars.uniq.sort result = (1..10).map do |n| power_result = n**n reversed_number = power_result.to_s.reverse.to_i reversed_number % 11 end unique_sorted_chars = result.join.chars.uniq.sort p unique_sorted_chars

Slide 43

Slide 43 text

ΤϯδχΞͷ ੜଘઓུ

Slide 44

Slide 44 text

ͲͷΑ͏ͳ࢓ࣄ͕࢒Δ͔ʁ • LLMͷग़ྗͷਅآΛݟۃΊΔΤϯδχΞ • LLMͷάϧʔ࣮૷ͱͯ͠ͷΤϯδχΞ • ֶशσʔλΛ৽ͨʹੜΈग़ͨ͢ΊͷΤϯδχΞ

Slide 45

Slide 45 text

LLMͷग़ྗͷਅآΛݟۃΊΔΤϯδχΞ • ϋϧγωʔγϣϯ • ӕΛݟൈ͚ͳ͍ͱΠϯλʔωοτΛ࢖͏ͷ͸೉͍͠ by ੢ଜͻΖΏ͖

Slide 46

Slide 46 text

LLMͷάϧʔ࣮૷ͱͯ͠ͷΤϯδχΞ • ݱঢ়͸ਓ͕ؒԿ͔͠ΒͷೖྗΛ༩͑ɺͦΕΛ΋ͱʹLLM͕ճ౴Λੜ੒͢Δ • RAG΍LangChainʹ͍ͭͯ΋ݱঢ়Ͱ͸ಉ༷ͷঢ়گʹ͋Δ

Slide 47

Slide 47 text

ֶशσʔλΛ৽ͨʹੜΈग़ͨ͢ΊͷΤϯδχΞ • LLM͸ਓྨ͕ੜ࢈ͨ͠๲େͳ৘ใΛֶश͍ͯ͠Δ • ྫ͑͹ίϯϐϡʔλʔݴޠ΍OSͷൃలʹ௚઀తʹLLM͕͙͢ʹ௚઀తʹ د༩͢Δ͔ʁ

Slide 48

Slide 48 text

ݱঢ়Ͱ͸LLM͕޲͍͍ͯͳ͍͜ͱ • όϦσʔγϣϯ • ܾఆͷ࠷ऴ൑அ

Slide 49

Slide 49 text

όϦσʔγϣϯ • LLM͸Ұఆͷ֬཰ͰޡΓΛൃੜͤ͞Δ • ϢʔβʔϑΥʔϜͷೖྗͷνΣοΫͱ͔͸·ͩϧʔϧϕʔεͷ΄͏͕֬౓ ͕ߴ͍έʔε͕͋Δ

Slide 50

Slide 50 text

ܾఆͷ࠷ऴ൑அ • ྫ͑͹څ༩ͷৼࠐઌࢦఆͷࣗಈԽͰLLMʹ೚ͤΒΕΔ͔Ͳ͏͔ʁ • AmazonͰຖ݄ࣗ෼ʹඞཁͳ΋ͷΛࣗಈߪೖ೚ͤΒΕΔ͔Ͳ͏͔ʁ

Slide 51

Slide 51 text

͜ͷઌLLM͸Ͳ͏ͳ͍͔ͬͯ͘ • ϓϥοτϑΥʔϜͱͯ͠ͷLLM • ϩʔΧϧ࣮ߦ͞ΕΔLLM

Slide 52

Slide 52 text

ϓϥοτϑΥʔϜͱͯ͠ͷLLM • ༏ΕͨLLM࡞੒͢Δʹ͸๲େͳίϯϐϡʔςΟϯάϦιʔε͕ඞཁͰ͋Γɺ ࢿຊྗ͕ඞཁ • iOSɺAndroidɺGCPɺAWSͷΑ͏ʹϓϥοτϑΥʔϜԽ͕ࠓޙਐΉ

Slide 53

Slide 53 text

ϩʔΧϧͰ࣮ߦ͞ΕΔLLM • ਫ਼౓͸ྼΔ͕ɺػඍͳ৘ใͳͲΛѻ͏ͨΊͷܰྔϞσϧ͕ϩʔΧϧͰಈ͘ • LLM + RAG ΋͘͠͸ɺϩʔΧϧͰಈ͘AI AgentͷΑ͏ͳ΋ͷͰ৘ใ࿈ܞ] • “LLM for SRE“ͷੈք୳ࡧ ※ ※ https://blog.yuuk.io/entry/2024/the-world-of-llm4sre

Slide 54

Slide 54 text

͜ͷઌpyama͸Ͳ͏͍͔ͯ͘͠ • ܧଓతͳجૅ஌ࣝͷݚᮎ • ٕज़తͳ໘ന͞ΛٻΊͯ • ৘ใͷਅآΛݟΔྗΛཆ͏

Slide 55

Slide 55 text

ܧଓతͳجૅ஌ࣝͷݚᮎ • ͜Ε·ͰͱมΘΒͣɺKnownsͳྖҬΛ͍͔ʹ૿΍͔͕͢େࣄ • ޿͘ɺਖ਼͘͠ཧղ͢ΔൣғΛ޿͛Δ͜ͱͰLLMΛ׆༻͢Δ͜ͱͰΑΓେ͖ ͍όϦϡʔΛੜΉ͜ͱ͕Ͱ͖Δ

Slide 56

Slide 56 text

ٕज़తͳ໘ന͞ΛٻΊͯ • ݸਓతʹ͸Kubernetes͕ग़͖ͯͨͱ͖ͱࣅͨɺࣗ෼͸࢖͏ଆͰ͋Δɺ  ແྗײɺ໘ന͘ͳ͞Έ͍ͨͳ΋ͷ͸ਖ਼௚ײ͍ͯ͡Δ • fujiwara͞Μͷ伱ؒՈ۩ͷߟ͑ํ • ϓϥοτϑΥʔϜͷ্Ͱҧ͍ΛੜΉݯઘ͸ٕज़ྗͰ͋Δ͜ͱ͸͜Ε·Ͱͱ มΘΒͳ͍

Slide 57

Slide 57 text

৘ใͷਅآΛݟΔྗΛཆ͏ • ΤϯδχΞϦϯάʹؔΘΒͣɺ৘ใͷਅآɺ෺ࣄͷળ͠ѱ͠ɺےͷྑ͞ѱ ͞ΛݟۃΊΔೳྗ • UnknownsͳྖҬʹ͍ͭͯ΋ࣗ෼ͷ౔ඨʹҾ͖ࠐΜͰKnownsʹ͢Δೳྗ • γωΫυΩ୳ࡧΛ਎ʹ͚ͭΔ ※ ※ಠֶେશ https://www.diamond.co.jp/book/9784478108536.html

Slide 58

Slide 58 text

–Platon ୳ٻͷύϥυοΫε “୳ٻ͢Δର৅Λ஌Βͳ͚Ε͹ɺͦ΋ͦ΋୳ٻͰ͖ͳ͍ɻ ͔ͦ͠͠ͷର৅Λ஌͍ͬͯΕ͹୳ٻ͢Δඞཁ͕ͳ͍”

Slide 59

Slide 59 text

5IBOLT ࠷৽ͷ࠾༻৘ใΛνΣοΫˠ !QC@SFDSVJU