Upgrade to Pro — share decks privately, control downloads, hide ads and more …

今だからこそ学ぼう!生成AIのセキュリティ入門①_公開資料

 今だからこそ学ぼう!生成AIのセキュリティ入門①_公開資料

Nobu Mochizuki

August 26, 2024
Tweet

More Decks by Nobu Mochizuki

Other Decks in Technology

Transcript

  1. ࣸਅࡱӨ ಈըࡱӨ ࢿྉެ։ 4/4֦ࢄ ̋ ̋ ̋ ̋ *#.%PKP ηογϣϯडߨʹ͓͚Δ஫ҙࣄ߲

    ηογϣϯதʹ໎࿭ߦҝ͕ൃ֮ͨ͠৔߹͸ɺڧ੍ୀग़ɺηογϣϯதࢭͳͲͷાஔΛߨ͡·͢
  2. ج൫Ϟσϧ ੜ੒"* ̍ͭͷϞσϧΛෳ਺ ͷλεΫʹద༻ Ͱ͖Δ৽͍͠"*ٕज़ ϙΠϯτɿ ৽͍͠σʔλΛੜ੒͠ɺ ΫϦΤΠςΟϒͳԠ༻͕ Մೳʹ ྫ

    จষੜ੒ɺը૾ੜ੒ σΟʔϓϥʔχϯά "*ͷྺ࢙ ΤΩεύʔτ γεςϜ ػցֶश ೥ ೥ ೥ ೥ ೥
  3. աڈ೥ؒͷσʔλ৵֐ͷඃ֐ֹ ˞ສԁ୯Ґ 200.70 223.60 241.20 273.71 337.20 386.40 369.10 411.00

    450.00 510.00 560.00 600.00 0 100 200 300 400 500 600 700 2012 2013 2014 2015 2016 2017 2018 2019 2020 2021 2022 2023 ࢀরɿ*#.$PTUPGB%BUB#SFBDI3FQPSU IUUQTXXXJCNDPNSFQPSUTEBUBCSFBDI
  4. ࣾ಺ 1$ αʔόʔ Ϋϥ΢υ "1* "1 ΞϓϦ *05 ϦϞʔτϫʔΫ ϞόΠϧ

    888 ϋοΧʔ ϋοΧʔ ϋοΧʔ ۙ೥ͷγεςϜ৘ใͷྲྀΕ
  5. ҰൠతͳαΠόʔ߈ܸͷྲྀΕ εςʔδ̍ ॳظΞΫηεʣ 1IJTIJOHϝʔϧ·ͨ͸ωοτଆͷαʔϏεͷ &YQMPJU ΞΫηεͷཱ֬ ࢧ഑ͱίϯτϩʔϧ εςʔδ̎ ʢΤΫεϓϩΠτޙʣ &YQMPJUޙͷϚϧ΢ΣΞɾπʔϧΩοτ

    ΠϯλϥΫςΟϒͳ߈ܸͰγεςϜ΁ͷΞΫηε εςʔδ̏ ʢ֦ுʣ ϢʔβʔɾάϧʔϓͷΞΫηεݖݶͷఁ࡯ "DUJWF%JSFDUPSZఁ࡯ʹΑͬͯυϝΠϯΞυϛϯ΍ ίϯτϩʔϥʔϦετͷऩू ఁ࡯Λਂງͯ͠σʔλιʔεͷऩू΍߈ܸ͢Δ ϗετ΍αϒωοτͷ೺Ѳ εςʔδ̐ ʢσʔλऩूͱ࿙Ӯʣ ػີσʔλͷ࿙Ӯ΍υϝΠϯͷ ΞυϛχετϨʔλʔݖݶͷ֬อ εςʔδ̑ 3BOTPNXBSFͷσϓϩΠʣ ϥϯαϜ΢ΣΞ஫ೖͷ४උ ΞυϛχετϨʔλʔݖݶͷ άϧʔϓϙϦγʔ΍4.#ͳͲΛ࢖༻ͨ͠σϓϩΠ
  6. %P4߈ܸҎ֎ Ϛϧ΢ΣΞ ίϯϐϡʔλʔ΍ͦͷར༻ऀʹඃ֐Λ΋ͨΒ͢͜ͱΛ໨తͱͨ͠ɺѱҙͷ͋Δ ιϑτ΢ΣΞͷ૯শɻ ϥϯαϜ΢ΣΞ ҉߸Խ͢Δ͜ͱͰϑΝΠϧΛར༻ෆՄೳͳঢ়ଶʹ্ͨ͠Ͱɺݩʹ໭͢͜ͱͱҾ ͖׵͑ʹۚમʢ਎୅ۚʣΛཁٻ͢ΔϚϧ΢ΣΞɻ ϑΟογϯά ૹ৴ऀΛ࠮শͨ͠ిࢠϝʔϧΛૹΔͳͲͯ͠ɺِͷ8FCϖʔδʹ༠ಋ͠ݸਓ৘ ใ

    ΞΧ΢ϯτ৘ใ ΫϨδοτΧʔυ৘ใ Λೖྗͤ͞Δ͜ͱͰෆਖ਼ʹಘΔํ๏ɻ Ϗογϯά ϘΠεϑΟογϯά ి࿩ͳͲɺԻ੠Λ࢖༻ͨ͠ϑΟογϯά࠮ٗΛࢦ͢ɻ ࣙॻ߈ܸ ύεϫʔυΛෆਖ਼ʹೖख͢Δํ๏ͷҰͭɻࣙॻʹొ࿥͞Ε͍ͯΔ୯ޠͳͲΛ૊ Έ߹ΘͤͯେྔʹϩάΠϯΛࢼߦ͢Δɻ ϒϧʔτϑΥʔε߈ܸ ૯౰ͨΓ߈ܸ ύεϫʔυΛෆਖ਼ʹೖख͢Δํ๏ͷҰͭɻ࢖༻Մೳͳจࣈྻɺ਺ࣈͳͲΛ૊Έ ߹ΘͤͯେྔʹϩάΠϯΛࢼߦ͢Δɻ ࢀߟɿڴҖͷྫ %04߈ܸ 4:/ϑϥου߈ܸ େྔͷ4:/ύέοτΛૹΓ෇͚Δɻ ߈ܸଆ͕"$,ύέοτΛΘ͟ͱฦ͞ͳ͍͜ͱͰɺ߈ܸΛड͚ͨଆ͸ Ԡ౴଴ͪͷ··ͷ5$1઀ଓΛେྔʹ๊͑Δɻͦͷ݁Ռɺ߈ܸऀ͔ΒͰ͸ͳ ͍ਖ਼ৗͳ৽ن઀ଓΛड͚෇͚ΒΕͳ͘ͳΔɻ *$.1ϑϥου߈ܸ େྔͷ*$.1Τίʔཁٻ FDIPSFRVFTU ΛૹΓ෇͚ΔɻτϥϑΟοΫ͕ ͻͬഭ͢Δ͜ͱ΍ɺ߈ܸΛड͚ͨαʔόʔͷ$16ͳͲաෛՙ͕ݒ೦͞ΕΔɻ 4NVSG߈ܸ ૹ৴ݩΛ߈ܸର৅ʹِ૷͠ɺѼઌΛϒϩʔυΩϟετΞυϨεͱͨ͠େྔ ͷ*$.1ΤίʔཁٻΛૹΔɻϒϩʔυΩϟετΞυϨεΛड৴ͨ͠ෳ਺ͷ ϗετ͸ɺૹ৴ݩ ʹ߈ܸର৅ ʹ*$.1ΤίʔԠ౴ FDIPSFQMZ ΛૹΔɻ
  7. 04*ɾ5$1*1ωοτϫʔΫϞσϧͱओͳηΩϡϦςΟʔ՝୊ 04* ΞϓϦέʔγϣϯ૚ )551 '51 %/4 101 4.51ʣ ϓϨθϯςʔγϣϯ૚ 4.51'515&-/&5

    ηογϣϯ૚ 5-4/FU#*04 τϥϯεϙʔτ૚ 5$16%1/FUXBSF ωοτϫʔΫ૚ *1 "31 3"31 *$.1 σʔλϦϯΫ૚ 111 &UIFSOFUʣ ෺ཧ૚ 34 651 ແઢʣ 5$1*1 ΞϓϦέʔγϣϯ૚ τϥϯεϙʔτ૚ Πϯλʔωοτ૚ ϦϯΫ૚ ओͳ՝୊ ΞΫηε؅ཧͱঝೝɺػີσʔλ؅ཧɺ ηογϣϯԽ؅ཧɺ%%04߈ܸɺ42-ΠϯδΣΫγϣϯɺ 1IJTIJOHɺ944εΫϦϓτ 44-ϦΫΤετͷ໰୊ɺ44-τϯωϦϯάܦ༝ͷ )551߈ܸɺ44-ϋΠδϟοΫ 44- 5-4ͷڧԽɺ*14&$Λ࢖ͬͨηογϣϯ૚ͷ֬อɺ .BOJOUIF.JEEMF߈ܸ &OEQPJOU֬ೝͱ֬อɺෆਖ਼ΠϯλʔωοτΞΫηεɺ 4NVSG΍4:/'MPPE߈ܸʢ%%04ʣ ύέοτεχϑΝʔɺ*1ΞυόΠεεϓʔϑΟϯάɺ *$.1߈ܸ "31εϓʔϑΟϯάɺ."$ 'MPPEJOH΍ ωοτϫʔΫεΠον΍ϒϦοδʹରͯ͠ͷ߈ܸ Πϯϑϥͷ҆શੑɺόοΫΞοϓɺࡂ֐ରࡦɺ ΞΫηείϯτϩʔϧɺ؀ڥ؅ཧ
  8. ࣾ಺ 1$ αʔόʔ Ϋϥ΢υ "1* "1 ΞϓϦ *05 ϦϞʔτϫʔΫ ϞόΠϧ

    "* ϋοΧʔ ϋοΧʔ ϋοΧʔ "*ʹ͓͚ΔσʔλͷྲྀΕ
  9. $*"τϥΠΞυ ηΩϡϦςΟͷجຊݪଇ IBM 3 key ideas to help drive compliance

    in the cloud https://www.ibm.com/blogs/cloud-computing/2018/01/16/drive-compliance-cloud/ Availability 可用性 ڐՄ͞ΕͨϢʔβʔ͕ɺద੾ͳσʔλʹ ΞΫηεͰ͖ΔΑ͏ʹͳ͍ͬͯΔ͜ͱ Integrity 完全性 ڐՄ͞Ε͍ͯͳ͍Ϣʔβʔ͕ɺσʔλʹ ΞΫηε͠վ᜵Ͱ͖ͳ͍Α͏ʹͳ͍ͬͯΔ͜ͱ Confidentiality 機密性 ػີσʔλ΁ͷΞΫηεΛ੍ޚ͠ɺ ݖݶͷͳ͍ୈࡾऀ͕ػີσʔλʹΞΫηε Ͱ͖ͳ͍Α͏੍ݶɺϒϩοΫ͢Δ͜ͱɻ
  10. ϫʔΫγϣοϓɺηογϣϯɺ͓Αͼࢿྉ͸ɺ*#.·ͨ͸ηογϣϯൃදऀʹΑͬͯ४උ͞ΕɺͦΕͧΕಠࣗͷݟղΛ൓өͨ͠΋ͷͰ͢ɻͦΕΒ͸৘ใ ఏڙͷ໨తͷΈͰఏڙ͞Ε͓ͯΓɺ͍͔ͳΔࢀՃऀʹରͯ͠΋๏཯త·ͨ͸ͦͷଞͷࢦಋ΍ॿݴΛҙਤͨ͠΋ͷͰ͸ͳ͘ɺ·ͨ*#.੡඼΍αʔϏε͕͓ ٬༷ʹద༻͋Δಛఆͷ๏ྩʹద߹͢Δ͜ͱΛอূ͢Δ΋ͷͰ΋͋Γ·ͤΜɻຊߨԋࢿྉʹؚ·Ε͍ͯΔ৘ใʹ͍ͭͯ͸ɺ׬શੑͱਖ਼֬ੑΛظ͢ΔΑ͏౒ Ί͓ͯΓ·͕͢ɺʮݱঢ়ͷ··ʯఏڙ͞Εɺ໌ࣔ·ͨ͸໧ࣔʹ͔͔ΘΒͣɺ঎ۀੑɺಛఆͷ໨త΁ͷద߹ੑɺඇ৵֐ੑΛؚΊɺ͍͔ͳΔอূ΋൐Θͳ͍ ΋ͷͱ͠·͢ɻຊߨԋࢿྉ·ͨ͸ͦͷଞͷࢿྉͷ࢖༻ʹΑͬͯɺ͋Δ͍͸ͦͷଞͷؔ࿈ʹΑͬͯɺ͍͔ͳΔଛ֐͕ੜͨ͡৔߹΋ɺ*#.͸੹೚ΛෛΘͳ͍ ΋ͷͱ͠·͢ɻ ຊߨԋࢿྉͰݴٴ͞ΕΔ*#.੡඼ɺϓϩάϥϜɺ·ͨ͸αʔϏε͸ɺ*#.͕ϏδωεΛߦ͍ͬͯΔ͢΂ͯͷࠃɾ஍ҬͰ͝ఏڙՄೳͳΘ͚ Ͱ͸͋Γ·ͤΜɻຊߨԋࢿྉͰݴٴ͞ΕΔকདྷͷల๬ʢ੡඼ϦϦʔε೔෇΍੡඼ػೳΛؚΉʣ͸ɺࢢ৔ػձ·ͨ͸ͦͷଞͷཁҼʹج͍ͮͯ*#.ಠࣗͷܾ ఆݖΛ΋͍ͬͯͭͰ΋มߋͰ͖Δ΋ͷͱ͠ɺকདྷͷ੡඼·ͨ͸ػೳ͕࢖༻ՄೳʹͳΔ͜ͱɺ΋͘͠͸ಛఆͷ݁ՌΛ֬໿͢Δ͜ͱΛҙਤ͢Δ΋ͷͰ͸͋Γ ·ͤΜɻຊߨԋࢿྉ͸ɺݴٴ͞ΕΔ

    *#.੡඼·ͨ͸αʔϏεʹద༻͋Δܖ໿৚݅Λมߋ͢Δ΋ͷͰ΋ɺ௥Ճͷද໌·ͨ͸อূΛҙਤ͢Δ΋ͷͰ΋͋Γ· ͤΜɻ ຊߨԋࢿྉʹؚ·Ε͍ͯΔ಺༰͸ɺࢀՃऀͷ׆ಈʹΑͬͯಛఆͷ݁Ռ͕ੜ͡Δͱड़΂Δɺ·ͨ͸҉ࣔ͢Δ͜ͱΛҙਤͨ͠΋ͷͰ΋ɺ·ͨͦͷΑ͏ͳ݁Ռ ΛੜΉ΋ͷͰ΋͋Γ·ͤΜɻ ύϑΥʔϚϯε͸ɺ؅ཧ͞Εͨ؀ڥʹ͓͍ͯඪ४తͳ*#.ϕϯνϚʔΫΛ࢖༻ͨ͠ଌఆͱ༧ଌʹج͍͍ͮͯ·͢ɻϢʔβʔ ͕ܦݧ͢Δ࣮ࡍͷεϧʔϓοτ΍ύϑΥʔϚϯε͸ɺϢʔβʔͷδϣϒɾετϦʔϜʹ͓͚ΔϚϧνϓϩάϥϛϯάͷྔɺೖग़ྗߏ੒ɺετϨʔδߏ੒ɺ ͓Αͼॲཧ͞ΕΔϫʔΫϩʔυͳͲͷߟྀࣄ߲ΛؚΉɺ਺ଟ͘ͷཁҼʹԠͯ͡มԽ͠·͢ɻ͕ͨͬͯ͠ɺݸʑͷϢʔβʔ͕͜͜Ͱड़΂ΒΕ͍ͯΔ΋ͷͱ ಉ༷ͷ݁ՌΛಘΒΕΔͱ֬໿͢Δ΋ͷͰ͸͋Γ·ͤΜɻهड़͞Ε͍ͯΔ͢΂ͯͷ͓٬༷ࣄྫ͸ɺͦΕΒͷ͓٬༷͕ͲͷΑ͏ʹ*#.੡඼Λ࢖༻͔ͨ͠ɺ· ͨͦΕΒͷ͓٬༷͕ୡ੒ͨ݁͠Ռͷ࣮ྫͱͯࣔ͠͞Εͨ΋ͷͰ͢ɻ࣮ࡍͷ؀ڥίετ͓ΑͼύϑΥʔϚϯεಛੑ͸ɺ͓٬༷͝ͱʹҟͳΔ৔߹͕͋Γ·͢ɻ • *#.ɺ*#.ϩΰɺJCNDPNɺwatsonx.aiä͸ɺ ੈքͷଟ͘ͷࠃͰొ࿥͞Εͨ*OUFSOBUJPOBM#VTJOFTT.BDIJOFT$PSQPSBUJPOͷ঎ඪͰ͢ɻଞͷ੡඼໊ ͓ΑͼαʔϏε໊౳͸ɺͦΕͧΕ*#.·ͨ͸֤ࣾͷ঎ඪͰ͋Δ৔߹͕͋Γ·͢ɻݱ࣌఺Ͱͷ *#.ͷ঎ඪϦετʹ͍ͭͯ͸ɺ XXXJCNDPNMFHBMDPQZUSBEFTIUNMΛ͝ཡ͍ͩ͘͞ɻ .JDSPTPGU$PQJMPU͸ .JDSPTPGU$PSQPSBUJPOͷถࠃ͓Αͼͦͷଞͷࠃʹ͓͚Δ঎ඪͰ͢