Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
今だからこそ学ぼう! 生成AIのセキュリティ入門③_公開資料
Search
Nobu Mochizuki
August 26, 2024
Technology
330
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
今だからこそ学ぼう! 生成AIのセキュリティ入門③_公開資料
Nobu Mochizuki
August 26, 2024
More Decks by Nobu Mochizuki
See All by Nobu Mochizuki
今だからこそ学ぼう!生成AIのセキュリティ入門①_公開資料
nobumochizuki
0
150
今だからこそ学ぼう! 生成AIのセキュリティ入門②_公開資料
nobumochizuki
0
140
今からでも遅くない! エンドポイントに迫る脅威を理解しよう_公開資料
nobumochizuki
0
110
Other Decks in Technology
See All in Technology
JAWS-UGグッズ職人仕事の流儀
kentapapa
0
120
20261017福岡devIO 「AIは"良いダッシュボード"を作れるか?
jtakeda
0
190
Benchmarking Disaggregated Serving on vLLM + Dynamo with a Real Coding-Agent Workload
nttcom
1
200
ストレスなくAIと付き合いたい!こんなときどうしてる?
namiki64
4
630
大型犬好きによるPugの紹介
yamanoku
1
160
QA4AI 2026-Oct 生成AI時代の品質保証
tokuty
1
900
二歩目のフロントエンド・ウェブアクセシビリティ
camiha
2
680
日本語に強いオープンな大規模言語モデル「LLM-jp」
odashi
5
1.2k
ソフトウェア ファクトリー - 再現性のあるソフトウェアの工場づくり / Software factory
iktakahiro
7
5.1k
AI駆動で「他アプリの音を加工できる」アプリを作った
satomasahiro2005
0
180
FinOps Agentが生んだ技術負債:コスト自動調査の落とし穴と解消までの道のり
oasis1994liveforever
2
150
Getting Started with Google Antigravity
glaforge
0
320
Featured
See All Featured
We Have a Design System, Now What?
morganepeng
55
8.4k
SEO Brein meetup: CTRL+C is not how to scale international SEO
lindahogenes
2
2.9k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
52
6.1k
What's in a price? How to price your products and services
michaelherold
247
13k
AI in Enterprises - Java and Open Source to the Rescue
ivargrimstad
0
1.5k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
35
3.9k
From Legacy to Launchpad: Building Startup-Ready Communities
dugsong
0
360
Building a Modern Day E-commerce SEO Strategy
aleyda
45
9.3k
Winning Ecommerce Organic Search in an AI Era - #searchnstuff2025
aleyda
2
2.2k
What the history of the web can teach us about the future of AI
inesmontani
PRO
2
740
Fantastic passwords and where to find them - at NoRuKo
philnash
53
4k
WENDY [Excerpt]
tessaabrams
14
40k
Transcript
ຊΞΠɾϏʔɾΤϜגࣜձࣾ ςΫϊϩδʔࣄۀຊ෦ ΧελϚʔɾαΫηεࣄۀ෦ ΧελϚʔɾαΫηεɾϚωʔδϟʔ ΞνϟϥΞϚϥγϯϋ $*441 ݄ੜ ࠓ͔ͩΒֶͦ͜΅͏ʂ ੜ"*ͷηΩϡϦςΟʔೖᶅ
ࣸਅࡱӨ ಈըࡱӨ ࢿྉެ։ 4/4֦ࢄ ̋ ̋ ̋ ̋ *#.%PKP ηογϣϯडߨʹ͓͚Δҙࣄ߲
ηογϣϯதʹ໎ߦҝ͕ൃ֮ͨ͠߹ɺڧ੍ୀग़ɺηογϣϯதࢭͳͲͷાஔΛߨ͡·͢
ࣗݾհ Ξνϟϥ ΞϚϥγϯϋ "DIBMB"NBSBTJOHIF ຊ*#.ΧελϚʔɾαΫηεɾϚωʔδϟʔ ݄ੜ /PCV.PDIJ[VLJ ຊ*#. ΧελϚʔɾαΫηεɾϚωʔδϟʔ
త "*͕ѻ͏σʔλͷηΩϡϦςΟʔͱϓϥΠόγʔͷ՝Λհ͢Δ ΰʔϧ ੜ"*ͷ։ൃͱӡ༻ʹ͓͚ΔσʔλͷηΩϡϦςΟʔͱϓϥΠόγʔͷ ՝ɺ߈ܸڴҖͷՄೳੑΛΔ ͜ͷηογϣϯʹ͍ͭͯ
ηογϣϯᶄͷৼΓฦΓ ύʔτ̍ɿσʔλɾηΩϡϦςΟʔͷجຊ σʔλɾηΩϡϦςΟʔɾϥΠϑαΠΫϧ ن੍ίϯϓϥΠΞϯε ॏཁͳςʔλछྨͱѻ͍ͷΈ σʔλɾηΩϡϦςΟʔͷݕ౼ϙΠϯτ ύʔτ̎"*த৺ͷσʔλɾηΩϡϦςΟʔ "*։ൃͱσʔλͷؔ࿈ੑ "*։ൃɾֶशʹΘΕΔσʔλͷηΩϡϦςΟʔͱϓϥΠόγʔ՝ ߈ܸऀ͕"*ϞσϧͷֶशσʔλΞΫηε
ΞδΣϯμ
ηογϣϯᶄͷৼΓฦΓ
લճͷηογϣϯͷϑΥʔΧε ݩσʔλ σʔλ ४උͷ ։ൃ σʔλ४උ༻ͷ ίʔυ ೖྗͱग़ྗ σʔλαϯϓϧ ΦϖϨʔγϣϯ
Ψόφϯε ΞϓϦ։ൃ ΞϓϦͷίʔυ ҰൠతͳΞϓϦɾγεςϜ։ൃ ӡ༻ͱΨόφϯε σʔλΤϯδχΞϦϯάɾσʔλαΠΤϯε ӡ༻σʔλ ӡ༻தίʔυ ։ൃதίʔυ ݕূͱੳ ӡ༻ɾΨόφϯε ࢀরɿAttacking and protecting Artificial Intelligence (Event) https://raw.githubusercontent.com/OWASP/www-project-ai-security-and-privacy-guide/main/assets/images/20230215-Rob-AIsecurity-Appsec-ForSharing.pdf Ϟσϧ։ൃɾςετ͚ͷݕূͱੳ Ϟσϧֶश ֶशɾςετ༻ ͷίʔυ Ϟσϧͷద༻ ͱֶश͞Εͨ ύλʔϯ "*Ϟσϧ։ൃ ඪ४ΞϓϦɾιϑτΣΞͷηΩϡϦςΟʔ
θϩτϥετɾΞϓϩʔνΛͬͨରࡦ ϋΠϒϦουΫϥυͷอޢ rͯ͢ͷΞΫηεΛཧɾ ੍ޚ rΫϥυͷΞΫςΟϏςΟʔͱ ߏΛࢹ r҆શͳΫϥυɾωΠςΟϒɾ ϫʔΫϩʔυ ෦ڴҖͷϦεΫΛݮ –
ϦεΫͷ͋ΔϢʔβʔ׆ಈΛ ൃݟ͢Δߴͳੳ – Ϣʔβʔͷݖݶͱඞཁੑʹ Ԡͯ͡σʔλͷΞΫηεΛ੍ޚ – ڴҖΠϯςϦδΣϯεͷΈࠐΈ ηΩϡΞͳϦϞʔτϫʔΫڥ rηΩϡΞͳ#:0%ͱ σόΠεཧ r71/ͷഉআ rύεϫʔυϨεମݧͷ ఏڙ
ྫɿ৹ࠪ͢Δੜ"* Ϣʔβʔ͔ΒͷೖྗΛͦͷ··ੜ"*ʹ͞ͳ͍ ੜ"*ͷੜ݁ՌΛϢʔβʔʹ͢લʹ֬ೝ͢Δ ʮ1SPNQU*OKFDUJPOʯͷରࡦ ੜ"* ΤϯυϢʔβʔ ΞϓϦέʔγϣϯ Ճɾ৹ࠪ Ճޙͷࢦࣔ ੜ݁Ռ
ࢦࣔΛೖྗ ৹ࠪޙͷ݁Ռ
ຊηογϣϯͷϑΥʔΧε ݩσʔλ σʔλ ४උͷ ։ൃ σʔλ४උ༻ͷ ίʔυ ೖྗͱग़ྗ σʔλαϯϓϧ ΦϖϨʔγϣϯ
Ψόφϯε ΞϓϦ։ൃ ΞϓϦͷίʔυ ҰൠతͳΞϓϦɾγεςϜ։ൃ ӡ༻ͱΨόφϯε σʔλΤϯδχΞϦϯάɾσʔλαΠΤϯε ӡ༻σʔλ ӡ༻தίʔυ ։ൃதίʔυ ݕূͱੳ ӡ༻ɾΨόφϯε ࢀরɿAttacking and protecting Artificial Intelligence (Event) https://raw.githubusercontent.com/OWASP/www-project-ai-security-and-privacy-guide/main/assets/images/20230215-Rob-AIsecurity-Appsec-ForSharing.pdf Ϟσϧ։ൃɾςετ͚ͷݕূͱੳ Ϟσϧֶश ֶशɾςετ༻ ͷίʔυ Ϟσϧͷద༻ ͱֶश͞Εͨ ύλʔϯ "*Ϟσϧ։ൃ ݩσʔλ σʔλ ४උͷ ։ൃ σʔλ४උ༻ͷ ίʔυ ೖྗͱग़ྗ σʔλαϯϓϧ Ϟσϧ։ൃɾςετ͚ͷݕূͱੳ ΦϖϨʔγϣϯ Ψόφϯε ΞϓϦ։ൃ ΞϓϦͷίʔυ Ϟσϧֶश ֶशɾςετ༻ ͷίʔυ Ϟσϧͷద༻ ͱֶश͞Εͨ ύλʔϯ "*Ϟσϧ։ൃ ҰൠతͳΞϓϦɾγεςϜ։ൃ ӡ༻ͱΨόφϯε σʔλɾΤϯδχΞϦϯάɺσʔλαΠΤϯε ӡ༻σʔλ ӡ༻தίʔυ ։ൃதίʔυ ݕূͱੳ ӡ༻ɾΨόφϯε ඪ४ΞϓϦɾιϑτΣΞηΩϡϦςΟʔ "*த৺ͷσʔληΩϡϦςΟʔ
νϡʔχϯά3"(ΛΘͳ͍ͱɺۀքݻ༗ͷλεΫʹରԠͰ͖ͳ͍ 3"(ɿ3FUSJFWBM"VHNFOU(FOFSBUJPOɺ"*Ϟσϧʹؚ·Ε͍ͯͳ͍ใΛϞσϧͷ֎ଆͰݕࡧͯ͠ɺ ϓϩϯϓτʹใΛ༩͔͑ͯΒੜ͢Δ ੜ"*ͷνϡʔχϯάͷॏཁੑᶃ େྔͷ จॻ σʔλ ੜ"*Ϟσϧ ࣄલʹֶश ੜ
ࣄલʹֶशͨ͠σʔλʹج͍ͮͯੜ ֶशσʔλʹແ͍༰ʹؔͯ͠ ޡͬͯੜPSੜͰ͖ͳ͍
νϡʔχϯάʹΑͬͯۀքݻ༗ͷλεΫʹରԠՄೳ ੜ"*ͷνϡʔχϯάͷॏཁੑᶄ େྔͷ จॻ σʔλ ੜ"*Ϟσϧ ۀ σʔλ ۚ༥ۀք ಛԽϞσϧ
ࣄલʹֶश ۚ༥ۀ σʔλ ෆಈ࢈ۀ σʔλ ۀք ಛԽϞσϧ ෆಈ࢈ۀք ಛԽϞσϧ νϡʔχϯά νϡʔχϯά νϡʔχϯά
ύʔτσʔληΩϡϦςΟʔͷجຊ
࡞ ʢ$SFBUFʣ อ ʢ4UPSFʣ ར༻ ʢ6TF ڞ༗ɾసૹ ʢ4IBSF5SBOTNJUʣ ΞʔΧΠϒ ʢ"SDIJWF
ফڈɾഁյ ʢ%FTUSPZʣ σʔλɾϥΠϑαΠΫϧͷηΩϡϦςΟʔ՝ σʔλऔಘɾ࡞࣌ʹ ࣝผͱར༻తͷఆٛ อɺ҉߸Խͱ ࿙Ӯࢭ ΞΫηεݖݶͱ มߋཧ సૹதͷ҉߸ԽɺΞΫηεݖݶͱ ϞχλϦϯά ظอଘɺόοΫΞοϓ ͱࡂɾࣄ߲෮چ σόΠεɾػثͷॲɺ ن੍ʹ߹Θͤͨফڈɾഁյ Ϣʔβʔͱσʔλ ΞΫηεཧ
σʔλɾηΩϡϦςΟʔͷϑΥʔΧε ϒϩοΫɾݕӸ Ξϥʔτɾ҆શੑɾอޢ ΫϨδοτΧʔυܾࡁن੍ Ԥभ࿈߹σʔλอޢ๏ ϙϦγʔɾϨϙʔτ ࢹɾࠪɾࠪن੍ 1**ɾϚεΩϯά τʔΫϯԽ ݸਓใอޢ๏
ηΩϡϦςΟʔ ϓϥΠόγʔ ίϯϓϥΠΞϯε
• σʔλن੍͓ΑͼίϯϓϥΠΞϯεͷߟྀࣄ߲ʢ̍ʣ ࢀরɿData Privacy Laws by Country 2024 https://worldpopulationreview.com/country-rankings/data-privacy-laws-by-country
σʔλن੍͓ΑͼίϯϓϥΠΞϯεͷߟྀࣄ߲ʢ̎ʣ ۚ༥ 1$*%44 1BZNFOU$BSE *OEVTUSZ%BUB4FDVSJUZ 4UBOEBSE 1$*%44 ΫϨδοτΧʔυܾࡁ த৺ͷۚ༥ݸਓใ
ཧͱ҆શੑத৺ͷن ੍ɻ &$PNNFSDF ۚ༥ ࣗಈं 81 ࠃ࿈ͷ8PSME'PSVN GPS)BSNPOJ[BUJPO PG7FIJDMF 3FHVMBUJPOTͰࣗ ಈंۀքʹؔ࿈͢Δ ن੍Λఆ͍ٛͯ͠Δɻ ۙͰίωΫςο υϏʔΫϧؔ࿈ͷ ใγεςϜͷ ηΩϡϦςΟ͕ ͱͳ͍ͬͯΔɻ ࣗಈंத৺ Ԥभ (%13 Ԥभࠃຽͷݸਓใ औΓѻ͍ͷ҆શੑΛ த৺ʹͨ͠ن੍ɻத Ͱσʔλγες ϜͷऔΓѻ͍Ԥभࠃ ͔Βͷσʔλͷ༌ग़ Ҏ֎ʹใఏڙͷ ʮ0QUPVUʯΈ ͷద༻ؚΊΒΕͯ ͍Δ Ԥभࠃຽ͕Τϯυ ϢʔβʔͱͳΔ৫ શൠ ࠃࡍ *40 *OUFSOBUJPOBM 0SHBOJ[BUJPOGPS 4UBOEBSEJ[BUJPO ʢ*40ʣ͔Βग़ͯ͠ ͍Δࠃࡍతͳใη ΩϡϦςΟʔͱϦε Ϋཧؔ࿈ͷن੍ɻ ຊͰ+*42 ʹͳΔɻ ಛఆͷۀքʹ ݶఆ͞Ε͍ͯͳ͍ ҩྍ )*1"" ถࠃ )FBMUI*OTVSBODF 1PSUBCJMJUZBOE "DDPVOUBCJMJUZ"DU )*1"" ถࠃͰͷҩྍ อݥۀքؔ࿈ͷױऀͷ ݈߁ใͷ҆શੑΛอ ͪͳ͕Βෆਖ਼ͷϦεΫ ΛݮΒ͠ͳ͕Βޮੑ Λ্͛Δҝͷن੍ɻ පӃΫϦχοΫ ҩྍɾੜ໋อݥ ຊࠃ ݸਓใอޢ๏ ݸਓใอޢ๏ ʹࢪߦ͞Εɺຊࠃ ຽؔ࿈ͷݸਓใऔΓ ѻ͍Λن੍͢Δ๏Ͱɺ (%13ͱࣅ͍ͯΔɻ ຊࠃຽ͕Τϯυ ϢʔβʔͱͳΔ ৫શൠ
͓٬༷ʹͱͬͯͷॏཁσʔλʢ$SPXO +FXFMTʣԿ͔ ݸਓใ ٕज़ใ Ӧۀใ ࡒؔ࿈ใ ࣗࣾͷڝ૪ྗ͕Լ͢Δใ औҾઌɾऔҾՁ֨ʹؔ͢Δใɺ٬ϚχϡΞϧɺެදલ σβΠϯͳͲ ๏ྩҧຢܖҧʹӨڹ͢Δ
ઓུతͳஅͰݖརԽͤͣൿີʹ͍ͯ͠Δٕज़ใ ৽نૉࡐͷɺϊϋͳͲ ࿙͍͑ʹΑΓ๏ྩҧຢܖҧʹӨڹ͢Δ ࣗࣾͷຢଞ͔ࣾΒఏڙ͞Εͨະެදࡒؔ࿈ใ ๏ྩɺऔҾॴͷنଇͰ։͕ࣔٛ͋Δใͷ͏ͪɺະެදͷ ͷͳͲ ϓϥΠόγʔʹؔ͢Δݸਓใ ࿙͍͑ͨ͠߹ɺࣗࣾͷ৴༻ͷᆝଛഛঈٻʹӨڹ͢Δ
ଟ͘ͷ߹ɺʮॏཁσʔλʯͷಛఆॴࡏͷѲ͕Ͱ͖ͣɺ ҰաੑͷऔΈʹऴΘͬͯ͠·͏ σʔλɾηΩϡϦςΟʔʹ͓͚Δ͓٬༷ͷ͓Έࣄ ঢ়گɿ ʮॏཁσʔλʯΛಛఆͰ͖ͳ͍ σʔλͷʮॏཁʯͷҙຯ͕ଟ༷ ॏཁੑͷධՁ͕͍͠ ଟͷσʔλ͕࠷ॏཁʹྨ͞Εͯ͠·͏ ঢ়گɿ ॏཁσʔλͷॴࡏΛѲ͖͠Εͳ͍
ॏཁใ͕ଟ͘ͷਓʹࢀরɺෳ͞Εͯ͠·͏ ෳ͞ΕͨॏཁใΛআ͠ΕΔ ར༻ऀͷແҙࣝԼͰ࡞͞ΕΔ Ұ࣌ϑΝΠϧɺόοΫΞοϓͳͲ
σʔλɾηΩϡϦςΟʔͷݕ౼ϙΠϯτʢ̍ʣ ϦΞϧλΠϜʹ ڴҖΞϥʔτΛ ࿈ܞग़དྷΔ͔ ୭͕ΞΫηεݖݶΛ ͍࣋ͬͯΔ͔ʁ ॲཧ࡞ۀʁ ҆શʹอ͞Ε͍ͯ Δ͔ʁ
ॏཁσʔλ͕อޢ ͞Ε͍ͯΔ͜ͱΛ ূ໌Ͱ͖Δ͔ ݕग़ อޢ ४ڌ ݕ ରԠ ใ࿙Ӯʹͭͳ͕Δ ո͍͠ߦಈΛૉૣ͘ ಛఆͰ͖Δ͔ ॏཁσʔλ͕ Ͳ͜ʹ͋Δ͔
σʔλɾηΩϡϦςΟʔͷݕ౼ϙΠϯτʢʣ ݕग़ อޢ ४ڌ ݕ ରԠ ΞφϦετʹඞཁͳ ҟৗใΛ 40$ͱڞ༗ θϩτϥετɾ
Ξϓϩʔνʹ ج͍ͮͨ ࣗಈԽ͞Εͨ σʔλੳ ίϯϓϥΠΞϯεͷ ཁ݅Λຬͨ͠ɺ πʔϧΛͬͯࠪ ϨϙʔτΛ࡞͢Δ ॏཁσʔλ͕Ͳ͜ʹ ͋Δͷ͔ΛѲ͠ɺ ཧɾྨ͢Δ શͯͷσʔλιʔεͷ ΞΫςΟϏςΟʔͷ ϞχλϦϯάɺ ੬ऑੑධՁɺอޢ
ύʔτ̎"*த৺ͷσʔλɾηΩϡϦςΟʔ
"*Ϟσϧ։ൃɾػցֶशͷத৺σʔλͷՃͱ४උ ίʔυߦ σʔλΤϯδχΞϦϯά ϞσϧΤϯδχΞϦϯά %FW0QT ΞϧΰϦζϜ ׂ͔Βׂͷίʔυ σʔλ४උͷͨΊʹ͋Δ σʔλ४උͷίʔυ සൟʹมߋ͞ΕΔ
σʔλ४උ༻ͷίʔυ ͦͦอकͮ͠Β͍ ࣮ݧతͳίʔυɺ ଐਓੑ͕ߴ͍ίʔυ ଞਓ͕อकͮ͠Β͍ ࢀরɿAttacking and protecting Artificial Intelligence (Event) https://raw.githubusercontent.com/OWASP/www-project-ai-security-and-privacy-guide/main/assets/images/20230215-Rob-AIsecurity-Appsec-ForSharing.pdf
γφϦΦ̍ ֶशɾ։ൃɾੳʹΘΕΔୈࡾऀͷతࡒ࢈ɾݸਓใ γφϦΦ̎ ߈ܸऀ͕"*ϞσϧͷֶशσʔλΞΫηε ্هͷ՝ͰͲΜͳηΩϡϦςΟʔϦεΫΛߟ͑ΒΕ·͔͢ʁ ੜ"*ͷσʔλத৺ͷηΩϡϦςΟʔϦεΫ
γφϦΦ̍ɿ"*ͷֶशɾ։ൃɾੳʹΘΕΔ ୈࡾऀͷతࡒ࢈ɾݸਓใ
γφϦΦɿέʔεελσΟʔ ࢀরɿLeak Shows That Google-Funded AI Video Generator Runway Was
Trained on Stolen YouTube Content, Pirated Films https://futurism.com/leak-runway-ai-video-training ಈըੜ"*Ϟσϧ͕ ւ൛౪·ΕͨσʔλͰ ֶश͞ΕͨϞσϧͩͬͨ ڐՄΛಘͣʹσʔλΛऔಘ͠ɺ ֶशʹར༻ͨ͠ Ϟσϧͷग़ྗ͕ɺ༗໊ͳ ίϯςϯπʹࣅ͍ͯΔࣄ͕ ໌Β͔ʹͳͬͨ ஶ࡞ݖ৵
γφϦΦͷ՝ͱରࡦ ΤϦΞ ओͳ՝ ηΩϡϦςΟʔରࡦ σʔλ ඇྙཧతͳσʔλऩूͱѻ͍ɾσʔλཧͷ ෆɾར༻తѻ͍ͷಁ໌ੑͷܽɾ ݸਓใػີใͷѻ͍ʢ1** 1)*ʣ σʔλऩूͷఆٛͱಁ໌Խɾ
ΤϯυϢʔβʔঝೝɾ"*ੳͷ 0QUJOػೳͷఏڙ ๏ɾن੍ ஶ࡞ݖ๏ҧɾن੍ͷҧ ίϯϓϥΠΞϯεͱࠪ
ֶशɾ։ൃɾੳʹΘΕΔୈࡾऀͷతࡒ࢈ɾݸਓใ ΩʔϙΠϯτ Ϟσϧ։ൃɺػցֶशʹؔΘΔैۀһʹରͯ͠ηΩϡϦςΟʔڭҭΛపఈ͠ɺ ίϯϓϥΠΞϯεҧΛະવʹ͙ ஶ࡞ݖݸਓใ͕ೖΒͳ͍ɺ৴པͰ͖ΔσʔλͷΈΛूΊΔ "*ྙཧʹؔ͢Δ৫Λ࡞Γɺར༻͢ΔσʔλΛҙਂ͘ϨϏϡʔ͢Δ ར༻͢Δ"*Ϟσϧͷར༻తͱϞσϧֶश༻ͷσʔλͷಛఆ తࡒ࢈ݸਓใʹ͔͔ΘΔσʔλΛѲ͠ɺن੍๏ʹ߹Θͤͯ σʔλɾηΩϡϦςΟʔʹऔΓΉ γφϦΦͷϨϏϡʔ
γφϦΦ̎ɿ߈ܸऀ͕"*Ϟσϧͷ ֶशσʔλΞΫηε
γφϦΦɿέʔεελσΟ ࢀরɿAI Models fed AI-generated data quickly spew nonsense https://www.nature.com/articles/d41586-024-02420-7
Ϟσϧͷֶशʹར༻͞ΕΔ σʔλ͕վ᜵͞ΕΔͱɺ Ϟσϧͷਪ݁Ռ͕ظ௨Γ ʹͳΒͳ͍ ϞσϧͷྼԽ
γφϦΦͷ՝ͱରࡦ ΤϦΞ ओͳ՝ ηΩϡϦςΟʔରࡦ σʔλ σʔλϕʔεͷෆਖ਼ΞΫηεɾ 42-ΠϯδΣΫγϣϯɾ.BOJOUIF.JEEMF σʔλͷ҉߸ԽɾίϯϓϥΠΞϯεͱ ࠪɾόοΫΞοϓͱ෮ݩରࡦɾϢʔβʔ ͷΞΫηεཧɾೖྗͷύϥϝʔλʔԽ
ͱೖྗόϦσʔγϣϯɾΠϯγσϯτܭ ըͳͲ ίʔυ ίʔυͷόάʹΑͬͯͷ੬ऑੑɾ ίʔυϕʔεͷ҆શੑ αϓϥΠνΣʔϯ߈ܸʣͳͲ ཁ݅ఆٛͱυΩϡϝϯςʔγϣϯɾ %FW4FD0QTɾηΩϡϦςΟʔͱ ϓϥΠόγʔΛΈࠐΜͩ4%-$ɾ $*$%ͱνΣϯδϚωδϝϯτɾ ϨϙδτϦʔཧɾ"1*อޢͳͲ
߈ܸऀ͕"*ϞσϧͷֶशσʔλΞΫηε "*։ൃͷશͯͷσʔλΛσʔλϥΠϑαΠΫϧʹ߹Θ֤ͤͯஈ֊ʹ ͔͔ΘΔ՝ΛѲ͠ɺదʹσʔληΩϡϦςΟʔରࡦΛΈࠐΉ ΩʔϙΠϯτ ଟཁૉೝূɺύεϫʔυϨεΛΈ߹ΘͤͯɺͳΓ͢·͠ࢭ ॏཁͳֶशσʔλʹର͢Δॻ͖ࠐΈݖݶΛ࣋ͭϢʔβʔΛݶఆ σʔλͷόʔδϣϯཧɺҟৗ࣌ͷϩʔϧόοΫɺΞΫηεݖണୣ ॏཁͳσʔλͷߋ৽ʹର͢Δࠪ ୭͕͍ͭɺͳʹΛɺͲͷΑ͏ʹFUD ن੍ʹ߹ΘͤͨσʔλͷఆٛɾอɾΞΫηεཧɾసૹɾ҉߸Խɾফڈ
γφϦΦͷϨϏϡʔ
XBUTPOYBJͷ(SBOJUFϞσϧɿ ҆શͰཧ͞ΕͨσʔλʹΑͬͯτϨʔχϯά͞Εͨ*#.ಠࣗͷϞσϧ ஶ࡞ݖ৵ͳͲͷϦεΫΛܰݮ XBUTPOYHPWFSOBODFɿ ੜ"*Ϟσϧཧπʔϧ "*Ϟσϧͷ࣭ਫ਼ΛධՁɾࢹ "*ͷಁ໌ੑ҆શੑΛ୲อ͠ɺίϯϓϥΠΞϯεΛ֬อ *#.ʹΑΔ҆৺ɾ҆શͳ"*ͷఏڙ
·ͱΊ "*։ൃʹσʔλੳͱ४උʹ͕ଟ͘ɺσʔλɾϥΠϑαΠΫϧؔ࿈ͷ ηΩϡϦςΟʔɺϓϥΠόγʔɺίϯϓϥΠΞϯε໘ͷ՝Λ ߟ͑Δඞཁ͕͋Δ ैۀһͷڭҭΛߦ͍ɺֶशੳʹ͏ݩσʔλ͕ن੍ஶ࡞ݖ๏ʹ ४ڌ͍ͯ͠Δ͔Λ֬ೝ͢Δ͕ٛ͋Δ ֶशσʔλΛ߈ܸऀ͔ΒकΔҝʹσʔλϕʔεͷΞΫηεཧ σʔλอޢιϦϡʔγϣϯΛಋೖ͢Δࣄ
࣍ճͷηογϣϯ༰ "*ϦεΫཧʹ͍ͭͯͷΨΠυϥΠϯͷհ ܦࡁ࢈ۀলͷʮ"*ࣄۀऀΨΠυϥΠϯʯ /*45ͷ"*ϦεΫཧϑϨʔϜϫʔΫ
ϫʔΫγϣοϓɺηογϣϯɺ͓Αͼࢿྉɺ*#.·ͨηογϣϯൃදऀʹΑͬͯ४උ͞ΕɺͦΕͧΕಠࣗͷݟղΛөͨ͠ͷͰ͢ɻͦΕΒใ ఏڙͷతͷΈͰఏڙ͞Ε͓ͯΓɺ͍͔ͳΔࢀՃऀʹରͯ͠๏త·ͨͦͷଞͷࢦಋॿݴΛҙਤͨ͠ͷͰͳ͘ɺ·ͨ*#.αʔϏε͕͓ ٬༷ʹద༻͋Δಛఆͷ๏ྩʹద߹͢Δ͜ͱΛอূ͢ΔͷͰ͋Γ·ͤΜɻຊߨԋࢿྉʹؚ·Ε͍ͯΔใʹ͍ͭͯɺશੑͱਖ਼֬ੑΛظ͢ΔΑ͏ Ί͓ͯΓ·͕͢ɺʮݱঢ়ͷ··ʯఏڙ͞Εɺ໌ࣔ·ͨࣔʹ͔͔ΘΒͣɺۀੑɺಛఆͷతͷద߹ੑɺඇ৵ੑΛؚΊɺ͍͔ͳΔอূΘͳ͍ ͷͱ͠·͢ɻຊߨԋࢿྉ·ͨͦͷଞͷࢿྉͷ༻ʹΑͬͯɺ͋Δ͍ͦͷଞͷؔ࿈ʹΑͬͯɺ͍͔ͳΔଛ͕ੜͨ͡߹ɺ*#.ΛෛΘͳ͍ ͷͱ͠·͢ɻ ຊߨԋࢿྉͰݴٴ͞ΕΔ*#.ɺϓϩάϥϜɺ·ͨαʔϏεɺ*#.͕ϏδωεΛߦ͍ͬͯΔͯ͢ͷࠃɾҬͰ͝ఏڙՄೳͳΘ͚ Ͱ͋Γ·ͤΜɻຊߨԋࢿྉͰݴٴ͞ΕΔকདྷͷలʢϦϦʔεػೳΛؚΉʣɺࢢػձ·ͨͦͷଞͷཁҼʹج͍ͮͯ*#.ಠࣗͷܾ ఆݖΛ͍ͬͯͭͰมߋͰ͖Δͷͱ͠ɺকདྷͷ·ͨػೳ͕༻ՄೳʹͳΔ͜ͱɺ͘͠ಛఆͷ݁ՌΛ֬͢Δ͜ͱΛҙਤ͢ΔͷͰ͋Γ ·ͤΜɻຊߨԋࢿྉɺݴٴ͞ΕΔ
*#.·ͨαʔϏεʹద༻͋Δܖ݅Λมߋ͢ΔͷͰɺՃͷද໌·ͨอূΛҙਤ͢ΔͷͰ͋Γ· ͤΜɻ ຊߨԋࢿྉʹؚ·Ε͍ͯΔ༰ɺࢀՃऀͷ׆ಈʹΑͬͯಛఆͷ݁Ռ͕ੜ͡Δͱड़Δɺ·ͨ҉ࣔ͢Δ͜ͱΛҙਤͨ͠ͷͰɺ·ͨͦͷΑ͏ͳ݁Ռ ΛੜΉͷͰ͋Γ·ͤΜɻ ύϑΥʔϚϯεɺཧ͞Εͨڥʹ͓͍ͯඪ४తͳ*#.ϕϯνϚʔΫΛ༻ͨ͠ଌఆͱ༧ଌʹج͍͍ͮͯ·͢ɻϢʔβʔ ͕ܦݧ͢Δ࣮ࡍͷεϧʔϓοτύϑΥʔϚϯεɺϢʔβʔͷδϣϒɾετϦʔϜʹ͓͚ΔϚϧνϓϩάϥϛϯάͷྔɺೖग़ྗߏɺετϨʔδߏɺ ͓Αͼॲཧ͞ΕΔϫʔΫϩʔυͳͲͷߟྀࣄ߲ΛؚΉɺଟ͘ͷཁҼʹԠͯ͡มԽ͠·͢ɻ͕ͨͬͯ͠ɺݸʑͷϢʔβʔ͕͜͜Ͱड़ΒΕ͍ͯΔͷͱ ಉ༷ͷ݁ՌΛಘΒΕΔͱ֬͢ΔͷͰ͋Γ·ͤΜɻهड़͞Ε͍ͯΔͯ͢ͷ͓٬༷ࣄྫɺͦΕΒͷ͓٬༷͕ͲͷΑ͏ʹ*#.Λ༻͔ͨ͠ɺ· ͨͦΕΒͷ͓٬༷͕ୡͨ݁͠Ռͷ࣮ྫͱͯࣔ͠͞ΕͨͷͰ͢ɻ࣮ࡍͷڥίετ͓ΑͼύϑΥʔϚϯεಛੑɺ͓٬༷͝ͱʹҟͳΔ߹͕͋Γ·͢ɻ • *#.ɺ*#.ϩΰɺJCNDPNɺ watsonx.aiäɺ watsonx.governanceäɺ ੈքͷଟ͘ͷࠃͰొ͞Εͨ*OUFSOBUJPOBM#VTJOFTT.BDIJOFT$PSQPSBUJPOͷ ඪͰ͢ɻଞͷ໊͓ΑͼαʔϏε໊ɺͦΕͧΕ*#.·֤ͨࣾͷඪͰ͋Δ߹͕͋Γ·͢ɻݱ࣌Ͱͷ *#.ͷඪϦετʹ͍ͭͯɺ XXXJCNDPNMFHBMDPQZUSBEFTIUNMΛ͝ཡ͍ͩ͘͞ɻ