Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
iclr2020deepsemi-supervisedanomalydetectionyama...
Search
Yamato.OKAMOTO
June 14, 2020
Technology
0
110
iclr2020deepsemi-supervisedanomalydetectionyamatookamoto-200531022507.pdf
Yamato.OKAMOTO
June 14, 2020
Tweet
Share
More Decks by Yamato.OKAMOTO
See All by Yamato.OKAMOTO
いまAI組織が求める企画開発エンジニアとは?
roadroller
2
1.4k
Slide ICCV2023 Constructing Image Text Pair Dataset from Books
roadroller
0
70
第11回 全日本コンピュータビジョン勉強会 CVPR2022 "A Self-Supervised Descriptor for Image Copy Detection"
roadroller
0
570
第9回 全日本コンピュータビジョン勉強会 発表資料
roadroller
0
580
第七回全日本コンピュータビジョン勉強会 A Multiplexed Network for End-to-End, Multilingual OCR
roadroller
1
910
部下のマネジメントはAI開発に学べ
roadroller
0
120
Domain Generalization via Model-Agnostic Learning of Semantic Features NeurIPS’19 読み会 in 京都
roadroller
0
220
ICML’2019 読み会in京都 Federated Learningの研究動向
roadroller
0
69
CVPR2019@Long Beach 参加速報(本会議)
roadroller
0
99
Other Decks in Technology
See All in Technology
一度 Expo の採用を断念したけど、 再度 Expo の導入を検討している話
ichiki1023
1
210
AIエージェント元年
shukob
0
110
レビューを増やしつつ 高評価維持するテクニック
tsuzuki817
1
800
2025-02-21 ゆるSRE勉強会 Enhancing SRE Using AI
yoshiiryo1
1
410
IAMポリシーのAllow/Denyについて、改めて理解する
smt7174
2
120
NFV基盤のOpenStack更新 ~9世代バージョンアップへの挑戦~
vtj
0
130
依存パッケージの更新はコツコツが勝つコツ! / phpcon_nagoya2025
blue_goheimochi
3
170
生成 AI プロダクトを育てる技術 〜データ品質向上による継続的な価値創出の実践〜
icoxfog417
PRO
5
1.8k
転生CISOサバイバル・ガイド / CISO Career Transition Survival Guide
kanny
3
1.1k
Tech Blogを書きやすい環境づくり
lycorptech_jp
PRO
1
260
AI エージェント開発を支える MaaS としての Azure AI Foundry
ryohtaka
6
620
N=1から解き明かすAWS ソリューションアーキテクトの魅力
kiiwami
0
130
Featured
See All Featured
jQuery: Nuts, Bolts and Bling
dougneiner
63
7.6k
Embracing the Ebb and Flow
colly
84
4.6k
Improving Core Web Vitals using Speculation Rules API
sergeychernyshev
9
490
Git: the NoSQL Database
bkeepers
PRO
427
64k
Speed Design
sergeychernyshev
27
800
VelocityConf: Rendering Performance Case Studies
addyosmani
328
24k
Fontdeck: Realign not Redesign
paulrobertlloyd
83
5.4k
Optimising Largest Contentful Paint
csswizardry
34
3.1k
Writing Fast Ruby
sferik
628
61k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
49k
Performance Is Good for Brains [We Love Speed 2024]
tammyeverts
7
630
Stop Working from a Prison Cell
hatefulcrawdad
267
20k
Transcript
2020/6/14 Yamato OKAMOTO ICLRΦϯϥΠϯಡΈձ Deep Semi-supervised Anomaly Detection
ࣗݾհʢ͘!!ʣ ɹԬຊେʢ͓͔ͱ·ͱʣ • ژେֶඒೱݚڀࣨͰύλʔϯೝࣝΛݚڀͯ͠म࢜՝ఔमྃ • ΦϜϩϯͰ৽نࣄۀΛܦݧޙɺ͍·ࣾձγεςϜࣄۀ෦ͷݚڀॴϦʔμʔ • ເژΛϙετɾγϦίϯόϨʔʹ͢Δ͜ͱɺؔͷίϛϡχςΟΛڧԽ͍ͨ͠ ɹ㱺 ژͷมਓύϫʔΛੈքʹΒ͠Ί͍ͨ
Twitter : RoadRoller_DESU ҆৺҆શͳࣾձͷ࣮ݱʹ͚ͯɺ ࠷ۙ Anomaly Detection ʹڵຯΞϦ
Anomaly Detection ͋Δ͋Δ ఆٛࠔ • ҟৗʹ༷ʑͳόϦΤʔγϣϯ͕͋Δ • ҟৗݕग़͍͚ͨ͠ͲʮWhat is ҟৗʁʯ͕ఆٛͰ͖ͳ͍
ֶशσʔλ͕ೖखࠔ • ҟৗ໓ଟʹൃੜ͠ͳ͍ʢ※ සൟʹൃੜ͢ΔΠϕϯτҟৗ͡Όͳ༷ͯ͘ʣ • ѹతʹҟৗσʔλ͕ෆͯ͠ػցֶश͕ࠔ ैདྷख๏ɿਖ਼ৗΛఆٛ͢Δ • ʮWhat is ҟৗʁʯͷఆٛΛఘΊΔɺҟৗσʔλͷֶशఘΊΔ • ͦͷΘΓʮWhat is ਖ਼ৗʁʯͷఆٛΛֶशͯ͠ɺʮNot ਖ਼ৗʯΛҟৗͱఆ͢Δ
Anomaly Detection ͷैདྷݚڀ Deep One-Class Classification (ICML’18) • ਖ਼ৗσʔλͷΈΛ༻͍ͯɺClassifierͳΓAutoEncoderͳΓΛैདྷ௨Γʹֶश •
͜ͷͱ͖ɺಛྔ͕࣍ݩ෦ۭؒʹऩଋ͢ΔΑ͏LOSSΛՃ͑Δ • ਖ਼ৗσʔλͳΒٿʹ͢ΔͣͳͷͰɺٿ͔Β֎ΕͨσʔλΛҟৗͱఆ͢Δ ୈҰ߲ʹΑͬͯٿʹ͕ԡ͠ࠐ·ΕΔ cɿ ٿͷத৺ʢͨͩ͠≠0ʣ nɿֶश͢Δਖ਼ৗσʔλͷ
Anomaly Detection ͷධՁ؍ ͲΕ͚ͩਖ਼֬ʹҟৗΛݕͰ͖͔ͨʁ • ਖ਼ৗσʔλΛਖ਼ৗͱఆͯ͠ɺҟৗσʔλΛҟৗͱఆ͢Δਫ਼ ԼྲྀλεΫΛअຐ͠ͳ͍͔ʁ • ԼྲྀλεΫ͕͋Δ߹ɺҟৗݕػೳͷՃʹΑͬͯѱӨڹ͕ͳ͍͔Ͳ͏͔ •
ྫ͑ɺ10ΫϥεͷࣈࣝผثʹɺਤܗͳͲࣈҎ֎͕ೖྗ͞Εͨͱ͖ҟৗͱఆ͢Δػ ೳΛ͚Ճ͍͑ͨͤͰɺैདྷͷ10Ϋϥεࣝผੑೳ͕Լ͢ΔͱࠔΔ ad-hoc͔post-hoc͔ʁ • ҟৗݕ͢ΔͨΊʹϞσϧߏֶशํ๏·Ͱม͑Δඞཁ͕͋Δ͔ʁ • ·ͨɺLOSSΛޙ͔Β͚͚̍ͭͩͯ͠Ճֶश͢Δ͚ͩͰOK͔ʁ • ͲͪΒ͕ྑ͍ѱ͍ͳͲҰ֓ʹݴ͑ͳ͍͕ɺpost-hocͷํ͕ѻ͍͍͢ɻ
հจͷ֓ཁ ʮSemi-supervisedʹֶश͠Α͏ʂʯ Anomaly Detection ͷݚڀUnsupervised͕ओྲྀͷΑ͏ͩ Ͱɺֶश༻ͷҟৗσʔλ͕ೖखࠔͩͱͯ͠ɺ ӡ༻Λଓ͚ͯͨΒҟৗσʔλʹ͍ͣΕग़ձ͏ͣ ͳΒɺͦΕΒগྔͷҟৗσʔλΛͬͯɺ Semi-supervisedʹֶशͨ͠ํ͕ྑ͍ͷͰʁ ※Semi-supervisedͷAnomaly
Detectionݚڀඇৗʹগͳ͍
ఏҊख๏ ʮLOSSʹ߲Λ̍ͭՃ͠·ͨ͠ʯ Deep One-Class Classification (ICML’18) ͷLOSSʹSemi-supervisedͷ߲Λ̍ͭՃ • ࣮ಉ͡ஶऀͰͨ͠ɻࣗͷݚڀΛࣗͰΞοϓσʔτͨ͠ܗʹͳΔɻ ͠ҟৗσʔλʹग़ձͬͨΒɺ
ٿͷ֎ଆʹߦ͘Α͏ֶश͢Δ mɿsemi-supervisedʹֶश͢Δσʔλ yj ɿਖ਼ৗorҟৗͷϥϕϧ
࣮ݧ݁Ռ ॎ࣠ɿҟৗσʔλͷݕग़ੑೳ ʢHigher is Betterʣ Unsupervised Semi-supervised ԣ࣠ɿSemi-supervisedͰڭࢣ͖ͷҟৗσʔλΛֶशׂͨ͠߹ ఏҊख๏ MNISTɺFashion-MNISTɺCIFAR-10ͷσʔληοτͰධՁ
• ̍Ϋϥεͱਖ਼ৗͱఆٛͯ͠ɺAutoEncoderʴఏҊख๏ͰಛྔදݱΛֶश • Γͷ̕ΫϥεΛೖྗͨ͠ͱ͖ɺҟৗͱఆͰ͖Δ͔Ͳ͏͔ධՁ ੑೳվળΛ֬ೝ
·ͱΊͱߟ ਂֶशʹΑΔ Semi-supervised ͳ Anomaly Detection ख๏ΛఏҊ • ॳΊͯͰͳ͍ͱࢥ͏͕ɺਂֶशʹΑΔAnomaly DetectionͰsemi-supervised͍͠
• ͔ͨ͠ʹࣾձ࣮Λߟ͑Δͱɺ͜ͷઃఆద • ख๏γϯϓϧͰɺpost-hocͳͷͰѻ͍͍͢ • ࠓճԼྲྀλεΫ͕AE͕ͩͬͨɺClassificationͩͱͲ͏ͳΔ͔ʁ • Anomaly DetectionͷධՁσʔληοτͬͯଞʹͳ͍ͷ͔ͳɺɺɺɺ ʢ͍ͭ·ͰMNISTʹΑΔධՁ͕ଓ͘ͷͩΖ͏͔ʣ