Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
宝くじ仮説の話を少し / LT Lottery Ticket Hypothesis
Search
SKA’s Web
November 14, 2021
Programming
0
410
宝くじ仮説の話を少し / LT Lottery Ticket Hypothesis
Python機械学習勉強会 in 新潟のLTの資料です。深層学習の「宝くじ仮説」について少しだけ話します。
SKA’s Web
November 14, 2021
Tweet
Share
More Decks by SKA’s Web
See All by SKA’s Web
.NETでOBS Studio操作してみたけど…… / Operating OBS Studio by .NET
skasweb
0
160
学習しやすいネットワークガチャ? 深層学習の「宝くじ仮説」 【VRアカデミア クリスマスリレー】 / VR Lottery Ticket Hypothesis
skasweb
1
540
自然言語処理の基本 / Basic of Natural Language Processing
skasweb
0
330
AIとクラスター分析について自作アイテムを用いて解説してみた 【VRアカデミア3周年カウントダウン】 / Explaining AI and Cluster Analysis Using My Item
skasweb
0
320
Other Decks in Programming
See All in Programming
PHPでWebSocketサーバーを実装しよう2025
kubotak
0
240
アンドパッドの Go 勉強会「 gopher 会」とその内容の紹介
andpad
0
280
deno-redisの紹介とJSRパッケージの運用について (toranoana.deno #21)
uki00a
0
160
「Cursor/Devin全社導入の理想と現実」のその後
saitoryc
0
650
Benchmark
sysong
0
280
Flutterで備える!Accessibility Nutrition Labels完全ガイド
yuukiw00w
0
130
Azure AI Foundryではじめてのマルチエージェントワークフロー
seosoft
0
150
PostgreSQLのRow Level SecurityをPHPのORMで扱う Eloquent vs Doctrine #phpcon #track2
77web
2
420
既存デザインを変更せずにタップ領域を広げる方法
tahia910
1
260
AIプログラマーDevinは PHPerの夢を見るか?
shinyasaita
1
180
NPOでのDevinの活用
codeforeveryone
0
490
A2A プロトコルを試してみる
azukiazusa1
2
1.3k
Featured
See All Featured
Why You Should Never Use an ORM
jnunemaker
PRO
58
9.4k
Fireside Chat
paigeccino
37
3.5k
Exploring the Power of Turbo Streams & Action Cable | RailsConf2023
kevinliebholz
34
5.9k
Typedesign – Prime Four
hannesfritz
42
2.7k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
46
9.6k
Thoughts on Productivity
jonyablonski
69
4.7k
Java REST API Framework Comparison - PWX 2021
mraible
31
8.7k
Speed Design
sergeychernyshev
32
1k
[RailsConf 2023] Rails as a piece of cake
palkan
55
5.6k
YesSQL, Process and Tooling at Scale
rocio
173
14k
Making Projects Easy
brettharned
116
6.3k
Building Adaptive Systems
keathley
43
2.6k
Transcript
͍ۙͷͰʮๅ͘͡ԾઆʯͷΛগ͠ 1ZUIPOػցֶशษڧձ JO৽ׁ ৽ׁݝ࢈75VCFS 4,"`T8FC CJO 1
ࢿྉͷϦϯΫͱࢀߟจݙ 2 IUUQTTQFBLFSEFDLDPNTLBTXFCMUMPUUFSZUJDLFUIZQPUIFTJT ࢀߟจݙ ɾIUUQTEFFQTRVBSFKQMPUUFSZUJDLFU ɾIUUQTMBCPSPBJBDUJWJUZDPMVNOFOHJOFFSๅ͘͡Ծઆ ݩจ ɾJonathan Frankle, Michael
Carbin, “The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks”, cs.LG : 1803.03635, ICLR 2019 ɾ5JBOMPOH$IFO +POBUIBO'SBOLMF 4IJZV $IBOH 4JKJB -JV :BOH;IBOH ;IBOHZBOH 8BOH .JDIBFM$BSCJO l5IF-PUUFSZ5JDLFU)ZQPUIFTJTGPS1SFUSBJOFE#&35/FUXPSLTz
5XJUUFS࿈ܞ 3 #pyml_niigata ͰͭͿ͘ͱʜʜ
࢈ۀ 4 ɾ ڊେ ͳϞσϧʢ#&35ɺ5ɺFUDʣ͕ͳͥਫ਼ྑ͍ͷ͔ʁ ɾύϥϝʔλʔ͕ଟ͍΄ͲΨνϟ͕͋ͨΔʂʁ ɾԠ༻͢Δͱ&EHF"*Ͱߴਫ਼ͳϞσϧΛಈ͔ͤΔʁ
ڊେͳϞσϧ 5
ڊେͳϞσϧ 6 ɾ͜ΜͳʹେྔͷύϥϝʔλʔΛ͏·͘ߋ৽͢Δ͜ͱͰ͖Δͷʁ ɾաֶश͠ͳ͍ͷʁ ๅ͘͡Ծઆ
ๅ͘͡Ծઆ 7 ɾχϡʔϥϧωοτϫʔΫॳظͷॏΈ͕ཚ ɾ࠷ॳ͔Β͍͍ײ͡ʹֶशՄೳͳ෦ωοτϫʔΫ͕͋Δ ɾ͋ͨΓ͘͡ωοτϫʔΫΛத৺ʹֶश͞ΕΔ ɾͣΕ͘͡ωοτϫʔΫࢬמΓͯ͠ਫ਼΄΅མͪͳ͍ ɾ#&35Ͱׂʙׂͷলύϥϝʔλʔ͕Մೳʢʁʣ ɾߴʹֶशɺਪ͕Ͱ͖Δ ɾ&EHF"*Ͱಈ͔ͤΔʁ
Ϟσϧͷݮ 8 ʢ·ͩௐ͍ͯ·ͤΜ PS[ ʣ ʢʣʹಈըߘ͠·͢ ʢࠓ͙͢Γ͍ͨΜ͚ͩͲͬͯਓࢀߟจݙݩจΛಡΜͰΈ͍ͯͩ͘͞ʣ
·ͱΊ 9 ɾχϡʔϥϧωοτϫʔΫͷॳظͷॏΈཚ ɾ͋ͨΓωοτϫʔΫͱͣΕωοτϫʔΫ͕͋Δ ɾ࿈ΨνϟͰͨΒͳ͍ʁ ԯ࿈͘Β͍Ε͚ͬ͜͏ͨΔΑʂ ɾ͍ͬͯ͏ͷ͕࠷ۙͷ ڊେϞσϧʢ#&35ɺ5ɺFUDʣ ɾͣΕωοτϫʔΫΛࢬמΓ͢Εগͳ͍ετϨʔδͰߴʹਪͰ͖Δ ɾ͡Ό͋Ͳ͏Δͷʁ
ˠ ·ͨࠓͳʂ
ࢿྉͷϦϯΫͱࢀߟจݙ 10 IUUQTTQFBLFSEFDLDPNTLBTXFC΄͛΄͛ ࢀߟจݙ ɾIUUQTEFFQTRVBSFKQMPUUFSZUJDLFU ɾIUUQTMBCPSPBJBDUJWJUZDPMVNOFOHJOFFSๅ͘͡Ծઆ ݩจ ɾJonathan Frankle, Michael
Carbin, “The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks”, cs.LG : 1803.03635, ICLR 2019 ɾ5JBOMPOH$IFO +POBUIBO'SBOLMF 4IJZV $IBOH 4JKJB -JV :BOH;IBOH ;IBOHZBOH 8BOH .JDIBFM$BSCJO l5IF-PUUFSZ5JDLFU)ZQPUIFTJTGPS1SFUSBJOFE#&35/FUXPSLTz