Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
宝くじ仮説の話を少し / LT Lottery Ticket Hypothesis
Search
SKA’s Web
November 14, 2021
Programming
0
430
宝くじ仮説の話を少し / LT Lottery Ticket Hypothesis
Python機械学習勉強会 in 新潟のLTの資料です。深層学習の「宝くじ仮説」について少しだけ話します。
SKA’s Web
November 14, 2021
Tweet
Share
More Decks by SKA’s Web
See All by SKA’s Web
.NETでOBS Studio操作してみたけど…… / Operating OBS Studio by .NET
skasweb
0
170
学習しやすいネットワークガチャ? 深層学習の「宝くじ仮説」 【VRアカデミア クリスマスリレー】 / VR Lottery Ticket Hypothesis
skasweb
1
570
自然言語処理の基本 / Basic of Natural Language Processing
skasweb
0
340
AIとクラスター分析について自作アイテムを用いて解説してみた 【VRアカデミア3周年カウントダウン】 / Explaining AI and Cluster Analysis Using My Item
skasweb
0
330
Other Decks in Programming
See All in Programming
iOSエンジニア向けの英語学習アプリを作る!
yukawashouhei
0
170
CI_CD「健康診断」のススメ。現場でのボトルネック特定から、健康診断を通じた組織的な改善手法
teamlab
PRO
0
160
CSC305 Lecture 04
javiergs
PRO
0
230
CSS Linter の現在地 2025年のベストプラクティスを探る
ryo_manba
10
3.2k
LLMとPlaywright/reg-suitを活用した jQueryリファクタリングの実際
kinocoboy2
4
660
Web フロントエンドエンジニアに開かれる AI Agent プロダクト開発 - Vercel AI SDK を観察して AI Agent と仲良くなろう! #FEC余熱NIGHT
izumin5210
3
330
XP, Testing and ninja testing ZOZ5
m_seki
2
240
Local Peer-to-Peer APIはどのように使われていくのか?
hal_spidernight
2
440
ソフトウェア設計の実践的な考え方
masuda220
PRO
3
380
クラシルを支える技術と組織
rakutek
0
190
monorepo の Go テストをはやくした〜い!~最小の依存解決への道のり~ / faster-testing-of-monorepos
convto
2
190
AIで開発生産性を上げる個人とチームの取り組み
taniigo
0
130
Featured
See All Featured
What’s in a name? Adding method to the madness
productmarketing
PRO
23
3.7k
Designing for humans not robots
tammielis
254
25k
For a Future-Friendly Web
brad_frost
180
9.9k
Optimising Largest Contentful Paint
csswizardry
37
3.4k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
358
30k
Unsuck your backbone
ammeep
671
58k
[RailsConf 2023] Rails as a piece of cake
palkan
57
5.9k
Fashionably flexible responsive web design (full day workshop)
malarkey
407
66k
The Illustrated Children's Guide to Kubernetes
chrisshort
48
51k
No one is an island. Learnings from fostering a developers community.
thoeni
21
3.5k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
30
2.9k
Faster Mobile Websites
deanohume
310
31k
Transcript
͍ۙͷͰʮๅ͘͡ԾઆʯͷΛগ͠ 1ZUIPOػցֶशษڧձ JO৽ׁ ৽ׁݝ࢈75VCFS 4,"`T8FC CJO 1
ࢿྉͷϦϯΫͱࢀߟจݙ 2 IUUQTTQFBLFSEFDLDPNTLBTXFCMUMPUUFSZUJDLFUIZQPUIFTJT ࢀߟจݙ ɾIUUQTEFFQTRVBSFKQMPUUFSZUJDLFU ɾIUUQTMBCPSPBJBDUJWJUZDPMVNOFOHJOFFSๅ͘͡Ծઆ ݩจ ɾJonathan Frankle, Michael
Carbin, “The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks”, cs.LG : 1803.03635, ICLR 2019 ɾ5JBOMPOH$IFO +POBUIBO'SBOLMF 4IJZV $IBOH 4JKJB -JV :BOH;IBOH ;IBOHZBOH 8BOH .JDIBFM$BSCJO l5IF-PUUFSZ5JDLFU)ZQPUIFTJTGPS1SFUSBJOFE#&35/FUXPSLTz
5XJUUFS࿈ܞ 3 #pyml_niigata ͰͭͿ͘ͱʜʜ
࢈ۀ 4 ɾ ڊେ ͳϞσϧʢ#&35ɺ5ɺFUDʣ͕ͳͥਫ਼ྑ͍ͷ͔ʁ ɾύϥϝʔλʔ͕ଟ͍΄ͲΨνϟ͕͋ͨΔʂʁ ɾԠ༻͢Δͱ&EHF"*Ͱߴਫ਼ͳϞσϧΛಈ͔ͤΔʁ
ڊେͳϞσϧ 5
ڊେͳϞσϧ 6 ɾ͜ΜͳʹେྔͷύϥϝʔλʔΛ͏·͘ߋ৽͢Δ͜ͱͰ͖Δͷʁ ɾաֶश͠ͳ͍ͷʁ ๅ͘͡Ծઆ
ๅ͘͡Ծઆ 7 ɾχϡʔϥϧωοτϫʔΫॳظͷॏΈ͕ཚ ɾ࠷ॳ͔Β͍͍ײ͡ʹֶशՄೳͳ෦ωοτϫʔΫ͕͋Δ ɾ͋ͨΓ͘͡ωοτϫʔΫΛத৺ʹֶश͞ΕΔ ɾͣΕ͘͡ωοτϫʔΫࢬמΓͯ͠ਫ਼΄΅མͪͳ͍ ɾ#&35Ͱׂʙׂͷলύϥϝʔλʔ͕Մೳʢʁʣ ɾߴʹֶशɺਪ͕Ͱ͖Δ ɾ&EHF"*Ͱಈ͔ͤΔʁ
Ϟσϧͷݮ 8 ʢ·ͩௐ͍ͯ·ͤΜ PS[ ʣ ʢʣʹಈըߘ͠·͢ ʢࠓ͙͢Γ͍ͨΜ͚ͩͲͬͯਓࢀߟจݙݩจΛಡΜͰΈ͍ͯͩ͘͞ʣ
·ͱΊ 9 ɾχϡʔϥϧωοτϫʔΫͷॳظͷॏΈཚ ɾ͋ͨΓωοτϫʔΫͱͣΕωοτϫʔΫ͕͋Δ ɾ࿈ΨνϟͰͨΒͳ͍ʁ ԯ࿈͘Β͍Ε͚ͬ͜͏ͨΔΑʂ ɾ͍ͬͯ͏ͷ͕࠷ۙͷ ڊେϞσϧʢ#&35ɺ5ɺFUDʣ ɾͣΕωοτϫʔΫΛࢬמΓ͢Εগͳ͍ετϨʔδͰߴʹਪͰ͖Δ ɾ͡Ό͋Ͳ͏Δͷʁ
ˠ ·ͨࠓͳʂ
ࢿྉͷϦϯΫͱࢀߟจݙ 10 IUUQTTQFBLFSEFDLDPNTLBTXFC΄͛΄͛ ࢀߟจݙ ɾIUUQTEFFQTRVBSFKQMPUUFSZUJDLFU ɾIUUQTMBCPSPBJBDUJWJUZDPMVNOFOHJOFFSๅ͘͡Ծઆ ݩจ ɾJonathan Frankle, Michael
Carbin, “The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks”, cs.LG : 1803.03635, ICLR 2019 ɾ5JBOMPOH$IFO +POBUIBO'SBOLMF 4IJZV $IBOH 4JKJB -JV :BOH;IBOH ;IBOHZBOH 8BOH .JDIBFM$BSCJO l5IF-PUUFSZ5JDLFU)ZQPUIFTJTGPS1SFUSBJOFE#&35/FUXPSLTz