Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
宝くじ仮説の話を少し / LT Lottery Ticket Hypothesis
Search
SKA’s Web
November 14, 2021
Programming
0
410
宝くじ仮説の話を少し / LT Lottery Ticket Hypothesis
Python機械学習勉強会 in 新潟のLTの資料です。深層学習の「宝くじ仮説」について少しだけ話します。
SKA’s Web
November 14, 2021
Tweet
Share
More Decks by SKA’s Web
See All by SKA’s Web
.NETでOBS Studio操作してみたけど…… / Operating OBS Studio by .NET
skasweb
0
160
学習しやすいネットワークガチャ? 深層学習の「宝くじ仮説」 【VRアカデミア クリスマスリレー】 / VR Lottery Ticket Hypothesis
skasweb
1
540
自然言語処理の基本 / Basic of Natural Language Processing
skasweb
0
330
AIとクラスター分析について自作アイテムを用いて解説してみた 【VRアカデミア3周年カウントダウン】 / Explaining AI and Cluster Analysis Using My Item
skasweb
0
320
Other Decks in Programming
See All in Programming
設計やレビューに悩んでいるPHPerに贈る、クリーンなオブジェクト設計の指針たち
panda_program
6
1.5k
A2A プロトコルを試してみる
azukiazusa1
2
1.2k
#kanrk08 / 公開版 PicoRubyとマイコンでの自作トレーニング計測装置を用いたワークアウトの理想と現実
bash0c7
1
480
Team operations that are not burdened by SRE
kazatohiei
1
210
GraphRAGの仕組みまるわかり
tosuri13
8
480
Enterprise Web App. Development (2): Version Control Tool Training Ver. 5.1
knakagawa
1
120
童醫院敏捷轉型的實踐經驗
cclai999
0
190
High-Level Programming Languages in AI Era -Human Thought and Mind-
hayat01sh1da
PRO
0
410
第9回 情シス転職ミートアップ 株式会社IVRy(アイブリー)の紹介
ivry_presentationmaterials
1
240
Rubyでやりたい駆動開発 / Ruby driven development
chobishiba
1
430
AWS CDKの推しポイント 〜CloudFormationと比較してみた〜
akihisaikeda
3
310
たった 1 枚の PHP ファイルで実装する MCP サーバ / MCP Server with Vanilla PHP
okashoi
1
190
Featured
See All Featured
GraphQLの誤解/rethinking-graphql
sonatard
71
11k
How GitHub (no longer) Works
holman
314
140k
Facilitating Awesome Meetings
lara
54
6.4k
Become a Pro
speakerdeck
PRO
28
5.4k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
248
1.3M
個人開発の失敗を避けるイケてる考え方 / tips for indie hackers
panda_program
107
19k
Connecting the Dots Between Site Speed, User Experience & Your Business [WebExpo 2025]
tammyeverts
5
210
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
130
19k
Building Better People: How to give real-time feedback that sticks.
wjessup
367
19k
A Modern Web Designer's Workflow
chriscoyier
694
190k
Why You Should Never Use an ORM
jnunemaker
PRO
57
9.4k
Building an army of robots
kneath
306
45k
Transcript
͍ۙͷͰʮๅ͘͡ԾઆʯͷΛগ͠ 1ZUIPOػցֶशษڧձ JO৽ׁ ৽ׁݝ࢈75VCFS 4,"`T8FC CJO 1
ࢿྉͷϦϯΫͱࢀߟจݙ 2 IUUQTTQFBLFSEFDLDPNTLBTXFCMUMPUUFSZUJDLFUIZQPUIFTJT ࢀߟจݙ ɾIUUQTEFFQTRVBSFKQMPUUFSZUJDLFU ɾIUUQTMBCPSPBJBDUJWJUZDPMVNOFOHJOFFSๅ͘͡Ծઆ ݩจ ɾJonathan Frankle, Michael
Carbin, “The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks”, cs.LG : 1803.03635, ICLR 2019 ɾ5JBOMPOH$IFO +POBUIBO'SBOLMF 4IJZV $IBOH 4JKJB -JV :BOH;IBOH ;IBOHZBOH 8BOH .JDIBFM$BSCJO l5IF-PUUFSZ5JDLFU)ZQPUIFTJTGPS1SFUSBJOFE#&35/FUXPSLTz
5XJUUFS࿈ܞ 3 #pyml_niigata ͰͭͿ͘ͱʜʜ
࢈ۀ 4 ɾ ڊେ ͳϞσϧʢ#&35ɺ5ɺFUDʣ͕ͳͥਫ਼ྑ͍ͷ͔ʁ ɾύϥϝʔλʔ͕ଟ͍΄ͲΨνϟ͕͋ͨΔʂʁ ɾԠ༻͢Δͱ&EHF"*Ͱߴਫ਼ͳϞσϧΛಈ͔ͤΔʁ
ڊେͳϞσϧ 5
ڊେͳϞσϧ 6 ɾ͜ΜͳʹେྔͷύϥϝʔλʔΛ͏·͘ߋ৽͢Δ͜ͱͰ͖Δͷʁ ɾաֶश͠ͳ͍ͷʁ ๅ͘͡Ծઆ
ๅ͘͡Ծઆ 7 ɾχϡʔϥϧωοτϫʔΫॳظͷॏΈ͕ཚ ɾ࠷ॳ͔Β͍͍ײ͡ʹֶशՄೳͳ෦ωοτϫʔΫ͕͋Δ ɾ͋ͨΓ͘͡ωοτϫʔΫΛத৺ʹֶश͞ΕΔ ɾͣΕ͘͡ωοτϫʔΫࢬמΓͯ͠ਫ਼΄΅མͪͳ͍ ɾ#&35Ͱׂʙׂͷলύϥϝʔλʔ͕Մೳʢʁʣ ɾߴʹֶशɺਪ͕Ͱ͖Δ ɾ&EHF"*Ͱಈ͔ͤΔʁ
Ϟσϧͷݮ 8 ʢ·ͩௐ͍ͯ·ͤΜ PS[ ʣ ʢʣʹಈըߘ͠·͢ ʢࠓ͙͢Γ͍ͨΜ͚ͩͲͬͯਓࢀߟจݙݩจΛಡΜͰΈ͍ͯͩ͘͞ʣ
·ͱΊ 9 ɾχϡʔϥϧωοτϫʔΫͷॳظͷॏΈཚ ɾ͋ͨΓωοτϫʔΫͱͣΕωοτϫʔΫ͕͋Δ ɾ࿈ΨνϟͰͨΒͳ͍ʁ ԯ࿈͘Β͍Ε͚ͬ͜͏ͨΔΑʂ ɾ͍ͬͯ͏ͷ͕࠷ۙͷ ڊେϞσϧʢ#&35ɺ5ɺFUDʣ ɾͣΕωοτϫʔΫΛࢬמΓ͢Εগͳ͍ετϨʔδͰߴʹਪͰ͖Δ ɾ͡Ό͋Ͳ͏Δͷʁ
ˠ ·ͨࠓͳʂ
ࢿྉͷϦϯΫͱࢀߟจݙ 10 IUUQTTQFBLFSEFDLDPNTLBTXFC΄͛΄͛ ࢀߟจݙ ɾIUUQTEFFQTRVBSFKQMPUUFSZUJDLFU ɾIUUQTMBCPSPBJBDUJWJUZDPMVNOFOHJOFFSๅ͘͡Ծઆ ݩจ ɾJonathan Frankle, Michael
Carbin, “The Lottery Ticket Hypothesis: Finding Sparse, Trainable Neural Networks”, cs.LG : 1803.03635, ICLR 2019 ɾ5JBOMPOH$IFO +POBUIBO'SBOLMF 4IJZV $IBOH 4JKJB -JV :BOH;IBOH ;IBOHZBOH 8BOH .JDIBFM$BSCJO l5IF-PUUFSZ5JDLFU)ZQPUIFTJTGPS1SFUSBJOFE#&35/FUXPSLTz