Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
Hydra, MLflow, Optunaの組み合わせで手軽に始めるハイパーパラメータ管理
Search
Taiki Nakamura
June 26, 2021
Programming
7
3.7k
Hydra, MLflow, Optunaの組み合わせで手軽に始めるハイパーパラメータ管理
Optuna meetup #1 で使用した資料です.
Taiki Nakamura
June 26, 2021
Tweet
Share
More Decks by Taiki Nakamura
See All by Taiki Nakamura
【ICASSP2024】音声変換に関する全論文まとめ【Parakeet株式会社】
supikiti
0
700
研究会発表資料.pdf
supikiti
4
650
DDPM解説スライド.pdf
supikiti
0
3.9k
音声B紹介ポスター@音響学会ビギナーズセミナー
supikiti
1
350
hydra-mlflow-optuna
supikiti
4
6.5k
Interspeech2020_読み会_nakamura
supikiti
0
570
Other Decks in Programming
See All in Programming
Wallet API, Verifier APIで実現するIDカード on iPhoneの世界
shitamori1272
1
360
Amazon Neptuneで始める初めてのグラフDB ー グラフDBを使う意味を考える ー
satoshi256kbyte
2
220
null or undefined
susisu
22
6k
現代のVueとTypeScript - 型安全の活用術
minako__ph
4
3.1k
ESLint Rule により事業, 技術ドメインに沿った制約と誓約を敷衍させるアプローチのすゝめ
shinyaigeek
1
2.9k
Desafios e Lições Aprendidas na Migração de Monólitos para Microsserviços em Java
jessilyneh
2
140
いつか使える ObjectSpace / Maybe useful ObjectSpace
euglena1215
2
120
Kotlin 2.0 and Beyond
antonarhipov
2
140
Scala アプリケーションのビルドを改善してデプロイ時間を 1/4 にした話 | How I improved the build of my Scala application and reduced deployment time by 4x
nomadblacky
1
130
LR で JSON パーサーを作る / Coding LR JSON Parser
junk0612
2
180
Rubyとクリエイティブコーディングの輪の広がり / The Growing Circle of Ruby and Creative Coding
chobishiba
1
240
Swift Concurrencyとレースコンディション
objectiveaudio
1
390
Featured
See All Featured
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
29
2.6k
For a Future-Friendly Web
brad_frost
174
9.3k
Optimizing for Happiness
mojombo
375
69k
Bash Introduction
62gerente
608
210k
Art, The Web, and Tiny UX
lynnandtonic
294
20k
We Have a Design System, Now What?
morganepeng
48
7.1k
The World Runs on Bad Software
bkeepers
PRO
64
11k
Build your cross-platform service in a week with App Engine
jlugia
228
18k
StorybookのUI Testing Handbookを読んだ
zakiyama
25
5k
Navigating Team Friction
lara
183
13k
Keith and Marios Guide to Fast Websites
keithpitt
408
22k
Making Projects Easy
brettharned
113
5.8k
Transcript
)ZESB .-GMPX 0QUVOBͷΈ߹ΘͤͰ खܰʹ࢝ΊΔϋΠύʔύϥϝʔλཧ ౦େӃɾใཧ म࢜՝ఔ தଜହوʢͳ͔ΉΒ ͍͖ͨʣ 1
0QUVOB .FFUVQ
/27 ࣗݾհ 2 ▪ ϓϩϑΟʔϧ • ౦େେֶӃ ใཧ Ԑɾখࢁݚ
. • Ի߹ ࣭มٕज़Λීஈݚڀ͍ͯ͠·͢ • 5XJUUFS!TVQJLJUJ ʢΞΠίϯɿӈਤʣ ▪ ొஃཧ༝ • Ҏલ NFEJVNDPNPQUVOB ʹͯຊൃදͱಉ͡ʹͯࣥච • &BTZ)ZQFSQBSBNFUFS.BOBHFNFOUXJUI)ZESB .-GMPX BOE0QUVOB • )ZESB .-GMPX 0QUVOBͷΈ߹ΘͤͰखܰʹ࢝ΊΔϋΠύʔ ύϥϝʔλཧ
/27 ຊͷ༰ 3 ▪ հ͢Δ͜ͱ • )ZESB .-GMPX 0QUVOB Λ༻͍ͨޮతͳϋΠύϥཧ
• ͦΕͧΕͷ୯ମͰͷ͍ํ Έ߹Θͤͨ۩ମతͳ͍ํ ▪ հ͠ͳ͍͜ͱ • ͦΕͧΕͷϥΠϒϥϦͷΈ ෦ಈ࡞ ◦ ૉਓͳͷͰʜ ▪ ຊͷڞ༗ࢿྉ [PPNͷνϟοτཝʹܝࡌ ▪ αϯϓϧίʔυͪ͜Β
ϋΠύϥཧ
/27 ϋΠύϥཧͷํ๏ 5 "SHQBSTF ʹΑΔཧ IQBSBNQZ ʹΑΔཧ
/27 ϋΠύϥཧͷ 6 ▪ BSHQBSTFʹΑΔϋΠύϥཧ • ԟʑʹͯ͠ઃఆ͢ΔϋΠύϥ͕େʹͳΓ͕ͪ • ͲͷϋΠύϥ͕ NPEFMQSFQSPDFTTͳͲʹରԠ͢Δ͔ݟͮΒ͍
▪ ઃఆϑΝΠϧΛ༻͍ͨϋΠύϥཧ • ϋΠύϥมߋͷͨͼʹઃఆϑΝΠϧΛฤू͋Δ͍࡞ ▪ )ZESB .-GMPX 0QUVOBʹΑΔϋΠύϥཧ • ઃఆύϥϝʔλΛίϚϯυϥΠϯ͔Βछྨมߋ ࣮ߦՄೳ • ϋΠύϥͷάϦουαʔν͕༰қʹՄೳ छྨͷཧ͕༰қ • ڧྗͳϋΠύϥ୳ࡧΛίϚϯυϥΠϯ͔Βར༻Մೳ
)ZESB
/27 8 ▪ ಛ • 'BDFCPPL"*3FTFBSDI͕ެ։͍ͯ͠Δύϥϝʔλཧπʔϧ • ύϥϝʔλΛ֊ཱͯͯߏతʹ :".-ϑΝΠϧʹهड़ •
ίϚϯυϥΠϯ͔ΒઃఆΛ্ॻ͖ ࣮ߦ • ϋΠύϥͷछྨͷάϦουαʔνΛ ߦͰ࣮ߦՄೳ IUUQTIZESBDD )ZESBʹ͍ͭͯ
/27 جຊతͳ͍ํ 9 • ཧ͍ͨ͠ϋΠύϥΛ ZBNM ܗࣜͰ $POGJHϑΝΠϧهड़
/27 جຊతͳ͍ํ 10 • ؔʹσίϨʔλΛ͢͜ͱͰ͔ؔΒϋΠύϥࢀরՄೳ
/27 جຊతͳ͍ํ 11 ▪ ίϚϯυϥΠϯ͔Βͷͷมߋ ࣮ߦ • ϋΠύϥͷΛௐͯ͠࠶࣮ߦ͍ͨ͠߹ίϚϯυϥΠϯ͔Β ϋΠύϥͷΛมߋͯ͠ϓϩάϥϜΛ࠶࣮ߦՄೳ
/27 جຊతͳ͍ํ 12 ▪ ϋΠύϥͷάϦουαʔν • छྨͷϋΠύϥΛॱʹ༻͍࣮ͯߦ͍ͨ͠߹ɼ$POGJHΛ ॻ͖͑Δ͜ͱͳ͘ίϚϯυϥΠϯ͔ΒࢦఆՄೳ • ࢦఆͨ͠ϋΠύϥͷΈ߹ΘͤͷʹԠ࣮ͯ͡ߦ
/27 جຊతͳ͍ํ 13 ▪ )ZESBͷϋΠύϥࣗಈอଘػೳ • ࣮ߦ͝ͱͷઃఆ࣮ߦதͷग़ྗΛࣗಈͰอଘ͞ΕΔػೳ • 0VUQVUTσΟϨΫτϦʹ࣮ߦ࣮ߦຖछʑͷઃఆϑΝΠϧ͕ ࣗಈอଘ
• อଘܗࣜͷՄಡੑ͕͘ϋΠύϥൺֱ͕Ͱ͖ͳ͍ʢࠨਤʣͨΊ .-GMPX Λಋೖ͜͠ΕΛվળʢӈਤʣ
.-GMPX
/27 .-GMPXͷجຊతͳ͍ํ 15 ▪ .-GMPX ͱ • ػցֶशϥΠϑαΠΫϧΛ࣮ݱ͢ΔΦʔϓϯιʔε • )ZESB
ͱΈ߹ΘͤϋΠύϥͷཧ อଘ ൺֱ͕༰қʹ • ຊൃදͰ .-GMPX 5SBDLJOHΛ༻͍ͨϋΠύϥཧΛհ ▪ .-GMPX 5SBDLJOH • ػցֶशͳͲͷϋΠύϥͷϩΪϯά MPTTBDDVSBDZͳͲͷ ϝτϦΫε ग़ྗϑΝΠϧͳͲͷཧΛิॿ͢Δ "1*Λఏڙ • QJQͰΠϯετʔϧՄೳ
/27 جຊతͳ͍ํ 16 ▪ ϋΠύϥͷͱه • .-GMPX ͕ఏڙ͢ΔϩΪϯάؔΛ༻͍ͯϋΠύϥΛهՄೳ start_run() runID
の発行 log_param() ハイパラの登録 log_metric() メトリックの記録 log_artifact() 出力されたファイル等の記録 … mlflow ui localserver:5000でGUI
17 )ZESBͱ .-GMPX ͷ࣮ྫ
18 hydra.mainデコレータ パラメータの登録 (log_params()) メトリックの登録
19 શࢼߦաఔ͕ࣗಈอଘ ൺֱՄೳ MPTT BDDVSBDZ
/27 )ZESB .-GMPX ·ͱΊ 20 ▪ )ZESB • 'BDFCPPL"*3FTFBSDI͕ެ։͍ͯ͠Δύϥϝʔλཧπʔϧ •
ίϚϯυϥΠϯ͔ΒઃఆΛෳมߋ ࣮ߦՄೳ ▪ .-GMPX • ػցֶशͷ࣮ݧཧΛࣗಈͰߦ͏πʔϧ • (6*্Ͱύϥϝʔλͷҧ͍ʹΑΔ݁Ռͷൺֱ͕༰қʹՄೳ ▪ )ZESB .-GMPX 0QUVOB • )ZESBͷϓϥάΠϯΛར༻ͨ͠ 0QUVOB ͷಋೖํ๏Λղઆ
0QUVOB
/27 0QUVOB ͷಋೖ 22 ▪ 0QUVOB ͱ • ΦʔϓϯιʔεͷϋΠύϥࣗಈ࠷దԽϑϨʔϜϫʔΫ •
ϋΠύϥͷʹؔ͢ΔࢼߦࡨޡΛࣗಈԽ • ༏ΕͨੑೳΛൃش͢ΔϋΠύϥͷΛࣗಈతʹൃݟ ▪ )ZESB .-GMPX 0QUVOB • )ZESBͷ 0QUVOB 4XFFQFSϓϥάΠϯΛ༻͢Δ͜ͱͰ )ZESBͰઃఆͨ͠มͷ୳ࡧΛίϚϯυϥΠϯ͔Β࣮ࢪՄೳ • ࠷దԽ͞ΕΔมͱ݅ΛίϚϯυϥΠϯ͔ΒมߋՄೳ
/27 ઃఆϑΝΠϧͷՃ 23 )ZESBͷઃఆϑΝΠϧ0QUVOB ʹؔ͢Δ ۩ମతͳઃఆ߲ΛՃͰॻ͖͜Ή͚ͩ ࡉ͔ͳ 0QUVOB ͷઃఆ߲ΛมߋՄೳ l
EJSFDUJPO ධՁؔΛ࠷খԽ PS࠷େԽ l O@USJBMT୳ࡧճͷઃఆ l /@KPCTฒྻϫʔΧʔͷ l ʜ
/27 NBJOؔͰͷมߋ 24 • σίϨʔλͰͨؔ͠ͷฦΓΛ࠷దԽ͢Δతมʹઃఆ • ҎԼͷίʔυ BDDVSBDZΛ࠷େԽ͍ͨ͠߹ͷྫ
/27 ୳ࡧൣғͷࢦఆ 25 • ίϚϯυϥΠϯ͔Β࠷దԽ͍ͨ͠ม͓ΑͼൣғΛࢦఆ • ҎԼͰ PQUJNJ[FS ͷֶशͱϞσϧͷϊʔυΛ୳ࡧ ◦
DIPJDFΧςΰϦܕͷมม͞ΕΔͨΊ PQUJNJ[FS ͷ ֶश छྨ୳ࡧ͞ΕΔ ◦ SBOHF ܕͷมม͞ΕΔͨΊ NPEFMOPEF ͕ < >ͷൣғ͔ͭͷ݅Ͱ୳ࡧ͞ΕΔ ◦ ଞʹ༷ʑͳʹରԠ͍ͯ͠Δ͕͜͜ͰׂѪ
/27 .-GMPXͰͷՄࢹԽ 26 • 0QUVOB Ͱ୳ࡧ͞ΕͨϋΠύϥͷ͓ΑͼతؔͷΛ .-GMPX Ͱߏஙͨ͠ϩʔΧϧαʔόʔ্Ͱ֬ೝՄೳ
/27 ૯·ͱΊ 27 ▪ )ZESB .-GMPX 0QUVOB • ֶश࣌ʹࡶʹͳΓ͕ͪͳύϥϝʔλཧͷܾఆ൛ •
)ZESBͱ 0QUVOB ͰύϥϝʔλΛ༰қʹมߋɾ୳ࡧ͠ .-GMPX ͰશύϥϝʔλΛҰݩཧ ▪ ͞Βʹֶͼ͍ͨํʹ • ,FESP8PSLGMPXͷύΠϓϥΠϯཧπʔϧ ◦ )ZESB .-GMPX 0QUVOB ,FESP ◦ ΑΓ࠶ݱੑͷ͋Δ͍ճ͠Λҙࣝͨ͠ίʔυʹ https://github.com/quantumblacklabs/kedro
/27 ࢀߟࢿྉ 28 • IUUQTDZCFSBHFOUBJCMPHSFTFBSDI • IUUQTZNZNIBUFOBCMPHDPNFOUSZ • IUUQT[FSFCPNIBUFOBCMPHDPN)ZESB
• IUUQTTQFBLFSEFDLDPNDIDLTPLYJBPTBLVTIJNFUFEB LJLVZVUFSVNMPQT