Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
続・小さく始めて大きく育てるMLOps2020 / Start small and grow ...
Search
chck
August 28, 2020
Programming
3
3.3k
続・小さく始めて大きく育てるMLOps2020 / Start small and grow big MLOps2020
PyConJP2020
での発表資料です
chck
August 28, 2020
Tweet
Share
More Decks by chck
See All by chck
CyberAgent AI Lab研修 / Container for Research
chck
0
1.8k
CyberAgent AI Lab研修 / Code Review in a Team
chck
2
1.6k
論文読み会 / Socio-Technical Anti-Patterns in Building ML-Enabled Software: Insights from Leaders on the Forefront
chck
0
40
CyberAgent AI事業本部MLOps研修Container編 / Container for MLOps
chck
2
5.5k
論文読み会 / GLAZE: Protecting Artists from Style Mimicry by Text-to-Image Models
chck
0
23
論文読み会 / On the Factory Floor: ML Engineering for Industrial-Scale Ads Recommendation Models
chck
0
8
論文読み会 / GUIGAN: Learning to Generate GUI Designs Using Generative Adversarial Networks
chck
0
15
機械学習開発のためのコンテナ入門 / Container for ML
chck
0
910
Web系企業研究所における研究開発を加速させるエコシステム / Ecosystem accelerates our R&D in CyberAgent AI Lab
chck
0
140
Other Decks in Programming
See All in Programming
はじめてのWeb API体験 ー 飲食店検索アプリを作ろうー
akinko_0915
0
170
状態遷移図を書こう / Sequence Chart vs State Diagram
orgachem
PRO
3
290
ご注文の差分はこちらですか? 〜 AWS CDK のいろいろな差分検出と安全なデプロイ
konokenj
4
710
0から始めるモジュラーモノリス-クリーンなモノリスを目指して
sushi0120
0
170
11年かかって やっとVibe Codingに 時代が追いつきましたね
yimajo
0
190
レトロゲームから学ぶ通信技術の歴史
kimkim0106
0
140
バイブコーディング超えてバイブデプロイ〜CloudflareMCPで実現する、未来のアプリケーションデリバリー〜
azukiazusa1
2
730
Workers を定期実行する方法は一つじゃない
rokuosan
0
130
それ CLI フレームワークがなくてもできるよ / Building CLI Tools Without Frameworks
orgachem
PRO
11
2.9k
Advanced Micro Frontends: Multi Version/ Framework Scenarios
manfredsteyer
PRO
0
110
Startups on Rails in Past, Present and Future–Irina Nazarova, RailsConf 2025
irinanazarova
0
310
Android 16KBページサイズ対応をはじめからていねいに
mine2424
0
740
Featured
See All Featured
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
130
19k
Designing Dashboards & Data Visualisations in Web Apps
destraynor
231
53k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
35
2.5k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
248
1.3M
Easily Structure & Communicate Ideas using Wireframe
afnizarnur
194
16k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
126
53k
Balancing Empowerment & Direction
lara
1
510
Rails Girls Zürich Keynote
gr2m
95
14k
How GitHub (no longer) Works
holman
314
140k
I Don’t Have Time: Getting Over the Fear to Launch Your Podcast
jcasabona
33
2.4k
Building Flexible Design Systems
yeseniaperezcruz
328
39k
Being A Developer After 40
akosma
90
590k
Transcript
続・小さく始めて大きく育てる MLOps2020 Yuki IWAZAKI
I am Yuki Iwazaki Research Engineer at CyberAgent, AI Lab
You can find me at @chck 2014- Back/Frontend Engineer (Ruby, Scala, JavaScript) 2016- Data Scientist (Python) 2017- Research Engineer (Python) Hello! 2
What is MLOps? ML lifecycleを運用・管理 するためのPractice 3
What is ML Lifecycle? DS Projectにおける周期的なProcess - Fetch Data -
Preprocessing - Training - Reporting - Deployment https://www.slideshare.net/databricks/mlflow-infrastructure-for-a-complete-machine-learning-life-cycle 4
Fetch Data 5
Preprocessing 6
Training 7
Reporting 8
ML Lifecycleに潜む罠 9
乱立するJupyter Notebook 10
身元不明なデータ 11
再現しない学習結果 12
引き継ぎできない実験コード 13
14 実験管理 できてますか
ブログ記事: 小さく始めて大きく育てるMLOps2020 15
今日から始められる決定版を紹介したい 16
Hydra 17
Hydra 設定パラメータ管理ツール - pip install hydra-core - 複数のYamlを継承 - 順次読込
- Parameter探索にも 18
Hydra 19
Hydra 20
Hydra 21
Hydra defaults: lightgbm_a.yamlをload 22
Hydra defaults: lightgbm_a.yamlをload lightgbm_b.yamlをload 23
Hydra defaults: lightgbm_a.yamlをload lightgbm_b.yamlをload argsでparamsをoverwrite 24
Hydra Multirun Optionによる順次実行 25
MLflow Tracking 26
MLflow Tracking 実験ログの管理ツール - pip install mlflow - clientからserverに送信し たログが保存され、
UIから可視化できる 27
MLflow Tracking Tracking Server Tracking Client User 28
MLflow Tracking Tracking Serverの起動コマンド 内部でgunicornが動いている 29
MLflow Tracking 30
MLflow Tracking 実験一覧 実験結果 31
MLflow Tracking 32
MLflow Tracking before after (with mlflow) 33
MLflow Tracking before after (with mlflow) 34
MLflow Tracking before after (with mlflow) 35
MLflow Tracking 36
MLflow Tracking 37
MLflow Tracking 38
Tracking Serverのすすめ Tracking Server Tracking Client User MLflow or 実験管理系SaaS
39
Kedro 40
Kedro Workflowの管理ツール - pip install kedro - Fetch Data ->
Preprocessing -> Training -> Reporting の流れをPipeline化 41
Kedro Pipeline 42
Kedro Pipeline Data Catalog Pipeline内で共有したいDataを yamlに定義 Data Connectorとその引数を記述 built-inのCSV, SQL,
S3,,, Custom実装も可能 43
Kedro Pipeline Parameters Pipeline内で共有したいParameterを yamlに定義 Hydraとの連携やMLflowに渡す例も 44
Kedro Pipeline Node Pipelineを組み立てる処理の一単位. Python関数で記述 45
Kedro Pipeline Pipeline Data Catalog, Parameterが共有された NodeのChain 46
47
node: preprocessの実行 48
node: train_modelの実行 49
node: report_accuracyの実行 50
Summary 51
今日のまとめ Parameters Track experiments Workflow 52
おわりに 使い回しを意識した健全なML Lifecycleで 未来の自分やProjectの皆を幸せにしましょう まずは1ツールから. 53
References - 小さく始めて大きく育てるMLOps2020 - https://github.com/chck/ml-management-tools/ - ハイパラ管理のすすめ - ハイパーパラメータをHydra+MLflowで管理しよう -
MLFlowと他ツールの組み合わせ 54
You can find me at ◉ speakerdeck.com/chck ◉ github.com/chck ◉
facebook.com/chck1245 Thanks! 55 ←この発表資料
Appendix 56
Deploymentまで管理するには - こんなのがあります - library依存 - TensorFlow Serving - TorchServe
... - Cloud依存 - SageMaker - AI Platform ... 57
MLOps Yes/No Chart 58