Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Sign up for free
Menu
Search
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Features
All features
Private URLs
Password Protection
Custom URLS
Scheduled publishing
Remove Branding
Restrict embedding
Deck Collections
Notes
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Explore
Featured decks
Featured speakers
Programming
Technology
Storyboards
Pricing
Search
Sign in
Sign up for free
2019.07.05 Cloud Native Kansai #04 MLOpsで必要なf...
Search
Sponsored
·
Ship Features Fearlessly
Turn features on and off without deploys. Used by thousands of Ruby developers.
→
Takayoshi Kobayashi
July 05, 2019
Technology
240
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
2019.07.05 Cloud Native Kansai #04 MLOpsで必要なflowを考えてみる
2019.07.05 Cloud Native Kansai #04 MLOpsで必要なflowを考えてみる
Takayoshi Kobayashi
July 05, 2019
Transcript
36 slides
#cnjp 2019.07.05 Cloud Native Kansai #04 ABEJA, Inc / Takayoshi
Kobayashi / @koba_taka MLOpsで必要なflowを考えてみる
#cnjp 2 What is MLOps ?
#cnjp 3 ML will run on Kubernetes
#cnjp 4 MLOps ✕ Kubernetes
#cnjp 5 @koba_taka Twitter Like takayoshi.kobayashi.16 Facebook AWS Drinking Job
Takayoshi Kobayashi Who is ? ABEJA Co., Ltd. ABEJA Platform Customer Success
None
#cnjp 7 Deep Learningの実装、運用プロセスを効率化する ABEJA Platform。 来客属性、動線分析、リピート推定といった 顧客行動データの取得・分析を基軸とする、 AIを活用した 店舗解析サービス。
商品仕分け、メンテナンスサポートの効率化、熟練工の行動分析といった、 AIを用いた多用なソリューションを展開。 製造業、インフラ業、物流業や小売業まで、 150社以上のAI導入実績で得た知見・ノウハウをもとに、 AI導入・活用まで一気通貫で支援します。 AIのビジネス実装 What`s ABEJA?
#cnjp 8 インフラやってますか?
#cnjp 9 機械学習やってますか?
#cnjp 10 機械学習インフラしたいなー?
#cnjp 11 We are hiring!!
#cnjp 12 What is MLOps ?
#cnjp 13 MLOps Pipeline Low Data Data Wrangling Data Preprocessing
Validation Training New Data Training Data Model Inference Predictions Input Data
#cnjp 14 Why Machine Learning on Kubernetes? Low Data Data
Wrangling Data Preprocessing Validation Training New Data Training Data Model Inference Predictions Input Data データ収集・蓄積 開発・学習 推論・予測
#cnjp 15 Hidden Technical Debt in Machine Learning Systems [Sculley+,
NIPS 2015] 正直、MLOpsって設計より管理が大変‥
#cnjp 16 We have Kubernetes!!
#cnjp 17 構成としてはこんな感じ?
#cnjp 18 just only?
#cnjp 19 Noooo!!!!
#cnjp 20 Make it Easy for Everyone to Learn, Deploy
and Manage Portable, Distributed ML on Kubernetes (Everywhere) by Michelle Casbon (Google)
#cnjp 21 Agree with you
#cnjp 22 The ML Toolkit for Kubernetes
#cnjp 23 Why Machine Lerning on Kubeflow? Composability Portability Scalability
#cnjp 24 Ambassador Service Ambassador Ambassador Ambassador CentralUI JupyterHub TFJobDashBoard
KubeDash Kubeflowを構成するもの
#cnjp 25 Kubeflowを構成するもの part.1 Ambassador ・Kubernetes上で動作するAPI Gateway ・役目はModelの提供 ・Envoyをイイ感じに構成 ・自分のServerに暗号化や認証認可を付与可能
・ルーティングとスケーリングの運用が簡単 モデルのサービングをKubernetes上で快適に!
#cnjp Soldon Core 26 Kubeflowを構成するもの part.2 ・機械学習のモデルをKubernetesクラスタ上にデプロイ ・多様な言語やフレームワークに対応している ・機械学習のモデルを、RESTやgRPCを介した公開可能 ・モデルの継続的なアップデート、スケーリング、
モニタリングなどを可能 モデルのデプロイをKubernetes上で快適に!
#cnjp Soldon Core main supported 27
#cnjp 28 Kubeflowを構成するもの part.3 Argo ・コンテナネイティブなワークフローエンジン ・Kubernates Cluster上で稼働 ・ワークフローをYAMLで宣言的に書ける ・MLOpsでは各タスクを記載
(整形・登録など) ・resources指定なども可能 ・簡単に操作ができ、スゴイやつ パイプラインジャングルをKubernates上で解決!
#cnjp 29
#cnjp 30 Example:EKS on Kubeflow Overview
#cnjp 31 Why Machine Learning on Kubernetes? Low Data Data
Wrangling Data Preprocessing Validation Training New Data Training Data Model Inference Predictions Input Data データ収集・蓄積 開発・学習 推論・予測
#cnjp 32 Demo
#cnjp 33 まとめ ・機械学習のモデル作成/提供はインフラやることいっぱい ・MLOpsのパイプラインを意識して設計が大事 ・極力、省力化した運用を心がけよう ・Kubeflowなどのオーケストレーションツールの検討を
#cnjp 34 宣伝:ABEJA PLATFORM 04 デプロイ 01 取得 05 推論・再学習
03 学習 02 蓄積 AIの継続的 インテグレーションを実現 01 取得 02 蓄積 03 学習 04 デプロイ 05 推論・再学習 モニタリング トリガー デプロイ データレイク アノテーション データセット 学習 AIのモデル開発工程における継続的インテグレーションの各タスクを機能として提供しています。
#cnjp 35 フローを理解して快適なMLOpsライフを!
#cnjp 36 Thank you!!
More Decks by Takayoshi Kobayashi
See All by Takayoshi Kobayashi
AWS re:Invent 2020 SageMakerのUpdateをre:cap
koba_taka
0
240
2020.02.13_ABEJA_プロダクトがスケールする過程における課題と取り組み
koba_taka
0
340
2019.08.10_AAJUG Kyoto #2_Alexa✕ML
koba_taka
0
120
2018.07.31 JAWS-UG京都 AWSマネージドDB祭~まだDBにEC2使ってんの?~ / 今のAuroraのスゴさ
koba_taka
0
340
JAWS-UG Sales #0 「SalesがJAWS-UGに参加してみて」
koba_taka
0
250
【さるる勉強会#1】AWSの機械学習って?
koba_taka
0
400
2018.2.11- Alexa Day 2018 - Alexa Ninja Warrior 結果発表
koba_taka
0
5.7k
【さばわの「わ」#2】AWSパートナーとしてのサバワの営業スタイル
koba_taka
0
690
【BIファーストステップ】AWSやSalesforceとPowerBIとの連携
koba_taka
0
2.1k
Other Decks in Technology
See All in Technology
2026-11-16 JAWS-UG コンテナ支部 #31 ゆるLT大会 ECR のライフサイクルポリシーを いい感じに設定したい / ECR Lifecycle policy
masasuzu
3
620
Kubernetes, Agones, WebRTC, GPU で作る クラウドゲーミング基盤を本番運用に乗せるまで
vivion
0
280
[NW-JAWS DAY]「うちのAWS、インターネット出られないんで」― AWS外の自社サービスをPrivateLinkでシュッと公開する方法
ykimi
3
920
業務の傍らで進める改善ループエンジニアリング
bengo4com
1
240
こんなに変わった! AWSネットワークの常識
shotashiratori
16
11k
信頼性を犠牲にせず、PR マージからデプロイまで人の介入を完全にゼロにするまでの道のり
knwoop
4
2.1k
自動計装なしでECSサービスをApplication Signalsに載せるまで
ota1022
2
470
コーディングできない僕にBobが舞い降りた
shumpei3
0
200
OCI Artifact による自動運転タクシーに向けた OTA 基盤の構築
biwashi
1
300
目を覚ませ!僕らの認証情報が何者かに侵略されてるぞ
tkito
2
490
パスワードのない鍵で、 データを手元に置く
ginjihayashi
0
400
認知負荷の減らし方 ~開発にも日常業務にも活かせるノウハウ~
minorun365
PRO
17
10k
Featured
See All Featured
Tips & Tricks on How to Get Your First Job In Tech
honzajavorek
1
850
brightonSEO & MeasureFest 2025 - Winning Strategies for Black Friday CRO & PPC - Christian Goodrich
cargoodrich
3
910
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
25
2.2k
The MySQL Ecosystem @ GitHub 2015
samlambert
251
13k
Well, that’s weird…
csswizardry
1
200
SEO in 2025: How to Prepare for the Future of Search
ipullrank
3
3.9k
How to Get Subject Matter Experts Bought In and Actively Contributing to SEO & PR Initiatives.
livdayseo
1
250
Why Mistakes Are the Best Teachers: Turning Failure into a Pathway for Growth
auna
0
370
What Being in a Rock Band Can Teach Us About Real World SEO
427marketing
0
1.1k
HTML-Aware ERB: The Path to Reactive Rendering @ RubyCon 2026, Rimini, Italy
marcoroth
6
960
Imperfection Machines: The Place of Print at Facebook
scottboms
270
14k
Visualization
eitanlees
153
17k