Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
インタビューから見えてきた MLOps のレベルと現場の課題
Search
Asei Sugiyama
December 14, 2022
Technology
2
1.9k
インタビューから見えてきた MLOps のレベルと現場の課題
2022年 年忘れ! MLOps LT大会!!!
https://mlops.connpass.com/event/265378/
の登壇資料です、MLOps に関する2022年の所感を話しました
Asei Sugiyama
December 14, 2022
Tweet
Share
More Decks by Asei Sugiyama
See All by Asei Sugiyama
エージェントの継続的改善のためのメトリクス再考
asei
3
300
生成AI活用のベストプラクティス集を作ってる件
asei
1
510
GenAIOps: 生成AI時代の DevOps
asei
0
36
生成AI活用の実践解説 (速報版)
asei
1
760
実践AIガバナンス
asei
3
720
Eval-Centric AI: Agent 開発におけるベストプラクティスの探求
asei
1
310
AI工学特論: MLOps・継続的評価
asei
11
2.9k
生成AIを用いるサービス開発の原則
asei
1
79
基調講演: 生成AIを活用したアプリケーションの開発手法とは?
asei
2
550
Other Decks in Technology
See All in Technology
AIAgentの限界を超え、 現場を動かすWorkflowAgentの設計と実践
miyatakoji
1
160
定期的な価値提供だけじゃない、スクラムが導くチームの共創化 / 20251004 Naoki Takahashi
shift_evolve
PRO
4
360
新規事業におけるGORM+SQLx併用アーキテクチャ
hacomono
PRO
0
140
衛星画像超解像化によって実現する2D, 3D空間情報の即時生成と“AI as a Service”/ Real-time generation spatial data enabled_by satellite image super-resolution
lehupa
0
140
プロダクトのコードから見るGoによるデザインパターンの実践 #go_night_talk
bengo4com
1
2.4k
Escaping_the_Kraken_-_October_2025.pdf
mdalmijn
0
160
AWS Control Tower に学ぶ! IAM Identity Center 権限設計の第一歩 / IAM Identity Center with Control Tower
y___u
0
100
Adminaで実現するISMS/SOC2運用の効率化 〜 アカウント管理編 〜
shonansurvivors
4
440
AIツールでどこまでデザインを忠実に実装できるのか
oikon48
6
3.2k
Codexとも仲良く。CodeRabbit CLIの紹介
moongift
PRO
0
130
成長自己責任時代のあるきかた/How to navigate the era of personal responsibility for growth
kwappa
4
310
許しとアジャイル
jnuank
1
140
Featured
See All Featured
Art, The Web, and Tiny UX
lynnandtonic
303
21k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
23
1.5k
Done Done
chrislema
185
16k
The Myth of the Modular Monolith - Day 2 Keynote - Rails World 2024
eileencodes
26
3.1k
Facilitating Awesome Meetings
lara
56
6.6k
Learning to Love Humans: Emotional Interface Design
aarron
274
41k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
127
53k
Optimizing for Happiness
mojombo
379
70k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
48
9.7k
Balancing Empowerment & Direction
lara
4
690
Practical Orchestrator
shlominoach
190
11k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
35
3.2k
Transcript
インタビューから見えてきた MLOps の レベルと現場の課題 Asei Sugiyama
自己紹介 杉山 阿聖 (@K_Ryuichirou) Software Engineer @ Citadel AI Advisor
@ Money Forward Organizer @ MLSE 機械学習オペレーション WG 機械学習図鑑 共著
TOC 背景 <- MLOps の取り組みの分類 MLOps の課題 まとめ
機械学習の実用化について相談を受けることが多い AIを一つください、という前に https://speakerdeck.com/asei/aiwo-tukudasai-toiuqian-ni
さまざまに情報発信 Asei Sugiyama (@asei) on Speaker Deck https://speakerdeck.com/asei
縁あって MLSE に参加 MLOps に関する Working Group MLOps に関する基調講演
現場の課題を収集する Workshop https://app.mural.co/t/zeroqueue8023/m/zeroqueue8023/1657073071541/6f20ef4285a7e19caf0baceb174dc781fd2d9f06? sender=u5c824b66a2341e9ebe6b4303
今日は今まで聞いてきた話について振り返り MLOps の定義 プラクティスの分類方法 MLOps の取組分野 機械学習の活用段階 あまり有効でない分類軸
TOC 背景 MLOps の取り組みの分類 <- MLOps の課題 まとめ
MLOps の定義 MLOps: 機械学習の成果を スケールさせるための取り 組み AI を育てる取り組み
MLOps の取り組みの分類方法 MLOps の取り組み分野 機械学習の活用段階
MLOps の取組分野 MLOps を支える技術 MLOps を支えるプロセス MLOps を支えるモニタリン グ MLOps
を支える文化
MLOps を支える技術 機械学習パイプライン ML Metadata Feature Store 概ねここが MLOps として
語られる MLOps: Continuous delivery and automation pipelines in machine learning https://cloud.google.com/architecture/mlops-continuous-delivery-and- automation-pipelines-in-machine-learning
MLOps を支えるプロセ ス モデルの実験プロセス 本番システムに至るまでの 開発プロセス モデルのテスト 本番環境での検証 (A/Bテス トなど)
Well-Architected machine learning lifecycle - Machine Learning Lens https://docs.aws.amazon.com/wellarchitected/latest/machine-learning- lens/well-architected-machine-learning-lifecycle.html
MLOps を支えるモニタ リング 通常のシステムとしての計 測 データの測定 指標の測定 精度の測定 Lupus -
A Monitoring System for Accelerating MLOps https://speakerdeck.com/line_devday2021/lupus-a-monitoring-system-for- accelerating-mlops
MLOps を支える文化 多様な利害関係者間での合 意形成 機械学習チームの評価 機械学習に対する経営判断 Artificial Intelligence (AI) Transformation
Playbook | Landing AI https://landing.ai/resources/ai-transformation-playbook/ エムスリーにおけるAI・機械学習チームの立ち上げと機械学習プロダクト開発 https://speakerdeck.com/nishiba/m3-ai-team
機械学習の活用段階 Lv.0 手作業しかない Lv.1 デプロイの脱属人化 Lv.2 組織的な機械学習基盤の導入 Lv.3 継続的なモニタリングと改善のための分析
体感値 Lv.1 までは行けるようになってきた それ以降に分厚い壁がある Lv 段階 組織の多さ Lv.0 手作業しかない 大半がこれ
Lv.1 デプロイの脱属人化 かなり出てきた Lv.2 組織的な機械学習基盤の導入 ごく一部 Lv.3 継続的なモニタリングと改善のための分析 ほぼいない
あまり有効でない分類軸 企業規模 大企業でもスタートアップ並みに活用している場合がある SaaS 企業でもまったく進められない場合がある 業界 他業種の事例が製造業で活きるなど、事例の有用性は業界をまたぐ 逆説的に、MLOps は機械学習に関するすべての人に関係する
TOC 背景 MLOps の取り組みの分類 MLOps の課題 <- まとめ
現状の課題認識 技術面で未成熟 MLOps に関する取り組みや課題の収集 グローバルな動向に関するキャッチアップ
技術面で未成熟 Kubeflow をはじめ MLOps で用いられるツールはまだまだ未成熟 現状はデプロイの自働化やデプロイ前のテストに議論が集中しがち この領域はエンジニア間での交流が進んできている
MLOps に関する取り組みや課題の収集 成功事例は出てくるものの、それより遥かに多いはずの失敗事例が出て こない Microsoft: An Empirical Study on Program
Failures of Deep Learning Jobs - Microsoft Research Google: How ML Breaks: A Decade of Outages for One Large ML Pipeline 課題について情報発信側に回る人が少ない MLSE のワーキンググループで課題の収集を行っていく予定
グローバルな動向に関するキ ャッチアップ EU の AI ACT をはじめとして、 各国で機械学習の「標準」の策 定が進む 今までのボトムアップだけでは
なくなり、トップダウンな動き 国内団体や、国外の団体へとつ ながりを広めたい
まとめ MLOps に関するさまざまなとりくみについて振り返り どうやら活用段階と取組分野で課題や取り組みが分類できそう 事例や国内外の規制について情報収集を進める予定
None