Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
MLOpsはDevOpsと何が違うの?
Search
shibuiwilliam
July 21, 2022
Technology
0
240
MLOpsはDevOpsと何が違うの?
Developers Summit 2022 Summer(デブサミ2022夏)の登壇資料です。
shibuiwilliam
July 21, 2022
Tweet
Share
More Decks by shibuiwilliam
See All by shibuiwilliam
デプロイして本番システムで使うことから考えるAI
shibuiwilliam
1
290
今日からRAGを 始めることを考える
shibuiwilliam
2
1.4k
2024年生成AI新年会登壇資料
shibuiwilliam
0
210
Creative as Software Engineering
shibuiwilliam
2
540
Kubernetesクラスターを引き継ぐ技術
shibuiwilliam
3
220
機械学習システム構築実践ガイド
shibuiwilliam
1
730
GPT, Langchain, Faiss, FastAPIを組み合わせた Chat検索システム開発
shibuiwilliam
4
4.2k
機械学習を実用化するエンジニアリングスキル
shibuiwilliam
12
4.3k
Generative AIと検索を組み合わせた新たな体験の模索
shibuiwilliam
3
980
Other Decks in Technology
See All in Technology
エンジニアの生存戦略 〜クラウド潮流の経験から紐解く技術トレンドのメカニズムと乗りこなし方〜
shimy
9
1.9k
コミュニティサービスに「あなたへ」フィードを リリースするまでの試行錯誤
takapy
1
150
データベース研修 分析向けSQL入門【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
110
スタートアップにおける組織設計とスクラムの長期戦略 / Scrum Fest Kanazawa 2024
yoshikiiida
13
3.6k
開発と事業を繋ぐ!SREのオブザーバビリティ戦略 ~ Developers Summit 2024 Summer ~
leveragestech
0
630
Matterport を使ってクラスメソッド各拠点のバーチャルオフィスツアーを作成してみた
wakatsuki
0
160
頼られるのが大好きな 皆さんへ - 支援相手との期待の合わせ方、突き放し方 -/For_people_who_like_to_be_relied_on
naitosatoshi
1
290
技術負債による事業の失敗はなぜ起こるのか / Why do business failures due to technical debt occur?
i35_267
0
190
推薦システムを本番導入する上で一番優先すべきだったこと~NewsPicks記事推薦機能の改善事例を元に~
morinota
0
120
開発生産性をむしろ向上させる セキュリティパートナーの作り方 / Dev Productivity Con 2024
flatt_security
0
360
スレットハンティングについて知っておきたいこと
hacket
0
130
簡単に始めるSnowflakeの機械学習
nayuts
1
190
Featured
See All Featured
What the flash - Photography Introduction
edds
65
11k
Build your cross-platform service in a week with App Engine
jlugia
227
17k
The Power of CSS Pseudo Elements
geoffreycrofte
64
5.2k
Large-scale JavaScript Application Architecture
addyosmani
506
110k
Bootstrapping a Software Product
garrettdimon
PRO
304
110k
Docker and Python
trallard
37
2.9k
5 minutes of I Can Smell Your CMS
philhawksworth
200
19k
Rebuilding a faster, lazier Slack
samanthasiow
78
8.5k
Responsive Adventures: Dirty Tricks From The Dark Corners of Front-End
smashingmag
248
20k
Visualizing Your Data: Incorporating Mongo into Loggly Infrastructure
mongodb
36
9.1k
[RailsConf 2023] Rails as a piece of cake
palkan
35
4.4k
Fantastic passwords and where to find them - at NoRuKo
philnash
42
2.7k
Transcript
MLOpsはDevOpsと何が違うの? 澁井 雄介 shibui yusuke
自己紹介 shibui yusuke ▶ Launchable Inc. ソフトウェアエンジニア ▶ MLOpsコミュニティ運営 ▶
もともとクラウド基盤の開発、運用。 ▶ ここ6年くらいMLOpsで仕事。 ▶ Github: @shibuiwilliam ▶ 最近やってること: 本を書いてます cat : 0.55 dog: 0.45 human : 0.70 gorilla : 0.30 物体検知
本日の流れ ▶ DevOps and MLOps ▶ DevOps for ML
DevOps and MLOps
DevOps
MLOpsとは ▶ DevOps for ML or ML operations ▶ 機械学習という確率的、データ依存、発展途上、便利な技術を
DevOpsに組み込む ▶ いわゆる機械学習基盤や機械学習パイプラインだけでなく、要件定義、インフ ラ、データ管理、サービング、コスト、品質、組織論まで含む 広範な概念に成長中
DevOps for ML??? M L ML ML M L ML
M L ML M L 雑にMLを入れればMLOpsになるわけではない。 ML
DevOps for ML
機械学習を使ったプロダクト例 画像処理 写真を撮る タイトル入力 説明入力 登録する 自然言語処理 違反検知 登録情報から違反を フィルタリング
入力情報から 入力補助 超解像による 画質改善 ねこ 検索 ランク学習による 並べ替え あるコンテンツ登録アプリ 画像分類と 検索
違反検知を例に考える 写真を撮る タイトル入力 説明入力 登録する 違反検知 登録情報から違反を フィルタリング ねこ あるコンテンツ登録アプリ
違反とは 写真を撮る タイトル入力 説明入力 登録する ねこ あるコンテンツ登録アプリ 公序良俗に反する画像 著作権違反の画像 グロテスクな画像
サービスに則さない画像 ・・・を違反として排除したい
開発の前にデータ 写真を撮る タイトル入力 説明入力 登録する ねこ あるコンテンツ登録アプリ DATA 機械学習には大量のデータが必要 •
集める • 意味付ける • 管理する 正常 違反 集める 意味付ける 管理する
実験して性能を評価する 写真を撮る タイトル入力 説明入力 登録する ねこ あるコンテンツ登録アプリ DATA 実験を繰り返して性能を評価する。 必要に応じてDataやPlanに戻る。
ここでGPUや分散処理→コスト増大。 正常 違反 性能が低い データが足りない 遅い 実験 戻る
実験的なコード:頻繁に書き直す、 途中から実行、使い捨て 本番コード: 動かし続ける、再現性、 デバッグ 実験的なコードを清書する 写真を撮る タイトル入力 説明入力 登録する
ねこ あるコンテンツ登録アプリ 正常 違反 実験 DATA 動かし方がわからない・・・
しかしそれは始まりでしかなかった・・・ リリース・・・ 写真を撮る タイトル入力 説明入力 登録する ねこ あるコンテンツ登録アプリ 正常 違反
実験 DATA
偽陽性と偽陰性 写真を撮る タイトル入力 説明入力 登録する ねこ あるコンテンツ登録アプリ 実験 DATA 偽陽性:違反なのに正常と判定
偽陰性:正常なのに違反と判定 データの品質や網羅性が足りないと、 偽陽性や偽陰性が高くなる 正常なのに 違反と判定された 投稿者は不快 閲覧者は不快 違反なのに 正常扱い
ヒューマンインザループ 写真を撮る タイトル入力 説明入力 登録する ねこ あるコンテンツ登録アプリ 実験 DATA 自動化が進んだ仕組みにおいて、
一部の判断に人間を介在させること。 機械学習の誤りを正すためには人間の ダブルチェックが必要。 正常 違反 違反と間違えや すい正常 正常と間違えや すい違反 人間
正常 違反 推測するな計測せよ 写真を撮る タイトル入力 説明入力 登録する ねこ あるコンテンツ登録アプリ 実験
DATA 機械学習の判定と実用上の価値を評価する。 評価に応じて次のActionを決める。 人間 評価 正答率: xx Precision: yy Recall: zz 違反画像閲覧数: aa クレーム数: bb コスト: cc Go: 改善Plan No Go: 停止措置
DevOps for ML 実験 DATA 人間 評価
▶ AIエンジニアのための 機械学習システムデザインパターン ▶ 2021年5月17日出版 ▶ https://www.amazon.co.jp/dp/4798169447/ ▶ 続編執筆中! ▶
2022年11月発売予定!? ▶ 機械学習で需要予測、違反検知、検索を実 現するシステムの作り方を解説 出版しました! ?
参考資料 ▶ MLOps: Continuous delivery and automation pipelines in machine
learning https://cloud.google.com/architecture/mlops-continuous-delivery-and-automation-pipelines-in-machine-learning ▶ Introduction to MLOps https://speakerdeck.com/asei/introduction-to-mlops ▶ Machine Learning Operations (MLOps): Overview, Definition, and Architecture https://arxiv.org/abs/2205.02302 ▶ People + AI Research https://pair.withgoogle.com/ ▶ Awesome MLOps https://github.com/visenger/awesome-mlops ▶ AIシステムが成熟する今「 MLOps」が必要とされる理由とは? MLOpsを推進するために大切なこと https://codezine.jp/article/detail/15953
Thank you!