Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
QA4AIに則ったMLOpsツールの活用
Search
Hacarus Inc.
December 14, 2022
Technology
0
610
QA4AIに則ったMLOpsツールの活用
2022年 年忘れ! MLOps LT大会!!!(
https://mlops.connpass.com/event/265378/)で発表した資料です
Hacarus Inc.
December 14, 2022
Tweet
Share
More Decks by Hacarus Inc.
See All by Hacarus Inc.
GitLab CI/CD で C#/WPFアプリケーションのテストとインストーラーのビルド・デプロイを自動化する
hacarus
0
900
0から協働ロボット外観検査システムを3ヵ月で具現化した軌跡
hacarus
0
170
ワンちゃんの健康を願う皆様に送る 犬心電図AI解析プロダクト紹介_AWS DevDay2022
hacarus
0
140
犬の心電AI解析プロダクト開発奮闘記 _クラウドからハード開発までてんこ盛り
hacarus
0
1.5k
ExplainableAIの概要とAmazon SageMaker Clarifyでの実装例
hacarus
0
770
AWS Step Functions を用いた非同期学習処理の例
hacarus
0
840
Dashでmyダッシュボードを作ろう ーpytrendsで見るコロナの感染拡大時期ー
hacarus
0
1.1k
Interpretable Machine Learning: モデル非依存な解釈手法の紹介
hacarus
0
880
時系列データ予測手法の宇宙天気予報への応用
hacarus
0
1.2k
Other Decks in Technology
See All in Technology
Java x Spring Boot Warm up
kazu_kichi_67
2
490
visionOSでの空間表現実装とImmersive Video表示について / ai-immersive-visionos
cyberagentdevelopers
PRO
1
100
事業者間調整の行間を読む 調整の具体事例
sugiim
0
1.3k
30万人が利用するチャットをFirebase Realtime DatabaseからActionCableへ移行する方法
ryosk7
5
330
いまならこう作りたい AWSコンテナ[本格]入門ハンズオン 〜2024年版 ハンズオンの構想〜
horsewin
9
2k
ガバメントクラウド単独利用方式におけるIaC活用
techniczna
3
270
マネジメント視点でのre:Invent参加 ~もしCEOがre:Inventに行ったら~
kojiasai
0
450
とあるユーザー企業におけるリスクベースで考えるセキュリティ業務のお話し
4su_para
3
320
日経電子版におけるリアルタイムレコメンドシステム開発の事例紹介/nikkei-realtime-recommender-system
yng87
1
490
CyberAgent 生成AI Deep Dive with Amazon Web Services / genai-aws
cyberagentdevelopers
PRO
1
480
Figma Dev Modeで進化するデザインとエンジニアリングの協働 / figma-with-engineering
cyberagentdevelopers
PRO
1
430
なんで、私がAWS Heroに!? 〜社外の広い世界に一歩踏み出そう〜
minorun365
PRO
6
1.1k
Featured
See All Featured
The Art of Delivering Value - GDevCon NA Keynote
reverentgeek
7
150
GraphQLの誤解/rethinking-graphql
sonatard
66
9.9k
It's Worth the Effort
3n
183
27k
We Have a Design System, Now What?
morganepeng
50
7.2k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
9
680
Building Adaptive Systems
keathley
38
2.2k
How to train your dragon (web standard)
notwaldorf
88
5.7k
A better future with KSS
kneath
238
17k
Faster Mobile Websites
deanohume
304
30k
Bash Introduction
62gerente
608
210k
Fashionably flexible responsive web design (full day workshop)
malarkey
404
65k
Building Applications with DynamoDB
mza
90
6.1k
Transcript
1 QA4AIに則ったMLOpsツールの活用 宇佐見一平
2 名前: 宇佐見 一平 略歴:2017-04 新卒でメーカーに入社 2019-03 HACARUSに転職 職務内容:外観検査プロダクトの開発 趣味
:テレビゲーム、Spotifyで音楽巡り 社会人アメフトチームの分析スタッフとしても活動 自己紹介
3 会社紹介 Mission 次世代の“はかる”をあらゆる産業へ • ロボット制御アプリ開発 • 異常検知ライブラリの開発 • 異常検知ライブラリを
ノーコードで実行できる クラウドアプリケーション開発 • 診断/治療支援AI開発 • 創薬工程の効率化AI開発 • ライブラリをノーコードで実行 できるクラウド アプリケーション開発
4 AIプロダクト品質保証ガイドライン(QA4AIガイドライン)を用いた AIプロダクトの品質保証 (2021年MLOpsアドベントカレンダー) 今日話すこと(の細かい話)
5 AIプロダクトとMLOpsツールの関係 AIプロダクトにおける課題 MLOpsツール 個人の知見? チームの経験? どう繋ぐか?
6 QA4AI(AIプロダクト品質保証ガイドライン) Customer Expectation System Quality Model Robustness Process Agility
Data Integrity
7 QA4AI(AIプロダクト品質保証ガイドライン) Customer Expectation System Quality Model Robustness Process Agility
Data Integrity
8 チェックリストによる採点 Data Integrity a (i).... (ii)... b (i)... Model
Robustness a (i)... b (ii)... …
9 MLOpsツールとの関係性 Data Integrity a (i).... (ii)... b (i)... Model
Robustness a (i)... b (ii)... … ツールXのYという機能で 解決できるのでは? ツール主導から課題主導へ
10 • Process Agility「回復の迅速性」 • Model Robustness「モデルの陳腐化への考慮」 →MLflow Model Registryを用いてモデルを管理、
Trackingを用いて過去の実験状態をみて復元対象を決定 MLOpsツールの適用例
11 • Data Integrity 「学習データの量の十分性」、「学習データの妥当性」 • Model Robustness 「学習過程の妥当性」 →DVCのパイプラインによる前処理の設定、
CMLで可視化した結果を残す MLOpsツールの適用例 https://cml.dev/doc/cml-with-dvc
12 レーダーチャートによる採点 Customer Expectation System Quality Model Robustness Process Agility
Data Integrity Customer Expectation System Quality Model Robustness Process Agility Data Integrity
13 開発時期による基準の設定 Customer Expectation System Quality Model Robustness Process Agility
Data Integrity リリースタイミング α→β→正式
14 14 ご視聴ありがとうございました! ソフトウェアエンジニア、データサイエンティスト募集中です https://www.wantedly.com/companies/hacarus