Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
QA4AIに則ったMLOpsツールの活用
Search
Hacarus Inc.
December 14, 2022
Technology
0
610
QA4AIに則ったMLOpsツールの活用
2022年 年忘れ! MLOps LT大会!!!(
https://mlops.connpass.com/event/265378/)で発表した資料です
Hacarus Inc.
December 14, 2022
Tweet
Share
More Decks by Hacarus Inc.
See All by Hacarus Inc.
GitLab CI/CD で C#/WPFアプリケーションのテストとインストーラーのビルド・デプロイを自動化する
hacarus
0
910
0から協働ロボット外観検査システムを3ヵ月で具現化した軌跡
hacarus
0
170
ワンちゃんの健康を願う皆様に送る 犬心電図AI解析プロダクト紹介_AWS DevDay2022
hacarus
0
140
犬の心電AI解析プロダクト開発奮闘記 _クラウドからハード開発までてんこ盛り
hacarus
0
1.5k
ExplainableAIの概要とAmazon SageMaker Clarifyでの実装例
hacarus
0
770
AWS Step Functions を用いた非同期学習処理の例
hacarus
0
850
Dashでmyダッシュボードを作ろう ーpytrendsで見るコロナの感染拡大時期ー
hacarus
0
1.1k
Interpretable Machine Learning: モデル非依存な解釈手法の紹介
hacarus
0
890
時系列データ予測手法の宇宙天気予報への応用
hacarus
0
1.2k
Other Decks in Technology
See All in Technology
10分でわかるfreee エンジニア向け会社説明資料
freee
18
520k
Autify Company Deck
autifyhq
1
39k
独自ツール開発でスタジオ撮影をDX!「VLS(Virtual LED Studio)」 / dx-studio-vls
cyberagentdevelopers
PRO
1
200
ExaDB-D dbaascli で出来ること
oracle4engineer
PRO
0
3.7k
AWS re:Inventを徹底的に楽しむためのTips / Tips for thoroughly enjoying AWS re:Invent
yuj1osm
1
650
VPC間の接続方法を整理してみた #自治体クラウド勉強会
non97
1
990
Mini Tokyo 3D × PLATEAU - 公共交通デジタルツインにリアルな風景を
nagix
1
140
日経電子版におけるリアルタイムレコメンドシステム開発の事例紹介/nikkei-realtime-recommender-system
yng87
2
620
フルカイテン株式会社 採用資料
fullkaiten
0
38k
大規模データ基盤チームのオンプレTiDB運用への挑戦 / dpu-tidb
cyberagentdevelopers
PRO
1
110
新卒1年目が向き合う生成AI事業の開発を加速させる技術選定 / ai-web-launcher
cyberagentdevelopers
PRO
8
1.6k
AI機能の開発運用のリアルと今後のリアル
akiroom
0
110
Featured
See All Featured
Thoughts on Productivity
jonyablonski
67
4.3k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
31
2.7k
Designing on Purpose - Digital PM Summit 2013
jponch
115
6.9k
Facilitating Awesome Meetings
lara
49
6.1k
Producing Creativity
orderedlist
PRO
341
39k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
231
17k
Happy Clients
brianwarren
97
6.7k
How to Think Like a Performance Engineer
csswizardry
20
1.1k
GitHub's CSS Performance
jonrohan
1030
460k
Scaling GitHub
holman
458
140k
The Art of Programming - Codeland 2020
erikaheidi
51
13k
Building Applications with DynamoDB
mza
90
6.1k
Transcript
1 QA4AIに則ったMLOpsツールの活用 宇佐見一平
2 名前: 宇佐見 一平 略歴:2017-04 新卒でメーカーに入社 2019-03 HACARUSに転職 職務内容:外観検査プロダクトの開発 趣味
:テレビゲーム、Spotifyで音楽巡り 社会人アメフトチームの分析スタッフとしても活動 自己紹介
3 会社紹介 Mission 次世代の“はかる”をあらゆる産業へ • ロボット制御アプリ開発 • 異常検知ライブラリの開発 • 異常検知ライブラリを
ノーコードで実行できる クラウドアプリケーション開発 • 診断/治療支援AI開発 • 創薬工程の効率化AI開発 • ライブラリをノーコードで実行 できるクラウド アプリケーション開発
4 AIプロダクト品質保証ガイドライン(QA4AIガイドライン)を用いた AIプロダクトの品質保証 (2021年MLOpsアドベントカレンダー) 今日話すこと(の細かい話)
5 AIプロダクトとMLOpsツールの関係 AIプロダクトにおける課題 MLOpsツール 個人の知見? チームの経験? どう繋ぐか?
6 QA4AI(AIプロダクト品質保証ガイドライン) Customer Expectation System Quality Model Robustness Process Agility
Data Integrity
7 QA4AI(AIプロダクト品質保証ガイドライン) Customer Expectation System Quality Model Robustness Process Agility
Data Integrity
8 チェックリストによる採点 Data Integrity a (i).... (ii)... b (i)... Model
Robustness a (i)... b (ii)... …
9 MLOpsツールとの関係性 Data Integrity a (i).... (ii)... b (i)... Model
Robustness a (i)... b (ii)... … ツールXのYという機能で 解決できるのでは? ツール主導から課題主導へ
10 • Process Agility「回復の迅速性」 • Model Robustness「モデルの陳腐化への考慮」 →MLflow Model Registryを用いてモデルを管理、
Trackingを用いて過去の実験状態をみて復元対象を決定 MLOpsツールの適用例
11 • Data Integrity 「学習データの量の十分性」、「学習データの妥当性」 • Model Robustness 「学習過程の妥当性」 →DVCのパイプラインによる前処理の設定、
CMLで可視化した結果を残す MLOpsツールの適用例 https://cml.dev/doc/cml-with-dvc
12 レーダーチャートによる採点 Customer Expectation System Quality Model Robustness Process Agility
Data Integrity Customer Expectation System Quality Model Robustness Process Agility Data Integrity
13 開発時期による基準の設定 Customer Expectation System Quality Model Robustness Process Agility
Data Integrity リリースタイミング α→β→正式
14 14 ご視聴ありがとうございました! ソフトウェアエンジニア、データサイエンティスト募集中です https://www.wantedly.com/companies/hacarus