Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
MLOps Workshopでの学びと弥生の研究開発基盤 / takeaways from MLOps workshop and YAYOI's research and development infrastructure
Search
yayoi_dd
January 31, 2023
Technology
0
5.9k
MLOps Workshopでの学びと弥生の研究開発基盤 / takeaways from MLOps workshop and YAYOI's research and development infrastructure
弥生株式会社 もくテク
AWS re:Invent 2022 参加報告会(2023/01/26)
https://mokuteku.connpass.com/event/266065/
yayoi_dd
January 31, 2023
Tweet
Share
More Decks by yayoi_dd
See All by yayoi_dd
CDKでの自動構築が超簡単で感動した話(超初心者向け) / Automated construction using CDK was easy, impressed
yayoi_dd
0
110
IaCがない環境でインフラ担当じゃない人がAWS触ってみた話 / I tried using AWS in an environment without IaC
yayoi_dd
0
97
CDKの実装のススメ方 / How to proceed with CDK implementation
yayoi_dd
1
97
AWS初心者が苦労してCDKカスタムリソースを作った話 / AWS beginners struggled to create CDK custom resources
yayoi_dd
1
99
AWS CDK 経験者が CDK for Terraform 使ってみた / I tried using CDK for Terraform
yayoi_dd
1
110
Terraform v1.7のTest mocking機能の紹介 / Introducing the Test mocking feature of Terraform v1.7
yayoi_dd
2
520
先人の教えに背いてCDKのスタックを分割した男の末路 / The fate of the man who split the CDK stack
yayoi_dd
1
130
re:Invent2023 参加報告 / reInvent2023 participation report
yayoi_dd
0
2.3k
re:Invent 振り返り / Looking back at reinvent
yayoi_dd
0
2.3k
Other Decks in Technology
See All in Technology
Signals Unleashed: The Full Guide
rainerhahnekamp
0
360
強みを伸ばすキャリアデザイン
yug1224
0
200
SREとその組織類型
tatsuo48
8
1.5k
DevOpsDays History and my DevOps story
kawaguti
PRO
8
1.5k
小さな開発会社がWebサービスを作る理由
polidog
PRO
1
150
PHP"オレ"カンファレンスの告知
ysknsid25
0
340
クラウドサインにおけるプロダクトマネージャーの役割と開発プロセス / 20240410_cloudsign-PdM
bengo4com
1
680
入社後初めてのタスクでk8sアップグレードした話.pdf
kkato1
1
380
Algyan イベント振り返り
linyixian
0
180
Apple Vision Pro trial session
akkeylab
0
120
Hands-on / Kaname Frusawa / Cloud Compare Users Meetup 2024 at University of Tokyo on April 17
paraworld
2
470
o11y入門_外形監視を利用したWebアプリケーションへの最適なモニタリング_TechBrew
k5k
3
100
Featured
See All Featured
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
15
1.4k
Typedesign – Prime Four
hannesfritz
36
2k
Atom: Resistance is Futile
akmur
258
25k
Code Review Best Practice
trishagee
54
15k
Navigating Team Friction
lara
177
13k
Building Better People: How to give real-time feedback that sticks.
wjessup
354
18k
Fantastic passwords and where to find them - at NoRuKo
philnash
36
2.5k
Optimising Largest Contentful Paint
csswizardry
7
2.3k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
115
18k
Art, The Web, and Tiny UX
lynnandtonic
288
19k
The Psychology of Web Performance [Beyond Tellerrand 2023]
tammyeverts
5
1.5k
Imperfection Machines: The Place of Print at Facebook
scottboms
258
12k
Transcript
LT2 MLOps Workshopでの学びと 弥生の研究開発基盤 弥生株式会社 鍋谷 碧衣 2023/01/26
自己紹介 名前:鍋谷 碧衣(なべや あおい) 職歴:弥生に新卒入社し、エンジニア4年目 業務:YAYOI SMART
CONNECTの機械学習を使った推論部分を実装、研究開発
re:Inventでいろいろ参加しました! AWSのCEOやCTO、その他各分野責任者によるKeynote AWSの活用に関する様々なBreakout Session ゲーム形式で課題を解くAWS Jam
実際に手を動かす形式のWorkshop Swami SivasubramanianのKeynoteより
道中いろいろありましたが… 海外旅行名物、飛行機が大幅に遅れる お弁当に丸ごとりんごが入っていて どうしようか悩む
行ってよかったです! AWSのサービスで世界を盛り上げようという熱気を肌で感じられた 普段業務でなかなか触れないサービスに現地で触れて、便利さに感動した 普段使うサービスを学び直し、新たな知見を得ることができた 学びの尽きない、楽しくあっという間の5日間でした!
今回のお話 AWSのサービスで世界を盛り上げようという熱気を肌で感じられた 普段業務でなかなか触れないサービスに現地で触れて、便利さに感動した 普段使うサービスを学び直し、新たな知見を得ることができた re:Inventで参加した MLOps WorkShop
について話します
参加したWorkshop Amazon SageMaker MLOps Workshop https://catalog.us-east-1.prod.workshops.aws/workshops/7acdc7d8-0ac0-44de-bd9b- e3407147a59c/en-US
Amazon SageMakerを活用したMLOps実現のベストプラクティスをハンズオン形式で 学ぶ
現地でWorkshopに参加することの良さ あらかじめ用意されたSandbox環境で手軽にハンズオンを実施できる 導入部分で躓くことなく、コアな部分の学習に集中できる 操作面で迷った際にすぐに質問できる 文章だと言い表しにくいところなども画面を見せながら質問できる
インストラクターの作業を見ることで学べることも多い SageMakerに限らず、Jupyter Notebookの使い方のTipsなども学べる
MLOpsとは? DevOpsの機械学習(ML)版 MLモデルの開発~デプロイサイクルを自動化するもの MLプロジェクトを円滑に進め、早く大きな成果を出していくための取り組み
AWSにおけるMLOps Amazon SageMakerの各種サービスを使用してMLOpsを実現
弥生の研究開発基盤の状況 1年ほど前からAmazon SageMakerを利用し、クラウド上の実験環境を構築して いる それ以前はローカルやVMで個々で研究開発をしていた Amazon SageMakerの機能については段階的に利用を進めている途中
弥生の研究開発基盤の状況 活用状況 検証 SageMaker上のJupyter Notebookでの実験が中心 Jobについてはまだ実用的な活用は進められていない 検証結果管理 現在は手動で実施 モデル管理 研究開発環境では特にモデル管理をしていない
本番環境は独自の管理機構を構築している パフォーマンス監視 研究開発環境とサービスの開発環境が完全に別 本番環境は独自の監視機構を構築している SageMakerでMLOpsを実現するためのベストプラクティスを知りたい!
MLOpsのベストプラクティス 使用するサービス 学習・検証 SageMaker Processing Job、SageMaker Training Job 検証結果管理 SageMaker
Experiments モデル管理 SageMaker Model Registry 自動化 SageMaker Pipeline 推論 SageMaker Endpoint CI/CD SageMaker Deployment 監視 SageMaker Model Monitor Amazon SageMakerに用意されている様々なサービスを用いて、MLOpsを実現 SageMaker Python SDKを使用し、SageMaker Notebook上から環境を構築していく
SageMakerで実現するMLOpsの全体像 引用元:https://catalog.us-east-1.prod.workshops.aws/workshops/7acdc7d8-0ac0-44de-bd9b-e3407147a59c/en-US/module2/projects 今回は特に検証フェーズ 中心に確認しました
SageMakerで実現するMLOpsの全体像 引用元:https://catalog.us-east-1.prod.workshops.aws/workshops/7acdc7d8-0ac0-44de-bd9b-e3407147a59c/en-US/module2/projects 検証フェーズの SageMaker部分構成
実際に触ってみて特によいと思った点 検証段階でSageMaker Experimentsを使用できるが、これが便利 SageMaker Experimentsは、Training Jobの結果をUI上から確認できるツール 過去検証のパラメーター(条件)やトレーニング結果をUI上から確認できる
実際に触ってみて特によいと思った点 複数の検証ごとに訓練誤差等を可視化し比較
実際に触ってみて特によいと思った点 どの検証でどんなパラメーターを用いたのかも確認しやすい
実際に触ってみて特によいと思った点 検証ではパラメーターを変えながら同じアルゴリズムを動かすことも多い 手動でこれらの結果を一元管理するには独自のコードを記述する必要がある、 自動で管理してくれるのは便利
まとめ re:Inventに参加し、プロジェクトで使用しているAWSサービスについてより深 く知ることができた 研究開発の促進のためにも、AWSサービスについてもっと学んでいきたい