Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
MLOps Workshopでの学びと弥生の研究開発基盤 / takeaways from MLOps workshop and YAYOI's research and development infrastructure
Search
yayoi_dd
January 31, 2023
Technology
0
6k
MLOps Workshopでの学びと弥生の研究開発基盤 / takeaways from MLOps workshop and YAYOI's research and development infrastructure
弥生株式会社 もくテク
AWS re:Invent 2022 参加報告会(2023/01/26)
https://mokuteku.connpass.com/event/266065/
yayoi_dd
January 31, 2023
Tweet
Share
More Decks by yayoi_dd
See All by yayoi_dd
プロンプトエンジニアリングに触れてみよう / Let's try prompt engineering!
yayoi_dd
1
32
ChatGPTによるお手軽データ分析 / Easy data analysis with ChatGPT
yayoi_dd
1
32
スクラムに出会って「できた」を実感できるようになってきた話 / Scrum makes me feel like I can do it
yayoi_dd
2
1.4k
CDKでの自動構築が超簡単で感動した話(超初心者向け) / Automated construction using CDK was easy, impressed
yayoi_dd
0
2.2k
IaCがない環境でインフラ担当じゃない人がAWS触ってみた話 / I tried using AWS in an environment without IaC
yayoi_dd
0
2.1k
CDKの実装のススメ方 / How to proceed with CDK implementation
yayoi_dd
1
2.1k
AWS初心者が苦労してCDKカスタムリソースを作った話 / AWS beginners struggled to create CDK custom resources
yayoi_dd
1
2.2k
AWS CDK 経験者が CDK for Terraform 使ってみた / I tried using CDK for Terraform
yayoi_dd
1
2.2k
Terraform v1.7のTest mocking機能の紹介 / Introducing the Test mocking feature of Terraform v1.7
yayoi_dd
2
2.6k
Other Decks in Technology
See All in Technology
ACRiルーム最新情報とAMD GPUサーバーのご紹介
anjn
0
150
JBUG岡山 #6 WordCamp男木島の チームビルディング
takeshifurusato
0
150
ゆめみのアクセシビリティの現在地と今後
ryokatsuse
3
290
簡単に始めるSnowflakeの機械学習
nayuts
1
190
たくさん本を読んだけど 1年後には綺麗サッパリ!を乗り越えて 学習の鬼になるぞ👹
yum3
0
160
AWSで”最小権限の原則”を実現するための考え方 /20240722-ssmjp-aws-least-privilege
opelab
10
4.3k
データ分析を支える技術 生成AI再入門
ishikawa_satoru
0
380
RAGのサービスをリリースして1年3ヶ月が経ちました
segavvy
4
930
データベース研修 DB基礎【MIXI 24新卒技術研修】
mixi_engineers
PRO
0
210
サービス開発を前に進めるために 新米リードエンジニアが 取り組んだこと / Steps Taken by a Novice Lead Engineer to Advance Service Development
nologyance
0
180
AWS IAMのアンチパターン/AWSが考える最低権限実現へのアプローチ概略(JAWS-UG朝会#59資料改修20分版)
htan
0
330
Scaling Technical Excellence at 104: Evolution in AWS and Developer Empowerment
scotthsieh825
1
150
Featured
See All Featured
The Pragmatic Product Professional
lauravandoore
29
6.1k
Designing for Performance
lara
604
67k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
90
47k
Designing for humans not robots
tammielis
247
25k
Writing Fast Ruby
sferik
623
60k
Facilitating Awesome Meetings
lara
46
5.8k
StorybookのUI Testing Handbookを読んだ
zakiyama
15
4.9k
BBQ
matthewcrist
82
9k
Why Our Code Smells
bkeepers
PRO
332
56k
Fight the Zombie Pattern Library - RWD Summit 2016
marcelosomers
228
16k
What the flash - Photography Introduction
edds
65
11k
Become a Pro
speakerdeck
PRO
15
4.8k
Transcript
LT2 MLOps Workshopでの学びと 弥生の研究開発基盤 弥生株式会社 鍋谷 碧衣 2023/01/26
自己紹介 名前:鍋谷 碧衣(なべや あおい) 職歴:弥生に新卒入社し、エンジニア4年目 業務:YAYOI SMART
CONNECTの機械学習を使った推論部分を実装、研究開発
re:Inventでいろいろ参加しました! AWSのCEOやCTO、その他各分野責任者によるKeynote AWSの活用に関する様々なBreakout Session ゲーム形式で課題を解くAWS Jam
実際に手を動かす形式のWorkshop Swami SivasubramanianのKeynoteより
道中いろいろありましたが… 海外旅行名物、飛行機が大幅に遅れる お弁当に丸ごとりんごが入っていて どうしようか悩む
行ってよかったです! AWSのサービスで世界を盛り上げようという熱気を肌で感じられた 普段業務でなかなか触れないサービスに現地で触れて、便利さに感動した 普段使うサービスを学び直し、新たな知見を得ることができた 学びの尽きない、楽しくあっという間の5日間でした!
今回のお話 AWSのサービスで世界を盛り上げようという熱気を肌で感じられた 普段業務でなかなか触れないサービスに現地で触れて、便利さに感動した 普段使うサービスを学び直し、新たな知見を得ることができた re:Inventで参加した MLOps WorkShop
について話します
参加したWorkshop Amazon SageMaker MLOps Workshop https://catalog.us-east-1.prod.workshops.aws/workshops/7acdc7d8-0ac0-44de-bd9b- e3407147a59c/en-US
Amazon SageMakerを活用したMLOps実現のベストプラクティスをハンズオン形式で 学ぶ
現地でWorkshopに参加することの良さ あらかじめ用意されたSandbox環境で手軽にハンズオンを実施できる 導入部分で躓くことなく、コアな部分の学習に集中できる 操作面で迷った際にすぐに質問できる 文章だと言い表しにくいところなども画面を見せながら質問できる
インストラクターの作業を見ることで学べることも多い SageMakerに限らず、Jupyter Notebookの使い方のTipsなども学べる
MLOpsとは? DevOpsの機械学習(ML)版 MLモデルの開発~デプロイサイクルを自動化するもの MLプロジェクトを円滑に進め、早く大きな成果を出していくための取り組み
AWSにおけるMLOps Amazon SageMakerの各種サービスを使用してMLOpsを実現
弥生の研究開発基盤の状況 1年ほど前からAmazon SageMakerを利用し、クラウド上の実験環境を構築して いる それ以前はローカルやVMで個々で研究開発をしていた Amazon SageMakerの機能については段階的に利用を進めている途中
弥生の研究開発基盤の状況 活用状況 検証 SageMaker上のJupyter Notebookでの実験が中心 Jobについてはまだ実用的な活用は進められていない 検証結果管理 現在は手動で実施 モデル管理 研究開発環境では特にモデル管理をしていない
本番環境は独自の管理機構を構築している パフォーマンス監視 研究開発環境とサービスの開発環境が完全に別 本番環境は独自の監視機構を構築している SageMakerでMLOpsを実現するためのベストプラクティスを知りたい!
MLOpsのベストプラクティス 使用するサービス 学習・検証 SageMaker Processing Job、SageMaker Training Job 検証結果管理 SageMaker
Experiments モデル管理 SageMaker Model Registry 自動化 SageMaker Pipeline 推論 SageMaker Endpoint CI/CD SageMaker Deployment 監視 SageMaker Model Monitor Amazon SageMakerに用意されている様々なサービスを用いて、MLOpsを実現 SageMaker Python SDKを使用し、SageMaker Notebook上から環境を構築していく
SageMakerで実現するMLOpsの全体像 引用元:https://catalog.us-east-1.prod.workshops.aws/workshops/7acdc7d8-0ac0-44de-bd9b-e3407147a59c/en-US/module2/projects 今回は特に検証フェーズ 中心に確認しました
SageMakerで実現するMLOpsの全体像 引用元:https://catalog.us-east-1.prod.workshops.aws/workshops/7acdc7d8-0ac0-44de-bd9b-e3407147a59c/en-US/module2/projects 検証フェーズの SageMaker部分構成
実際に触ってみて特によいと思った点 検証段階でSageMaker Experimentsを使用できるが、これが便利 SageMaker Experimentsは、Training Jobの結果をUI上から確認できるツール 過去検証のパラメーター(条件)やトレーニング結果をUI上から確認できる
実際に触ってみて特によいと思った点 複数の検証ごとに訓練誤差等を可視化し比較
実際に触ってみて特によいと思った点 どの検証でどんなパラメーターを用いたのかも確認しやすい
実際に触ってみて特によいと思った点 検証ではパラメーターを変えながら同じアルゴリズムを動かすことも多い 手動でこれらの結果を一元管理するには独自のコードを記述する必要がある、 自動で管理してくれるのは便利
まとめ re:Inventに参加し、プロジェクトで使用しているAWSサービスについてより深 く知ることができた 研究開発の促進のためにも、AWSサービスについてもっと学んでいきたい