Upgrade to Pro — share decks privately, control downloads, hide ads and more …

MLOps Workshopでの学びと弥生の研究開発基盤 / takeaways from MLOps workshop and YAYOI's research and development infrastructure

yayoi_dd
January 31, 2023

MLOps Workshopでの学びと弥生の研究開発基盤 / takeaways from MLOps workshop and YAYOI's research and development infrastructure

弥生株式会社 もくテク
AWS re:Invent 2022 参加報告会(2023/01/26)
https://mokuteku.connpass.com/event/266065/

yayoi_dd

January 31, 2023
Tweet

More Decks by yayoi_dd

Other Decks in Technology

Transcript

  1. LT2
    MLOps Workshopでの学びと
    弥生の研究開発基盤
    弥生株式会社 鍋谷 碧衣
    2023/01/26

    View full-size slide

  2. 自己紹介
     名前:鍋谷 碧衣(なべや あおい)
     職歴:弥生に新卒入社し、エンジニア4年目
     業務:YAYOI SMART CONNECTの機械学習を使った推論部分を実装、研究開発

    View full-size slide

  3. re:Inventでいろいろ参加しました!
     AWSのCEOやCTO、その他各分野責任者によるKeynote
     AWSの活用に関する様々なBreakout Session
     ゲーム形式で課題を解くAWS Jam
     実際に手を動かす形式のWorkshop
    Swami SivasubramanianのKeynoteより

    View full-size slide

  4. 道中いろいろありましたが…
    海外旅行名物、飛行機が大幅に遅れる
    お弁当に丸ごとりんごが入っていて
    どうしようか悩む

    View full-size slide

  5. 行ってよかったです!
     AWSのサービスで世界を盛り上げようという熱気を肌で感じられた
     普段業務でなかなか触れないサービスに現地で触れて、便利さに感動した
     普段使うサービスを学び直し、新たな知見を得ることができた
    学びの尽きない、楽しくあっという間の5日間でした!

    View full-size slide

  6. 今回のお話
     AWSのサービスで世界を盛り上げようという熱気を肌で感じられた
     普段業務でなかなか触れないサービスに現地で触れて、便利さに感動した
     普段使うサービスを学び直し、新たな知見を得ることができた
    re:Inventで参加した MLOps WorkShop について話します

    View full-size slide

  7. 参加したWorkshop
     Amazon SageMaker MLOps Workshop
     https://catalog.us-east-1.prod.workshops.aws/workshops/7acdc7d8-0ac0-44de-bd9b-
    e3407147a59c/en-US
     Amazon SageMakerを活用したMLOps実現のベストプラクティスをハンズオン形式で
    学ぶ

    View full-size slide

  8. 現地でWorkshopに参加することの良さ
     あらかじめ用意されたSandbox環境で手軽にハンズオンを実施できる
     導入部分で躓くことなく、コアな部分の学習に集中できる
     操作面で迷った際にすぐに質問できる
     文章だと言い表しにくいところなども画面を見せながら質問できる
     インストラクターの作業を見ることで学べることも多い
     SageMakerに限らず、Jupyter Notebookの使い方のTipsなども学べる

    View full-size slide

  9. MLOpsとは?
     DevOpsの機械学習(ML)版
     MLモデルの開発~デプロイサイクルを自動化するもの
     MLプロジェクトを円滑に進め、早く大きな成果を出していくための取り組み

    View full-size slide

  10. AWSにおけるMLOps
     Amazon SageMakerの各種サービスを使用してMLOpsを実現

    View full-size slide

  11. 弥生の研究開発基盤の状況
     1年ほど前からAmazon SageMakerを利用し、クラウド上の実験環境を構築して
    いる
     それ以前はローカルやVMで個々で研究開発をしていた
     Amazon SageMakerの機能については段階的に利用を進めている途中

    View full-size slide

  12. 弥生の研究開発基盤の状況
    活用状況
    検証 SageMaker上のJupyter Notebookでの実験が中心
    Jobについてはまだ実用的な活用は進められていない
    検証結果管理 現在は手動で実施
    モデル管理 研究開発環境では特にモデル管理をしていない
    本番環境は独自の管理機構を構築している
    パフォーマンス監視 研究開発環境とサービスの開発環境が完全に別
    本番環境は独自の監視機構を構築している
    SageMakerでMLOpsを実現するためのベストプラクティスを知りたい!

    View full-size slide

  13. MLOpsのベストプラクティス
    使用するサービス
    学習・検証 SageMaker Processing Job、SageMaker Training Job
    検証結果管理 SageMaker Experiments
    モデル管理 SageMaker Model Registry
    自動化 SageMaker Pipeline
    推論 SageMaker Endpoint
    CI/CD SageMaker Deployment
    監視 SageMaker Model Monitor
     Amazon SageMakerに用意されている様々なサービスを用いて、MLOpsを実現
     SageMaker Python SDKを使用し、SageMaker Notebook上から環境を構築していく

    View full-size slide

  14. SageMakerで実現するMLOpsの全体像
    引用元:https://catalog.us-east-1.prod.workshops.aws/workshops/7acdc7d8-0ac0-44de-bd9b-e3407147a59c/en-US/module2/projects
    今回は特に検証フェーズ
    中心に確認しました

    View full-size slide

  15. SageMakerで実現するMLOpsの全体像
    引用元:https://catalog.us-east-1.prod.workshops.aws/workshops/7acdc7d8-0ac0-44de-bd9b-e3407147a59c/en-US/module2/projects
    検証フェーズの
    SageMaker部分構成

    View full-size slide

  16. 実際に触ってみて特によいと思った点
     検証段階でSageMaker Experimentsを使用できるが、これが便利
     SageMaker Experimentsは、Training Jobの結果をUI上から確認できるツール
     過去検証のパラメーター(条件)やトレーニング結果をUI上から確認できる

    View full-size slide

  17. 実際に触ってみて特によいと思った点
    複数の検証ごとに訓練誤差等を可視化し比較

    View full-size slide

  18. 実際に触ってみて特によいと思った点
    どの検証でどんなパラメーターを用いたのかも確認しやすい

    View full-size slide

  19. 実際に触ってみて特によいと思った点
     検証ではパラメーターを変えながら同じアルゴリズムを動かすことも多い
     手動でこれらの結果を一元管理するには独自のコードを記述する必要がある、
    自動で管理してくれるのは便利

    View full-size slide

  20. まとめ
     re:Inventに参加し、プロジェクトで使用しているAWSサービスについてより深
    く知ることができた
     研究開発の促進のためにも、AWSサービスについてもっと学んでいきたい

    View full-size slide