BentoML使ってみた

Transcript

1. ©Fusic Co., Ltd. 0 BentoML 使ってみた 2025.10.24 佐藤 礼央奈 X: @xthixsl_ml たのしくでべろっぷめんと選手権 #1
2. ©Fusic Co., Ltd. 1 自己紹介 はじめに 佐藤 礼央奈 R E O N A S AT O 株式会社Fusic エンジニア 東京の大学を卒業。在学中にエンジニアとして3社で約2年半の長期イン ターンを経験。機械学習や生成AIの研究開発に携わる中で、MLモデルの 本番運用に興味を持ちMLOpsに関心を深める。生成AIも取り入れた開発 や、AWSパートナー企業での経験から、同領域に強みを持つFusicに魅力 を感じ、2025年に新卒入社。
3. ©Fusic Co., Ltd. 2 1. BentoMLとは 2. やってみた 3. まとめ
4. ©Fusic Co., Ltd. 3 BentoMLとは 1
5. ©Fusic Co., Ltd. 4 1.BentoMLとは サブタイトル BentoML は「機械学習/生成AIモデルをAPIとして素早く本番運用できる」オープンソースの推論 （Inference）プラットフォーム／Pythonライブラリ。 モデルをまとめて（Pythonライブラリの依存関係ごと）パッケージ化し、ローカルやKubernetes、 AWS等のクラウドに簡単にデプロイ可能。
6. ©Fusic Co., Ltd. 5 やってみた 2
7. ©Fusic Co., Ltd. 6 2.やってみた 学習済みの Iris（アヤメ）分類モデルを BentoML のサービスとして公開し、 /predict エンドポイントで予測（クラス ID）を返すもの。
8. ©Fusic Co., Ltd. 7 2.やってみた Service を書く ↓ Bento にする ↓ デプロイ uv run bentoml build uv run bentoml containerize iris-service:latest -t iris- service:latest --opt platform=linux/amd64
9. ©Fusic Co., Ltd. 8 2.やってみた
10. ©Fusic Co., Ltd. 9 2.やってみた
11. ©Fusic Co., Ltd. 10 まとめ 3
12. ©Fusic Co., Ltd. 11 まとめ 推論サーバーを作る上でFastAPIなどを使わずにデプロイ、推論までできる Dockerで動かせるのでECSやApp Runnerにデプロイ可能 Point.01 Point.02
13. ©Fusic Co., Ltd. 12 Thank You We are Hiring! https://recruit.fusic.co.jp/ ご清聴いただきありがとうございました