LightMLOps using Vertex Workbench

Slide 1

Slide 1 text

MLOps 再入門！Vertex AI で広がる MLOps の世界と実践例 @kargo113 株式会社プレイド Lead Analytics Engineer

Slide 2

Slide 2 text

Agenda ● KARTE について ● “Light” MLOps ● ワークフロー ● 今後の展望 ● まとめ

Slide 3

Slide 3 text

KARTE について

Slide 4

Slide 4 text

株式会社プレイド東京都中央区銀座6-10-1 GINZA SIX 10F 設立：2011 年 10 月従業員：190 名 ※2020 年 9 月 30 日時点資本金：26 億 3201 万 3778 円 ※2021 年 3 月 31 日時点創業 CXプラットフォーム「KARTE」正式版を提供開始「KARTE for App」を提供開始既存投資家を中心に 7社から総額27億円の資金調達を実施「2018 年日本テクノロジー Fast 50」で 3 位受賞 Google からの資金調達を実施「KARTE Blocks」を提供開始東証マザーズへ新規上場 2011 年 10 月 2015 年 3 月 2018 年 3 月 2018 年 4 月 2018 年 10 月 2019 年 11 月 2020 年 7 月 2020 年 12 月東京都中央区銀座 6-10-1 GINZA SIX 10F 設立：2011 年 10 月従業員：240 名（2021 年 12 月時点）株式会社プレイド

Slide 5

Slide 5 text

Customer Experience Platform karte.io

Slide 6

Slide 6 text

145 億 UU 累計ユーザー数 ※1 135,000 over 秒間トラッキング数 ※3 0.x 秒/解析解析速度 2.43 兆円年間解析流通金額 ※2 ※1 ローンチ〜 2022 年 3 月までの解析ユニークユーザー数の実績 ※2 EC 領域における解析流通金額。 2021 年 3 月〜 2022 年 2 月までの単年の実績 ※3 秒間解析イベント数（閲覧、購入、クリックなど全計測イベントが対象。 2022 年 3 月最大値） 180 + PB 月間解析データ量 8 + PB 蓄積データ量 Customer Experience Platform karte.io

Slide 7

Slide 7 text

KARTE 導入企業様 ※2021 年 9 月 27 日時点（順不同/一部抜粋）

Slide 8

Slide 8 text

KARTE Signals Face book Insta gram

Slide 9

Slide 9 text

KARTE Signals Facebook Instagram

Slide 10

Slide 10 text

“Light” MLOps

Slide 11

Slide 11 text

MLOps vs “Light” MLOps MLOps “Light” MLOps エンジニア工数の削減 △ ○ モデル開発集中度 △ ○ 複雑なワークフロー ○ △ Github 管理 ○ △

Slide 12

Slide 12 text

MLOps Architecture Data Scientist Client Cloud Storage Cloud Run JobFlow Work ows BigQuery BigQuery AI Pla orm Training AI Pla orm Training AI Pla orm Training AI Pla orm Pipeline Container Registory Github Actions AI Pla orm Notebooks KARTE Data BigQuery Engineer - Facebook - Instagram

Slide 13

Slide 13 text

“Light” MLOps Architecture Data Scientist Client Cloud Storage Cloud Run JobFlow Work ows BigQuery KARTE Data BigQuery BigQuery Vertex Workbench Simplify - Facebook - Instagram

Slide 14

Slide 14 text

ワークフロー

Slide 15

Slide 15 text

Data Scientist のワークフロー External Table Link 必要に応じて KARTE または外部のテーブルと連携する Notebook Notebook で分析及び機械学習モデルを作成 Output Table 出力テーブルが定期更新されているか確認する Schedule Execution Notebook を定期実行する Parameterized 変数を Parameter にして汎用化する

Slide 16

Slide 16 text

“Light” MLOps Architecture Data Scientist Client Cloud Storage Cloud Run JobFlow Work ows BigQuery KARTE Data BigQuery BigQuery Vertex Workbench - Facebook - Instagram

Slide 17

Slide 17 text

Place Image Here Notebook Component ごとに処理を構築し、 Notebook を作成します install Parameters Preprocess Train, Inference, PostProcess … etc

Slide 18

Slide 18 text

Place Image Here Pamameterized Parameters を設定したい Cell を選択します

Slide 19

Slide 19 text

Place Image Here Pamameterized Cell に「Parameters」タグを付与することで、Execution する際に変更可能な Parameters を設定します

Slide 20

Slide 20 text

Place Image Here Schedule Execution Execute ボタンをクリックします

Slide 21

Slide 21 text

Place Image Here Schedule Execution Schedule Execution を設定します

Slide 22

Slide 22 text

Place Image Here Schedule Execution 最後に Submit します

Slide 23

Slide 23 text

Place Image Here Schedule Execution 「Schedules」のタブから設定したタスクが確認できます

Slide 24

Slide 24 text

Place Image Here Schedule Execution 「Executions」のタブからタスクの実行結果がそれぞれ確認できます

Slide 25

Slide 25 text

Place Image Here Schedule Execution さらに「VIEW RESULT」から実行結果が簡単に確認できます

Slide 26

Slide 26 text

Place Image Here Schedule Execution Confusion Matrix や Feature Importance なども確認できます

Slide 27

Slide 27 text

Place Image Here Output Table 出力先のテーブルが Schedule 通りに更新されていることを確認します

Slide 28

Slide 28 text

Place Image Here Output Table ユーザーごとに CV するかどうかのラベルの予測値が更新されます

Slide 29

Slide 29 text

“Light” MLOps Architecture Data Scientist Client Cloud Storage Cloud Run JobFlow Work ows BigQuery KARTE Data BigQuery BigQuery Vertex Workbench - Facebook - Instagram

Slide 30

Slide 30 text

Place Image Here External Table Link KARTE Datahub のデータセットと連携します

Slide 31

Slide 31 text

“Light” MLOps Architecture Data Scientist Client Cloud Storage Cloud Run JobFlow Work ows BigQuery KARTE Data BigQuery BigQuery Vertex Workbench - Facebook - Instagram

Slide 32

Slide 32 text

Place Image Here External Table Link JobFlow にて Facebook Conversions API に日次で連携するジョブを構築します Face book Insta gram

Slide 33

Slide 33 text

Slide 34

Slide 34 text

今後の展望

Slide 35

Slide 35 text

execute notebook operator を利用することで、任意の notebook を pipeline 連携できるようになります Vertex Pipeline

Slide 36

Slide 36 text

“Light” MLOps Future Architecture Data Scientist Client API Vertex Workbench KARTE Data BigQuery Vertex Pipeline Cloud Storage Cloud Run JobFlow Work ows BigQuery BigQuery Vertex Workbench Vertex Workbench - Facebook - Instagram

Slide 37

Slide 37 text

まとめ

Slide 38

Slide 38 text

エンジニアの工数を用いずに、データサイエンティストのみで MLOps がスムーズに行えるようになる 01 03 02 “Light” MLOps まとめデータサイエンティストがこれまで以上にモデル開発に集中できるようになる Vertex Pipeline 等の Vertex AI 各種機能を用いることで、さらなる拡張が可能になる