Slide 1

Slide 1 text

Rekcurdによる 機械学習モジュールの運用について Keigo Hattori, Search & Clova Center 2019.04.22. Kubernetes Meetup Tokyo #18 Twitter #k8sjp

Slide 2

Slide 2 text

Who I am @keigohtr Keigo Hattori keigohtr Keigo Hattori Software Engineer 2009 東北大学 情報工学 修士 2009~2017.10 富士ゼロックス 2017.11~ LINE 自然言語処理 x 機械学習が専 門。担当プロダクトはClova。 Apitore創業者。

Slide 3

Slide 3 text

担当プロダクトはClova

Slide 4

Slide 4 text

MLOps (機械学習のワークフロー) 分析 クレンジング アノテーション 学習 データ収集 評価 配信

Slide 5

Slide 5 text

「配信」には Kubernetes x Istio が使える!

Slide 6

Slide 6 text

・・・しかし

Slide 7

Slide 7 text

人類、新しいこと覚えない問題 ユ「便利だけどコスト(学習時間, お金)が必要なら使わない」 • Kubernetes • Istio • Docker • gRPC • High availability configuration • fluentd • Security • Traffic control (nginx, LB, AB testing) • etc...

Slide 8

Slide 8 text

人類、やったことならできる(真理) 私「Rekcurdで全部サポートします」ユ「使ってやろう」 • Kubernetes • Istio • Docker • gRPC • High availability configuration • fluentd • Security • Traffic control (nginx, LB, AB testing) • etc...

Slide 9

Slide 9 text

Rekcurd Features Rekcurd is a flexible managing system for ML modules Features • Kubernetes • Service Mesh (Istio, Envoy) • Developer-Friendly interface (Rekcurd dashboard) • Django-like gRPC micro-framework (Rekcurd) • SDK (Rekcurd client)

Slide 10

Slide 10 text

Architecture (v1.0) grpc Reckurd dashboard Existing service Rekcurd client grpc Online storage MySQL/sqlite [Optional] Internal/External service [Optional] WorkFlow rest Kubernetes Rekcurd Istio-proxy Rekcurd Istio-proxy Rekcurd Istio-proxy

Slide 11

Slide 11 text

Developer-Friendly interface (v1.0) Demo スクリーンショットをGitHubで公開中

Slide 12

Slide 12 text

Django-like gRPC micro-framework (v1.0) Procedures 1. Run commands $ pip install rekcurd $ rekcurd startapp sample $ cd sample 2. Implement the contents $ vi app.py 3. Boot it $ python app.py

Slide 13

Slide 13 text

SDK (v1.0) Procedures 1. Install $ pip install rekcurd-client 2. Use $ vi sample.py

Slide 14

Slide 14 text

Rekcurd Roadmap v2.0 v1.x v1.0 v0.x Now Apr 30th 2019 TBD TBD v1.0 • Dashboard renewal • Istio • AB testing • GitOps / ImageOps option • Less necessity component • AirFlow support v1.x • ML model evaluation and visualization • Canary release • GPU support • Log visualization v2.0 • TBD

Slide 15

Slide 15 text

RekcurdはApache2.0ライセンスで公開! https://github.com/rekcurd Welcome Feedback and Pull Request!!! 私もRekcurd使える? スターくださいスターくださいスターください

Slide 16

Slide 16 text

THANK YOU Let’s Q&A and Discussion