SIX 2019 Keynote for Developer

by ABEJA

Slide 1

Slide 1 text

Slide 2

Slide 2 text

Welcome to SIX2019

Slide 3

Slide 3 text

#abejasix

Slide 4

Slide 4 text

Deep Learning Thought Leadership

Slide 5

Slide 5 text

Diamond Sponsors Platinum Sponsors

Slide 6

Slide 6 text

Gold Sponsors Sliver Sponsors Bronze Sponsors Official Supports :V.BLF

Slide 7

Slide 7 text

No content

Slide 8

Slide 8 text

“Technopreneurship” テクノプレナーシップ Society Culture Technology Liberal Arts テクノロジーでイノベーションを実現してインパクトのある社会貢献をする姿勢リベラルアーツで⾃らの⾏為を問い続ける姿勢 Entrepreneurship 両者の円環を推進する原動⼒

Slide 9

Slide 9 text

Society Culture SIX2019 技が共創し、藝があつまる技藝テクノロジーでイノベーションを実現してインパクトのある社会貢献をする姿勢リベラルアーツで⾃らの⾏為を問い続ける姿勢 Entrepreneurship 両者の円環を推進する原動⼒

Slide 10

Slide 10 text

Technologyの進化で、すでにDeep Learningは様々なビジネスに実装可能な状態 [ Gi ] [ Gei ] 技藝

Slide 11

Slide 11 text

Amazing Evolutions of Deep Learning 2012 2014 2015 2016 2017 2013 2018 10 AlexNet トロント⼤学ヒントン教授がディープラーニングによる画像認識で10%以上の精度改善に成功 12 DQN ゲームに対する深層強化学習の適⽤により⼈間の知⾒を与えること無く有効な戦略を⾃動的に獲得することに成功 2 ResNet ディープラーニングによる画像認識で⼈間の精度を凌駕することに成功 5 BRETT カリフォルニア⼤学バークレー校が深層強化学習をロボット制御に応⽤することに成功 3 AlphaGO 囲碁のプロ棋⼠イ・セドルを破る 10 GAN フォトリアリスティック（写真のような）画像の⽣成に成功 5 Mask R-CNN Faster R-CNN にセグメンテーションも追加 Supervised by Hitoshi Matsubara (Vice Chair of Future University Hakodate, Technical Advisors of ABEJA, Inc.)

Slide 12

Slide 12 text

2019 awsで18min $40でimagenetの分散学習に成功単純タスクのモデル⾃動⽣成類似画像ではない⾃由な画像の学習に成功 1 Google Cloud AutoML 8 fast.ai 11 BERT 12 PyTorch 1.0 AlphaFold 1 TensorFlow 2.0 2 GPT-2 9 BigGAN ⾃然⾔語処理において、教師なしでも強⼒な初期パラメータが得られることを⽰した教師なしで真に迫った⽂章の⽣成に成功タンパク質形状をアミノ酸配列から予測 2018 Supervised by Hitoshi Matsubara (Vice Chair of Future University Hakodate, Technical Advisors of ABEJA, Inc.) Amazing Evolutions of Deep Learning

Slide 13

Slide 13 text

fast.ai https://www.fast.ai/2018/08/10/fastai-diu-imagenet/

Slide 14

Slide 14 text

- 512GPU / 3億枚の画像を利⽤ - ⼯夫を凝らした巨⼤化なGANを学習することで⾼精細な画像⽣成が可能に BigGAN Brock, Donahue and Simonyan , ICLR2019

Slide 15

Slide 15 text

BERT - ⼈⼯的に、⽂中の単語の⽳埋め問題、⼆⽂が連続⽂か否かの判定問題を機械的に作成 - 教師なしでも⾮常に強⼒な初期パラメータが得られることを⽰した - ⾃然⾔語理解系タスクにおける事前学習⼿法の新たなデファクトスタンダード - BERT（LARGE）は64TPUにて4⽇間学習 Devlin+, 2018

Slide 16

Slide 16 text

GPT-2 - 800万⽂書の巨⼤かつ多様なデータセットを構築 - ⼈⼯的な問題を作らなくても、巨⼤なTransformerモデルを学習するだけで ϚϧνλεΫͷZero-shot Learningにて⼤幅に精度向上 Radford, Jeffrey+, 2018

Slide 17

Slide 17 text

新たな応⽤可能性より⼿軽に、より⼤規模により⾼速に BERT AlphaFold GPT-2 BigGAN Fast.ai PyTorch 1.0 TensorFlow 2.0

Slide 18

Slide 18 text

No content

Slide 19

Slide 19 text

Future

Slide 20

Slide 20 text

PaaS Retail Manufacture Infrastructure Logistics

Slide 21

Slide 21 text

Manufacture Infrastructure Logistics

Slide 22

Slide 22 text

No content

Slide 23

Slide 23 text

։ൃ؀ڥ͔Βຊ൪؀ڥ΁ͷҾ͖౉͠ データ、モデル、結果のバージョン管理冗⻑性やGPUリソースの担保、エッジ側との連携プロセス構築⼤量データの取得に必要なAPIや負担分散の仕組みや準備、セキュリティ担保教師データの作成に必要なツールと⼈材の準備データウェアハウスの準備と管理データのバリエーション（正確性）の確認 0からのモデル設計 GPU環境の準備と⾼度な分散化デプロイ後のモデルの挙動を監視し、必要に応じてモデルをアップデートデータ取得データ蓄積データ確認教師データ作成モデル設計学習評価デプロイ推論再学習

Slide 24

Slide 24 text

AI-Ops for your business Maintenance & Operation Model Version Management Algorithm Development Data Management Algorithm Development Resource Management Reduce your tasks, concentrate on your business

Slide 25

Slide 25 text

History of ABEJA Platform 2013年 2015年 2016年12⽉ 2017年9⽉ 2018年2݄ 動画解析・データ解析基盤として開発 Retail向けの⼤規模機械学習基盤としてリニューアル α版提供開始 β版提供開始正式版提供開始

Slide 26

Slide 26 text

Registration 100 Accounts 600

Slide 27

Slide 27 text

10 TB, 100,000,000 Objects Datalake Datasets Training Model Inference 1,700,000 Objects 10,000 Jobs, 30,000,000 sec 500 Models, 2000 Versions 4000 Endpoints, 100,000,000 Requests

Slide 28

Slide 28 text

10+ Features Jupyter Support And more Dataset Preview UI Task Scheduler Shared File System on Training Environment

Slide 29

Slide 29 text

Manufacture Infrastructure Logistics

Slide 30

Slide 30 text

No content

Slide 31

Slide 31 text

Just uploading your data Upload Data Choose a Template Out Sourcing Private Workers Get Labelled Data

Slide 32

Slide 32 text

Core functions of ABEJA Platform Annotation Task Control QA System Worker Management Projects Management Preset Templates

Slide 33

Slide 33 text

Templates Image Classification Image Segmentation Video Scene Recognition Object Detection Image to Text Audio to Text And more

Slide 34

Slide 34 text

History of ABEJA Platform Annotation 社内ツールの開発、クラウドソーシングのノウハウ蓄積 Annotation Platformとしてのプロトタイプ完成 ABEJA Platformとの連携開始 Annotation BPOサービス開始正式リリース SegmentationɺVideoɺText Classifyテンプレートのリリース PolygonɺText ExtractionɺVoiceテンプレートのリリース 2015年1⽉ 2016年6⽉ 2017年 2017年12⽉ 2018年2⽉ 2018年9⽉ 2019年2⽉

Slide 35

Slide 35 text

150 200,000 Templates Projects Annotations 2200 2,000,000 2 10

Slide 36

Slide 36 text

No content

Slide 37

Slide 37 text

No content

Slide 38

Slide 38 text

No content

Slide 39

Slide 39 text

No content

Slide 40

Slide 40 text

Many applications using ABEJA Platform Annotation services ・顔認証・顔の年齢∕性別・⼈数カウント・表情検出・ブランド品分類・ファッション検出・⾃動タグ付け・⾃動査定・バーチャルフィッティング・キズ検出・不良品検出・部品分類・⾃動運転・危険物体認識・書類分類・⽂字認識・料理分類・カロリー推定・異物検出・部屋分類・価格⾃動査定・⾳声認識・⾳声の⽂書化・⾃動翻訳・オペレーションの可視化・オペレーションマニュアルの⾃動⽣成

Slide 41

Slide 41 text

Manufacture Infrastructure Logistics

Slide 42

Slide 42 text

No content

Slide 43

Slide 43 text

Operate retail shops scientifically, transcending ‘experience’ and ‘gut feeling’ ABEJA Insight for Retail Integration & Analysis Data Gathered Visualization Action Camera Cloud Dashboard Weekly E-mail Report Image Analysis Utilizing Deep Learning Technology POS Data

Slide 44

Slide 44 text

No content

Slide 45

Slide 45 text

History of ABEJA Insight for Retail 現在のABEJA Insight for Retailの⼀部機能の原型となる性別年齢推定システム（ABEJA Demographic）をリリースし初導⼊リテールテックJAPAN 2015 で公開 ABAJA Dashboard 正式リリース Parco_ya上野に全館導⼊ ABEJA Insight for Retailにリニューアル、ロゴ含めUI全⾯作新リピート推定プロダクト提供開始動線分析プロダクト提供開始 2013年7⽉ 2015年3⽉ 2015年10⽉ 2017年11⽉ 2018年3⽉ 2018年5⽉ 2018年9⽉

Slide 46

Slide 46 text

500 100,000,000 TB/Day Stores Visitors 700 200,000,000 10 40

Slide 47

Slide 47 text

29% 雑貨 21% 14% 10% 6% 5% 3% 3% 10% アパレル商業施設ドラッグストア⾞・バイク観光コンビニ⾷品その他

Slide 48

Slide 48 text

NEW リピート推定導線分析

Slide 49

Slide 49 text

No content

Slide 50

Slide 50 text

来客⼈数店前通⾏量⼊店率フロア別来客⼈数買上率エリア⽴寄率来客属性店前属性滞在率

Slide 51

Slide 51 text

Manufacture Infrastructure Logistics

Slide 52

Slide 52 text

Future

Slide 53

Slide 53 text

Product Road Map R&D

Slide 54

Slide 54 text

R&D Product Road Map

Slide 55

Slide 55 text

Manufacture Infrastructure Logistics

Slide 56

Slide 56 text

MLaaS Manufacture Infrastructure Logistics

Slide 57

Slide 57 text

NEW

Slide 58

Slide 58 text

ABEJA Platform Accelerator 対象データのアップロードアノテーション AIモデルの作成評価レポートの取得ダウンロード

Slide 59

Slide 59 text

։ൃ؀ڥ͔Βຊ൪؀ڥ΁ͷҾ͖౉͠ データ、モデル、結果のバージョン管理冗⻑性やGPUリソースの担保、エッジ側との連携プロセス構築⼤量データの取得に必要なAPIや負担分散の仕組みや準備、セキュリティ担保教師データの作成に必要なツールと⼈材の準備データウェアハウスの準備と管理データのバリエーション（正確性）の確認 0からのモデル設計 GPU環境の準備と⾼度な分散化 લஈͷϓϩηεΛѹ౗తʹޮ཰Խ データ取得データ蓄積データ確認教師データ作成モデル設計学習評価データ取得データ蓄積データ確認教師データ作成モデル設計学習評価デプロイ推論再学習デプロイ後のモデルの挙動を監視し、必要に応じてモデルをアップデート

Slide 60

Slide 60 text

No content

Slide 61

Slide 61 text

Accelerator SDKͷఏڙ アノテーションの効率化のためのバックエンド利⽤パートナー企業や⼤学との連携によるアルゴリズムの拡充研究成果のサービス化 - Few-shot learning - Semi-supervised learning - 検品アルゴリズム - 需要予測アルゴリズム etc.

Slide 62

Slide 62 text

MLaaS Manufacture Infrastructure Logistics

Slide 63

Slide 63 text

Manufacture Infrastructure Logistics MLaaS Product A Product B Product C Product D

Slide 64

Slide 64 text

Manufacture Infrastructure Logistics MLaaS Product A Product B Product C Product D Datalake Datasets Training Inference 確⽴した概念の強化運⽤サイクルの⾼速化

Slide 65

Slide 65 text

Product Road Map R&D

Slide 66

Slide 66 text

Product Road Map R&D

Slide 67

Slide 67 text

MLaaS Manufacture Infrastructure Logistics Datalake Datasets Training Inference

Slide 68

Slide 68 text

R&D より早く、より正確に Annotation MLaaS ABEJA Platform より短期間で⼤量に⾼品質なデータを収集可能により少ないデータで、⾼精度なモデル開発を⽬指すより⼿軽に⼤規模・⼤量の学習を可能にする

Slide 69

Slide 69 text

Annotation - データ収集をAIがアシスト - ⼈の作業や負担を軽減 - より⼤量のデータを⾼品質に収集より短期間で⼤量に⾼品質なデータを収集可能に

Slide 70

Slide 70 text

No content

Slide 71

Slide 71 text

Attention Branch Network: Learning of Attention Mechanism for Visual Explanation Fukui , Hirakawa, Yamashita , Fujiyoshi, CVPR2019 accepted

Slide 72

Slide 72 text

事前推定機能 ABEJA Platform  または他の推論環境推論結果のフィードバックアノテーション時に推論結果が事前表⽰され、再学習⽤のアノテーションコストが省⼒化

Slide 73

Slide 73 text

No content

Slide 74

Slide 74 text

MLaaS - Few-shot learning / semi-supervised learning / MAMLなどのアルゴリズムを応⽤ - 短期間で⼤量の問題設定を試すことで、より早く成功への道筋を⾒つけやすくより少ないデータで、⾼精度なモデル開発を

Slide 75

Slide 75 text

External Net [Fujimoto, 2018] Task 1 Task 2 13.0 pt. 17.3 pt. y = g(h1 , h2 , h3 , …, hk ; φ)

Slide 76

Slide 76 text

Platform インフラの知識がなくても誰でも⼿軽に分散学習を可能に - 少ないステップでの分散環境の構築 - Neural Architecture Search / Hyperparameter Optimization より⼿軽に⼤規模・⼤量の学習を可能に

Slide 77

Slide 77 text

Manufacture Infrastructure Logistics MLaaS Product A Product B Product C Product D Datalake Datasets Training Inference

Slide 78

Slide 78 text

MLaaS Product A Product B Product C Product D Datalake Datasets Training Inference Manufacture Infrastructure Logistics

Slide 79

Slide 79 text

No content

Slide 80

Slide 80 text

ABECOIN

Slide 81

Slide 81 text

JA + = ABECOIN ABE COIN

Slide 82

Slide 82 text

⾏動によるマイニング × バーチャルマネー

Slide 83

Slide 83 text

① 3F展⽰会場内のログインゲートを通過し、ご⾃⾝のアカウントに紐づくQRコードを受け取ります。 ② QRコードをご⾃⾝のスマートフォンまたはタブレット等で読み込みましょう。 ③ 会場内の⾏動に応じて、仮想コイン「ABECOIN」が貯まります。どんな場所で、どんなアクションでがゲットできるか、会場内を探しながらお楽しみください。 ④ ABECOINが貯まると、展⽰会場内ABEJAブースにある「取引所」においてABECOINとABEJAグッズを交換することができます。ぜひお⽴ち寄りください。 ABEJAデモンストレーション ※ຊମݧܕͷσϞΛ࣮ࢪ͢Δʹ͋ͨΓɺձ৔಺Ͱདྷ৔ऀͷΈͳ͞·ͷإ৘ใΛΧϝϥͰऔಘ͓ͯ͠Γ ·͢ɻإը૾σʔλ͸ղੳޙʹଈ࣌ഁغʢ֓Ͷ਺ඵҎ಺ʣ͞ΕɺσϞҎ֎ͷ༻్Ͱ࢖༻͸͠·ͤ Μɻ ※ը૾औಘʹؔͯ͠͸ɺʮΧϝϥը૾ར׆༻ΨΠυϒοΫver2.0ʯʹଇ࣮ͬͯࢪ͓ͯ͠Γ·͢ɻ ABEJAブースで ABECOINを貯めるヒントも⾒つかるかも!?

Slide 84

Slide 84 text

Why we develop ?

Slide 85

Slide 85 text

No content

Slide 86

Slide 86 text

No content

Slide 87

Slide 87 text

Realtime Analysis on Cloud FaceDetector Tracker Similarity Search Clustering Feature DB GPU Clusters on Cloud RTSP Internal API Auth User API App Hosting IoT Data Processor Payment Processor Service Infrastructure

Slide 88

Slide 88 text

No content

Slide 89

Slide 89 text

No content

Slide 90

Slide 90 text

In the future…

Slide 91

Slide 91 text

MLaaS Product A Product B Product C Product D Datalake Datasets Training Inference Manufacture Infrastructure Logistics