Upgrade to Pro — share decks privately, control downloads, hide ads and more …

SIX 2019 Keynote for Developer

ABEJA
March 04, 2019

SIX 2019 Keynote for Developer

SIX 2019 Keynote for Developer
Takanori Ogata @ABEJA, Inc.

ABEJA

March 04, 2019
Tweet

More Decks by ABEJA

Other Decks in Technology

Transcript

  1. DAY 1 “技” Developer Day
    Copyright © ABEJA, Inc. All rights reserved.
    技 特別講演
    緒⽅ 貴紀 株式会社ABEJA ڞಉ૑ۀऀ

    View full-size slide

  2. Welcome to SIX2019

    View full-size slide

  3. Deep Learning Thought Leadership

    View full-size slide

  4. Diamond Sponsors
    Platinum Sponsors

    View full-size slide

  5. Gold Sponsors
    Sliver Sponsors
    Bronze Sponsors
    Official Supports
    :V.BLF

    View full-size slide

  6. “Technopreneurship”
    テクノプレナーシップ
    Society Culture
    Technology Liberal Arts
    テクノロジーで
    イノベーションを実現して
    インパクトのある
    社会貢献をする姿勢
    リベラルアーツで
    ⾃らの⾏為を問い
    続ける姿勢
    Entrepreneurship
    両者の円環を推進する原動⼒

    View full-size slide

  7. Society Culture
    SIX2019
    技が共創し、
    藝があつまる
    技 藝
    テクノロジーで
    イノベーションを実現して
    インパクトのある
    社会貢献をする姿勢
    リベラルアーツで
    ⾃らの⾏為を問い
    続ける姿勢
    Entrepreneurship
    両者の円環を推進する原動⼒

    View full-size slide

  8. Technologyの進化で、すでにDeep Learningは
    様々なビジネスに実装可能な状態
    [ Gi ] [ Gei ]
    技 藝

    View full-size slide

  9. Amazing Evolutions of Deep Learning
    2012 2014 2015 2016 2017
    2013 2018
    10
    AlexNet
    トロント⼤学ヒント
    ン教授がディープ
    ラーニングによる画
    像認識で10%以上の
    精度改善に成功
    12
    DQN
    ゲームに対する深層
    強化学習の適⽤によ
    り⼈間の知⾒を与え
    ること無く有効な戦
    略を⾃動的に獲得す
    ることに成功
    2
    ResNet
    ディープラーニン
    グによる画像認識
    で⼈間の精度を凌
    駕することに成功
    5
    BRETT
    カリフォルニア⼤学
    バークレー校が深層
    強化学習をロボット
    制御に応⽤すること
    に成功
    3
    AlphaGO
    囲碁のプロ棋⼠
    イ・セドルを
    破る
    10
    GAN
    フォトリアリスティッ
    ク(写真のような)
    画像の⽣成に成功
    5
    Mask R-CNN
    Faster R-CNN
    にセグメンテー
    ションも追加
    Supervised by Hitoshi Matsubara (Vice Chair of Future University Hakodate, Technical Advisors of ABEJA, Inc.)

    View full-size slide

  10. 2019
    awsで18min
    $40でimagenetの
    分散学習に成功
    単純タスクの
    モデル⾃動⽣成
    類似画像ではない
    ⾃由な画像の学習
    に成功
    1
    Google Cloud
    AutoML
    8
    fast.ai
    11
    BERT
    12
    PyTorch
    1.0
    AlphaFold
    1
    TensorFlow
    2.0
    2
    GPT-2
    9
    BigGAN
    ⾃然⾔語処理において、
    教師なしでも強⼒な初
    期パラメータが得られ
    ることを⽰した
    教師なしで真に
    迫った⽂章の⽣
    成に成功
    タンパク質形状を
    アミノ酸配列から予測
    2018
    Supervised by Hitoshi Matsubara (Vice Chair of Future University Hakodate, Technical Advisors of ABEJA, Inc.)
    Amazing Evolutions of Deep Learning

    View full-size slide

  11. fast.ai
    https://www.fast.ai/2018/08/10/fastai-diu-imagenet/

    View full-size slide

  12. - 512GPU / 3億枚の画像を利⽤
    - ⼯夫を凝らした巨⼤化なGANを学習することで⾼精細な画像⽣成が可能に
    BigGAN
    Brock, Donahue and Simonyan , ICLR2019

    View full-size slide

  13. BERT
    - ⼈⼯的に、⽂中の単語の⽳埋め問題、⼆⽂が連続⽂か否かの判定問題を機械的に作成
    - 教師なしでも⾮常に強⼒な初期パラメータが得られることを⽰した
    - ⾃然⾔語理解系タスクにおける事前学習⼿法の新たなデファクトスタンダード
    - BERT(LARGE)は64TPUにて4⽇間学習
    Devlin+, 2018

    View full-size slide

  14. GPT-2
    - 800万⽂書の巨⼤かつ多様なデータセットを構築
    - ⼈⼯的な問題を作らなくても、巨⼤なTransformerモデルを学習するだけで
    ϚϧνλεΫͷZero-shot Learningにて⼤幅に精度向上
    Radford, Jeffrey+, 2018

    View full-size slide

  15. 新たな応⽤可能性 より⼿軽に、
    より⼤規模に
    より⾼速に
    BERT
    AlphaFold
    GPT-2
    BigGAN
    Fast.ai
    PyTorch 1.0
    TensorFlow 2.0

    View full-size slide

  16. PaaS
    Retail Manufacture Infrastructure Logistics

    View full-size slide

  17. Manufacture Infrastructure Logistics

    View full-size slide

  18. ։ൃ؀ڥ͔Βຊ൪؀ڥ΁ͷҾ͖౉͠
    データ、モデル、結果のバージョン管理
    冗⻑性やGPUリソースの担保、
    エッジ側との連携プロセス構築
    ⼤量データの取得に必要なAPIや負担分
    散の仕組みや準備、セキュリティ担保
    教師データの作成に必要なツールと⼈材の準備
    データウェアハウス
    の準備と管理
    データのバリエーション(正確性)の確認
    0からのモデル設計
    GPU環境の準備
    と⾼度な分散化
    デプロイ後のモデルの挙動を監視し、
    必要に応じてモデルをアップデート
    データ
    取得
    データ
    蓄積
    データ
    確認
    教師
    データ
    作成
    モデル
    設計
    学習 評価 デプロイ 推論 再学習

    View full-size slide

  19. AI-Ops for your business
    Maintenance & Operation
    Model Version Management
    Algorithm Development
    Data Management Algorithm Development
    Resource Management
    Reduce your tasks,
    concentrate on your business

    View full-size slide

  20. History of ABEJA Platform
    2013年
    2015年
    2016年12⽉
    2017年9⽉
    2018年2݄
    動画解析・データ解析基盤として開発
    Retail向けの⼤規模機械学習基盤としてリニューアル
    α版 提供開始
    β版 提供開始
    正式版 提供開始

    View full-size slide

  21. Registration
    100
    Accounts
    600

    View full-size slide

  22. 10 TB,
    100,000,000 Objects
    Datalake
    Datasets
    Training
    Model
    Inference
    1,700,000 Objects
    10,000 Jobs,
    30,000,000 sec
    500 Models,
    2000 Versions
    4000 Endpoints,
    100,000,000 Requests

    View full-size slide

  23. 10+ Features
    Jupyter Support
    And more
    Dataset Preview UI Task Scheduler Shared File System on
    Training Environment

    View full-size slide

  24. Manufacture Infrastructure Logistics

    View full-size slide

  25. Just uploading your data
    Upload Data Choose
    a Template
    Out Sourcing
    Private Workers
    Get Labelled
    Data

    View full-size slide

  26. Core functions of ABEJA Platform Annotation
    Task Control
    QA System
    Worker Management
    Projects Management
    Preset Templates

    View full-size slide

  27. Templates
    Image Classification Image Segmentation Video Scene Recognition
    Object Detection Image to Text Audio to Text
    And more

    View full-size slide

  28. History of ABEJA Platform Annotation
    社内ツールの開発、クラウドソーシングのノウハウ蓄積
    Annotation Platformとしてのプロトタイプ完成
    ABEJA Platformとの連携開始
    Annotation BPOサービス開始
    正式リリース
    SegmentationɺVideoɺText Classifyテンプレートのリリース
    PolygonɺText ExtractionɺVoiceテンプレートのリリース
    2015年1⽉
    2016年6⽉
    2017年
    2017年12⽉
    2018年2⽉
    2018年9⽉
    2019年2⽉

    View full-size slide

  29. 150 200,000
    Templates Projects Annotations
    2200 2,000,000
    2
    10

    View full-size slide

  30. Many applications using ABEJA Platform Annotation services
    ・顔認証
    ・顔の年齢∕性別
    ・⼈数カウント
    ・表情検出
    ・ブランド品分類
    ・ファッション検出
    ・⾃動タグ付け
    ・⾃動査定
    ・バーチャルフィッティング
    ・キズ検出
    ・不良品検出
    ・部品分類
    ・⾃動運転
    ・危険物体認識
    ・書類分類
    ・⽂字認識
    ・料理分類
    ・カロリー推定
    ・異物検出
    ・部屋分類
    ・価格⾃動査定
    ・ ⾳声認識
    ・⾳声の⽂書化
    ・⾃動翻訳
    ・オペレーションの
     可視化
    ・オペレーション
     マニュアルの⾃動⽣成

    View full-size slide

  31. Manufacture Infrastructure Logistics

    View full-size slide

  32. Operate retail shops scientifically, transcending ‘experience’ and ‘gut feeling’
    ABEJA Insight for Retail
    Integration & Analysis
    Data Gathered Visualization Action
    Camera
    Cloud Dashboard
    Weekly E-mail Report
    Image Analysis
    Utilizing Deep
    Learning Technology
    POS Data

    View full-size slide

  33. History of ABEJA Insight for Retail
    現在のABEJA Insight for Retailの⼀部機能の原型となる性別年齢
    推定システム(ABEJA Demographic)をリリースし初導⼊
    リテールテックJAPAN 2015 で公開
    ABAJA Dashboard 正式リリース
    Parco_ya上野に全館導⼊
    ABEJA Insight for Retailにリニューアル、ロゴ含めUI全⾯作新
    リピート推定プロダクト提供開始
    動線分析プロダクト提供開始
    2013年7⽉
    2015年3⽉
    2015年10⽉
    2017年11⽉
    2018年3⽉
    2018年5⽉
    2018年9⽉

    View full-size slide

  34. 500 100,000,000
    TB/Day Stores Visitors
    700 200,000,000
    10
    40

    View full-size slide

  35. 29%
    雑貨
    21%
    14%
    10%
    6% 5%
    3% 3%
    10%
    アパレル 商業施設 ドラッグ
    ストア
    ⾞・バイク 観光 コンビニ ⾷品 その他

    View full-size slide

  36. NEW
    リピート推定 導線分析

    View full-size slide

  37. 来客⼈数 店前通⾏量 ⼊店率
    フロア別来客⼈数 買上率 エリア⽴寄率
    来客属性 店前属性 滞在率

    View full-size slide

  38. Manufacture Infrastructure Logistics

    View full-size slide

  39. Product Road Map R&D

    View full-size slide

  40. R&D
    Product Road Map

    View full-size slide

  41. Manufacture Infrastructure Logistics

    View full-size slide

  42. MLaaS
    Manufacture Infrastructure Logistics

    View full-size slide

  43. ABEJA Platform Accelerator
    対象データの
    アップロード
    アノテーション AIモデルの作成
    評価レポートの取得
    ダウンロード

    View full-size slide

  44. ։ൃ؀ڥ͔Βຊ൪؀ڥ΁ͷҾ͖౉͠
    データ、モデル、結果のバージョン管理
    冗⻑性やGPUリソースの担保、
    エッジ側との連携プロセス構築
    ⼤量データの取得に必要なAPIや負担分
    散の仕組みや準備、セキュリティ担保
    教師データの作成に必要なツールと⼈材の準備
    データウェアハウス
    の準備と管理
    データのバリエーション(正確性)の確認
    0からのモデル設計
    GPU環境の準備
    と⾼度な分散化
    લஈͷϓϩηεΛѹ౗తʹޮ཰Խ
    データ
    取得
    データ
    蓄積
    データ
    確認
    教師
    データ
    作成
    モデル
    設計
    学習 評価
    データ
    取得
    データ
    蓄積
    データ
    確認
    教師
    データ
    作成
    モデル
    設計
    学習 評価 デプロイ 推論 再学習
    デプロイ後のモデルの挙動を監視し、
    必要に応じてモデルをアップデート

    View full-size slide

  45. Accelerator SDKͷఏڙ アノテーションの
    効率化のための
    バックエンド利⽤
    パートナー企業や
    ⼤学との連携による
    アルゴリズムの拡充
    研究成果のサービス化
    - Few-shot learning
    - Semi-supervised learning
    - 検品アルゴリズム
    - 需要予測アルゴリズム etc.

    View full-size slide

  46. MLaaS
    Manufacture Infrastructure Logistics

    View full-size slide

  47. Manufacture Infrastructure Logistics
    MLaaS
    Product A Product B Product C Product D

    View full-size slide

  48. Manufacture Infrastructure Logistics
    MLaaS
    Product A Product B Product C Product D
    Datalake Datasets Training Inference
    確⽴した概念の強化
    運⽤サイクルの⾼速化

    View full-size slide

  49. Product Road Map R&D

    View full-size slide

  50. Product Road Map R&D

    View full-size slide

  51. MLaaS
    Manufacture Infrastructure Logistics
    Datalake Datasets Training Inference

    View full-size slide

  52. R&D
    より早く、
    より正確に
    Annotation
    MLaaS
    ABEJA Platform
    より短期間で⼤量に⾼品質なデータを収集可能に
    より少ないデータで、⾼精度なモデル開発を⽬指す
    より⼿軽に⼤規模・⼤量の学習を可能にする

    View full-size slide

  53. Annotation
    - データ収集をAIがアシスト
    - ⼈の作業や負担を軽減
    - より⼤量のデータを⾼品質に収集
    より短期間で⼤量に
    ⾼品質なデータを収集可能に

    View full-size slide

  54. Attention Branch Network: Learning of Attention Mechanism for Visual Explanation
    Fukui , Hirakawa, Yamashita , Fujiyoshi, CVPR2019 accepted

    View full-size slide

  55. 事前推定機能
    ABEJA Platform

    または他の推論環境
    推論結果の
    フィードバック
    アノテーション時に推論結果が事前表⽰され、
    再学習⽤のアノテーションコストが省⼒化

    View full-size slide

  56. MLaaS
    - Few-shot learning / semi-supervised learning / MAMLなどのアルゴリズム
    を応⽤
    - 短期間で⼤量の問題設定を試すことで、より早く成功への道筋を⾒つけやすく
    より少ないデータで、
    ⾼精度なモデル開発を

    View full-size slide

  57. External Net
    [Fujimoto, 2018]
    Task 1
    Task 2
    13.0 pt.
    17.3 pt.
    y = g(h1
    , h2
    , h3
    , …, hk
    ; φ)

    View full-size slide

  58. Platform
    インフラの知識がなくても誰でも⼿軽
    に分散学習を可能に
    - 少ないステップでの分散環境の構築
    - Neural Architecture Search /
    Hyperparameter Optimization
    より⼿軽に⼤規模・⼤量の
    学習を可能に

    View full-size slide

  59. Manufacture Infrastructure Logistics
    MLaaS
    Product A Product B Product C Product D
    Datalake Datasets Training Inference

    View full-size slide

  60. MLaaS
    Product A Product B Product C Product D
    Datalake Datasets Training Inference
    Manufacture Infrastructure Logistics

    View full-size slide

  61. JA + = ABECOIN
    ABE COIN

    View full-size slide

  62. ⾏動によるマイニング
    ×
    バーチャルマネー

    View full-size slide

  63. ① 3F展⽰会場内のログインゲートを通過し、ご⾃⾝のアカウ
    ントに紐づくQRコードを受け取ります。
    ② QRコードをご⾃⾝のスマートフォンまたはタブレット等で
    読み込みましょう。
    ③ 会場内の⾏動に応じて、仮想コイン「ABECOIN」が貯まり
    ます。どんな場所で、どんなアクションでがゲットできる
    か、会場内を探しながらお楽しみください。
    ④ ABECOINが貯まると、展⽰会場内ABEJAブースにある「取
    引所」においてABECOINとABEJAグッズを交換することが
    できます。ぜひお⽴ち寄りください。
    ABEJAデモンストレーション
    ※ຊମݧܕͷσϞΛ࣮ࢪ͢Δʹ͋ͨΓɺձ৔಺Ͱདྷ৔ऀͷΈͳ͞·ͷإ৘ใΛΧϝϥͰऔಘ͓ͯ͠Γ
    ·͢ɻإը૾σʔλ͸ղੳޙʹଈ࣌ഁغʢ֓Ͷ਺ඵҎ಺ʣ͞ΕɺσϞҎ֎ͷ༻్Ͱ࢖༻͸͠·ͤ
    Μɻ ※ը૾औಘʹؔͯ͠͸ɺʮΧϝϥը૾ར׆༻ΨΠυϒοΫver2.0ʯʹଇ࣮ͬͯࢪ͓ͯ͠Γ·͢ɻ
    ABEJAブースで
    ABECOINを貯める
    ヒントも⾒つかる
    かも!?

    View full-size slide

  64. Why we develop ?

    View full-size slide

  65. Realtime Analysis on Cloud
    FaceDetector
    Tracker
    Similarity Search
    Clustering
    Feature
    DB
    GPU Clusters on Cloud
    RTSP
    Internal API
    Auth
    User API
    App
    Hosting
    IoT Data
    Processor
    Payment
    Processor
    Service Infrastructure

    View full-size slide

  66. In the future…

    View full-size slide

  67. MLaaS
    Product A Product B Product C Product D
    Datalake Datasets Training Inference
    Manufacture Infrastructure Logistics

    View full-size slide

  68. And many sessions

    View full-size slide

  69. ABEJA Platform
    Workshop

    View full-size slide

  70. Society Culture
    SIX2019
    技が共創し、
    藝があつまる
    技 藝
    テクノロジーで
    イノベーションを実現して
    インパクトのある
    社会貢献をする姿勢
    リベラルアーツで
    ⾃らの⾏為を問い
    続ける姿勢
    Entrepreneurship
    両者の円環を推進する原動⼒

    View full-size slide

  71. Copyright © ABEJA, Inc. All rights reserved.
    Enjoy!

    View full-size slide