SIX 2019 Keynote for Developer

SIX 2019 Keynote for Developer
Takanori Ogata @ABEJA, Inc.

Transcript

1. DAY 1 “技” Developer Day
   Copyright © ABEJA, Inc. All rights reserved.
   技 特別講演
   緒⽅ 貴紀 株式会社ABEJA ڞಉ૑ۀऀ
   

   View Slide

2. Welcome to SIX2019
   

   View Slide

3. #abejasix
   

   View Slide

4. Deep Learning Thought Leadership
   

   View Slide

5. Diamond Sponsors
   Platinum Sponsors
   

   View Slide

6. Gold Sponsors
   Sliver Sponsors
   Bronze Sponsors
   Official Supports
   :V.BLF
   

   View Slide

7. View Slide

8. “Technopreneurship”
   テクノプレナーシップ
   Society Culture
   Technology Liberal Arts
   テクノロジーで
   イノベーションを実現して
   インパクトのある
   社会貢献をする姿勢
   リベラルアーツで
   ⾃らの⾏為を問い
   続ける姿勢
   Entrepreneurship
   両者の円環を推進する原動⼒
   

   View Slide

9. Society Culture
   SIX2019
   技が共創し、
   藝があつまる
   技 藝
   テクノロジーで
   イノベーションを実現して
   インパクトのある
   社会貢献をする姿勢
   リベラルアーツで
   ⾃らの⾏為を問い
   続ける姿勢
   Entrepreneurship
   両者の円環を推進する原動⼒
   

   View Slide

10. Technologyの進化で、すでにDeep Learningは
    様々なビジネスに実装可能な状態
    [ Gi ] [ Gei ]
    技 藝
    

    View Slide

11. Amazing Evolutions of Deep Learning
    2012 2014 2015 2016 2017
    2013 2018
    10
    AlexNet
    トロント⼤学ヒント
    ン教授がディープ
    ラーニングによる画
    像認識で10%以上の
    精度改善に成功
    12
    DQN
    ゲームに対する深層
    強化学習の適⽤によ
    り⼈間の知⾒を与え
    ること無く有効な戦
    略を⾃動的に獲得す
    ることに成功
    2
    ResNet
    ディープラーニン
    グによる画像認識
    で⼈間の精度を凌
    駕することに成功
    5
    BRETT
    カリフォルニア⼤学
    バークレー校が深層
    強化学習をロボット
    制御に応⽤すること
    に成功
    3
    AlphaGO
    囲碁のプロ棋⼠
    イ・セドルを
    破る
    10
    GAN
    フォトリアリスティッ
    ク（写真のような）
    画像の⽣成に成功
    5
    Mask R-CNN
    Faster R-CNN
    にセグメンテー
    ションも追加
    Supervised by Hitoshi Matsubara (Vice Chair of Future University Hakodate, Technical Advisors of ABEJA, Inc.)
    

    View Slide

12. 2019
    awsで18min
    $40でimagenetの
    分散学習に成功
    単純タスクの
    モデル⾃動⽣成
    類似画像ではない
    ⾃由な画像の学習
    に成功
    1
    Google Cloud
    AutoML
    8
    fast.ai
    11
    BERT
    12
    PyTorch
    1.0
    AlphaFold
    1
    TensorFlow
    2.0
    2
    GPT-2
    9
    BigGAN
    ⾃然⾔語処理において、
    教師なしでも強⼒な初
    期パラメータが得られ
    ることを⽰した
    教師なしで真に
    迫った⽂章の⽣
    成に成功
    タンパク質形状を
    アミノ酸配列から予測
    2018
    Supervised by Hitoshi Matsubara (Vice Chair of Future University Hakodate, Technical Advisors of ABEJA, Inc.)
    Amazing Evolutions of Deep Learning
    

    View Slide

13. fast.ai
    https://www.fast.ai/2018/08/10/fastai-diu-imagenet/
    

    View Slide

14. - 512GPU / 3億枚の画像を利⽤
    - ⼯夫を凝らした巨⼤化なGANを学習することで⾼精細な画像⽣成が可能に
    BigGAN
    Brock, Donahue and Simonyan , ICLR2019
    

    View Slide

15. BERT
    - ⼈⼯的に、⽂中の単語の⽳埋め問題、⼆⽂が連続⽂か否かの判定問題を機械的に作成
    - 教師なしでも⾮常に強⼒な初期パラメータが得られることを⽰した
    - ⾃然⾔語理解系タスクにおける事前学習⼿法の新たなデファクトスタンダード
    - BERT（LARGE）は64TPUにて4⽇間学習
    Devlin+, 2018
    

    View Slide

16. GPT-2
    - 800万⽂書の巨⼤かつ多様なデータセットを構築
    - ⼈⼯的な問題を作らなくても、巨⼤なTransformerモデルを学習するだけで
    ϚϧνλεΫͷZero-shot Learningにて⼤幅に精度向上
    Radford, Jeffrey+, 2018
    

    View Slide

17. 新たな応⽤可能性 より⼿軽に、
    より⼤規模に
    より⾼速に
    BERT
    AlphaFold
    GPT-2
    BigGAN
    Fast.ai
    PyTorch 1.0
    TensorFlow 2.0
    

    View Slide

18. View Slide

19. Future
    

    View Slide

20. PaaS
    Retail Manufacture Infrastructure Logistics
    

    View Slide

21. Manufacture Infrastructure Logistics
    

    View Slide

22. View Slide

23. ։ൃ؀ڥ͔Βຊ൪؀ڥ΁ͷҾ͖౉͠
    データ、モデル、結果のバージョン管理
    冗⻑性やGPUリソースの担保、
    エッジ側との連携プロセス構築
    ⼤量データの取得に必要なAPIや負担分
    散の仕組みや準備、セキュリティ担保
    教師データの作成に必要なツールと⼈材の準備
    データウェアハウス
    の準備と管理
    データのバリエーション（正確性）の確認
    0からのモデル設計
    GPU環境の準備
    と⾼度な分散化
    デプロイ後のモデルの挙動を監視し、
    必要に応じてモデルをアップデート
    データ
    取得
    データ
    蓄積
    データ
    確認
    教師
    データ
    作成
    モデル
    設計
    学習 評価 デプロイ 推論 再学習
    

    View Slide

24. AI-Ops for your business
    Maintenance & Operation
    Model Version Management
    Algorithm Development
    Data Management Algorithm Development
    Resource Management
    Reduce your tasks,
    concentrate on your business
    

    View Slide

25. History of ABEJA Platform
    2013年
    2015年
    2016年12⽉
    2017年9⽉
    2018年2݄
    動画解析・データ解析基盤として開発
    Retail向けの⼤規模機械学習基盤としてリニューアル
    α版 提供開始
    β版 提供開始
    正式版 提供開始
    

    View Slide

26. Registration
    100
    Accounts
    600
    

    View Slide

27. 10 TB,
    100,000,000 Objects
    Datalake
    Datasets
    Training
    Model
    Inference
    1,700,000 Objects
    10,000 Jobs,
    30,000,000 sec
    500 Models,
    2000 Versions
    4000 Endpoints,
    100,000,000 Requests
    

    View Slide

28. 10+ Features
    Jupyter Support
    And more
    Dataset Preview UI Task Scheduler Shared File System on
    Training Environment
    

    View Slide

29. Manufacture Infrastructure Logistics
    

    View Slide

30. View Slide

31. Just uploading your data
    Upload Data Choose
    a Template
    Out Sourcing
    Private Workers
    Get Labelled
    Data
    

    View Slide

32. Core functions of ABEJA Platform Annotation
    Task Control
    QA System
    Worker Management
    Projects Management
    Preset Templates
    

    View Slide

33. Templates
    Image Classification Image Segmentation Video Scene Recognition
    Object Detection Image to Text Audio to Text
    And more
    

    View Slide

34. History of ABEJA Platform Annotation
    社内ツールの開発、クラウドソーシングのノウハウ蓄積
    Annotation Platformとしてのプロトタイプ完成
    ABEJA Platformとの連携開始
    Annotation BPOサービス開始
    正式リリース
    SegmentationɺVideoɺText Classifyテンプレートのリリース
    PolygonɺText ExtractionɺVoiceテンプレートのリリース
    2015年1⽉
    2016年6⽉
    2017年
    2017年12⽉
    2018年2⽉
    2018年9⽉
    2019年2⽉
    

    View Slide

35. 150 200,000
    Templates Projects Annotations
    2200 2,000,000
    2
    10
    

    View Slide

36. View Slide

37. View Slide

38. View Slide

39. View Slide

40. Many applications using ABEJA Platform Annotation services
    ・顔認証
    ・顔の年齢∕性別
    ・⼈数カウント
    ・表情検出
    ・ブランド品分類
    ・ファッション検出
    ・⾃動タグ付け
    ・⾃動査定
    ・バーチャルフィッティング
    ・キズ検出
    ・不良品検出
    ・部品分類
    ・⾃動運転
    ・危険物体認識
    ・書類分類
    ・⽂字認識
    ・料理分類
    ・カロリー推定
    ・異物検出
    ・部屋分類
    ・価格⾃動査定
    ・ ⾳声認識
    ・⾳声の⽂書化
    ・⾃動翻訳
    ・オペレーションの
     可視化
    ・オペレーション
     マニュアルの⾃動⽣成
    

    View Slide

41. Manufacture Infrastructure Logistics
    

    View Slide

42. View Slide

43. Operate retail shops scientifically, transcending ‘experience’ and ‘gut feeling’
    ABEJA Insight for Retail
    Integration & Analysis
    Data Gathered Visualization Action
    Camera
    Cloud Dashboard
    Weekly E-mail Report
    Image Analysis
    Utilizing Deep
    Learning Technology
    POS Data
    

    View Slide

44. View Slide

45. History of ABEJA Insight for Retail
    現在のABEJA Insight for Retailの⼀部機能の原型となる性別年齢
    推定システム（ABEJA Demographic）をリリースし初導⼊
    リテールテックJAPAN 2015 で公開
    ABAJA Dashboard 正式リリース
    Parco_ya上野に全館導⼊
    ABEJA Insight for Retailにリニューアル、ロゴ含めUI全⾯作新
    リピート推定プロダクト提供開始
    動線分析プロダクト提供開始
    2013年7⽉
    2015年3⽉
    2015年10⽉
    2017年11⽉
    2018年3⽉
    2018年5⽉
    2018年9⽉
    

    View Slide

46. 500 100,000,000
    TB/Day Stores Visitors
    700 200,000,000
    10
    40
    

    View Slide

47. 29%
    雑貨
    21%
    14%
    10%
    6% 5%
    3% 3%
    10%
    アパレル 商業施設 ドラッグ
    ストア
    ⾞・バイク 観光 コンビニ ⾷品 その他
    

    View Slide

48. NEW
    リピート推定 導線分析
    

    View Slide

49. View Slide

50. 来客⼈数 店前通⾏量 ⼊店率
    フロア別来客⼈数 買上率 エリア⽴寄率
    来客属性 店前属性 滞在率
    

    View Slide

51. Manufacture Infrastructure Logistics
    

    View Slide

52. Future
    

    View Slide

53. Product Road Map R&D
    

    View Slide

54. R&D
    Product Road Map
    

    View Slide

55. Manufacture Infrastructure Logistics
    

    View Slide

56. MLaaS
    Manufacture Infrastructure Logistics
    

    View Slide

57. NEW
    

    View Slide

58. ABEJA Platform Accelerator
    対象データの
    アップロード
    アノテーション AIモデルの作成
    評価レポートの取得
    ダウンロード
    

    View Slide

59. ։ൃ؀ڥ͔Βຊ൪؀ڥ΁ͷҾ͖౉͠
    データ、モデル、結果のバージョン管理
    冗⻑性やGPUリソースの担保、
    エッジ側との連携プロセス構築
    ⼤量データの取得に必要なAPIや負担分
    散の仕組みや準備、セキュリティ担保
    教師データの作成に必要なツールと⼈材の準備
    データウェアハウス
    の準備と管理
    データのバリエーション（正確性）の確認
    0からのモデル設計
    GPU環境の準備
    と⾼度な分散化
    લஈͷϓϩηεΛѹ౗తʹޮ཰Խ
    データ
    取得
    データ
    蓄積
    データ
    確認
    教師
    データ
    作成
    モデル
    設計
    学習 評価
    データ
    取得
    データ
    蓄積
    データ
    確認
    教師
    データ
    作成
    モデル
    設計
    学習 評価 デプロイ 推論 再学習
    デプロイ後のモデルの挙動を監視し、
    必要に応じてモデルをアップデート
    

    View Slide

60. View Slide

61. Accelerator SDKͷఏڙ アノテーションの
    効率化のための
    バックエンド利⽤
    パートナー企業や
    ⼤学との連携による
    アルゴリズムの拡充
    研究成果のサービス化
    - Few-shot learning
    - Semi-supervised learning
    - 検品アルゴリズム
    - 需要予測アルゴリズム etc.
    

    View Slide

62. MLaaS
    Manufacture Infrastructure Logistics
    

    View Slide

63. Manufacture Infrastructure Logistics
    MLaaS
    Product A Product B Product C Product D
    

    View Slide

64. Manufacture Infrastructure Logistics
    MLaaS
    Product A Product B Product C Product D
    Datalake Datasets Training Inference
    確⽴した概念の強化
    運⽤サイクルの⾼速化
    

    View Slide

65. Product Road Map R&D
    

    View Slide

66. Product Road Map R&D
    

    View Slide

67. MLaaS
    Manufacture Infrastructure Logistics
    Datalake Datasets Training Inference
    

    View Slide

68. R&D
    より早く、
    より正確に
    Annotation
    MLaaS
    ABEJA Platform
    より短期間で⼤量に⾼品質なデータを収集可能に
    より少ないデータで、⾼精度なモデル開発を⽬指す
    より⼿軽に⼤規模・⼤量の学習を可能にする
    

    View Slide

69. Annotation
    - データ収集をAIがアシスト
    - ⼈の作業や負担を軽減
    - より⼤量のデータを⾼品質に収集
    より短期間で⼤量に
    ⾼品質なデータを収集可能に
    

    View Slide

70. View Slide

71. Attention Branch Network: Learning of Attention Mechanism for Visual Explanation
    Fukui , Hirakawa, Yamashita , Fujiyoshi, CVPR2019 accepted
    

    View Slide

72. 事前推定機能
    ABEJA Platform

    または他の推論環境
    推論結果の
    フィードバック
    アノテーション時に推論結果が事前表⽰され、
    再学習⽤のアノテーションコストが省⼒化
    

    View Slide

73. View Slide

74. MLaaS
    - Few-shot learning / semi-supervised learning / MAMLなどのアルゴリズム
    を応⽤
    - 短期間で⼤量の問題設定を試すことで、より早く成功への道筋を⾒つけやすく
    より少ないデータで、
    ⾼精度なモデル開発を
    

    View Slide

75. External Net
    [Fujimoto, 2018]
    Task 1
    Task 2
    13.0 pt.
    17.3 pt.
    y = g(h1
    , h2
    , h3
    , …, hk
    ; φ)
    

    View Slide

76. Platform
    インフラの知識がなくても誰でも⼿軽
    に分散学習を可能に
    - 少ないステップでの分散環境の構築
    - Neural Architecture Search /
    Hyperparameter Optimization
    より⼿軽に⼤規模・⼤量の
    学習を可能に
    

    View Slide

77. Manufacture Infrastructure Logistics
    MLaaS
    Product A Product B Product C Product D
    Datalake Datasets Training Inference
    

    View Slide

78. MLaaS
    Product A Product B Product C Product D
    Datalake Datasets Training Inference
    Manufacture Infrastructure Logistics
    

    View Slide

79. View Slide

80. ABECOIN
    

    View Slide

81. JA + = ABECOIN
    ABE COIN
    

    View Slide

82. ⾏動によるマイニング
    ×
    バーチャルマネー
    

    View Slide

83. ① 3F展⽰会場内のログインゲートを通過し、ご⾃⾝のアカウ
    ントに紐づくQRコードを受け取ります。
    ② QRコードをご⾃⾝のスマートフォンまたはタブレット等で
    読み込みましょう。
    ③ 会場内の⾏動に応じて、仮想コイン「ABECOIN」が貯まり
    ます。どんな場所で、どんなアクションでがゲットできる
    か、会場内を探しながらお楽しみください。
    ④ ABECOINが貯まると、展⽰会場内ABEJAブースにある「取
    引所」においてABECOINとABEJAグッズを交換することが
    できます。ぜひお⽴ち寄りください。
    ABEJAデモンストレーション
    ※ຊମݧܕͷσϞΛ࣮ࢪ͢Δʹ͋ͨΓɺձ৔಺Ͱདྷ৔ऀͷΈͳ͞·ͷإ৘ใΛΧϝϥͰऔಘ͓ͯ͠Γ
    ·͢ɻإը૾σʔλ͸ղੳޙʹଈ࣌ഁغʢ֓Ͷ਺ඵҎ಺ʣ͞ΕɺσϞҎ֎ͷ༻్Ͱ࢖༻͸͠·ͤ
    Μɻ ※ը૾औಘʹؔͯ͠͸ɺʮΧϝϥը૾ར׆༻ΨΠυϒοΫver2.0ʯʹଇ࣮ͬͯࢪ͓ͯ͠Γ·͢ɻ
    ABEJAブースで
    ABECOINを貯める
    ヒントも⾒つかる
    かも!?
    

    View Slide

84. Why we develop ?
    

    View Slide

85. View Slide

86. View Slide

87. Realtime Analysis on Cloud
    FaceDetector
    Tracker
    Similarity Search
    Clustering
    Feature
    DB
    GPU Clusters on Cloud
    RTSP
    Internal API
    Auth
    User API
    App
    Hosting
    IoT Data
    Processor
    Payment
    Processor
    Service Infrastructure
    

    View Slide

88. View Slide

89. View Slide

90. In the future…
    

    View Slide

91. MLaaS
    Product A Product B Product C Product D
    Datalake Datasets Training Inference
    Manufacture Infrastructure Logistics
    

    View Slide

92. And many sessions
    

    View Slide

93. ABEJA Platform
    Workshop
    

    View Slide

94. Society Culture
    SIX2019
    技が共創し、
    藝があつまる
    技 藝
    テクノロジーで
    イノベーションを実現して
    インパクトのある
    社会貢献をする姿勢
    リベラルアーツで
    ⾃らの⾏為を問い
    続ける姿勢
    Entrepreneurship
    両者の円環を推進する原動⼒
    

    View Slide

95. Copyright © ABEJA, Inc. All rights reserved.
    Enjoy!
    

    View Slide