Performance Tuning Tips of TensorFlow Inference

Performance Tuning Tips of TensorFlow Inference

https://m3-engineer.connpass.com/event/111354/
2018/12/20 Cookpad×merpay×m3 機械学習 Nightの登壇資料です。

7f7abff13e7c5ad15bfa3a823313ef9d?s=128

Chie Hayashida

December 20, 2018
Tweet

Transcript

  1. 3

  2. ) ( • s W ei Vi h • F

    PRP RS X c J • m 2E 12G7C: 1 4G :D :BCn • a .+ + 2 .44 o l • A:) D: C ( 08 : 8E r
  3.   • %*+5 !# • .6+5 !# +51/$"# 4'$

    • %*)+5/2 &3,0.6 +5/2 & -( 
  4.    F Tae P eU e p C

    2 s • e t • Fnw C i I Tae • c 13 1 • + 25 1 5+ • lo V U • e h • r C
  5.      • / .. / .

    / . / :
  6.     J ca C F • •

    / Ie • P Ih SU S e • l J C ca C F • P _ • / / . / / . Ifi J C F • _ _ T I d
  7.     041 /16 l l 8 :

    T o : • 041 /16 : T ( : T F e p . 0 o g n ( n a ) 2 7/ . n
  8.   • ) : : () ) ) )

    ) 1 () ) ) ) 1 ) ) ) () ) ) ) 1 () ) ) 1 S ) . ) =
  9.   • 5 .10 8 7 :  

     2 6/ 3 S
  10.     • /1423 025 . F6 l

    TU 6on . C 9T P n 8 C 2 . 4 ) ( ) ( ) ( e % . n
  11.   clL 488 Ie w MI ng ) 8

    5 K K ) 8 5 ( ) 8 5 .83 5 4/ . t iL Th Ly        b r x x nga ( 0 :5.
  12.  

  13.  • : FC CIP5/ TX S fe OL. TX

    S N C ) C 2 C C C = C C F C A : C C F C : : ) 1 A : 1 C F 10 F:FF ) 3:FF C C ) C     g ba c c _ ( J :
  14. / • dh c a o : • )(4 (

    ) ) ( ) _a t e gr m • (4 ( ) ) ( ) m • fp = l s SPm C _c i grn 4 . 4 . 4 4 4 . )(4 ( ) ) ( ) 4 . (4 ( ) ) ( ) 4 4 . 4 .
  15. / • pu alo nde Cm P • 7: 21

    1 2 288487 91 6 423 m nde s fCe • 7: 4 1 1 2 288487 91 6 423 P fCe • r C U _ Phi C o s U .452 8 P ( 0 () t /0 % D 7: 21 1 2 288487 91 6 423 7: 4 1 1 2 288487 91 6 423 P
  16. 

  17.    • 8 - n gch y de

    Gf ib oz m N • OM rgchw p ʼ ul T s J F 8 . D / : 8 IL : :1 / t B B : 1
  18.  • a n 1 D in F 2 P

    o F 2 3 • q la t6 n n z 2 D ( ) a 2 e b 2u a
  19.  • T • i 1 •