Slide 1
Slide 1 text
Google I/O報告会 ML(TensorFlow)
参照：https://www.businessinsider.jp/post-33811
Slide 2
Slide 2 text
Proprietary + Confidential
Norihiro Shimoda
@rindai87
Insert Photo
TensorFlow User Group(TFUG)の主催もしてます
Slide 3
Slide 3 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
激レア（？）のスタッフバッチでの参加
Staff
Slide 4
Slide 4 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
とあるドームで
ここ
Slide 5
Slide 5 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
I/O前々日から泣きながら設営を行い
Slide 6
Slide 6 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
とあるデモブース展示を行い
Slide 7
Slide 7 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
大人気でよかったなーと思ったら
Slide 8
Slide 8 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
気付いたら説明員していました
Slide 9
Slide 9 text
Google I/O’17での
TensorFlow関連セッショ
ンについて
本日のお話
関連セッション一巡り
TensorFlow Lite
TPU
Slide 10
Slide 10 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
全体で7つのTensorFlowのセッションがありました。
● May17(Day1)
○ この日はTensorFlowのセッションなし
● May18(Day2)
○ 4つ
● May19(Day3)
○ 3つ
※新しいアナウンスが含まれていたセッションは２つ
※テクニカルセッションは全体で150くらいなので、全体の5%くらい
※Machine Learningというキーワードが含まれたセッションは全部で12あった
TensorFlow関連のセッション
Slide 11
Slide 11 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
● TensorFlow Frontiers
○ TF全般の話＋TPUに関してのアナウンスがあった
● Effective TensorFlow for Non-Expert
○ 高レベルAPIやKerasについての話
● Open Source TensorFlow Model
○ 公開されている学習済みモデルをうまく使いましょうという話
● Using Google Cloud, TensorFlow, and the Google Assistant on
Android Things
○ AndroidThinsに組み合わせて使いましょうという話
セッションと一行説明(Day2)
あとで詳しくお話します
Slide 12
Slide 12 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
● TensorFlow Frontiers
○ TF全般の話＋TPUに関してのアナウンスがあった
● Effective TensorFlow for Non-Expert
○ 高レベルAPIやKerasについての話
● Open Source TensorFlow Model
○ 公開されている学習済みモデルをうまく使いましょうという話
● Using Google Cloud, TensorFlow, and the Google Assistant on
Android Things
○ AndroidThinsに組み合わせて使いましょうという話
セッションと一行説明(Day2)
Slide 13
Slide 13 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day2/2. Effective TensorFlow for Non-Expert
・High-level API
・Keras
Slide 14
Slide 14 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day2/2. Effective TensorFlow for Non-Expert
Slide 15
Slide 15 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
● TensorFlow Frontiers
○ TF全般の話＋TPUに関してのアナウンスがあった
● Effective TensorFlow for Non-Expert
○ 高レベルAPIやKerasについての話
● Open Source TensorFlow Model
○ 公開されている学習済みモデルをうまく使いましょうという話
● Using Google Cloud, TensorFlow, and the Google Assistant on
Android Things
○ AndroidThinsに組み合わせて使いましょうという話
セッションと一行説明(Day2)
Slide 16
Slide 16 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day2/3. Open Source TF Model
こういうモデルをハンドメイドで一から作るのはきつい
Googleは画像ならInception V3, 自然言語ならSytaxnetを公開しているの
でそれをうまく使うといいですよ、というお話
Slide 17
Slide 17 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
● TensorFlow Frontiers
○ TF全般の話＋TPUに関してのアナウンスがあった
● Effective TensorFlow for Non-Expert
○ 高レベルAPIやKerasについての話
● Open Source TensorFlow Model
○ 公開されている学習済みモデルをうまく使いましょうという話
● Using Google Cloud, TensorFlow, and the Google Assistant on
Android Things
○ AndroidThinsに組み合わせて使いましょうという話
セッションと一行説明(Day2)
Slide 18
Slide 18 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day2/4. TensorFlow on Android Things
Slide 19
Slide 19 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day2/4. Android Thingsが使えるサービス
Slide 20
Slide 20 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day2/4. Demo
Slide 21
Slide 21 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
● Android meets TensorFlow: how to accelerate your app with AI
○ AndroidでのTFの話＋TensorFlow Liteの話
● From Research to Production with TensorFlow Serving
○ TensorFlow Servingの話
● Project Magenta: Music and Art with Machine Learning
○ Mangentaの話
セッションと一行説明(Day3)
あとでTF Liteの部分を
詳しくお話します
Slide 22
Slide 22 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day3/5. Android meets TensorFlow
Slide 23
Slide 23 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day3/5. Build...
Slide 24
Slide 24 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day3/5. JCenterにTFが登録された
Slide 25
Slide 25 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day3/5. CocoapodsでiOSもサポート
Slide 26
Slide 26 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
● Android meets TensorFlow: how to accelerate your app with AI
○ AndroidでのTFの話＋TensorFlow Liteの話
● From Research to Production with TensorFlow Serving
○ TensorFlow Servingの話
● Project Magenta: Music and Art with Machine Learning
○ Mangentaの話
セッションと一行説明(Day3)
Slide 27
Slide 27 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day3/6. TensorFlow Serving
Slide 28
Slide 28 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day3/6. Used over 700 projects in Google
Slide 29
Slide 29 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
● Android meets TensorFlow: how to accelerate your app with AI
○ AndroidでのTFの話＋TensorFlow Liteの話
● From Research to Production with TensorFlow Serving
○ TensorFlow Servingの話
● Project Magenta: Music and Art with Machine Learning
○ Mangentaの話
セッションと一行説明(Day3)
Slide 30
Slide 30 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day3/7. Magenta
Slide 31
Slide 31 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Day3/7. Sound Maker
Slide 32
Slide 32 text
Powerd by:
Android meets TensorFlow:
how to accelarate your app
with AI
本日のお話
関連セッション一巡り
TensorFlow Lite
TPU
Slide 33
Slide 33 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
TensorFlow Lite
On-devide Machine Learningを助けるためのものとして
キーノートでアナウンスされました
Slide 34
Slide 34 text
New API for Neural Network
Being added to the
Android framework
Wraps hardware accelerators
(GPU, DSP, ISP etc)
Android Neural Network API
Android NN API
Android NN HAL
DSP GPU CPU ...
Slide 35
Slide 35 text
New TensorFlow runtime
Optimized for mobile and
embedded apps
Runs TensorFlow models
on device
Leverages Android NN API
Soon to be open source!
TensorFlow Lite
Android NN API
Android NN HAL
GPU CPU ...
DSP
Mobile App
TensorFlow Lite
Slide 36
Slide 36 text
Proprietary + Confidential
TF Liteについては、この2スライド以上の情
報はありませんでした。
NN API / TF Lite共に、いつ、どのバージョン
から使えるようになるのかは今のところ未定
のようです。
※今年後半くらいから？
Slide 37
Slide 37 text
Powered by:
TensorFlow Frontiers
本日のお話
関連セッション一巡り
TensorFlow Lite
TPU
Slide 38
Slide 38 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
TPU(Tensor Processor Unit)
Google独自開発の機械学習に特化したハードウェア
第2世代のTPUをクラウドで利用できるようになるとアナウンス
Slide 39
Slide 39 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
第1世代TPU
Slide 40
Slide 40 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
第1世代TPU
Slide 41
Slide 41 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
第2世代TPU
Slide 42
Slide 42 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
第1世代のTPUはinferenceしかできなかったので注目ポイントです。
Slide 43
Slide 43 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
TPU Pod
Slide 44
Slide 44 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
32個のGPUで24時間かかっていた処理が
1/8 TPU pod(1podは64個のTPU、つまり8個のTPU)で6時間に短縮された
Slide 45
Slide 45 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Cloud TPUとして提供予定
Slide 46
Slide 46 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Cloud TPUの使い方
Slide 47
Slide 47 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
GCEとTPUの関係
GCEからgRPC経由でアクセスする
TensorFlowの設計とマッチする設計
Slide 48
Slide 48 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
DEMO
Slide 49
Slide 49 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
TPUをいち早く使いたい方は...
Slide 50
Slide 50 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
GCP側にアルファプログラムもあります
Slide 51
Slide 51 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
展示されていた実物のCloud TPU
Slide 52
Slide 52 text
Proprietary + Confidential
Cloud TPUは具体的な利用イメージも提示さ
れました。
が、現在はまだアルファプログラムに
singn-inできる状態であり、実際にいつから
使えるのかは未定のようです。
Slide 53
Slide 53 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
● ということで、当面はTFまわりで何か新しい事ができるわけではありません
● 今すぐアプリにTF組み込んで行きたい！という方には、やはり“Android
meets TensorFlow: how to accelarate your app with AI”のセッションが良い題
材になりそうです
○ 前半にAndroidでTensorFlowを動かすためにどのようにモデルを作り/バ
イナリを小さくするか、という話がありました
TF LiteやTPUが来るまで何をすれば...
Slide 54
Slide 54 text
Neural Network is BIG
The Inception v3 model = 91MB
TensorFlow binary = 12MB
端的に言うと精度の良いモデルはサイズが大きい、という話です。
これを何とかモバイル向けに小さくしなければいけない。
Slide 55
Slide 55 text
Freeze graph
Graph Transform Tool
Quantize weights
Quantize calculations
Memory mapping
Compress the Model
Slide 56
Slide 56 text
Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem
Codelabをやってみましょう
Mobile向けの最適化がテーマのcodelab
Slide 57
Slide 57 text
Proprietary + Confidential
End
Norihiro Shimoda
@rindai87