Slide 1

Slide 1 text

Google I/O報告会 ML(TensorFlow) 参照:https://www.businessinsider.jp/post-33811

Slide 2

Slide 2 text

Proprietary + Confidential Norihiro Shimoda @rindai87 Insert Photo TensorFlow User Group(TFUG)の主催もしてます

Slide 3

Slide 3 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 激レア(?)のスタッフバッチでの参加 Staff

Slide 4

Slide 4 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem とあるドームで ここ

Slide 5

Slide 5 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem I/O前々日から泣きながら設営を行い

Slide 6

Slide 6 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem とあるデモブース展示を行い

Slide 7

Slide 7 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 大人気でよかったなーと思ったら

Slide 8

Slide 8 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 気付いたら説明員していました

Slide 9

Slide 9 text

Google I/O’17での TensorFlow関連セッショ ンについて 本日のお話 関連セッション一巡り TensorFlow Lite TPU

Slide 10

Slide 10 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 全体で7つのTensorFlowのセッションがありました。 ● May17(Day1) ○ この日はTensorFlowのセッションなし ● May18(Day2) ○ 4つ ● May19(Day3) ○ 3つ ※新しいアナウンスが含まれていたセッションは2つ ※テクニカルセッションは全体で150くらいなので、全体の5%くらい ※Machine Learningというキーワードが含まれたセッションは全部で12あった TensorFlow関連のセッション

Slide 11

Slide 11 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem ● TensorFlow Frontiers ○ TF全般の話+TPUに関してのアナウンスがあった ● Effective TensorFlow for Non-Expert ○ 高レベルAPIやKerasについての話 ● Open Source TensorFlow Model ○ 公開されている学習済みモデルをうまく使いましょうという話 ● Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ○ AndroidThinsに組み合わせて使いましょうという話 セッションと一行説明(Day2) あとで詳しくお話します

Slide 12

Slide 12 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem ● TensorFlow Frontiers ○ TF全般の話+TPUに関してのアナウンスがあった ● Effective TensorFlow for Non-Expert ○ 高レベルAPIやKerasについての話 ● Open Source TensorFlow Model ○ 公開されている学習済みモデルをうまく使いましょうという話 ● Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ○ AndroidThinsに組み合わせて使いましょうという話 セッションと一行説明(Day2)

Slide 13

Slide 13 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day2/2. Effective TensorFlow for Non-Expert ・High-level API ・Keras

Slide 14

Slide 14 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day2/2. Effective TensorFlow for Non-Expert

Slide 15

Slide 15 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem ● TensorFlow Frontiers ○ TF全般の話+TPUに関してのアナウンスがあった ● Effective TensorFlow for Non-Expert ○ 高レベルAPIやKerasについての話 ● Open Source TensorFlow Model ○ 公開されている学習済みモデルをうまく使いましょうという話 ● Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ○ AndroidThinsに組み合わせて使いましょうという話 セッションと一行説明(Day2)

Slide 16

Slide 16 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day2/3. Open Source TF Model こういうモデルをハンドメイドで一から作るのはきつい Googleは画像ならInception V3, 自然言語ならSytaxnetを公開しているの でそれをうまく使うといいですよ、というお話

Slide 17

Slide 17 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem ● TensorFlow Frontiers ○ TF全般の話+TPUに関してのアナウンスがあった ● Effective TensorFlow for Non-Expert ○ 高レベルAPIやKerasについての話 ● Open Source TensorFlow Model ○ 公開されている学習済みモデルをうまく使いましょうという話 ● Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ○ AndroidThinsに組み合わせて使いましょうという話 セッションと一行説明(Day2)

Slide 18

Slide 18 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day2/4. TensorFlow on Android Things

Slide 19

Slide 19 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day2/4. Android Thingsが使えるサービス

Slide 20

Slide 20 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day2/4. Demo

Slide 21

Slide 21 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem ● Android meets TensorFlow: how to accelerate your app with AI ○ AndroidでのTFの話+TensorFlow Liteの話 ● From Research to Production with TensorFlow Serving ○ TensorFlow Servingの話 ● Project Magenta: Music and Art with Machine Learning ○ Mangentaの話 セッションと一行説明(Day3) あとでTF Liteの部分を 詳しくお話します

Slide 22

Slide 22 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day3/5. Android meets TensorFlow

Slide 23

Slide 23 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day3/5. Build...

Slide 24

Slide 24 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day3/5. JCenterにTFが登録された

Slide 25

Slide 25 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day3/5. CocoapodsでiOSもサポート

Slide 26

Slide 26 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem ● Android meets TensorFlow: how to accelerate your app with AI ○ AndroidでのTFの話+TensorFlow Liteの話 ● From Research to Production with TensorFlow Serving ○ TensorFlow Servingの話 ● Project Magenta: Music and Art with Machine Learning ○ Mangentaの話 セッションと一行説明(Day3)

Slide 27

Slide 27 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day3/6. TensorFlow Serving

Slide 28

Slide 28 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day3/6. Used over 700 projects in Google

Slide 29

Slide 29 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem ● Android meets TensorFlow: how to accelerate your app with AI ○ AndroidでのTFの話+TensorFlow Liteの話 ● From Research to Production with TensorFlow Serving ○ TensorFlow Servingの話 ● Project Magenta: Music and Art with Machine Learning ○ Mangentaの話 セッションと一行説明(Day3)

Slide 30

Slide 30 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day3/7. Magenta

Slide 31

Slide 31 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Day3/7. Sound Maker

Slide 32

Slide 32 text

Powerd by: Android meets TensorFlow: how to accelarate your app with AI 本日のお話 関連セッション一巡り TensorFlow Lite TPU

Slide 33

Slide 33 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem TensorFlow Lite On-devide Machine Learningを助けるためのものとして キーノートでアナウンスされました

Slide 34

Slide 34 text

New API for Neural Network Being added to the Android framework Wraps hardware accelerators (GPU, DSP, ISP etc) Android Neural Network API Android NN API Android NN HAL DSP GPU CPU ...

Slide 35

Slide 35 text

New TensorFlow runtime Optimized for mobile and embedded apps Runs TensorFlow models on device Leverages Android NN API Soon to be open source! TensorFlow Lite Android NN API Android NN HAL GPU CPU ... DSP Mobile App TensorFlow Lite

Slide 36

Slide 36 text

Proprietary + Confidential TF Liteについては、この2スライド以上の情 報はありませんでした。 NN API / TF Lite共に、いつ、どのバージョン から使えるようになるのかは今のところ未定 のようです。 ※今年後半くらいから?

Slide 37

Slide 37 text

Powered by: TensorFlow Frontiers 本日のお話 関連セッション一巡り TensorFlow Lite TPU

Slide 38

Slide 38 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem TPU(Tensor Processor Unit) Google独自開発の機械学習に特化したハードウェア 第2世代のTPUをクラウドで利用できるようになるとアナウンス

Slide 39

Slide 39 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 第1世代TPU

Slide 40

Slide 40 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 第1世代TPU

Slide 41

Slide 41 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 第2世代TPU

Slide 42

Slide 42 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 第1世代のTPUはinferenceしかできなかったので注目ポイントです。

Slide 43

Slide 43 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem TPU Pod

Slide 44

Slide 44 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 32個のGPUで24時間かかっていた処理が 1/8 TPU pod(1podは64個のTPU、つまり8個のTPU)で6時間に短縮された

Slide 45

Slide 45 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Cloud TPUとして提供予定

Slide 46

Slide 46 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Cloud TPUの使い方

Slide 47

Slide 47 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem GCEとTPUの関係 GCEからgRPC経由でアクセスする TensorFlowの設計とマッチする設計

Slide 48

Slide 48 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem DEMO

Slide 49

Slide 49 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem TPUをいち早く使いたい方は...

Slide 50

Slide 50 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem GCP側にアルファプログラムもあります

Slide 51

Slide 51 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem 展示されていた実物のCloud TPU

Slide 52

Slide 52 text

Proprietary + Confidential Cloud TPUは具体的な利用イメージも提示さ れました。 が、現在はまだアルファプログラムに singn-inできる状態であり、実際にいつから 使えるのかは未定のようです。

Slide 53

Slide 53 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem ● ということで、当面はTFまわりで何か新しい事ができるわけではありません ● 今すぐアプリにTF組み込んで行きたい!という方には、やはり“Android meets TensorFlow: how to accelarate your app with AI”のセッションが良い題 材になりそうです ○ 前半にAndroidでTensorFlowを動かすためにどのようにモデルを作り/バ イナリを小さくするか、という話がありました TF LiteやTPUが来るまで何をすれば...

Slide 54

Slide 54 text

Neural Network is BIG The Inception v3 model = 91MB TensorFlow binary = 12MB 端的に言うと精度の良いモデルはサイズが大きい、という話です。 これを何とかモバイル向けに小さくしなければいけない。

Slide 55

Slide 55 text

Freeze graph Graph Transform Tool Quantize weights Quantize calculations Memory mapping Compress the Model

Slide 56

Slide 56 text

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis non erat sem Codelabをやってみましょう Mobile向けの最適化がテーマのcodelab

Slide 57

Slide 57 text

Proprietary + Confidential End Norihiro Shimoda @rindai87