Google I/O 報告会（ML）担当

Google I/O報告会 ML(TensorFlow) 参照：https://www.businessinsider.jp/post-33811

Proprietary + Confidential Norihiro Shimoda @rindai87 Insert Photo TensorFlow User
Group(TFUG)の主催もしてます

Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis
non erat sem 激レア（？）のスタッフバッチでの参加 Staff

non erat sem とあるドームでここ

non erat sem I/O前々日から泣きながら設営を行い

non erat sem とあるデモブース展示を行い

non erat sem 大人気でよかったなーと思ったら

non erat sem 気付いたら説明員していました

Google I/O’17での TensorFlow関連セッションについて本日のお話関連セッション一巡り TensorFlow Lite TPU

non erat sem 全体で7つのTensorFlowのセッションがありました。 • May17(Day1) ◦ この日はTensorFlowのセッションなし • May18(Day2) ◦ 4つ • May19(Day3) ◦ 3つ ※新しいアナウンスが含まれていたセッションは２つ ※テクニカルセッションは全体で150くらいなので、全体の5%くらい ※Machine Learningというキーワードが含まれたセッションは全部で12あった TensorFlow関連のセッション

non erat sem • TensorFlow Frontiers ◦ TF全般の話＋TPUに関してのアナウンスがあった • Effective TensorFlow for Non-Expert ◦ 高レベルAPIやKerasについての話 • Open Source TensorFlow Model ◦ 公開されている学習済みモデルをうまく使いましょうという話 • Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ◦ AndroidThinsに組み合わせて使いましょうという話セッションと一行説明(Day2) あとで詳しくお話します

non erat sem • TensorFlow Frontiers ◦ TF全般の話＋TPUに関してのアナウンスがあった • Effective TensorFlow for Non-Expert ◦ 高レベルAPIやKerasについての話 • Open Source TensorFlow Model ◦ 公開されている学習済みモデルをうまく使いましょうという話 • Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ◦ AndroidThinsに組み合わせて使いましょうという話セッションと一行説明(Day2)

non erat sem Day2/2. Effective TensorFlow for Non-Expert ・High-level API ・Keras

non erat sem Day2/2. Effective TensorFlow for Non-Expert

non erat sem Day2/3. Open Source TF Model こういうモデルをハンドメイドで一から作るのはきつい Googleは画像ならInception V3, 自然言語ならSytaxnetを公開しているのでそれをうまく使うといいですよ、というお話

non erat sem Day2/4. TensorFlow on Android Things

non erat sem Day2/4. Android Thingsが使えるサービス

non erat sem Day2/4. Demo

non erat sem • Android meets TensorFlow: how to accelerate your app with AI ◦ AndroidでのTFの話＋TensorFlow Liteの話 • From Research to Production with TensorFlow Serving ◦ TensorFlow Servingの話 • Project Magenta: Music and Art with Machine Learning ◦ Mangentaの話セッションと一行説明(Day3) あとでTF Liteの部分を詳しくお話します

non erat sem Day3/5. Android meets TensorFlow

non erat sem Day3/5. Build...

non erat sem Day3/5. JCenterにTFが登録された

non erat sem Day3/5. CocoapodsでiOSもサポート

non erat sem • Android meets TensorFlow: how to accelerate your app with AI ◦ AndroidでのTFの話＋TensorFlow Liteの話 • From Research to Production with TensorFlow Serving ◦ TensorFlow Servingの話 • Project Magenta: Music and Art with Machine Learning ◦ Mangentaの話セッションと一行説明(Day3)

non erat sem Day3/6. TensorFlow Serving

non erat sem Day3/6. Used over 700 projects in Google

non erat sem • Android meets TensorFlow: how to accelerate your app with AI ◦ AndroidでのTFの話＋TensorFlow Liteの話 • From Research to Production with TensorFlow Serving ◦ TensorFlow Servingの話 • Project Magenta: Music and Art with Machine Learning ◦ Mangentaの話セッションと一行説明(Day3)

non erat sem Day3/7. Magenta

non erat sem Day3/7. Sound Maker

Powerd by: Android meets TensorFlow: how to accelarate your app
with AI 本日のお話関連セッション一巡り TensorFlow Lite TPU

non erat sem TensorFlow Lite On-devide Machine Learningを助けるためのものとしてキーノートでアナウンスされました

New API for Neural Network Being added to the Android
framework Wraps hardware accelerators (GPU, DSP, ISP etc) Android Neural Network API Android NN API Android NN HAL DSP GPU CPU ...

New TensorFlow runtime Optimized for mobile and embedded apps Runs
TensorFlow models on device Leverages Android NN API Soon to be open source! TensorFlow Lite Android NN API Android NN HAL GPU CPU ... DSP Mobile App TensorFlow Lite

Proprietary + Confidential TF Liteについては、この2スライド以上の情報はありませんでした。 NN API / TF
Lite共に、いつ、どのバージョンから使えるようになるのかは今のところ未定のようです。 ※今年後半くらいから？

Powered by: TensorFlow Frontiers 本日のお話関連セッション一巡り TensorFlow Lite TPU

non erat sem TPU(Tensor Processor Unit) Google独自開発の機械学習に特化したハードウェア第2世代のTPUをクラウドで利用できるようになるとアナウンス

non erat sem 第1世代TPU

non erat sem 第2世代TPU

non erat sem 第1世代のTPUはinferenceしかできなかったので注目ポイントです。

non erat sem TPU Pod

non erat sem 32個のGPUで24時間かかっていた処理が 1/8 TPU pod(1podは64個のTPU、つまり8個のTPU)で6時間に短縮された

non erat sem Cloud TPUとして提供予定

non erat sem Cloud TPUの使い方

non erat sem GCEとTPUの関係 GCEからgRPC経由でアクセスする TensorFlowの設計とマッチする設計

non erat sem DEMO

non erat sem TPUをいち早く使いたい方は...

non erat sem GCP側にアルファプログラムもあります

non erat sem 展示されていた実物のCloud TPU

Proprietary + Confidential Cloud TPUは具体的な利用イメージも提示されました。が、現在はまだアルファプログラムに singn-inできる状態であり、実際にいつから使えるのかは未定のようです。

non erat sem • ということで、当面はTFまわりで何か新しい事ができるわけではありません • 今すぐアプリにTF組み込んで行きたい！という方には、やはり“Android meets TensorFlow: how to accelarate your app with AI”のセッションが良い題材になりそうです ◦ 前半にAndroidでTensorFlowを動かすためにどのようにモデルを作り/バイナリを小さくするか、という話がありました TF LiteやTPUが来るまで何をすれば...

Neural Network is BIG The Inception v3 model = 91MB
TensorFlow binary = 12MB 端的に言うと精度の良いモデルはサイズが大きい、という話です。これを何とかモバイル向けに小さくしなければいけない。

Freeze graph Graph Transform Tool Quantize weights Quantize calculations Memory
mapping Compress the Model

non erat sem Codelabをやってみましょう Mobile向けの最適化がテーマのcodelab

Proprietary + Confidential End Norihiro Shimoda @rindai87

Google I/O 報告会（ML）担当

Google I/O 報告会（ML）担当

More Decks by Norihiro Shimoda

Other Decks in Technology

Featured

Transcript