Google I/O 報告会(ML)担当

Google I/O 報告会(ML)担当

B5e4cea01a88ca6e79a962b3e0004405?s=128

Norihiro Shimoda

June 10, 2017
Tweet

Transcript

  1. Google I/O報告会 ML(TensorFlow) 参照:https://www.businessinsider.jp/post-33811

  2. Proprietary + Confidential Norihiro Shimoda @rindai87 Insert Photo TensorFlow User

    Group(TFUG)の主催もしてます
  3. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 激レア(?)のスタッフバッチでの参加 Staff
  4. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem とあるドームで ここ
  5. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem I/O前々日から泣きながら設営を行い
  6. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem とあるデモブース展示を行い
  7. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 大人気でよかったなーと思ったら
  8. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 気付いたら説明員していました
  9. Google I/O’17での TensorFlow関連セッショ ンについて 本日のお話 関連セッション一巡り TensorFlow Lite TPU

  10. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 全体で7つのTensorFlowのセッションがありました。 • May17(Day1) ◦ この日はTensorFlowのセッションなし • May18(Day2) ◦ 4つ • May19(Day3) ◦ 3つ ※新しいアナウンスが含まれていたセッションは2つ ※テクニカルセッションは全体で150くらいなので、全体の5%くらい ※Machine Learningというキーワードが含まれたセッションは全部で12あった TensorFlow関連のセッション
  11. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem • TensorFlow Frontiers ◦ TF全般の話+TPUに関してのアナウンスがあった • Effective TensorFlow for Non-Expert ◦ 高レベルAPIやKerasについての話 • Open Source TensorFlow Model ◦ 公開されている学習済みモデルをうまく使いましょうという話 • Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ◦ AndroidThinsに組み合わせて使いましょうという話 セッションと一行説明(Day2) あとで詳しくお話します
  12. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem • TensorFlow Frontiers ◦ TF全般の話+TPUに関してのアナウンスがあった • Effective TensorFlow for Non-Expert ◦ 高レベルAPIやKerasについての話 • Open Source TensorFlow Model ◦ 公開されている学習済みモデルをうまく使いましょうという話 • Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ◦ AndroidThinsに組み合わせて使いましょうという話 セッションと一行説明(Day2)
  13. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day2/2. Effective TensorFlow for Non-Expert ・High-level API ・Keras
  14. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day2/2. Effective TensorFlow for Non-Expert
  15. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem • TensorFlow Frontiers ◦ TF全般の話+TPUに関してのアナウンスがあった • Effective TensorFlow for Non-Expert ◦ 高レベルAPIやKerasについての話 • Open Source TensorFlow Model ◦ 公開されている学習済みモデルをうまく使いましょうという話 • Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ◦ AndroidThinsに組み合わせて使いましょうという話 セッションと一行説明(Day2)
  16. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day2/3. Open Source TF Model こういうモデルをハンドメイドで一から作るのはきつい Googleは画像ならInception V3, 自然言語ならSytaxnetを公開しているの でそれをうまく使うといいですよ、というお話
  17. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem • TensorFlow Frontiers ◦ TF全般の話+TPUに関してのアナウンスがあった • Effective TensorFlow for Non-Expert ◦ 高レベルAPIやKerasについての話 • Open Source TensorFlow Model ◦ 公開されている学習済みモデルをうまく使いましょうという話 • Using Google Cloud, TensorFlow, and the Google Assistant on Android Things ◦ AndroidThinsに組み合わせて使いましょうという話 セッションと一行説明(Day2)
  18. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day2/4. TensorFlow on Android Things
  19. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day2/4. Android Thingsが使えるサービス
  20. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day2/4. Demo
  21. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem • Android meets TensorFlow: how to accelerate your app with AI ◦ AndroidでのTFの話+TensorFlow Liteの話 • From Research to Production with TensorFlow Serving ◦ TensorFlow Servingの話 • Project Magenta: Music and Art with Machine Learning ◦ Mangentaの話 セッションと一行説明(Day3) あとでTF Liteの部分を 詳しくお話します
  22. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day3/5. Android meets TensorFlow
  23. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day3/5. Build...
  24. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day3/5. JCenterにTFが登録された
  25. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day3/5. CocoapodsでiOSもサポート
  26. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem • Android meets TensorFlow: how to accelerate your app with AI ◦ AndroidでのTFの話+TensorFlow Liteの話 • From Research to Production with TensorFlow Serving ◦ TensorFlow Servingの話 • Project Magenta: Music and Art with Machine Learning ◦ Mangentaの話 セッションと一行説明(Day3)
  27. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day3/6. TensorFlow Serving
  28. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day3/6. Used over 700 projects in Google
  29. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem • Android meets TensorFlow: how to accelerate your app with AI ◦ AndroidでのTFの話+TensorFlow Liteの話 • From Research to Production with TensorFlow Serving ◦ TensorFlow Servingの話 • Project Magenta: Music and Art with Machine Learning ◦ Mangentaの話 セッションと一行説明(Day3)
  30. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day3/7. Magenta
  31. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Day3/7. Sound Maker
  32. Powerd by: Android meets TensorFlow: how to accelarate your app

    with AI 本日のお話 関連セッション一巡り TensorFlow Lite TPU
  33. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem TensorFlow Lite On-devide Machine Learningを助けるためのものとして キーノートでアナウンスされました
  34. New API for Neural Network Being added to the Android

    framework Wraps hardware accelerators (GPU, DSP, ISP etc) Android Neural Network API Android NN API Android NN HAL DSP GPU CPU ...
  35. New TensorFlow runtime Optimized for mobile and embedded apps Runs

    TensorFlow models on device Leverages Android NN API Soon to be open source! TensorFlow Lite Android NN API Android NN HAL GPU CPU ... DSP Mobile App TensorFlow Lite
  36. Proprietary + Confidential TF Liteについては、この2スライド以上の情 報はありませんでした。 NN API / TF

    Lite共に、いつ、どのバージョン から使えるようになるのかは今のところ未定 のようです。 ※今年後半くらいから?
  37. Powered by: TensorFlow Frontiers 本日のお話 関連セッション一巡り TensorFlow Lite TPU

  38. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem TPU(Tensor Processor Unit) Google独自開発の機械学習に特化したハードウェア 第2世代のTPUをクラウドで利用できるようになるとアナウンス
  39. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 第1世代TPU
  40. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 第1世代TPU
  41. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 第2世代TPU
  42. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 第1世代のTPUはinferenceしかできなかったので注目ポイントです。
  43. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem TPU Pod
  44. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 32個のGPUで24時間かかっていた処理が 1/8 TPU pod(1podは64個のTPU、つまり8個のTPU)で6時間に短縮された
  45. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Cloud TPUとして提供予定
  46. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Cloud TPUの使い方
  47. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem GCEとTPUの関係 GCEからgRPC経由でアクセスする TensorFlowの設計とマッチする設計
  48. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem DEMO
  49. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem TPUをいち早く使いたい方は...
  50. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem GCP側にアルファプログラムもあります
  51. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem 展示されていた実物のCloud TPU
  52. Proprietary + Confidential Cloud TPUは具体的な利用イメージも提示さ れました。 が、現在はまだアルファプログラムに singn-inできる状態であり、実際にいつから 使えるのかは未定のようです。

  53. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem • ということで、当面はTFまわりで何か新しい事ができるわけではありません • 今すぐアプリにTF組み込んで行きたい!という方には、やはり“Android meets TensorFlow: how to accelarate your app with AI”のセッションが良い題 材になりそうです ◦ 前半にAndroidでTensorFlowを動かすためにどのようにモデルを作り/バ イナリを小さくするか、という話がありました TF LiteやTPUが来るまで何をすれば...
  54. Neural Network is BIG The Inception v3 model = 91MB

    TensorFlow binary = 12MB 端的に言うと精度の良いモデルはサイズが大きい、という話です。 これを何とかモバイル向けに小さくしなければいけない。
  55. Freeze graph Graph Transform Tool Quantize weights Quantize calculations Memory

    mapping Compress the Model
  56. Source: Lorem ipsum dolor sit amet, consectetur adipiscing elit. Duis

    non erat sem Codelabをやってみましょう Mobile向けの最適化がテーマのcodelab
  57. Proprietary + Confidential End Norihiro Shimoda @rindai87