Cloud Vizierに関する調査

ブラックボックス最適化を行うサービスである Cloud Vizier についてRepro 社内で調査を行った際の資料です。

Google Vizier に関する論文 https://static.googleusercontent.com/media/research.google.com/en//pubs/archive/46180.pdf
Cloud Vizier に関するブログポスト
https://cloud.google.com/blog/products/gcp/hyperparameter-tuning-cloud-machine-learning-engine-using-bayesian-optimization

Transcript

1. Cloud Vizier に関する調査結果
   Asei Sugiyama
   

   View Slide

2. ⽬次
   背景 <-
   Google Vizier の概要
   Cloud Vizier の概要
   Tutorial
   まとめ
   

   View Slide

3. 背景
   A/B テストにおいてパラメーターの最適化を⾃動で⾏うための技術が今
   後必要になる⾒込み
   上記のタスクはブラックボックス最適化なので、ハイパーパラメーター
   チューニングのための技術、とくにガウス過程を⽤いたベイズ最適化が
   有⼒候補
   実装⽅法はいくつか候補 (Optuna, etc.) があるものの必要な計算資源の
   ⾯で困難が⾒込まれるため、マネージド・サービスが望ましい
   ブラックボックス最適化を⾏うためのクラウドサービス Cloud Vizier が
   そろそろ GA なので試してみる
   

   View Slide

4. ⽬次
   背景
   Google Vizier の概要 <-
   Cloud Vizier の概要
   Tutorial
   まとめ
   

   View Slide

5. Google Vizier の概要
   Google Vizier とは
   Google Vizier と Cloud Vizier の関係
   主要なユースケース
   補⾜: Vizier
   Google Vizier の主要な機能
   

   View Slide

6. Google Vizier とは
   Google 社内で使われている
   ブラックボックス最適化サ
   ービス
   論⽂が公開されている
   Hyperparameter tuning in
   Cloud Machine Learning
   Engine using Bayesian
   Optimization | Google
   Cloud Blog
   

   View Slide

7. Google Vizier と Cloud Vizier の関係
   名称 要約
   Google Vizier Google 社内⽤のハイパーパラメーターチューニングサー
   ビス
   Cloud Vizier Google Vizier を GCP で利⽤できるようにしたもの
   AI Platform
   Training
   ハイパーパラメーターチューニングで Cloud Vizier 相当の
   ものを利⽤している
   

   View Slide

8. 主要なユースケース
   . ハイパーパラメーターチュ
   ーニング
   . A/B テストの⾃動化
   how should the search
   results returned from
   Google Maps trade off
   search-relevance for
   distance from the user?
   

   View Slide

9. 補⾜: Vizier
   ⽀配者を補佐する⼈
   右図の右側の⼈
   

   View Slide

10. Google Vizier の主要な
    機能
    ベイズ最適化
    Early stopping
    Automated stopping
    Transfer learning
    

    View Slide

11. ベイズ最適化
    ガウス過程 (バイオリンプロットをイ
    メージすると良い) を⽤いて、現在分
    かっているデータから、次に試すべ
    きデータを求める
    実数型、整数型、離散型、カテゴリ
    カル型を扱う
    離散型は実数に対応させる
    カテゴリカル型はone-hot-encoding
    

    View Slide

12. Early stopping
    いわゆる early stopping に
    同じ
    ブラックボックス最適化時
    に指定したアルゴリズムに
    したがって Early stopping
    を⾃動的にやると⾔ってい
    る
    詳細不明
    

    View Slide

13. Automated stopping
    パフォーマンスカーブに基
    づくルール: 改善幅が⾒られ
    なくなったら停⽌
    中央値に基づくルール: 中央
    値よりも悪くなったら停⽌
    

    View Slide

14. Transfer learning
    ガウス過程はデータ数が増
    えると計算量が で
    増加 (逆⾏列の計算)
    全データを対象にするので
    はなく、バッチ化
    それまでのバッチで学習し
    たモデルの出⼒と、実際の
    データの残差を学習
    O(n )
    3
    

    View Slide

15. ⽬次
    背景
    Google Vizier の概要
    Cloud Vizier の概要 <-
    Tutorial
    まとめ
    

    View Slide

16. Cloud Vizier の概要
    AI Platform Optimizer を⾒ると
    わかりやすい
    Study Configuration
    Study
    Trial
    

    View Slide

17. Study Configuration
    最適化するシステムの⼊⼒
    の定義
    最適化する指標の定義
    

    View Slide

18. Study
    最適化を⾏うための場所
    Study Configuration の実体
    のようなもの？
    

    View Slide

19. Trial
    それぞれの試⾏
    Cloud Vizier は次に試すべ
    きパラメーターを指⽰する
    

    View Slide

20. ⽬次
    背景
    Google Vizier の概要
    Cloud Vizier の概要 <-
    Tutorial
    まとめ
    

    View Slide

21. Tutorial
    Optimizing a machine learning model | AI Platform Vizier
    Optimizing multiple objectives | AI Platform Vizier | Google Cloud
    

    View Slide

22. ⽬次
    背景
    Google Vizier の概要
    Cloud Vizier の概要
    Tutorial
    今後の課題とまとめ <-
    

    View Slide

23. 今後の課題
    使いみちはありそうなもの
    の、実装がそれなりに複雑
    価格が不明
    

    View Slide

24. まとめ
    Cloud Vizier はガウス過程を⽤いてベイズ最適化を⾏うサービスであ
    り、Google 社内の同名サービス Google Vizier をクラウドサービス化し
    たもの
    Google 社内ではハイパーパラメーターチューニング、A/B テストの⾃動
    化に⽤いられている
    ベイズ最適化に加え、Early stopping, Automated Stopping が実装され
    ているほか、パフォーマンスのために転移学習を⽤いている
    最適化したいタスクの定義とタスクそのものの実装を⾏えば、サービス
    が次に試すべきパラメーターを推薦してくれる
    

    View Slide