Cloud Vizier に関する調査結果 Asei Sugiyama

⽬次 背景 <- Google Vizier の概要 Cloud Vizier の概要 Tutorial まとめ

背景 A/B テストにおいてパラメーターの最適化を⾃動で⾏うための技術が今 後必要になる⾒込み 上記のタスクはブラックボックス最適化なので、ハイパーパラメーター チューニングのための技術、とくにガウス過程を⽤いたベイズ最適化が 有⼒候補 実装⽅法はいくつか候補 (Optuna, etc.) があるものの必要な計算資源の ⾯で困難が⾒込まれるため、マネージド・サービスが望ましい ブラックボックス最適化を⾏うためのクラウドサービス Cloud Vizier が そろそろ GA なので試してみる

⽬次 背景 Google Vizier の概要 <- Cloud Vizier の概要 Tutorial まとめ

Google Vizier の概要 Google Vizier とは Google Vizier と Cloud Vizier の関係 主要なユースケース 補⾜: Vizier Google Vizier の主要な機能

Google Vizier とは Google 社内で使われている ブラックボックス最適化サ ービス 論⽂が公開されている Hyperparameter tuning in Cloud Machine Learning Engine using Bayesian Optimization | Google Cloud Blog

Google Vizier と Cloud Vizier の関係 名称 要約 Google Vizier Google 社内⽤のハイパーパラメーターチューニングサー ビス Cloud Vizier Google Vizier を GCP で利⽤できるようにしたもの AI Platform Training ハイパーパラメーターチューニングで Cloud Vizier 相当の ものを利⽤している

主要なユースケース . ハイパーパラメーターチュ ーニング . A/B テストの⾃動化 how should the search results returned from Google Maps trade off search-relevance for distance from the user?

補⾜: Vizier ⽀配者を補佐する⼈ 右図の右側の⼈

Google Vizier の主要な 機能 ベイズ最適化 Early stopping Automated stopping Transfer learning

ベイズ最適化 ガウス過程 (バイオリンプロットをイ メージすると良い) を⽤いて、現在分 かっているデータから、次に試すべ きデータを求める 実数型、整数型、離散型、カテゴリ カル型を扱う 離散型は実数に対応させる カテゴリカル型はone-hot-encoding

Early stopping いわゆる early stopping に 同じ ブラックボックス最適化時 に指定したアルゴリズムに したがって Early stopping を⾃動的にやると⾔ってい る 詳細不明

Automated stopping パフォーマンスカーブに基 づくルール: 改善幅が⾒られ なくなったら停⽌ 中央値に基づくルール: 中央 値よりも悪くなったら停⽌

Transfer learning ガウス過程はデータ数が増 えると計算量が で 増加 (逆⾏列の計算) 全データを対象にするので はなく、バッチ化 それまでのバッチで学習し たモデルの出⼒と、実際の データの残差を学習 O(n ) 3

⽬次 背景 Google Vizier の概要 Cloud Vizier の概要 <- Tutorial まとめ

Cloud Vizier の概要 AI Platform Optimizer を⾒ると わかりやすい Study Configuration Study Trial

Study Configuration 最適化するシステムの⼊⼒ の定義 最適化する指標の定義

Study 最適化を⾏うための場所 Study Configuration の実体 のようなもの？

Trial それぞれの試⾏ Cloud Vizier は次に試すべ きパラメーターを指⽰する

⽬次 背景 Google Vizier の概要 Cloud Vizier の概要 <- Tutorial まとめ

Tutorial Optimizing a machine learning model | AI Platform Vizier Optimizing multiple objectives | AI Platform Vizier | Google Cloud

⽬次 背景 Google Vizier の概要 Cloud Vizier の概要 Tutorial 今後の課題とまとめ <-

今後の課題 使いみちはありそうなもの の、実装がそれなりに複雑 価格が不明

まとめ Cloud Vizier はガウス過程を⽤いてベイズ最適化を⾏うサービスであ り、Google 社内の同名サービス Google Vizier をクラウドサービス化し たもの Google 社内ではハイパーパラメーターチューニング、A/B テストの⾃動 化に⽤いられている ベイズ最適化に加え、Early stopping, Automated Stopping が実装され ているほか、パフォーマンスのために転移学習を⽤いている 最適化したいタスクの定義とタスクそのものの実装を⾏えば、サービス が次に試すべきパラメーターを推薦してくれる