広告とAI(とハイパーパラメータ最適化) / Ad with AI

F5408fe297d86e965973e5a23e496f9f?s=47 Masahiro Nomura
July 23, 2018
660

広告とAI(とハイパーパラメータ最適化) / Ad with AI

F5408fe297d86e965973e5a23e496f9f?s=128

Masahiro Nomura

July 23, 2018
Tweet

Transcript

  1. 2.

    自己紹介: ▪ 名前: 野村 将寛(のむら まさひろ) ▪ 経歴: 2017・4 〜

    ◦ Black-box関数最適化を研究(修士) ▪ 入社後: ◦ アドテクスタジオ所属 ◦ 【AMoAd】 データエンジニアリング ◦ 【AI Lab】 ハイパーパラメータ最適化
  2. 3.

    Outline: ▪ RTB(Real Time Bidding) ▪ アドテクで行われている研究を一部紹介 ◦ 深層学習によるFacebook広告のCTR予測[岩崎 18]

    ◦ 「土地勘」は学習できるのか[宗政 18] ◦ CycleGANを用いた感情スタイル転送[大田 18] ▪ ハイパーパラメータ最適化
  3. 8.

    RTB (Real Time Bidding): 広告枠 SSP Ad Call Bid Request

    メディアID:〜 ユーザID:〜 Publisherの利益を最大化する (Supply Side Platform)
  4. 9.

    RTB (Real Time Bidding): 広告枠 SSP DSP DSP DSP DSP

    Ad Call Bid Request メディアID:〜 ユーザID:〜 Publisherの利益を最大化する (Supply Side Platform) Advertiserの利益を最大化する (Demand Side Platform)
  5. 10.

    RTB (Real Time Bidding): 広告枠 SSP DSP DSP DSP DSP

    Ad Call Publisherの利益を最大化する (Supply Side Platform) Advertiserの利益を最大化する (Demand Side Platform) ¥300 ¥200 ¥100 ¥50
  6. 11.

    RTB (Real Time Bidding): 広告枠 SSP DSP DSP DSP DSP

    Ad Call Publisherの利益を最大化する (Supply Side Platform) Advertiserの利益を最大化する (Demand Side Platform) ¥300 ¥200 ¥100 ¥50 ¥200で落札
  7. 12.

    RTB (Real Time Bidding): 広告枠 SSP DSP DSP DSP DSP

    Ad Call Publisherの利益を最大化する (Supply Side Platform) Advertiserの利益を最大化する (Demand Side Platform) ¥300 ¥200 ¥100 ¥50 ¥200で落札
  8. 14.

    どの位の確率で広告がclickされるのか?: 〜 CTR, CVR推定について 〜 ▪ DSPは何をもとに入札額を決めればいいか? ▪ 「この金額でconversionを獲得したい」という指標(CPA)を持っている ▪

    そこから1回表示あたりの価値(eCPM)を計算してみる クリック率(CTR) コンバージョン率(CVR) 広告枠 O. Chapelle, Modeling delayed feedback in display advertising, KDD(2014)
  9. 16.

    深層学習によるFacebook広告のCTR予測[岩崎 18]: Deep Neural Network Batch-Normalization Fully-connected layer Fully-connected layer

    384 256 1 CTR ConvNet 197×197 128 ConvNet 128 Fully-connected layer 128 daily_budget, bid_amount, reach_estimate, age, gender, location, interests,,, etc 0 0 1 0 ······ 1 0 0 1 それぞれをDeep Learningで学習 - 基本的なfeature (ユーザ属性など) - 画像 - テキスト 岩崎, 深層学習によるFacebook広告のCTR予測, 人工知能学会(2018) Validation Loss
  10. 18.
  11. 23.

    ハイパーパラメータ最適化: ハイパーパラメータ: 学習の前に設定されるパラメータ 学習により更新されるパラメータとは区別される e.g) Deep Learning - 学習率 (

    + 最適化手法固 有のパラメータ) - Dropout率 - 層数 - 各層のユニットサイズ - 活性化関数の種類 (ReLu, Tanh, Sigmoidな ど) - バッチサイズ e.g) XGBoost - 学習率 - 木の本数 - 木の深さ - サブサンプル率 - 正則化係数 - 分割の閾値の重み e.g) SVM - カーネルの種類(RBF, Polynominal, Sigmoidな ど) - カーネルのbandwidth - 正則化係数 ハイパーパラメータの例)
  12. 25.

    Googleによるクッキー作成 Googleではおいしいクッキーを作る問題を Black-box関数最適化問題として解いている - baking soda - brown sugar -

    white sugar - butter - vanilla - egg - flour - chocolate 社員に食べてもらい,Feedbackから改善 - chip type - salt - cayenne - orange extract - baking time - baking temperature D. Golovin, B. Solnik, S. Moitra, G. Kochanski, J. Karro, D. Sculley, Google Vizier: A Service for Black-Box Optimization, KDD(2017)
  13. 26.

    これからやりたいこと: • CA内のチューニング課題を一手に引き受けたい! ◦ チューニングのような面倒な作業は後回しにしがち ◦ でもそれによって発生してる機会損失が必ずあるはず ◦ モデル化からサポートできれば理想 •

    広告という枠組みを超えて貢献していきたい. ◦ Black-box関数はゲームなどでもよく現れる(気がする) • 世界一の最適化アルゴリズムを開発する ◦ 論文と一緒にOSSも流行らせたい
  14. 27.
  15. 29.
  16. 34.

    RTB (Real Time Bidding): セカンドプライスオークション ▪ 2位のDSPの入札額が落札額として用いられるオークション ▪ なぜこんなことをするのか? ←

    買う側は自身の思う適切な金額を入札することが最 適な戦略となっている(耐戦略性を満たす) ▪ e.g) 「200円なら広告出したい!」という場合,200円で入札することが最適な戦略とな る
  17. 35.

    どの位の確率で広告がclickされるのか?: 〜 CTR, CVR推定について 〜 ▪ Q. 「クリックされるかどうかの判定って簡単じゃないの?」 ▪ A.

    簡単じゃないよ! ◦ データ量が膨大: 月間数千億リクエストをさばくプロダクトもあります ◦ スパース性: 広告ID, メディアID, ユーザIDなどのfeatureはユニーク数が非常に 多い ◦ imbalanced data: click, conversionされる数は,されない数に比べて非常に少な い ◦ モデル更新: 古いモデルのままでは新規広告に対応できない
  18. 39.

    ハイパーパラメータ最適化: Random search 範囲内でランダムに探索を行う J. Bergstra, and Y. Bengio, Random

    search for hyper-parameter optimization, The Journal of Machine Learning Research, 13:281–305, (2012)