Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
高速な広告配信サーバの作り方のコツ
Search
Satoshi
June 23, 2016
Technology
3
460
高速な広告配信サーバの作り方のコツ
高速な配信サーバをつくるためのコツを紹介しています。
Satoshi
June 23, 2016
Tweet
Share
More Decks by Satoshi
See All by Satoshi
スケールしない広告サーバの作り方
satoshi03
0
210
Gunosy AdServerのデータ周りの話
satoshi03
2
2.7k
フルスクラッチで書いたアドサーバの開発・運用史
satoshi03
2
4.3k
Gunosy.go #2 container
satoshi03
1
60
Gunosy Go Lang Study #6 net net/http net/url
satoshi03
0
130
Other Decks in Technology
See All in Technology
Intuneお役立ちツールのご紹介
sukank
3
750
TinyGoを使ったVSCode拡張機能実装
askua
2
200
RAGのためのビジネス文書解析技術
eida
3
660
State of Open Source Web Mapping Libraries
dayjournal
0
200
20241108_CS_LLMMT
shigashiyama
0
250
Forget efficiency – Become more productive without the stress
ufried
1
240
信頼性に挑む中で拡張できる・得られる1人のスキルセットとは?
ken5scal
1
400
福岡新卒エンジニアの会
teba_eleven
1
190
Datachain会社紹介資料(2024年11月) / Company Deck
datachain
4
17k
Lexical Analysis
shigashiyama
1
130
地理情報データをデータベースに格納しよう~ GPUを活用した爆速データベース PG-Stromの紹介 ~
sakaik
1
110
全社横断データ活用推進のコツと その負債とのつき合い方
masatoshi0205
0
170
Featured
See All Featured
[RailsConf 2023] Rails as a piece of cake
palkan
51
4.9k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
109
49k
5 minutes of I Can Smell Your CMS
philhawksworth
202
19k
A designer walks into a library…
pauljervisheath
202
24k
[Rails World 2023 - Day 1 Closing Keynote] - The Magic of Rails
eileencodes
32
1.8k
Navigating Team Friction
lara
183
14k
How to train your dragon (web standard)
notwaldorf
88
5.7k
GraphQLとの向き合い方2022年版
quramy
43
13k
jQuery: Nuts, Bolts and Bling
dougneiner
61
7.5k
StorybookのUI Testing Handbookを読んだ
zakiyama
26
5.2k
JavaScript: Past, Present, and Future - NDC Porto 2020
reverentgeek
47
5k
Design and Strategy: How to Deal with People Who Don’t "Get" Design
morganepeng
126
18k
Transcript
高速な広告配信サーバの作り方 のコツ GUNOSY inc. 印南 聡志
自己紹介 • 印南聡志(いんなみ さとし) • Gunosyのアドエンジニア (3年目) –
Gunosyのアド配信サーバ周り全般担当 • 言語 – Go – Python • マイブーム – AJINOMOTOの冷凍餃子 – 大食い(視るだけ) • 参照 – Blog:NO AD NO LIFE(hBp://inchom.hatenadiary.jp/) – Github:hBps://github.com/satoshi03
広告配信サーバって?
配信サーバ (API) バッチサーバ 広告情報 (キャッシュ) とても簡単な仕組み 広告情報
(元データ) ELB 広告 リクエスト
広告配信による収益の最大化 目的
収益 広告選択 応答性能 可用性
高速な広告配信サーバって?
50ms or die 某社
リプレース時の要求性能 1リクエストの応答時間: 50ms 以内 リクエスト数:
10,000req/sec
リプレース後のサーバ性能は?
5ms
1リクエストの応答時間: 5ms リクエスト数:
10,000req/sec 以上
(あたり前だけど忘れがちな) 広告配信サーバを高速化するコツ
1. ボトルネックをつくらない
配信サーバ Redis これまでの問題 リクエスト増
中央の共有DBを作らない
配信サーバ LevelDB S3 バッチサーバ ダウンロード アップロード
共有DBが必要な場合は Writeを集約
配信サーバ Redis Master Redis Slave Redis Slave READ WRITE Sync
バッチサーバ (ログ集約)
プロセスキャッシュを導入
配信サーバ Redis Master Redis Slave Redis Slave READ WRITE Sync
取得したデータを 一定期間保持
2. APIサーバは薄く
これまでの問題 • APIサーバ側で複雑な入札ロジックを実装 – 複数の入札ロジック – 逐次スコアを計算 – 複雑なバリデーション
• Python (tornado) 製
対応 • API側 – Golangで実装 – やることを極限まで削減 • 広告候補の取得
• 簡単なバリデーション • バッチ側で複雑な処理を一括で計算 – Python
3. 応答性能を常時計測
問題 • 様々な性能劣化の原因 – 機能追加/改修 – データの増加 – アクセス傾向の変化
負荷試験をかけて性能劣化を防止
LOCUST • Python製の分散負荷計測ツール – テストのシナリオをPythonで記述 – Web UI の管理画面
– 管理が容易
LOCUST 構成 ・・・ Locust slave Locust master 広告配信 サーバ ・・・
シナリオに応じてリクエストを 生成 Slaveを管理
None
4. コードのチューニング
問題 実際に実行すると処理速度が遅い…
pprof • Goのプロファイラ – 関数ごとのCPU処理時間を計測 – グラフ描画 • 重い処理を視覚的に発見しやすい
見つかった問題 • 様々な原因 – ライブラリ内の実装 – 入札時の広告の探索範囲が広い – バリデーションのコスト
– データキャストのコスト – オブジェクト生成のコスト – DB接続時のコスト – ログ出力コスト
対策を全部うってもダメな場合…
5. 金で解決
金で解決の例 • Redis をやめる – DynamoDB – AeroSpike •
スケールアップで対応 – 4xlargeインスタンス…
まとめ • 広告配信サーバの高速化のコツ 1. ボトルネックをつくらない 2. APIサーバを薄く
3. 応答性能を計測 4. コードのチューニング 5. 金で解決