Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
高速な広告配信サーバの作り方のコツ
Search
Satoshi
June 23, 2016
Technology
2
430
高速な広告配信サーバの作り方のコツ
高速な配信サーバをつくるためのコツを紹介しています。
Satoshi
June 23, 2016
Tweet
Share
More Decks by Satoshi
See All by Satoshi
スケールしない広告サーバの作り方
satoshi03
0
200
Gunosy AdServerのデータ周りの話
satoshi03
2
2.7k
フルスクラッチで書いたアドサーバの開発・運用史
satoshi03
2
4.3k
Gunosy.go #2 container
satoshi03
1
54
Gunosy Go Lang Study #6 net net/http net/url
satoshi03
0
130
Other Decks in Technology
See All in Technology
ChatGPT for IT Service Management (IT Pro)
dahatake
7
1.6k
開発生産性向上サービスを作るFindyが自分たちで開発生産性を爆上げした組織づくりの歩み / Findy's path to boosting its own development productivity 2024-04-17
ma3tk
3
660
サーバー間 GraphQL と webmock-graphql の話 / server-to-server graphql and webmock-graphql
qsona
2
190
開発パフォーマンスを最大化するための開発体制
ham0215
2
400
アクセシビリティを考慮したUI/CSSフレームワーク・ライブラリ選定
yajihum
2
1k
レガシーをぶっ壊せ。AEONで始めるDevRelの話 / Qiita Night 2024-2-22
aeonpeople
3
1.3k
一生覚えておきたい「システム開発=コミュニケーション」〜初めての実務案件振り返りLT〜
maimyyym
0
140
KubeConにproposalを送りたい人へのアドバイス
sat
PRO
3
250
APIファーストなプロダクトマネジメントの実践 〜SaaSus Platformでの例〜 / "Practicing API-First Product Management - An Example with SaaSus Platform
oztick139
0
100
Azureの基本的な権限管理の勉強会
yhana
0
410
複雑な構成要素を持つUIとの向き合い方 〜新・支出グラフでの実例〜 / B43 TECH TALK
nakamuuu
0
140
TechFeed Experts Night#27 〜 フロントエンドフレームワーク最前線 (Svelte)
baseballyama
1
490
Featured
See All Featured
Build The Right Thing And Hit Your Dates
maggiecrowley
24
2k
Happy Clients
brianwarren
92
6.4k
CSS Pre-Processors: Stylus, Less & Sass
bermonpainter
352
28k
KATA
mclloyd
15
12k
Typedesign – Prime Four
hannesfritz
36
2.1k
For a Future-Friendly Web
brad_frost
172
9k
Cheating the UX When There Is Nothing More to Optimize - PixelPioneers
stephaniewalter
274
13k
It's Worth the Effort
3n
180
27k
The Cult of Friendly URLs
andyhume
74
5.7k
Imperfection Machines: The Place of Print at Facebook
scottboms
260
12k
Distributed Sagas: A Protocol for Coordinating Microservices
caitiem20
322
20k
10 Git Anti Patterns You Should be Aware of
lemiorhan
648
58k
Transcript
高速な広告配信サーバの作り方 のコツ GUNOSY inc. 印南 聡志
自己紹介 • 印南聡志(いんなみ さとし) • Gunosyのアドエンジニア (3年目) –
Gunosyのアド配信サーバ周り全般担当 • 言語 – Go – Python • マイブーム – AJINOMOTOの冷凍餃子 – 大食い(視るだけ) • 参照 – Blog:NO AD NO LIFE(hBp://inchom.hatenadiary.jp/) – Github:hBps://github.com/satoshi03
広告配信サーバって?
配信サーバ (API) バッチサーバ 広告情報 (キャッシュ) とても簡単な仕組み 広告情報
(元データ) ELB 広告 リクエスト
広告配信による収益の最大化 目的
収益 広告選択 応答性能 可用性
高速な広告配信サーバって?
50ms or die 某社
リプレース時の要求性能 1リクエストの応答時間: 50ms 以内 リクエスト数:
10,000req/sec
リプレース後のサーバ性能は?
5ms
1リクエストの応答時間: 5ms リクエスト数:
10,000req/sec 以上
(あたり前だけど忘れがちな) 広告配信サーバを高速化するコツ
1. ボトルネックをつくらない
配信サーバ Redis これまでの問題 リクエスト増
中央の共有DBを作らない
配信サーバ LevelDB S3 バッチサーバ ダウンロード アップロード
共有DBが必要な場合は Writeを集約
配信サーバ Redis Master Redis Slave Redis Slave READ WRITE Sync
バッチサーバ (ログ集約)
プロセスキャッシュを導入
配信サーバ Redis Master Redis Slave Redis Slave READ WRITE Sync
取得したデータを 一定期間保持
2. APIサーバは薄く
これまでの問題 • APIサーバ側で複雑な入札ロジックを実装 – 複数の入札ロジック – 逐次スコアを計算 – 複雑なバリデーション
• Python (tornado) 製
対応 • API側 – Golangで実装 – やることを極限まで削減 • 広告候補の取得
• 簡単なバリデーション • バッチ側で複雑な処理を一括で計算 – Python
3. 応答性能を常時計測
問題 • 様々な性能劣化の原因 – 機能追加/改修 – データの増加 – アクセス傾向の変化
負荷試験をかけて性能劣化を防止
LOCUST • Python製の分散負荷計測ツール – テストのシナリオをPythonで記述 – Web UI の管理画面
– 管理が容易
LOCUST 構成 ・・・ Locust slave Locust master 広告配信 サーバ ・・・
シナリオに応じてリクエストを 生成 Slaveを管理
None
4. コードのチューニング
問題 実際に実行すると処理速度が遅い…
pprof • Goのプロファイラ – 関数ごとのCPU処理時間を計測 – グラフ描画 • 重い処理を視覚的に発見しやすい
見つかった問題 • 様々な原因 – ライブラリ内の実装 – 入札時の広告の探索範囲が広い – バリデーションのコスト
– データキャストのコスト – オブジェクト生成のコスト – DB接続時のコスト – ログ出力コスト
対策を全部うってもダメな場合…
5. 金で解決
金で解決の例 • Redis をやめる – DynamoDB – AeroSpike •
スケールアップで対応 – 4xlargeインスタンス…
まとめ • 広告配信サーバの高速化のコツ 1. ボトルネックをつくらない 2. APIサーバを薄く
3. 応答性能を計測 4. コードのチューニング 5. 金で解決