Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Speaker Deck
PRO
Sign in
Sign up for free
background jobで 気をつけないといかんところ
threetreeslight
June 22, 2016
Technology
0
43
background jobで 気をつけないといかんところ
@threetreeslight
Repro Inc.
shinjukurb #37
May 25, 2016
threetreeslight
June 22, 2016
Tweet
Share
More Decks by threetreeslight
See All by threetreeslight
Bottleneck is You
threetreeslight
0
58
Japan Office Society オフィスはスタートアップの成長を助長するのか?阻害するのか?
threetreeslight
0
42
スタートアップは見極められたくない
threetreeslight
0
20
VPoEの責務とは
threetreeslight
0
31
CiecleCIでもくもく会を支える技術
threetreeslight
0
15
Ego vs higher self
threetreeslight
0
16
Performance Hack 101
threetreeslight
0
49
複数のスタートアップを 通して得た失敗と学び
threetreeslight
0
28
How to probe prometheus & grafana. What is helm
threetreeslight
0
16
Other Decks in Technology
See All in Technology
OPENLOGI Company Profile
hr01
0
12k
データベースの発表には RDBMS 以外もありますよ
maroon1st
0
240
ChatGPT for Hacking
anugrahsr
0
4.4k
CUEとKubernetesカスタムオペレータを用いた新しいネットワークコントローラをつくってみた
hrk091
1
280
初めてのデータ移行プロジェクトから得た学び
tjmtmmnk
0
300
Cloudflare Workersで動くOG画像生成器
aiji42
1
490
ROS_Japan_UG_#49_LT
maeharakeisuke
0
220
DNS権威サーバのクラウドサービス向けに行われた攻撃および対策 / DNS Pseudo-Random Subdomain Attack and mitigations
kazeburo
5
1.2k
Logbii(ログビー) 会社紹介
logbii
0
120
LINE iOSエンジニアの日々 / LINE iOS Engineer Days
line_developers
PRO
1
150
ユーザーテストガイドライン VERSION 2.0
kouzoukaikaku
0
1.2k
Airdrop for Open Source Projects
epicsdao
0
690
Featured
See All Featured
Done Done
chrislema
178
14k
Raft: Consensus for Rubyists
vanstee
130
5.7k
Automating Front-end Workflow
addyosmani
1351
200k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
22
1.7k
A Modern Web Designer's Workflow
chriscoyier
689
180k
Infographics Made Easy
chrislema
235
17k
Typedesign – Prime Four
hannesfritz
34
1.5k
Thoughts on Productivity
jonyablonski
49
2.7k
The Invisible Customer
myddelton
113
12k
Fontdeck: Realign not Redesign
paulrobertlloyd
74
4.3k
Support Driven Design
roundedbygravity
88
8.9k
Teambox: Starting and Learning
jrom
124
7.9k
Transcript
background jobで 気をつけないといかんところ @threetreeslight Repro Inc. shinjukurb #37 May 25,
2016
※注意※ こういうときどうしました? 話です。sidekiq寄りです。
@treetreeslight Repro
What’s Repro?
マーケティングツール
カジュアルな改善アクション
献立 • 優先順位の制御 • 並列実行数・リソースの制御 • 実行順序の制御 • 信頼性の担保
優先順位の制御
background jobにまわしてユーザー体 験改善しまくりヒャッハー!
重要じゃないjobが積まれてす ぎて消化しきれない、、、
さらに • SidekiqなんでQueueで分けるが、、、 • でも共通処理として定義されたjob、呼び出 し元によって優先順位かわるんだけどどうす る?
そんなQueueのPrioritize どうします?
例えば • 突っ込むQueueを動的に変える • sidekiq起動条件変えてプロセスレベルで割 る • こういうのを使う • https://github.com/socialpandas/
sidekiq-priority
並列実行数・リソースの制御
jobで並列化しまくれば無限に スケール!!
connection数, deadlock, OOM…
そんなときどうやって 並列実行数を制御します?
例えば • サービス全体で並列実行数を制御するのであれば • redisでsemaphoreを管理したり • こういうやつも(時間があったら読む) • https://github.com/dv/redis-semaphore •
https://github.com/brainopia/sidekiq- limit_fetch • プロセス毎の同時実行数は管理したいのであれば • プロセス内にsemaphore作ってQueueのpopをblock して積み直しになるのかな?
実行順序の制御
処理を高速化するためにjobを分割 して並列実行するべさ!
job間の依存関係どうしよう
そんなときどうやって 実行順序を制御します?
例えば • 複数のjob完了を待って発火するもの • 特定のjob郡が完了していることを待つwaiting jobづく り • 逐次にjobが発火するstyle •
continuation passing styleで次のjob渡す 依存関係の定義が自明で集約されており、全体感がつかみやすい ものが良い。
例えば • background jobにworkflowでかいけつする • https://github.com/chaps-io/gush • https://github.com/thebadmonkeydev/ sidekiq-workflow •
そもそも別の仕組み使う • rundeck • http://rundeck.org/ • rukawa • https://github.com/joker1007/rukawa
信頼性の担保
background job だいぶこなれてきた!!
process downや 中断に強くしなければ
そんなときどうやって job実行の信頼性 を担保しますか?
例えば • sidekiq使ってたらsidekiq proにしちゃう • やっているのは別のqueueにコピーしてるだけ(多分) • Proのお話はsumyappさんのslide参照が良さそう • http://www.slideshare.net/SumiKoichiro/
sidekiq-pro1-rb-29th-shinjukurb • 処理の冪等性担保する • けどPush Notificationとかできないので、jobの中で 途中実行できるようにする • 依存関係のあるJobはどう途中再開させるか? • daemon作って監視させるしか無いか?
そんなつらみを乗り越えたい そんなアタナに
WE ARE HIRING NOW!!! https://www.wantedly.com/companies/repro/projects