ノイジーネイバー問題を解決する公平なキューイング

ノイジーネイバー問題を解決する  公平なキューイング  Shoichi Ochi （@occhi）  Gotanda.rb  2026-01-28 

2 SmartBank, Inc.   Software Engineer   越智翔一  @ochi11181101 
@sho-work  おちしょういち  自己紹介 

4 今回お話しするのは、  個人的にやっているシステム設計の勉強で学んだこと 

5 「ノイジーネイバー問題」というワード、  時折聞きませんか？ 

6 ノイジーネイバー問題とは？  ノイジーネイバー問題とは、マルチテナント環境において、あるテナント（隣人 = ネイバー）のリソース使用が他のテナントのパフォーマンスに悪影響を与える現象のこと。    
長時間実行されるバックグラウンドジョブで問題になりやすい。  （昨今トレンドになっている LLMを用いたプロダクトでは問題になることが多い）   引用元①: https://densumesh.dev/blog/fair-queue/  引用元②: https://zeroﬁlter.medium.com/noisy-neighbor-problem-in-multi-tenant-systems-explained-brieﬂy-3788ae5e9d5b 

7 引用元: https://densumesh.dev/blog/fair-queue/  enqueueされたClient 3の処理が長時間dequeueされないケース 

8 一般的な解決手段  ・クライアントのスロットリング    ・公平なキューイング 

9 クライアントのスロットリング 

10 クライアントのスロットリング  テナント毎に一定時間あたりに処理できるジョブの数を制限する   

11 引用元: https://github.com/Envek/sidekiq-fair_tenant  sidekiqを使っている場合はsidekiq-fair_tenantというgemがある  クライアントのスロットリング 

12 あるテナントが先にかなりの数enqueueしていると、他のテナントが影響を受ける  クライアントのスロットリング  課題 

13 公平なキューイング 

14 👎公平なキューイングなし  👍公平なキューイングあり  引用元: https://docs.aws.amazon.com/AWSSimpleQueueService/latest/SQSDeveloperGuide/sqs-fair-queues.html  公平なキューイング 

15 今回は公平なキューイングの実現手段に焦点を当てます！ 

16 まずは公平なキューイングの処理の流れを考える🤔 

17 右図のように、テナント毎にキューを分けて、メッセージを管理する。     その上で、デキューの度にテナントを公平に選択し、当該テナントのメッセージを取り出すようにすれば実現できそう。   公平なキューイングの実現 

18 右図のように、テナント毎にキューを分けて、メッセージを管理する。     その上で、デキューの度にテナントを公平に選択し、当該テナントのメッセージを取り出すようにすれば実現できそう。   公平なキューイングの実現 

19 テナント選択ロジックを考える🤔 

20 テナント選択ロジック  ・ラウンドロビン      ・ランダムセレクション    引用元: https://docs.aws.amazon.com/AWSSimpleQueueService/latest/SQSDeveloperGuide/sqs-fair-queues.html  公平なキューイングの実現 

21 ラウンドロビンの場合 

22 ラウンドロビン  ・厳密な「順番待ち行列」のイメージ   （選択されると次は最後尾に追加される）       引用元:
https://www.qnx.com/developers/docs/8.0/com.qnx.doc.neutrino.sys_arch/topic/kernel_Round_robin_scheduling.html  公平なキューイングの実現 

23 ・tenants.last_dequeued_at が古い順にテナントを選択する             ・デキューの度に、
tenants.last_dequeued_atを更新する。        ラウンドロビンの場合の設計（RDBMSベース） 

24 ・tenants.last_dequeued_at が古い順にテナントを選択する             ・デキューの度に、
tenants.last_dequeued_atを更新する。        ラウンドロビンの場合の設計（RDBMSベース） 

25 ・tenants.last_dequeued_at が古い順にテナントを選択する             ・デキューの度に、tenants.last_dequeued_atを更新する 
      ラウンドロビンの場合の設計（RDBMSベース） 

26 ・Redisでも実現できます。（ここでは割愛）   ・broccoliというRustのライブラリが同じアルゴリズムで実現されています。   https://github.com/densumesh/broccoli        ラウンドロビンの場合の設計（Redisベース） 
引用元: https://densumesh.dev/blog/fair-queue/ 

27 ランダムセレクションの場合 

28 ランダムセレクション  その都度の「抽選箱」のイメージ  公平なキューイングの実現 

29 ・ランダムにtenantsレコードを一件取得する           ランダムセレクションの場合の設計（RDBMSベース） 

30 ・ランダムにtenantsレコードを一件取得する           実はこのクエリ、テナントの数が少ないうちは高速だが、数が増えるとパフォーマンスが悪化する   （indexが使えず、テーブルスキャンが発生するので、高コストなソートになる）
  ランダムセレクションの場合の設計（RDBMSベース） 

31 ・ランダムにtenantsレコードを一件取得する           SQLアンチパターン「16章ランダムセレクション」が参考になります
☝  （時間の関係上、クエリの改善案は割愛）   引用元: https://www.oreilly.co.jp/books/9784814400744/  ランダムセレクションの場合の設計（RDBMSベース） 

32 ・ランダムにtenantsレコードを一件取得する（改善 version）          ランダムセレクションの場合の設計（RDBMSベース） 

33 ランダムセレクションの場合の設計（Redisベース）  ・ちなみにRedisベースでも実現できそう   　・テナント選択時は SRANDMEMBER を使う  　・メッセージは LPOP queue:tenant_202
で取得する  　・テナントのメッセージが無くなったら SREM で、テナントIDをセットから削除   

34 テナント選択ロジック  ・ラウンドロビン      ・ランダムセレクション    引用元: https://docs.aws.amazon.com/AWSSimpleQueueService/latest/SQSDeveloperGuide/sqs-fair-queues.html  公平なキューイングの実現 

35 テナント選択ロジックの比較  公平なキューイングの実現 

まとめ 

37 まとめ  ・ノイジーネイバー問題とは？  ・解決する方法  ・スロットリング  ・公平なキューイング  ・公平なキューイングの実現手段  ・ラウンドロビン  ・ランダムセレクション 

38 オチ（occhiだけに！） 

39 まとめ  ベンダーロックインを気にしないなら、  SQS使った方が楽かな・・・ 

ノイジーネイバー問題を解決する  公平なキューイング  Shoichi Ochi （@occhi）  Gotanda.rb  2026-01-28 

ノイジーネイバー問題を解決する 公平なキューイング

ノイジーネイバー問題を解決する 公平なキューイング

More Decks by Shoichi Ochi

Other Decks in Programming

Featured

Transcript

ノイジーネイバー問題を解決する公平なキューイング

ノイジーネイバー問題を解決する公平なキューイング