PHP で学ぶ Cache の距離の話 / study_cache_with_php

by Ryo Tomidokoro

Slide 1

Slide 1 text

@hanhan1978 PHPで学ぶ Cacheの距離の話 PHPerKaigi 2023

Slide 2

Slide 2 text

@hanhan1978 ● 富所亮 ● 所属株式会社カオナビ BackEnd Re-architecturing Team (BERT) ● 職業バックエンドエンジニア ● ブログ https://blog.hanhans.net ● Yokohama North AM https://anchor.fm/yokohama-north-am 2

Slide 3

Slide 3 text

まずはこれを見てほしい 3

Slide 4

Slide 4 text

4 レイテンシーの表 https://colin-scott.github.io/personal_website/research/interactive_latency.html

Slide 5

Slide 5 text

5 本トークの目標

Slide 6

Slide 6 text

6 Cache をテーマに新しい視点を獲得してほしい

Slide 7

Slide 7 text

7 そもそも Cache とは？

Slide 8

Slide 8 text

8 https://www.weblio.jp/content/cache weblio - デジタル大辞泉

Slide 9

Slide 9 text

ようするに...... デジタルデータストア 9

Slide 10

Slide 10 text

10 Cache するとは？

Slide 11

Slide 11 text

プログラミングの文脈で Cacheすると表現した場合デジタルデータストアを使ったバッファリング 11

Slide 12

Slide 12 text

12 バッファリングとは？

Slide 13

Slide 13 text

13 https://www.weblio.jp/content/バッファリング weblio - デジタル大辞泉

Slide 14

Slide 14 text

14 バッファリング日常的にも使われている

Slide 15

Slide 15 text

例 : 宅配便 1. 荷受け場所 → 地域の中継施設 → 県の中継施設 << 大型輸送手段で一気に運ぶ >> 2. 県の中継施設 → 地域の中継施設 → 最寄の宅配便 15

Slide 16

Slide 16 text

16 宅配便におけるバッファリングバッファリング

Slide 17

Slide 17 text

17 プログラミングにおける例

Slide 18

Slide 18 text

18 プログラマーのためのCPU入門 : 第五章キャッシュメモリより CPU - 命令キャッシュ - データキャッシュ命令流の高密度化が損なわれることを緩和

Slide 19

Slide 19 text

19 Linux の仕組み : 第８章記憶階層より OS のページキャッシュ低速ストレージのアクセス速度向上のため、ファイルデータをメモリにキャッシュ

Slide 20

Slide 20 text

20 https://speakerdeck.com/hanhan1978/preload-and-jit PHP の OPCache コンパイルされた内容をメモリにキャッシュ

Slide 21

Slide 21 text

21 https://speakerdeck.com/hanhan1978/preload-and-jit CDN を使ったウェブコンテンツ配信 Akamai, CloudFront, CloudFlare エッジでの WASM とかも距離を減らす戦略の一つ

Slide 22

Slide 22 text

22 いろいろな例をみた上でキャッシュを使うパターンを考える

Slide 23

Slide 23 text

キャッシュのパターン - より近いデータストアにデータを置く - 演算結果をデータストアに置く 23

Slide 24

Slide 24 text

キャッシュのパターン - より近いデータストアにデータを置く - 演算結果をデータストアに置く 24 IOバッファ演算バッファ

Slide 25

Slide 25 text

IOバッファデータをより高速でアクセスできる場所に置く演算バッファ時間のかかる演算の処理結果を保存する 25

Slide 26

Slide 26 text

26 課題に対して適切なバッファリングを選択すること

Slide 27

Slide 27 text

27 ケーススタディ

Slide 28

Slide 28 text

PHPウェブアプリケーションの改善 28

Slide 29

Slide 29 text

29 DB クエリ結果のキャッシュデータベースの問い合わせ結果を KVS にキャッシュウェブアプリケーションで最もよく使われる Cache のパターン

Slide 30

Slide 30 text

30 プロファイラー Xhprof, Datadog, New Relic 計測できれば何でもOK

Slide 31

Slide 31 text

レイテンシを分析 31 その処理時間はデータIO ??? 演算 ???

Slide 32

Slide 32 text

レイテンシを分析 2 32 この例ではデータIO と演算をキャッシュを使うことで削減

Slide 33

Slide 33 text

設計のポイント - 計測して、レイテンシーの中身を分析 - バッファにより何を改善するのかを明確化 33

Slide 34

Slide 34 text

34 落とし穴

Slide 35

Slide 35 text

35 距離が変わらない Cache Redis 10,000 GET 600 ms MySQL 10,000 SELECT 800 ms 演算がボトルネックではない上にデータIOも距離が変わってない

Slide 36

Slide 36 text

36 距離が変わらない Cache Redis 10,000 GET 600 ms MySQL 10,000 SELECT 800 ms 演算がボトルネックではない上にデータIOも距離が変わってないレスポンスタイム向上が目的だとしたら失敗 DBコネクション数の削減なら成功 → 目的がとっても大事

Slide 37

Slide 37 text

IOバッファは距離が大事 - 元の処理の距離 - 改善後の処理の距離 37

Slide 38

Slide 38 text

PHP で使える Cache とレイテンシ - データベース 500 μs - Redis (KVS) 500 μs - ファイル 16 μs - メモリ 100 ns ( 0.1 μs) 38

Slide 39

Slide 39 text

39 レイテンシーの表 https://colin-scott.github.io/personal_website/research/interactive_latency.html

Slide 40

Slide 40 text

40 レイテンシーの表 https://colin-scott.github.io/personal_website/research/interactive_latency.html ネットワークファイルメモリ

Slide 41

Slide 41 text

41 距離を変える Redis 10,000 GET 57 ms MySQL 10,000 SELECT 800 ms 距離を変えたので IO バッファが効いた

Slide 42

Slide 42 text

おさらい Cache を使ったバッファリングで速度改善できるのは - 演算処理 - IO処理何を改善したくて Cache を使うのか？まず計測をした上で明確な目的を持つこと 42

Slide 43

Slide 43 text

おまけ 43

Slide 44

Slide 44 text

44 落とし穴２

Slide 45

Slide 45 text

Cache は要注意 - 古い情報の Cache - Cache ストアの可用性 - サンダリングハード 45

Slide 46

Slide 46 text

参考情報 - Webサービスにおけるキャッシュ戦略 - Speaker Deck https://speakerdeck.com/yusukebe/websabisuniokeru-kiyatusiyuzhan-lue - Webアプリケーションのキャッシュ戦略とそのパターン - Speaker Deck https://speakerdeck.com/moznion/pattern-and-strategy-of-web-application-caching 46

Slide 47

Slide 47 text

47 落とし穴３

Slide 48

Slide 48 text

48 Cache しないで済むならしないに越したことはない

Slide 49

Slide 49 text

PHP における Cache の注意点 - Serialize, Unserialize のコスト - Cache 機構自体が備える安全担保のコスト巨大データをキャッシュしても、データ取得後の unserialize にコストがかかるので、キャッシュの旨味が少ないときがある 49

Slide 50

Slide 50 text

Cache による処理時間削減は 0 じゃない 50 ここで Cache 取得にまつわるコストが発生している

Slide 51

Slide 51 text

51 絶対に計測して確認すること！

Slide 52

Slide 52 text

immutable_cache 52 https://pecl.php.net/package/immutable_cache apcu からメモリへの値コピーを除外したもの

Slide 53

Slide 53 text

配列1件を cache → 10,000 回取得 - apcu 55msec - immutable_cache 55msec 性能は変わらない 53

Slide 54

Slide 54 text

配列5000件を cache → 10,000 回取得 - apcu 6.4 sec - immutable_cache 67 msec 実測することで、cache 処理自体への理解も進む 54

Slide 55

Slide 55 text

55 落とし穴４

Slide 56

Slide 56 text

メモリ Cache の注意点 - 複数台構成だと Cache アウトを制御しづらい - サーバーA では最新、サーバーB では古いなどが発生キャッシュの新旧チェックや、生存期間を考慮する必要がないデータに限定するなど、工夫が必要 56

Slide 57

Slide 57 text

@hanhan1978 相談・指摘・その他　下記のTwitterアカウントにどうぞ 57