RedisのCPU負荷対策パターン

Transcript

1. ͦͯ͠෺ޠ͸ Կ౓໨͔ͷRedis CPU ෛՙରࡦΛܴ͑Δ

2. None

3. RedisͷCPUෛՙରࡦ ύλʔϯ id:y_uuki Kyoto.ͳΜ͔#3

4. Redis ͔ͭͬͯ·͔͢ʁ

5. None

6. RedisͰCPUফඅ͕ϘτϧωοΫʹͳΔέʔε • ܦݧతʹඵؒ਺ສίϚϯυ໨҆ • ΫΤϦͷछྨ΍ΞΫηεύλʔϯʹΑͬͯɺ ಉ͡ϋʔυ΢ΣΞͰ͋ͬͯ΋CPUར༻཰͸ม Խ͢Δ • CPUੑೳʹΑͬͯɺಉ͡ϫʔΫϩʔυͰ͋ͬ ͯ΋CPUར༻཰͸มԽ͢Δ

7. RedisͷCPUϦιʔεফඅߏ଄ • γϯάϧεϨουͰಈ࡞͢ΔͨΊɺϚϧνί Ξ؀ڥͰ͋ͬͯ΋ɺ1CPUίΞ͔͠࢖͑ͳ͍ • MySQL/PostgreSQL͸ίωΫγϣϯ͝ͱʹ εϨου/ϓϩηεΛىಈ͢ΔϚϧνεϨο υ/ϓϩηεϞσϧ

8. RedisͷCPUෛՙͱઓ͏ͨΊʹ ͲͷΑ͏ͳ࡞ઓΛͱΓ͏Δ͔

9. εέʔϧΞοϓ εέʔϧΞ΢τ CPU1ίΞੑೳ͋͛Δ ਨ௚෼ׂ ࢀর༻εϨʔϒ ਫฏ෼ׂ - ࣗલ ਫฏ෼ׂ -

   Redis Cluster CPUෛՙ࡟ݮ RedisύΠϓϥΠϯ Lua scripting Linux RPS (Redis modules)

10. εέʔϧΞοϓ • RedisαʔόͷCPUΫϩοΫΛߴ͍΋ͷʹมߋ • EC2ͳΒc4ܥͷΠϯελϯε • ίΞ਺Λ૿΍ͯ͠΋͋·Γҙຯ͸ͳ͍ • CPUར༻཰͕90%͔Β40%ʹͳͬͨ͜ͱ͕͋Δ •

    Xeon E5-2650L v2 @1.70GHz (Ivy Bridge) • Xeon E5-2670 v3 @2.30GHz (Haswell) • CPUΫϩοΫʹରͯ͠ઢܗʹมԽ͢ΔΘ͚Ͱ͸ ͳ͍

11. CPUෛՙ࡟ݮ

12. CPUෛՙ࡟ݮ - Linux RPS • redisεϨουͱΧʔωϧͷωοτϫʔΫI/Oε ϨουΛผʑͷίΞͰॲཧ͢Δ • RPSͰύέοτॲཧΛCPU0Ͱड͚ͯ •

    redisεϨουͷCPU AffinityͰύέοτॲཧͱผ # echo ‘3’ > /sys/class/net/eth0/queues/rx-0/rps_cpus # taskset -pc 3-4 $(cat /run/redis/redis-server.pid)
13. None

14. https://speakerdeck.com/yuukit/linux-network-performance-improvement-at-hatena

15. CPUෛՙ࡟ݮ - RedisύΠϓϥΠϯ • ΫϥΠΞϯτ͕ϨεϙϯεΛ·ͨͣʹޙଓͷϦΫΤετ Λ౤ೖ͢Δ͜ͱͰɺύέοτԟ෮ճ਺ΛݮΒ͢ • ωοτϫʔΫI/OॲཧΛ·ͱΊ࣮ͯߦͰ͖ΔͷͰɺCPU ॲཧ͕ݮΔ •

    1ճͷread(2)Ͱෳ਺ͷίϚϯυΛಡΈग़ͤΔͷͰɺγ εςϜίʔϧճ਺͕ݮΓίϯςΩετεΠον΋ݮΔ • ਅͷRedisύΠϓϥΠϯ(by id:ichirin2501) https://redis.io/topics/pipelining

16. CPUෛՙ࡟ݮ - Lua scripting • ͋ΔίϚϯυͷ݁ՌΛ࣍ͷίϚϯυ͕ར༻͠ ͍ͯΔҰ࿈ͷίϚϯυྻ͸ύΠϓϥΠϯ࣮ߦ ෆՄ • Lua

    scriptingͳΒҰ࿈ͷίϚϯυྻΛluaίʔ υͱͯ͠ૹΓࠐΈɺ݁Ռ͚ͩड͚औΕΔ • ύΠϓϥΠϯಉ༷ɺΫϥΠΞϯτͱͷԟ෮ճ ਺͕ݮΓɺI/OγεςϜίʔϧΛ·ͱΊΒΕΔ https://redis.io/commands/eval
17. None

18. εέʔϧΞ΢τ

19. εέʔϧΞ΢τ-ࢀর༻εϨʔϒ • Redis͸ϚελʔɾεϨʔϒߏ੒͕ͱΕΔ • ࢀরΫΤϦΛεϨʔϒʹ޲͚ͯϚελʔͷෛՙΛ ࡟ݮ • εϨʔϒͷલஈʹϩʔυόϥϯα͕ඞཁ • MySQLͳͲͷRDBMSͰΑ͘ͱΒΕΔ࡞ઓ

    • ϨϓϦέʔγϣϯ஗Ԇʹ஫ҙ • ॻ͖ࠐΜͩ͸ͣͷσʔλ͕·ͩεϨʔϒʹ఻ൖ ͍ͯ͠ͳ͍Մೳੑ͕͋Δ

20. εέʔϧΞ΢τ- ਨ௚෼ׂ • RedisͷϚελʔϊʔυΛෳ਺༻ҙ͢Δ • ػೳA͸Ϛελʔ1Λ࢖͏ɺػೳB͸Ϛελʔ2Λ ࢖͏ • ػೳͷͿΜ͚ͩɺϚελʔϊʔυΛӡ༻͢Δίε τ͸͋Δ

    • ͋ΔҰͭػೳͷෛՙ͕ࢧ഑తͳ৔߹ʹ͸࢖͑ͳ͍ • Ωϟογϡ༻్ͳΒ͚ͦͩ͜memcachedΛར༻

21. εέʔϧΞ΢τ- ਫฏ෼ׂ • γϟʔσΟϯάͱ΋ݺͿ • ಉ͡༻్ͷ֤ΩʔΛෳ਺ͷϚελʔϊʔυʹ෼ࢄ • ΩʔͱϊʔυͷϚοϐϯάΛࣗ෼Ͱ΍Δ • Ϛοϐϯάํ๏͸༷ʑ

    • ϢʔβID xxx ͸ϊʔυYʹϚοϓ • ϢʔβID yyy ͷ৒༨͕ z ͳΒϊʔυXʹϚοϓ • γϟʔυΛ૿ݮͨ͠ͱ͖ͷσʔλ࠶഑ஔ͕೉͢͠ ͗ΔͷͰͱʹ͔͘΍Γͨ͘ͳ͍

22. εέʔϧΞ΢τ- Redis ClusterʹΑΔਫฏ෼ׂ • ࠷ऴԞٛ • Ωʔͷ෼ࢄ഑ஔͱ࠶഑ஔ/ϑΣΠϧΦʔόʔͳͲα ϙʔτ • redis-tribͱ͍͏ެࣜπʔϧͰࣗಈ࠶഑ஔ΋Ͱ͖Δ

    • ࠷௿6ϊʔυඞཁ • database͕1͔͔ͭ͑͠ͳ͍ • ෳ਺Ωʔʹର͢ΔίϚϯυ࣮ߦʹ஫ҙ • 1000ϊʔυ͙Β͍·Ͱ͸εέʔϧ͢ΔΒ͍͠

23. ເ

24. Redis modules • Redus 4.0͔ΒϞδϡʔϧػೳ͕࣮૷͞Εͨ • Redisͷ಺෦APIΛ࢖ͬͯಠࣗͷσʔλߏ଄΍ ίϚϯυΛ࣮૷Ͱ͖ΔʢΒ͍͠ʣ • ΞϓϦέʔγϣϯʹ࠷దԽͨ͠σʔλߏ଄Λ

    ࡞Ε͹ɺΊͪΌͪ͘ΌCPUޮ཰Α͘ͳΔͷͰ ͸ʁʁʁʁʁ

25. εέʔϧΞοϓ εέʔϧΞ΢τ CPU1ίΞੑೳ͋͛Δ ਨ௚෼ׂ ࢀর༻εϨʔϒ ਫฏ෼ׂ Redis Cluster CPUෛՙ࡟ݮ RedisύΠϓϥΠϯ

    Lua scripting Linux RPS (Redis modules)

26. ෺ޠ͔Βઓུ΁

27. ઓུΛཱͯΔͨΊʹ ͱΓ͏Δઓज़Λ ஌͓ͬͯ͘