LOWYAが辿った負荷対策の軌跡 〜GraphQL Cachingの実装に至るまで〜

本資料は
2023-06-24 AWS DevDay 2023で話したかった人全員救済LT会！
にて発表させていただきました。

家具ECサイトLOWYAは2020年にECパッケージからフルスクラッチで開発した自社ECへリプレースを行いました。

本スライドでは

- 自社ECシステムへリプレースする決断に至った背景
- 初のセールイベント LOWYAの日 やTV放映時に行った負荷対策の取り組みとその結果
- AWS Prototyping Programを活用して導入した、GraphQL Caching on Amazon CloudFrontの取り組みとその効果

等についてご紹介しています。

この発表から学べることとしては、

- 負荷対策における意外な盲点
- AWS Prototyping Program というサービスの概要
- LOWYAにおけるエッジコンピューティングの使い所
- Lambda@EdgeからCloudFront Functionsへの部分移行による改善効果
- GraphQL Caching on Amazon CloudFrontの仕組みとその効果

等となります。

Transcript

1. LOWYA͕ḷͬͨෛՙରࡦͷي੻ ʙGraphQL Cachingͷ࣮૷ʹࢸΔ·Ͱʙ Reject Day 2023 2023-06-24 -AWS DevDay 2023で話したかった人全員救ࡁLTձ！- גࣜձࣾϕΨίʔϙϨʔγϣϯ খݪҰਅ @kazumax55
2. ࣗݾ঺հ খݪҰਅ(Kazuma Kohara) @kazumax55 NRUG SREࢧ෦ γεςϜ౷ׅ෦ SRE෦ ෦௕ (SRE෦ = SRE group + Corporate IT group) झຯ 🏕Ωϟϯϓ 🎣௼Γ 🧖α΢φ ޷͖ͳAWSͷαʔϏε Amazon GuardDuty, AWS Security Hub ԶͨͪͷSREͱNew Relic -ॻ੶ฤ-
3. LOWYAʢϩ΢Ϡʣͱ͸ʁ 2004೥7݄ʹ෱ԬͰ૑ۀͨ͠Ո۩ɾΠϯςϦΞͷD2Cϒϥϯυ ঎඼։ൃ͔Βൢച·ͰΛҰؾ௨؏Ͱखֻ͚Δ͜ͱͰɺ τϨϯυੑͷߴ͍঎඼Λ͓ٻΊ΍͍͢Ձ֨Ͱ͓٬༷ʹఏڙ͍ͯ͠·͢ɻ 2023೥4݄8೔ ෱Ԭʹॳͷ௚ӦళΛOPEN͠·ͨ͠ʂ
4. MENU ࠓ೔͓࿩͢͠Δ͜ͱ LOWYAʹ͓͚Δෛՙରࡦͷ಺༰ͱͦͷޮՌ ࠓ೔ͷൃදͰಘΒΕΔ͜ͱ ෛՙରࡦʹ͓͚Δҙ֎ͳ໡఺ AWS Prototyping Program ͱ͍͏αʔϏεͷ֓ཁ LOWYAʹ͓͚ΔΤοδίϯϐϡʔςΟϯάͷ࢖͍ॴ
5. LOWYAͷෛՙରࡦ
6. LOWYAͷෛՙରࡦ 2004/04 ~ ओʹϞʔϧ(ָఱ/Amazon/Yahoo!)Λओମʹͯ͠ࣄۀల։ ~ 2017 ָఱࢢ৔ γϣοϓɾΦϒɾβɾΠϠʔ 7೥࿈ଓ ड৆🏆 ख਺ྉ͕໰୊ʹ…💸 2017/09 ~ ࣗࣾECαʔϏεΛελʔτ ๭ECύοέʔδϕϯμʔʹΧελϚΠζΛґཔ ͔͜͜Βෛՙͱͷઓ͍͕࢝·Γɺ਺ʑͷนʹͿ͔ͭΔ͜ͱʹͳΔ
7. ୈҰͷนɿECϕϯμʔͷน
8. ୈҰͷนɿECϕϯμʔͷน ໰୊̍ɿεέʔϥϏϦςΟ ڞ༻ḉ → ઐ༻ḉ → ෳ਺୆ߏ੒΁ঃʑʹεέʔϧΞοϓ ͔͠͠ɺΦʔτεέʔϧʹ͸ඇରԠ DB΋RDSͰ͸ͳ͘ɺԿނ͔EC2 ηʔϧͷ౓ʹɺ௥Ճඅ༻͕ൃੜ(खಈεέʔϦϯά) ͦΕͰ΋ෛՙʹ଱͑ΒΕΒΕͣɺػձଛࣦ͕ଟʑൃੜ ໰୊̎ɿΧελϚΠζͷεϐʔυײ ౎౓ݟੵ΋ΓʹΑΔରԠ ͙͢ࡁΈͦ͏ͳमਖ਼Ͱ΋ਓతϦιʔεΛઐ༗ग़དྷͳ͍ҝɺ͕͔͔࣌ؒΔ
9. ୈҰͷนɿECϕϯμʔͷน ղܾࡦɿϑϧεΫϥονͰࣗࣾ։ൃ͢Δʂ 2018/03 ࣗࣾECϦϓϨΠεϓϩδΣΫτൃ଍ʂˠ 2020/08 ϦϓϨΠε ׬ྃ ޮՌ̍ɿεέʔϥϏϦςΟ໰୊ͷղফ Amazon ECS x Fargate → ෛՙࢼݧΛ࣮ࢪ͠ɺεέʔϥϏϦςΟ΋όονϦʂ Ruby on Rails + Vue.js : GraphQL → SPAߏ੒Λ࠾༻ ޮՌ̎ɿΧελϚΠζͷεϐʔυײUP ࣗࣾ։ൃͷҝɺΤϯδχΞ͕͍ͭͰ΋։ൃՄೳʂ ͦͷଞɿFull-Stack Observability New RelicΛಋೖ → ΠϯϑϥϦιʔεҎ֎ʹ΋Backend, Frontend, Mobile App, Log ͋ΒΏΔ؍఺ʹՄ؍ଌੑΛ΋ͨͤͨ
10. ୈೋͷนɿLOWYAͷ೔
11. ୈೋͷนɿLOWYAͷ೔ 2021/06/08 LOWYAͷ೔ ࣗࣾECϦϓϨʔεޙॳͷେن໛ηʔϧΠϕϯτʢશ඼20%OFFʣ ࣄલ४උ ݁ߏڧΊͷن໛ͰΠϯϑϥ૿ڧ AuroraͷεέʔϧΞοϓ ࣗલPre-WarmingʢAPIλεΫͷ࣌ݶࣜεέʔϧΞ΢τ ݁Ռ͸ʁʁʁ
12. ୈೋͷนɿLOWYAͷ೔ͷ݁Ռ → େউར ೔঎ 5.5ԯ (લ೥ରൺ໿2ഒͷച্)Λୡ੒ʂʂ ॾʑ໰୊ൃੜͨ͠΋ͷͷɺNew RelicͷઈେͳτϥϒϧγϡʔςΟϯάޮՌͰ ໰୊Λ࠷ॳͷ30෼Ͱऩଋͤ͞Δ͜ͱ͕Ͱ͖ͨʂ
13. ୈೋͷนɿLOWYAͷ೔Ͱൃੜͨ͠4ͭͷ໰୊ͱରࡦ ໰୊̍ɿAurora PostgreSQLͷίωΫγϣϯރׇ ݪҼɿAPIλεΫͷେ෯ͳεέʔϧΞ΢τʹΑͬͯൃੜ ରࡦɿAuroraͷύϥϝʔλ max_connection ͷ஋Λमਖ਼ LEAST({DBInstanceClassMemory/9531392},5000) ͷLEASTؔ਺Λ֎ͨ͠ ໰୊̎ɿΧʔυܾࡁͷᮢ஋ɿඵܾؒࡁ਺ ݪҼɿ஫จ͕ࡴ౸͠ɺඵܾؒࡁ਺ͷᮢ஋Λ௒͑ͨͱ͍͏Τϥʔ͕ൃੜ ରࡦɿܾࡁձࣾʹඵܾؒࡁ਺ͷ্ݶ؇࿨Λґཔ
14. ୈೋͷนɿLOWYAͷ೔Ͱൃੜͨ͠4ͭͷ໰୊ͱରࡦ ໰୊̏ɿϝʔϧ഑ૹ஗Ԇ ݪҼɿ஫จ׬ྃϝʔϧͷ഑ૹೳྗΛ্ճΔ଎౓Ͱ஫จ͕ೖͬͨࣄ ରࡦɿϝʔϧ഑ૹworkerͷεέʔϧΞ΢τͰղܾ ໰୊̐ɿଟॏ஫จ ݪҼɿ஫จ׬ྃϝʔϧ஗ԆͷӨڹʢ෭൓ԠʣͰɺҰ෦ͷ͓٬༷͕ଟॏ஫จͯ͠ ͠·ͬͨ ରࡦɿಛʹͳ͠ʢ໰୊̏ͷϝʔϧ഑ૹ஗Ԇͷղফʹ൐͍ղܾʣ ͜ΕΒͷ໰୊͸શͯ New RelicͷΦϒβʔόϏϦςΟͷྗ Ͱਝ଎ʹݪҼಛఆͰ͖ͨʂ
15. ୈࡾͷนɿTV์ө
16. ୈࡾͷนɿTV์ө 2021/08/11 ࠓ໷͘Β΂ͯΈ·ͨ͠์ө Ո۩޷͖ͷ;ͳͬ͠ʔ͕TV൪૊಺ͰLOWYAѪΛޠͬͨ ࣄલ४උ ͲΕ͘Β͍ͷΞΫηε͕དྷΔ͔͸ෆ໌ μϝݩͰAWSαϙʔτʹฉ͍ͯΈ͚ͨͲ౴͑ͯ΋Β͑·ͤΜͰͨ͆͠ (ྑ͍ࢠ͸ਅࣅ͠ͳ͍ͰͶ LOWYAͷ೔ͷഒͷن໛ʹΠϯϑϥ૿ڧ AWS΁ALBͷPre-Warmingਃ੥ ݁Ռ͸ʁʁʁ
17. ୈࡾͷนɿTV์өͷ݁Ռ → ࢂഊ LOWYAͷ೔ͷഒҎ্ͷಉ࣌ΞΫηε͕ൃੜ͠Ұ࣌తʹ503ΤϥʔΛग़ͯ͠͠·ͬͨ ݪҼɿLambda@Edgeͷᮢ஋Λ௒͑ͨ͜ͱ (ඵؒ1ສϦΫΤετɺಉ࣮࣌ߦ਺1ઍ AWSʹ্ݶ؇࿨ͯ͠໯͏ඞཁ͕͋Δ → ٸ͗ͷରԠ͸ෆՄೳ ෛՙ͕མͪண͘·ͰԿ΋͢Δ͜ͱ͕Ͱ͖ͣɺչ͍݁͠Ռͱͳͬͨ Ҏޙɺࣾ಺Ͱ͸ “;ͳͬ͠ʔ๒” ͱݺ͹ΕɺڪΕΒΕ͍ͯΔ
18. ୈࡾͷนɿ;ͳͬ͠ʔ๒Ͱൃੜͨ͠໰୊ͱରࡦ ໰୊1:Lambda@Edgeͷᮢ஋্ݶ໰୊ ݪҼɿը૾ϦαΠζ΍ηΩϡϦςΟܥϔομͷ෇༩Ͱར༻͍ͯͨ͠L@E ͷᮢ஋Λ௒͑ͯ͠·ͬͨ ରࡦɿ AWSʹ্ݶ؇࿨ਃ੥Λґཔ 1 ඵ͋ͨΓͷϦΫΤετ 10,000 -> 100,000 ಉ࣮࣌ߦ਺ 1,000 -> 10,000 ΞϥʔτઃఆΛ௥Ճ(LambdaͷThrottle౳)
19. ୈࡾͷนɿ;ͳͬ͠ʔ๒Ͱൃੜͨ͠໰୊ͱରࡦ ໰୊̎ɿը૾͖ͭPush௨஌࣌ɺThrottle͕ൃੜ͍ͯͨ͠ࣄ͕൑໌ ݪҼɿେྔಉ࣌ΞΫηε࣌ʹ͸L@Eͷىಈ͕௥͍͔ͭͳ͍ Push௨஌͸ߴ଎ʹҰ੪഑৴Ͱ͖ɺϢʔβʹಧ͍ͨ࣌఺Ͱը૾ʹΞΫηε͕ൃੜ͢Δ L@Eͷىಈ͕௥͍͔ͭͣίʔϧυελʔτ͕ൃੜ=Throttle͕ى͖͍ͯͨ ରࡦɿL@Eͷϔομ൑ఆॲཧΛCloudFront FunctionsʹҠߦ͢ΔࣄͰ߃ٱରԠ CF2͸੍໿΋ଟ͍͕ίεύ΋ྑ͘ɺPre−WarmingෆཁͰඵؒ਺ඦສΞΫηεʹ΋଱͑Β ΕΔΑ͏ʹͳΓɺ࠷దԽͰ͖ͨ ࢀߟɿAmazon Web Servicesϒϩά Amazon CloudFront & Lambda@Edge Ͱը૾ΛϦαΠζ͢Δ
20. ͦͷޙͷෛՙରࡦ
21. ࠓޙͷෛՙରࡦ Կ͔؆୯͔ͭඈ༂తʹվળ͢Δख͸ͳ͍͔?? ͤ΍ʂCDNΛ͔·ͯ͠ϦΫΤετΛΩϟογϡʹԠ౴ͤ͞ΔΜ΍ʂ ୭͕ݟͯ΋ಉ͡಺༰ͷϦΫΤετΛຖճαʔόʹॲཧͤͨ͘͞ͳ͍ Ͱ͖Ε͹͋·Γ࣮૷͸ม͑ͨ͘ͳ͍ GraphQL Caching΍ʂ
22. GraphQL Cachingͷྑ͍఺ ϨΠςϯγͷ࡟ݮ ωοτϫʔΫతʹ͍ۙΤοδ͔ΒɺΦϦδϯʹॲཧͤ͞Δ͜ͱͳ͘ϨεϙϯεΛฦͤΔ ਺ඦmsec -> ਺ेmsec ͷ࡟ݮ ίετ࡟ݮ ຖճϖʔδΛදࣔ͢Δ౓ʹݺͼग़͞Ε͍ͯͨ΋ͷ͕ Ωϟογϡظؒ෼ͷ1ճ ʹݮΔ ྫɿ100tpsͷAPIΛ60ඵΩϟογϡ = 6000ճ -> 1ճͷ࡟ݮ ϦΫΤετ਺ͷେ෯ͳݮগ → APIλεΫ਺ͷεέʔϧΠϯ → ίετ࡟ݮ Ωϟογϡ؅ཧָ͕ CDNଆͰTTL, Invalidation͕Ұݩ؅ཧͰ͖Δ
23. GraphQL Cachingͷѱ͍఺ GraphQL͸શͯͷϦΫΤετ͕POST͔ͭ1ͭͷύεʹରͯ͠དྷΔҝɺΩϟογϡ͠ਏ͍ ύε͕1͔ͭͩΒΩϟογϡͷ෦෼తͳ࡟আ(Invalidation)͕Ͱ͖ͳ͍ ଞਓͷ৘ใ͕ݟΕͯ͠·͏๫࿐໰୊ͷରࡦʹ஫ҙ͕ඞཁ ৘ใ͕গͳ͍:Akamai, Cloud fl are, GraphCDN, Fastly Cloud fl are WorkersͰGraphQLϦΫΤετΛΩϟογϡͯ͠30msͰฦ͢Α͏ʹͨ͠࿩ Cloud fl are Workers(Lambda@Edgeతͳ΋ͷ)+KVSͰ࣮ݱͨ͠ͱ͍͏ࣄྫ Good > Bad க໋తͳBadϙΠϯτ͸ແ͠ɻ࣮ݱʹ޲͚ຊ֨తͳݕ౼Λ։࢝
24. GraphQL Cachingͷௐࠪ AWS ୲౰SA͞Μʹ΋૬ஊ લʑ͔ΒCloudFrontͰGraphQLΛΩϟογϡ͍ͨ͠ΜͰ͢Αͱ૬ஊ͍ͯͨ͠ ଞͷCDNͰ࣮ݱ͠Α͏ͱࢥ͍ͬͯΔͱਖ਼௚ʹ࿩ͨ͠ ηΩϡϦςΟ౳΋શ෦ͻͬ͘ΔΊͯҠߦݕ౼Λ͢͢Ί͍ͯΔͱ AWSͷιϦϡʔγϣϯͰ࣮ݱͰ͖ͳ͍͔ݕ౼ͤͯ͞Լ͍͞ͱͷࣄ ਺࣌ؒޙɺ”Prototyping Program͸͝ଘ஌Ͱ͔͢ʁ"ͱ
25. Prototyping Programͱ͸ʁ AWS͕Ϣʔβͷ୅ΘΓʹϓϩτλΠϓΛ։ൃ͠ɺఏڙͯ͘͠ΕΔಛผͳϓϩάϥϜ(ͳΜͱແঈͰʂ) ੋඇ͓ئ͍͠·͢ʂͱଈ౴ ͦΕ͔ΒεϐʔσΟʹ࿩Λ͢͢Ίແࣄʹೲ඼ AWS͕EdgeεϖγϟϦετSAͱ΋૬ஊ͠ɺઃܭͨ͠GraphQL CachingͷΞʔΩςΫνϟͱ͸ʁʁ
26. GraphQL Caching on Amazon CloudFront ΊͬͪΌγϯϓϧʂʂ ίʔυɿaws-samples / amazon-cloudfront-cache-graphql ࣮ࡍ͸ΧελϚΠζ͕ඞཁ ՝୊ྫɿ๫࿐໰୊ɺωΨςΟϒΩϟογϡɺΫϥΠΞϯτͷIP͕औΕͳ͍ɺOrigin͕෇༩ͨ͠ϔομ͕ফ͑Δ … etc ղܾࡦ͸࣍ͷهࣄࢀরɿGraphQL caching ᶅϓϩμΫγϣϯϦϦʔε·Ͱʹղܾͨ͠՝୊ɺಋೖʹΑΔޮՌ
27. GraphQL CachingͷޮՌ
28. ·ͱΊ
29. ෛՙରࡦɿ·ͱΊ ҙ֎ͳͱ͜Ζʹ໡఺͕͋Δ ීஈ͔ΒෛՙΛؾʹ͍ͯ͠ΔՕॴ͸͋·Γ໰୊ͳ͍ ͦ͏͡Όͳ͍ॴʹ஍ཕ͕͋Δ(ᮢ஋౳) Observerbility͕ॏཁ Կ͔໰୊͕͋ͬͨ࣌ʹ͙͢ݪҼಛఆͰ͖Δঢ়ଶʹ͓ͯ͘͠ APIΩϟογϡΛݕ౼ ୭͕Έͯ΋ಉ͡Ԡ౴Λฦ͢API͸ΩϟογϡʹԠ౴ͤ͞Δ ͖ͬͱେ͖ͳޮՌΛੜΉ͸ͣ