Fastlyのパスベースルーティングで実現するWEARのゆるやかなクラウド移行/fastly-path-routing

Transcript

1. Fastlyのパスベースルーティングで実 現するWEARのゆるやかなクラウド移 行
 株式会社ZOZO
 メディア開発本部 WEAR部
 ディレクター
 長尾 優毅 Copyright © ZOZO, Inc.
2. © ZOZO, Inc. 株式会社ZOZO
 メディア開発本部 WEAR部
 ディレクター 長尾 優毅
 2020年6月入社、WEARのSREと、WEAR開発組織のEMやっ ています。
 
 2
3. © ZOZO, Inc. https://zozo.jp/
 3 • ファッション通販サイト
 • 1,500以上のショップ、8,400以上のブランドの取り扱い
 • 常時83万点以上の商品アイテム数と毎日平均2,900点以上の新着 商 品を掲載（2021年9月末時点）
 • ブランド古着のファッションゾーン「ZOZOUSED」や
 コスメ専門モール「ZOZOCOSME」、靴の専門モール
 「ZOZOSHOES」、ラグジュアリー＆デザイナーズゾーン
 「ZOZOVILLA」を展開
 • 即日配送サービス
 • ギフトラッピングサービス
 • ツケ払い など

4. © ZOZO, Inc. https://wear.jp/
 4 • ファッションコーディネートアプリ
 • 1,500万ダウンロード突破、コーディネート投稿総数は1,100万件以上 （2021年9月末時点）
 • ピックアップタグから最新のトレンドをチェック
 • コーディネート着用アイテムをブランド公式サイトで購入可能
 • WEAR公認の人気ユーザーをWEARISTAと認定。モデル・タレント・デザ イナー・インフルエンサーといった各界著名人も参加

5. © ZOZO, Inc. 本日お話しする内容
 5 弊社テックブログにも同タイトルで記事を投稿しておりますが、その後システム構成に変更が入っ ているため、ブログの内容と若干異なる点があることご了承ください。 https://techblog.zozo.com/entry/cloud-migration-of-wear-with-fastly
6. © ZOZO, Inc. 本日お話しする内容
 1. WEARのシステム構成と課題
 2. ゆるやかなリプレイスを行うためのシステム構成
 3. Fastlyの設定
 4. Fastly導入時に発生した課題
 5. Fastlyの運用事例
 6. まとめ
 
 6
7. © ZOZO, Inc. WEARのシステム構成と課題
 7
8. © ZOZO, Inc. 2013年リリース当初のシステム構成
 8
9. © ZOZO, Inc. 課題
 9 • VBScriptエンジニアの採用が困難
 • 開発効率、保守性が低い（開発スピードが遅い）

10. © ZOZO, Inc. リプレイスに着手
 10 • 2019年からバックエンドAPIのリプレイス開始
 • 2020年からPC/SP WEBのリプレイス開始

11. © ZOZO, Inc. 最終的に目指すところ
 11 • オンプレ環境からの脱却
 • VBScriptからの脱却

12. © ZOZO, Inc. ゆるやかなリプレイスを行うためのシステム構成
 12
13. © ZOZO, Inc. ゆるやかなリプレイスを行うためのシステム構成
 13 AWS On-Premise
14. © ZOZO, Inc. 技術スタック（2020年）
 14
15. © ZOZO, Inc. 技術スタック（現在）
 15
16. © ZOZO, Inc. Fastlyを採用した理由
 16 • 設定反映が速い
 • 設定の難易度が低い
 • Anycast Addressが払い出される

17. © ZOZO, Inc. Fastlyの設定
 17
18. © ZOZO, Inc. パスベースルーティング
 18
19. © ZOZO, Inc. パスベースルーティングの設定 - Edge Dictionaries
 19 table path_routing_dict {
 "/path1": "aws",
 }
 
 if (table.contains(path_routing_dict,req.url.path)) {
 set req.backend = backend1;
 } else {
 set req.backend = backend2;
 }
 

20. © ZOZO, Inc. パスベースルーティングの設定 - 前方一致で判定
 20 if (req.url.path ~ "^/path1/") {
 set req.backend = backend1;
 } else {
 set req.backend = backend2;
 }

21. © ZOZO, Inc. Fastly導入時に発生した課題
 21
22. © ZOZO, Inc. オンプレ環境のロードバランサー動作
 
 22
23. © ZOZO, Inc. 23 オンプレ環境のロードバランサー動作
 

24. © ZOZO, Inc. オンプレ環境のロードバランサー動作
 24
25. © ZOZO, Inc. Fastlyのない構成：クライアントとLoad BalancerでKeep-Aliveが確立する
 25
26. © ZOZO, Inc. Fastlyのある構成：Fastly EdgeとLoad BalancerでKeep-Aliveが確立する
 26
27. © ZOZO, Inc. Fastlyのある構成：クライアントは同じEdgeを経由する保証が無い
 27
28. © ZOZO, Inc. Fastlyのある構成：クライアントは同じEdgeを経由する保証が無い
 28
29. © ZOZO, Inc. 判定ロジックの誤認識
 29 この分岐処理があることに 気づいていなかった この部分だけの判定 ロジックだと思っていた
30. © ZOZO, Inc. 解決策
 30 • ロードバランサの判定ロジックを変更する
 • FastlyでKeep-Aliveを無効化する

31. © ZOZO, Inc. Keep-Aliveの無効化
 31 sub vcl_miss {
 # 省略
 set bereq.http.connection = "close";
 }
 sub vcl_pass {
 # 省略
 set bereq.http.connection = "close";
 }
 sub vcl_pipe {
 # 省略
 set bereq.http.connection = "close";
 }

32. © ZOZO, Inc. Keep-Aliveの無効化
 
 32
33. © ZOZO, Inc. Keep-Aliveの無効化
 33
34. © ZOZO, Inc. Keep-Aliveを無効化することでコネクションが枯渇しないのか？
 34 backend backend1 {
 
 #省略
 .max_connections = 1000;
 
 }

35. © ZOZO, Inc. Fastlyのサポート体制に感謝
 35 • 本番リリース時の待機とリアルタイムのサポート
 • Fastlyの範囲を超えた原因調査・対策の提案
 

36. © ZOZO, Inc. Fastlyの運用事例
 36
37. © ZOZO, Inc. WEARの悩み
 37 
 
 • 不正なリクエスト
 ◦ 特定のコーディネートやユーザに大量のリクエストを送信
 ◦ サイト全体を定期的にクロール
 • オペレーションの負荷
 ◦ 監視
 ◦ 都度判断して手動でブロック

38. © ZOZO, Inc. Edge Rate Limiting（Limited Availavility）
 38 
 
 • Edgeで設定できるRate Limit機能
 • サーバ/コンテナにクライアントを入れる必要がない

39. © ZOZO, Inc. penalty boxとrate counterを宣言
 39 
 
 
 penaltybox pb {}
 ratecounter rc {}

40. © ZOZO, Inc. Rate Limitの設定
 40 
 
 60(window) * 10(limit) / 1(delta) = 60秒間に600件以上同じIPアドレスからリクエストがきたら、 PenaltyBoxにentryの値が入る
 unset req.http.x-penalized;
 set req.http.x-penalized = ratelimit.check_rate(
 req.http.Fastly-Client-IP, # entry
 rc, # Rate Counter to be used
 1, # delta
 60, # window
 10, # limit
 pb, # Penalty Box to be used
 1m # The penalty box. must be between 1m to 1h
 );
 
 

41. © ZOZO, Inc. Rate Limitの設定
 41 
 
 1分経ったらPenaltyBoxの値が解放される
 unset req.http.x-penalized;
 set req.http.x-penalized = ratelimit.check_rate(
 req.http.Fastly-Client-IP, # entry
 rc, # Rate Counter
 1, # delta
 60, # window
 10, # limit
 pb, # Penalty Box 
 1m 
 );
 
 

42. © ZOZO, Inc. Rate Limitの設定
 42 
 
 RateLimitに引っかかった場合の動作
 if (req.http.x-penalized == "1") {
 error 404 "rl Not found";
 }
 
 

43. © ZOZO, Inc. Edge Rate Limitingのダッシュボード
 43
44. © ZOZO, Inc. まとめ
 44
45. © ZOZO, Inc. まとめ
 45 • 既存環境に新しいリソースを組み込むことから、想定外の挙動は発生するものだと 考え、柔軟に対応できるサービス・体制で準備することが大事
 • Fastly導入により、できることの幅が広がったので積極活用していく
 • 各社状況は異なると思いますがWEARの導入事例が参考になれば幸いです
 

46. © ZOZO, Inc. 絶賛採用活動中
 46 • Webフロントエンド（TypeScript / React）
 • Android
 • iOS
 • SRE
 
 https://corp.zozo.com/recruit/mid-career/