High memory usage server in Go

Go Conference'19 Summer in Fukuoka の発表資料です

Transcript

1. High memory usage server in Go Go Conference ‘19 Summer in Fukuoka July 13th @haminick
2. 自己紹介 ◦ DeNAサーバサイドエンジニア ◦ 2016年 ~ ゲームプラットフォーム ◦ 2018年 ~ ◦ オートモーティブ事業部 ◦ 次世代タクシー配車アプリMOV
3. 本日の資料 twitter #gocon #fukuokago で URL共有中
4. 本日のお題 ◦ 弊社サービス紹介 ◦ 導入: 緯度経度から住所を引くアルゴリズムの話 ◦ 直面 & 想定しうる課題 ◦ マスターデータのメモリ読み込みを高速化するには ◦ データがメモリに乗り切らない場合の対策 ◦ 無停止でマスターデータを高速に切り替えるには
5. 弊社のサービス紹介 MOV
6. 地図を利用したサービスでは住所表示が ユーザの利便性向上に寄与することがある
7. どうすれば緯度経度から住所が引けるのだろう
8. 現在地が九州か本州か判定する例
9. 現在地にピンを指す ピンが九州か本州か調べたい
10. 格子状に区切る
11. 現在地がどの格子に所属するかハッシュ関数で計算
12. 格子に紐づく本州・九州の多角形データと 衝突判定を行いどちらと衝突したかで決定
13. 現在地が九州と判明 なぜ格子で切り出したか -> 多角形データを小さくして高速化する ため
14. 多角形データが九州や本州といった属性と紐付き 衝突判定ができれば緯度経度から住所判定可
15. 実際のデータでやってみる
16. とある地域の住所に紐づく多角形データをプロットした図
17. 高速に応答を返すため全てメモリにキャッシュ予定だったが メモリに乗り切るのだろうか
18. High memory usage server in Go
19. 構成
20. 課題 #1 データのメモリ読み込みに時間が 掛かる
21. データのメモリ読み込みに時間が掛かる対策 起動時の読み込みを諦め、必要になった場合だけ取得 メリット - サーバ起動時間が高速化 デメリット - サーバdeploy・再起動直後に処理が遅延しサーバが停止する可能性
22. データのメモリ読み込みに時間が掛かる対策 ファイルをアーカイブ - ファイル単位からアーカイブ単位読み込みに変更してオーバーヘッド減り 高速化
23. データのメモリ読み込みに時間が掛かる対策 ファイルフォーマットをJSONからProtocol Buffersに変更 - 4745 ns/op から 914 ns/op に高速化
24. benchmark JSON deserialize sample The Go Playground: https://play.golang.org/p/Y1NwD8KWjhF (Playgroundでは動かないソース共有のみ )
25. 課題 #2 データがメモリに乗り切らない規模 になる可能性がある
26. データがメモリに乗り切らない場合の対策 巨大な1ファイル - streamで処理 複数ファイル - 事前にメモリを確保しLRUアルゴリズムで古いデータから消す
27. LRUアルゴリズムとは Least Recently Used (LRU) はキャッシュメモリや仮想メモリが扱うデータのリソース への割り当てを決定するアルゴリズムである。対義語はMost Recently Used (MRU)。 和訳すると「最近最も使われなかったもの」つまり「使われてから最も長い時間が経った もの」「参照される頻度が最も低いもの」である。 source: https://ja.wikipedia.org/wiki/Least_Recently_Used
28. メモリ確保し古いデータをメモリから消すサンプル The Go Playground: https://play.golang.org/p/7J4qWw7fzdr
29. メモリ確保し古いデータをメモリから消すサンプル -
30. 書き込み時にLockを取る場合は読み込み処理がブロックされ全体実行速度が 落ちる。分散してキャッシュを持つと影響が最小限になる。 sharding して並列実行性能を高める The Go Playground: https://play.golang.org/p/otst7gRww35
31. メリット - メモリ使用量を制御できる - Garbage Collectionなしでメモリを使いまわせる デメリット - value ごとのsizeバラつきが大きいとメモリ効率悪化 - LRUの実装コスト重い - 既存ライブラリで解決 -> https://github.com/coocood/freecache
32. 課題 #3 サーバ起動中に高速に 新しいデータへ切り替えたい
33. データ切り替え 高速に切り替える工夫1 - キャッシュA, Bを用意しA利用中に、Bを準備し準備完了したら切り替える ことで、準備時間が長くても影響ないよう工夫した。
34. データ切り替え 高速に切り替える工夫2 - sync.RWMutex で RLock同士は排他しない仕組みを利用して、逐次処理 を最低限にして高速化する。 RLock() を利用したデータアクセス例
35. ref: https://qiita.com/y_matsuwitter/items/36565a3a53ac52732cae
36. Goを採用してここが良かった Lock, Protocol Buffers, Cache といった部品が揃っている 並列処理をシュっと書ける サーバのCPU / メモリを使いきれる
37. DeNA Go 2019年7月18日にWeb配信予定
38. twitter: @haminick GitHub: https://github.com/subc