GREE Tech Conference 2021 で発表された資料です。 https://techcon.gree.jp/2021/session/Session-6
海外展開と負荷試験グリーエンターテインメント株式会社加藤 雅
View Slide
グリーエンターテインメント株式会社 エンジニア部 所属役職：エンジニアマネージャー2017年 ファンプレックス株式会社入社サーバーエンジニアとして、いくつかのネイティブアプリの開発に参加チーフエンジニアとして、エンジニアのスケジュール調整や育成も経験現在は運営タイトルのエンジニアマネージャーとしてエンジニアのマネジメントやアサイン調整を担当自己紹介加藤 雅（かとう まさし）
アプリ海外展開事例の紹介
プリンセスコネクト！Re:Dive の英語版
本日のアジェンダ● 開発内容やインフラ構成の紹介● 負荷試験の概要● 負荷試験で発生した事例の紹介● リリース後の結果● まとめ
プリンセスコネクト！Re:Dive英語版の開発体制およびインフラ構成
IPホルダーパブリッシャー ディベロッパー3社共同運営
● クラウドサービス○ Amazon Web Services● インフラ構成○ LAMP（Linux, Apache, MySQL, PHP）● 分析ツール○ Google Cloud BigQueryインフラ構成
インフラ構成
● タイムマシン運営運営形式
Q1.プリンセスコネクト！Re:Dive 英語版の開発期間に関して
Q1.開発期間はどのくらいでしょう？● ３ヶ月● ６ヶ月● ９ヶ月● １２ヶ月
開発期間はどのくらいでしょう？ⓘ Start presenting to display the poll results on this slide.
開発期間6ヶ月(2020年)6月 7月 8月 9月 10月 11月 12月 1月α版開発期間β版開発期間RC版開発期間ソフトローンチグローバルローンチ
開発期間6ヶ月(2020年)6月 7月 8月 9月 10月 11月 12月 1月α版開発期間β版開発期間RC版開発期間ソフトローンチグローバルローンチ・開発環境構築・各種最適化
開発期間6ヶ月(2020年)6月 7月 8月 9月 10月 11月 12月 1月α版開発期間β版開発期間RC版開発期間ソフトローンチグローバルローンチ・翻訳対応・LQA・開発環境構築・各種最適化
開発期間6ヶ月(2020年)6月 7月 8月 9月 10月 11月 12月 1月α版開発期間β版開発期間RC版開発期間ソフトローンチグローバルローンチ・本番環境構築・負荷試験・翻訳対応・LQA・開発環境構築・各種最適化
開発期間6ヶ月(2020年)6月 7月 8月 9月 10月 11月 12月 1月α版開発期間β版開発期間RC版開発期間ソフトローンチグローバルローンチ・本番環境構築・負荷試験・翻訳対応・LQA・開発環境構築・各種最適化・翻訳対応・LQA・開発環境構築・各種最適化・限定地域にリリース
開発期間6ヶ月(2020年)6月 7月 8月 9月 10月 11月 12月 1月α版開発期間β版開発期間RC版開発期間ソフトローンチグローバルローンチ・本番環境構築・負荷試験・翻訳対応・LQA・開発環境構築・各種最適化・翻訳対応・LQA・開発環境構築・各種最適化・全世界リリース！・限定地域にリリース
開発期間6ヶ月(2020年)6月 7月 8月 9月 10月 11月 12月 1月グローバルローンチ・全世界リリース！α版開発期間β版開発期間RC版開発期間ソフトローンチ● 日本国内でのリリースとは異なるアクセス状況が見込まれる● グローバルに最適化した本番環境の準備が重要になる
プリンセスコネクト！Re:Dive 英語版の負荷試験の概要
● 最適化した本番インフラ構成の動作検証● インフラ構成のボトルネックの洗い出し● 分析ツールや監視ツールの機能テスト負荷試験を実施する理由
● 使用したツール○ JMeter● 選定理由○ Webに情報が多い○ セットアップが簡単○ 他プロダクトでの実績あり負荷試験の準備
負荷試験のシナリオ● シナリオとは○ ある操作や処理の一連の流れ○ チュートリアルなどの想定されるリクエストフロー
負荷試験のシナリオ● シナリオとは○ ある操作や処理の一連の流れ○ チュートリアルなどの想定されるリクエストフロー● どの程度の負荷が掛かるかの事前確認● インフラ構成のボトルネックを洗い出す
負荷試験の実行シナリオ● リセマラフロー○ チュートリアル完了までの各API● クエスト周回○ いくつかのクエストを周回実行する● アリーナの対戦相手更新○ 対戦相手更新を実行する
プリンセスコネクト！Re:Dive 英語版の負荷試験で発生した事例の紹介
負荷試験で発生した事例の紹介● 負荷試験実施時のlocalhostのmemcached挙動● localhostで使用していたmemcachedが高負荷の数値を示す● インフラ構成時のPIDファイル設定ミスにより、キャッシュデータが正しく生成されていなかった● 挙動的には正常に動いているように見え、負荷試験実施まで検知できず
負荷試験で発生した事例の紹介● 負荷試験実施時のlocalhostのmemcached挙動● localhostで使用していたmemcachedが高負荷の数値を示す● インフラ構成時のPIDファイル設定ミスにより、キャッシュデータが正しく生成されていなかった● 挙動的には正常に動いているように見え、負荷試験実施まで検知できず● localhostの設定を見直し、データが正しく生成されることを確認
負荷試験で発生した事例の紹介● シナリオ実行サーバーの調整● シナリオを実行しても、サーバーに負荷をうまい具合にかけられない● シナリオ実行サーバーのメモリ不足やjavaのGC影響により、高負荷が掛からない状態
負荷試験で発生した事例の紹介● シナリオ実行サーバーの調整● シナリオを実行しても、サーバーに負荷をうまい具合にかけられない● シナリオ実行サーバーのメモリ不足やjavaのGC影響により、高負荷が掛からない状態● シナリオ実行サーバーのスペックアップ(c4.2xlarge => m4.2xlarge)● javaのGC周りの設定見直し● シナリオ実行サーバー側もCPUなどをモニタリングできるように対応
負荷試験で発生した事例の紹介● 負荷試験中のサーバー費用に関して● 試験中は、リリース想定の台数やインスタンスクラスで稼働させる● 原因調査や土日などで、試験を実施していない間は費用かからないように調整が必要
負荷試験で発生した事例の紹介● 負荷試験中のサーバー費用に関して● 試験中は、リリース想定の台数やインスタンスクラスで稼働させる● 原因調査や土日などで、試験を実施していない間は費用かからないように調整が必要● 試験期間の中でも、実施期間/調査期間などスケジュール割りを行っておく
プリンセスコネクト！Re:Dive 英語版の負荷試験を行ったことで得たこと
負荷試験を行ったことで得たこと● ウェブサーバーの台数の最適化○ 初期に想定していた台数の1/4の台数で調整
負荷試験を行ったことで得たこと● ウェブサーバーの台数の最適化○ 初期に想定していた台数の1/4の台数で調整● サーバーの潜在能力の確認○ 理論値でどの程度の接続数まで耐えられるか
プリンセスコネクト！Re:Dive 英語版のリリース後の結果
リリース後の結果インフラ障害無く無事リリース！
リリース後の結果● 約160ヶ国に配信● リリース２ヶ月で200万DL達成！
Q2.プリンセスコネクト！Re:Dive 英語版の運営初月のリソースダウンロード量
Q2.運営初月のリソースダウンロード量は何バイト？（CDNのダウンロード量）● 3GB● 3TB（3,000GB）● 3PB（3,000,000GB）● 3EB（3,000,000,000GB）
運営初月のリソースダウンロード量は何バイト？ⓘ Start presenting to display the poll results on this slide.
リリース後の結果3.4ペタバイト(PB)
まとめ
● 負荷試験を行う大切さまとめ
● 負荷試験を行う大切さ● 蓄積されてきた知見の重要性まとめ
● 負荷試験を行う大切さ● 蓄積されてきた知見の重要性● グローバル展開の可能性まとめ
● 負荷試験を行う大切さ● 蓄積されてきた知見の重要性● グローバル展開の可能性まとめグリーエンターテインメントHPの TECH BLOG でも紹介しています！https://gree-entertainment.com/topics/3235/
この開発で得た知見を今後の開発に活かしゲーム市場を盛り上げていきたい！
53
gree_tech
akkie76
niftycorp
hiashisan
leveragestech
minorun365
aoshun7
cybozuinsideout
ouchi2501
wakamatsu_takumu
lemiorhan
tammielis
cassininazir
addyosmani
colly
jensimmons
sachag
danielanewman
geoffreycrofte
tmm1
akmur
bluesmoon
notwaldorf