オンデマンドインスタンスを極限まで減らしたらこうなった

2019/07/11（木）開催の「X-Tech JAWS 【第8回】~時代を突き抜けるX-Tech企業の真髄~」にて発表した資料です。

1. オンデマンドインスタンスを 極限まで減らしたらこうなった 株式会社ナビタイムジャパン 田中 一樹
2. 自己紹介 田中 一樹（たなかかずき） 株式会社ナビタイムジャパン • 2013年新卒入社 • 2017年〜クラウド担当
3. ナビタイムジャパンのAWS利用
4. AWS利用が増えるに連れ費用が爆増
5. バックエンド構成 AppServer API Server 経路探索 Server 地図配信 Server データ
6. サーバ系はECSで運用＝EC2費用が爆増
7. よくある話
8. よくある話 ECSからFargateに移行したら安くなった！
9. よくある話 ECSからFargateに移行したら安くなった！ Fargate使ったらインスタンスの管理しなくて良 くなった！
10. よくある話 ナビタイムジャパンではFargate使ってません
11. よくある話 ナビタイムジャパンではFargate使ってません 使えなかった
12. • ストレージが10GB ⇒地図データ/探索データでそれぞれ数十GB必要 Fargateを使うと
13. Fargateを使うと • ストレージが10GB ⇒地図データ/探索データでそれぞれ数十GB必要 • ECSのときと必要な台数が変わらない ⇒約1.2倍・・・費用がかさむ・・・
14. Fargateを使うと • ストレージが10GB ⇒地図データ/探索データでそれぞれ数十GB必要 • ECSのときと必要な台数が変わらない ⇒約1.2倍・・・費用がかさむ・・・ • 社内で移行が進んできたが、障害時の調査においてクラ ウドネイティブにはなってない ⇒調査に時間がかかりそう＝運用工数Up
15. もう、EC2の費用を下げるしかない・・・ 可用性を下げて台数減らす・・・？
16. もう、EC2の費用を下げるしかない・・・ 可用性を下げて台数減らす・・・？ Reserved Instance Spot Instance
17. Reserved Instance & Spot Instance • EC2インスタンスと共生するには必須 • Reserved Instance ◦ 年間契約することで30%〜の割引 • Spot Instance ◦ 途中で落とされるリスクを許容することで90%〜の割 引
18. • ナビタイムジャパンでは毎年たくさん購入 ◦ RI Utilization：90%〜 ◦ RI Coverage：80%〜 • 確保しにくいインスタンスはAZごとに購入 Reserved Instance
19. • 価格はオンデマンドインスタンスの半分程度で入札 ◦ 最近高騰してなかったので • SpotFleetで管理 ◦ スケーリング条件をOndemandとは別に管理 ◦ 管理が面倒に ▪ うまくスケーリングしないことも・・・ Spot Instance
20. • 今まで ◦ Ondemand Instance：AutoScaling Groupで管理 ◦ Spot Instance：Spot Fleetで管理 面倒・・・ ◦ ASG/SpotFleetそれぞれでスケーリング条件を設定 ◦ 管理が煩雑 Reserved Instance & Spot Instance https://aws.amazon.com/jp/blogs/news/ec2-fleet-manage-thousands-of-on-demand-and-spot-instances-with-one-request/
21. • AutoScaling GroupでOndemandもSpotも起動可能 • Ondemandの台数、割合が指定できる ◦ オンデマンドベース ▪ 何台オンデマンドで起動するか ◦ オンデマンド割合 ▪ オンデマンドベースを超えた際に どれだけオンデマンドを 起動させるか EC2フリート
22. • インスタンスタイプも複数指定可能 ◦ 基本的に先頭から順に起動しようとする ◦ 万が一、先頭のインスタンスタイプが起動できなければ 後続のインスタンスタイプが選択される EC2フリート
23. EC2フリート良さそうや・・・ よし、Ondemand ZEROにしよう。
24. こうやった CPUベースでスケールアウトするので 同じコア数 先頭はRI購入したインスタンスタイプ
25. こうやった CPUベースでスケールアウトするので 同じコア数 先頭はRI購入したインスタンスタイプ オンデマンドベース ＝RI購入台数
26. こうやった CPUベースでスケールアウトするので 同じコア数 先頭はRI購入したインスタンスタイプ オンデマンドベース ＝RI購入台数 オンデマンド割合0% ＝RI購入分以外すべてSpot
27. こうやった CPUベースでスケールアウトするので 同じコア数 先頭はRI購入したインスタンスタイプ オンデマンドベース ＝RI購入台数 オンデマンド割合0% ＝RI購入分以外すべてSpot RI5台、Spot3台 Ondemand ZERO!!!
28. 結果 変更前 変更後 OnDemand が減った！！！！
29. 結果 変更前 変更後 あれ・・・ 増えてる・・・？
30. • インスタンスタイプは極力先頭のインスタンスタイプで 起動しようとする ◦ 起動できないと後続のインスタンスタイプを使う ◦ RIで購入してないインスタンスタイプでOndemand 起動する可能性がある・・・ ◦ RIが指定できるようにして欲しい・・・ 結果
31. • EC2フリートを使うことでRI+Spotだけの構成が簡単に作 れる • 予想外のOndemand Instance起動とかに注意 • ECSのDraining処理はちゃんと入れておく ◦ Spot Instanceは余裕で落ちる ◦ 落ちたときのDraining処理とかはちゃんとしておく 参考）https://logmi.jp/tech/articles/320723 まとめ
32. ご清聴ありがとうございました