短期間で大量の仮想ルーターの展開するお作法

47982be7ff38d38f65eb179dbdfb24f5?s=47 KATSUYA
September 26, 2020

 短期間で大量の仮想ルーターの展開するお作法

NETCONやJANOGハッカソン等のイベントで短期間で大量の仮想ネットワークを提供してきました。その中身やお作法を公開したいと思います。

47982be7ff38d38f65eb179dbdfb24f5?s=128

KATSUYA

September 26, 2020
Tweet

Transcript

  1. @katu7414 Cisco systems G.K. 2020/09/26 短期間で大規模な仮想ネットワークの 展開のお作法

  2. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential • 登壇者は、Cisco Systems G.K.に所属していますが本セッション では所属会社の特定のサービスについてお話するものではござい ません。 • ネットワークエンジニアの勉強法の一つとしてこれまでイベント を開催してきた知見を共有させてもらって議論できれば良いと考 えています。 はじめに:目的
  3. Self-introduction(katshima) • 嶋 勝也(しま かつや) • 出身 大阪 • 本業

    釣り師 • 趣味はゲーム(大会出たりし てます) • 最近の夢はヒラマサ釣ること @katu7414 @Katsuya414
  4. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential 最近の釣果 伊豆大島にて カンパチ イサキ アカハタ 東京湾にて 1.5kgの真鯛
  5. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential • NETCONやJANOGハッカソン等のイベントで短期間で大量の仮想ネ ットワークを提供してきました。その中身やお作法を公開したいと 思います。 • また一部資料はNETCONメンバーにも作ってもらっています。 概要
  6. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential © 2019 Cisco and/or its affiliates. All rights reserved. Cisco Confidential © 2019 Cisco and/or its affiliates. All rights reserved. Cisco Confidential NETCONって?
  7. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential NETCONについて ネットワーク界隈 を盛り上げたいと 始めた企画 01 既に出来上がって いるトラブルが起 きているネットワ ークを解決すると いうイベント 02 対象はCCNAをと ろうとしているレ ベル~CCIE保有者 レベルまで対応 03 Slackを利用してリ モートも対応(後日 解説動画配布付き) 04 地方でも開催(福岡 、沖縄でも開催) 05
  8. 地方開催 会場 QTNET 会場 サイボウズ 会場 国際電子ビジネス専門学校

  9. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential ネットワークトポロジー図
  10. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential © 2019 Cisco and/or its affiliates. All rights reserved. Cisco Confidential © 2019 Cisco and/or its affiliates. All rights reserved. Cisco Confidential JANOGハッカソン って? • ネットワークのついて のハッカソン • 主にネットワーク周り のツール作成を1日か けて行う
  11. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential • 大量の仮想ネットワークルータ、SWを展開する必要がある。 • 自由に展開、削除できる必要がある。 • ありとあらゆるOSに対応する必要がある。 • 1日~2日で使用済みになるため物理サーバーを用意するのは管理コス トの面でなし。(そもそもどこに置いておくのか?問題) • インターネットへ疎通性が必要である。 これらのイベントのインフラ要件
  12. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential インフラの候補
  13. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential 要件 • 必須 ◦ Nested Virtualization対応 ▪ 仮想マシン上に仮想ルーター等をエミュレートするため ◦ Public IPがユーザー分使用可能(最大100程度想定) • 任意 ◦ API対応 ▪ 複数展開に利用 ◦ 費用が低いこと ◦ ドキュメント数
  14. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential • たくさんの種類がある →csr1000v,XRv,vSRX,vMX,vyos • それぞれに癖がある。 →例えばvSRXにはDPDKの関係でCPUに偏りが発生してエラーが発生 したり、最大でも物理のSRXに搭載できる数しか仮想NICを認識しなか ったりする。XRvは同時に大量展開すると証明書エラーで起動できな かったりする。 ネットワークの仮想ルーターについて
  15. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential 比較表 Amazon Web Service Digital Ocean Microsoft Azure Google Cloud Platform Nested VM対応 一部のみ対応 対応 一部のみ対応 全てのVMで対応可能 Public IP数 増加可能 増加可能 増加可能 増加可能 API対応 対応 対応 対応 対応 コスト 高 低 低 低 ドキュメント数 多数 少数 多数 多数 ドキュメントの多さ、コスト面、 Nested VM対応インスタンスの自由度から Google Public Cloudを選択
  16. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential 比較表(詳細版) Amazon Web Service Digital Ocean Microsoft Azure Google Cloud Platform Nested VM対応 一部対応 (ベアメタルのみ) 対応 一部ACUが対応 (Dv3-v4, Ev3-v4, M) 全てのVMで対応可能 Public IP数 未調査 未調査 未調査 15(増加可能) API対応 対応 対応 対応 対応 コスト 高 (ベアメタルのため) 低 低 (リソースの自由度 が低い) 低 ドキュメント数 多数 (相対的に) 少数 多数 多数
  17. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential • 一度に作れるVM数など一般的に制限がかかるものはあるが連絡すれ ばすぐにその上限を解放してくれること 例 Public IPの数が申請すればその日のうちに制限解除 • DNSとの相性の良さ(ドメイン適用の値段もお得) • 1アカウント30000円分初期費用無料(AWSは一部リージョンでのみ 使用で無料) GCPの良さ
  18. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential システム図 Staff Users Cloud DNS Deploy Management instance Google SDK User instances
  19. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential Google Compute Engineの費用 1台・1時間あたりの費用(JPY) n1-standard-2 (2Core vCPU/7.5GB Memory) 0.09USD(約10JPY) n1-standard-4 (4Core vCPU/15GB Memory) 0.175USD(約20JPY) n1-standard-8 (8Core vCPU/30GB Memory) 0.346USD(約40JPY)
  20. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential 大体の費用(例:Janog45 hackathonの時) • リソース ◦ vCPU: 4Core ◦ Memory :15GB • 費用(/人):20JPY • 総費用:約5200JPY
  21. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential システム図(各インスタンスの詳細) User instance Google Compute Engine EVE-NG Virtual Router Server Kernel-Based Virtual Machine ・・・ Host OS(ubuntu 16.04 LTS) Apache
  22. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential EVE-NGのイメージ図
  23. © 2020 Cisco and/or its affiliates. All rights reserved. Cisco

    Confidential • Nested Virtualizationに対応しているクラウドサービスは少ない • コスト面や対応の早さからGCPを選択 • APIとの連結利用により大量展開も可能 • 質問があれば@katu7414まで まとめと実際のコスト
  24. None