Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
【ShowNet Stage】コンピューティング資源を統合した分散コンテナ基盤の進化
Search
ShowNet
PRO
June 12, 2024
Technology
0
21
【ShowNet Stage】コンピューティング資源を統合した分散コンテナ基盤の進化
2024年6月に幕張メッセで実施されたInterop Tokyo ShowNetブース内ステージでのNOCチームメンバーによる講演資料
ShowNet
PRO
June 12, 2024
Tweet
Share
More Decks by ShowNet
See All by ShowNet
ShowNet 2025 トポロジー図
shownet
PRO
0
160
ShowNet 2025 エクスターナル図
shownet
PRO
0
19
ShowNetの歩き方 2025
shownet
PRO
0
27
【展示会場内説明スライド】Security_ゼロトラストで支える広帯域セキュリティサービスと脅威監視基盤 ShowNet 2025
shownet
PRO
0
860
【展示会場内説明スライド】DC・クラウド_AIと既存サービスを融合したマルチテナント対応コンテナ基盤 ShowNet 2025
shownet
PRO
0
710
【展示会場内説明スライド】ファシリティ ShowNet 2025
shownet
PRO
0
1k
【展示会場内説明スライド】mobile_ShowNet初!キャリア5G連携への挑戦 ShowNet 2025
shownet
PRO
0
760
【展示会場内説明スライド】Media over IP ShowNet Media-X ShowNet 2025
shownet
PRO
0
750
【展示会場内説明スライド】L2/L3 ShowNet 2025
shownet
PRO
0
1.2k
Other Decks in Technology
See All in Technology
Four Keysから始める信頼性の改善 - SRE NEXT 2025
ozakikota
0
420
Rethinking Incident Response: Context-Aware AI in Practice
rrreeeyyy
2
940
CDKコード品質UP!ナイスな自作コンストラクタを作るための便利インターフェース
harukasakihara
2
240
Transformerを用いたアイテム間の 相互影響を考慮したレコメンドリスト生成
recruitengineers
PRO
2
440
スタックチャン家庭用アシスタントへの道
kanekoh
0
120
Data Engineering Study#30 LT資料
tetsuroito
1
200
ClaudeCodeにキレない技術
gtnao
1
870
公開初日に Gemini CLI を試した話や FFmpeg と組み合わせてみた話など / Gemini CLI 初学者勉強会(#AI道場)
you
PRO
0
1.3k
サイバーエージェントグループのSRE10年の歩みとAI時代の生存戦略
shotatsuge
4
1k
マルチプロダクト環境におけるSREの役割 / SRE NEXT 2025 lunch session
sugamasao
1
730
60以上のプロダクトを持つ組織における開発者体験向上への取り組み - チームAPIとBackstageで構築する組織の可視化基盤 - / sre next 2025 Efforts to Improve Developer Experience in an Organization with Over 60 Products
vtryo
3
1.9k
推し書籍📚 / Books and a QA Engineer
ak1210
0
140
Featured
See All Featured
Side Projects
sachag
455
42k
Testing 201, or: Great Expectations
jmmastey
43
7.6k
Understanding Cognitive Biases in Performance Measurement
bluesmoon
29
1.8k
The Power of CSS Pseudo Elements
geoffreycrofte
77
5.9k
Build your cross-platform service in a week with App Engine
jlugia
231
18k
How to Think Like a Performance Engineer
csswizardry
25
1.7k
Facilitating Awesome Meetings
lara
54
6.5k
How STYLIGHT went responsive
nonsquared
100
5.6k
Music & Morning Musume
bryan
46
6.7k
StorybookのUI Testing Handbookを読んだ
zakiyama
30
5.9k
Fantastic passwords and where to find them - at NoRuKo
philnash
51
3.3k
Fireside Chat
paigeccino
37
3.5k
Transcript
コンピューティング資源を統合した 分散コンテナ基盤の進化 ShowNet NOC DC/Cloudチーム 明石 邦夫 織学
ShowNet 2024 DC-Cloudチームのテーマ コンピューティング資源を統合した分散コンテナ基盤の 進化 クラウドネイティブな次世代サービス基盤 多拠点間に分散するコンテナマネージメント 複雑化するインフラ基盤のためのオブザーバビリティ 2
今年のDC/Serviceセグメント 3
今年のDC/Serviceセグメント 4 クラウドネイティブな次世代 サービス基盤 複雑化するインフラ基盤のため のオブザーバビリティ 多拠点間に分散する コンテナマネージメント
今年の仮想化基盤・コンテナ基盤 仮想化基盤 vSphere • CPUコア数: 168 • メモリ: 2.5TB •
ストレージ: 2PB • 仮想マシン: 35 Nutanix • CPUコア数: 144 • メモリ: 1.5TB • ストレージ: 15TB • 仮想マシン: 35 5 コンテナ基盤 クラスタ数: 8 • Ocp, ocp2, ntnx, vanilla, sdpf, jk8s, jocp, eks 総ノード数: 54 Pod: 990 Deployment+DaemonSet +StatefulSets: 346 Azure Stack HCI • CPUコア数: 72 • メモリ: 512GB • ストレージ: 7.5TB
Apstra によるネットワークの統合管理 ECMP でのコンテナアプリのスケールアウト Service 全体設計 6 Exos-corvault ucs-c240m7 qfx5120
qfx5120 nexus93180yc nexus93180yc nexus9332c nexus9332c NSX apstra nexus9300v panoptica zabbix openshift 仮想化基盤向けの EVPN VXLAN コンテナ基盤向けの eBGP によるL3 接続 ucs-c240m7
RoCEファブリックの相互接続、ECN/PFCのテスト HCIとAKSのAzure連携、コンテナ脆弱性の可視化 DC 全体設計 7 nexus-dashboard qfx5120 nexus93180yc nexus9332d nexus9408
dl380-gen11 Azure Kubernetes Service Prisma-cloud
ネットワークの統合管理 Apstra によるインテントネットワーク 8 テレメトリによる監視 IP アドレス、AS番号などの リソース管理 EVPN VXLAN
での L2 延伸 VXLAN Stiching による DC Interconnect コンテナ基盤向けの eBGP 接続 ECMP によるコンテナアプリの スケールアウト
Nutanix IaaS 基盤 Nutanix 仮想化基盤 Cisco UCS C240M7 3 台でのクラスタ構成
Kubernetes も多数動作 Cisco Intersight と連携も可能 イメージデプロイ ハードウェア管理など 9
vSphere IaaS 基盤 仮想アプライアンスが多数動作 OpenShift、Tanzu なども NSX による分散Firewall 仮想アプライアンスの防御 ストレージに
Exos CORVAULT 4U サイズで 2PB の高密度ストレージ 10
DoH/DoT 今年の ShowNet は DNS cache サーバで DoH/DoT を有効に 証明書は
kubernetes で管理 Discovery of Designated Resolvers 11 nexus93180yc nexus93180yc unbound unbound unbound ShowNet Backbone サーバへは ECMP で分散 unbound.conf 証明書 k8s の etcd から VolumeMount
DoH/DoT の割合 12 DoH は 3~4 割、DoT は 1 割程度
コンテナルータ クラウドネイティブルータを kubernetes へ Service アドレスは BGP でアドバタイズ コンテナネットワークを VRF
で作成 Worker Node 間は SR-MPLS で構成 13
TestCenter A1 から 100Gbps のトラフィックを送信 RoCEv2 エミュレーション 各スイッチが DCQCN によって
トラフィックを抑制できるかの検証 輻輳制御によって送信レートが 22Gbps まで調整されることを確認 ロスレスネットワーク検証 14
コンテナセキュリティ コンテナ基盤上で動くアプリのトラフィックやイメージの 脆弱性検査 15
Kubernetesマルチクラスタ 構成/用途に応じてSubmariner(L3)とSkupper(L7)を使い分けてクラスター間接続 Advanced Cluster Management for Kubernetesでマルチクラスタを一元管理 16 submariner-gw skupper-router
submariner-gw submariner-gw skupper-router skupper-router open-cluster- mgmt-hub DL380 Gen11 prisma-cloud Azure Kubernetes Service
ShowNet/Cloud 連携 (1) ShowNet と SDPF クラウドを L2 接続 Kubernetes
のマルチクラスタを構築 17 control-plane control-plane control-plane worker worker worker c8000v c8000v c8500 c8500 control-plane worker control-plane worker ShowNet
ShowNet/Cloud 連携 (2) Azure Arcでハイパーバイザ、仮想マシン、コンテナを統合 管理 18 ShowNet Azure Stack
HCI opsramp-agent twistlock submariner-gw Azure Virtual Desktop HPE Deployment Automation Windows Admin Center Azure Kubernetes Service HPE DL380 Gen11
Special Thanks 19