Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ICTSC2020 バックボーン紹介スライド
Search
proelbtn
March 09, 2021
Technology
0
1.9k
ICTSC2020 バックボーン紹介スライド
ICTSC2020の会期中に協賛・参加者向けに行われたバックボーン紹介スライドです。
proelbtn
March 09, 2021
Tweet
Share
More Decks by proelbtn
See All by proelbtn
prob_code: k8s
proelbtn
0
88
Other Decks in Technology
See All in Technology
Azure Durable Functions で作った NL2SQL Agent の精度向上に取り組んだ話/jat08
thara0402
0
120
DatabricksホストモデルでAIコーディング環境を構築する
databricksjapan
0
230
変化するコーディングエージェントとの現実的な付き合い方 〜Cursor安定択説と、ツールに依存しない「資産」〜
empitsu
4
1.1k
開発メンバーが語るFindy Conferenceの裏側とこれから
sontixyou
2
500
ブロックテーマでサイトをリニューアルした話 / 2026-01-31 Kansai WordPress Meetup
torounit
0
360
フルカイテン株式会社 エンジニア向け採用資料
fullkaiten
0
10k
(金融庁共催)第4回金融データ活用チャレンジ勉強会資料
takumimukaiyama
0
100
usermode linux without MMU - fosdem2026 kernel devroom
thehajime
0
190
What happened to RubyGems and what can we learn?
mikemcquaid
0
200
M&A 後の統合をどう進めるか ─ ナレッジワーク × Poetics が実践した組織とシステムの融合
kworkdev
PRO
1
290
15 years with Rails and DDD (AI Edition)
andrzejkrzywda
0
150
制約が導く迷わない設計 〜 信頼性と運用性を両立するマイナンバー管理システムの実践 〜
bwkw
2
770
Featured
See All Featured
The Curse of the Amulet
leimatthew05
1
8.1k
Site-Speed That Sticks
csswizardry
13
1.1k
Leading Effective Engineering Teams in the AI Era
addyosmani
9
1.5k
Avoiding the “Bad Training, Faster” Trap in the Age of AI
tmiket
0
67
Effective software design: The role of men in debugging patriarchy in IT @ Voxxed Days AMS
baasie
0
220
Sharpening the Axe: The Primacy of Toolmaking
bcantrill
46
2.7k
How to train your dragon (web standard)
notwaldorf
97
6.5k
My Coaching Mixtape
mlcsv
0
45
AI in Enterprises - Java and Open Source to the Rescue
ivargrimstad
0
1.1k
Designing Experiences People Love
moore
144
24k
Agile that works and the tools we love
rasmusluckow
331
21k
The Invisible Side of Design
smashingmag
302
51k
Transcript
インフラリーダー 齋藤遼河 バックボーン紹介
目次 • 会場・機材等協力 • 物理構成 / 論理構成 • 数字で見る今年のトラコン •
今年の見どころ ◦ ネットワーク編 ◦ 仮想化基盤編 ◦ 監視基盤編
会場・機材等協力
会場・機材等協力 ネットワーク系機材 • NEC UNIVERGE IX3110 • Juniper MX5 •
Juniper SRX1500 • Mellanox Spectrum SN2410 • Edgecore Wedge100BF-32X • Cisco Catalyst 4948 サーバ系機材 • Fujitsu PRIMERGY RX100 S7 x2 • IBM System x3650 M4 x2 • Huawei RH1288 V2 x4 その他機材 • 10G NIC x6 • SFP+ DAC x15 • OM3 光ケーブル x2 • 100GBASE-SR4 トランシーバ x4
物理構成
None
論理構成
数字で見る 今回のトラコン
初!本戦20チーム開催! • 問題VMリソース(2日間合計) ◦ VM数: 1218 VM(135%) ◦ vCPU: 1540
vCPU(139%) ◦ Memory: 2.4 TiB(184%) ◦ Storage: 22.4 TiB(128%)
今年の見どころ (ネットワーク編)
対外接続冗長化 & フルルート • HomeNOCとマルチホーム接続 ◦ POP03 : 東京拠点 ◦
NOC53 : 大阪拠点 • 両方からフルルートを受け取る構成
対外接続冗長化 & フルルート
NAVT with P4 Switch • NAVT: Network Address VLAN Translation
◦ トラコンの問題環境を支える変換プロトコル IP: src=172.16.2.1, dst=10.1.0.1 Ethernet: src=xxx, dst=yyy TCP: src=19485, dst=22 IP: src=172.16.2.1, dst=192.168.0.1 Ethernet: src=xxx, dst=yyy TCP: src=19485, dst=22 VLAN: vid=100
NAVT with P4 Switch 192.168.4.1 192.168.4.1 10.1.4.1 10.20.4.1
NAVT with P4 Switch • NAVT: Network Address VLAN Translation
◦ トラコンの問題環境を支える変換プロトコル IP: src=10.7.4.1, dst=160.16.73.123 Ethernet: src=xxx, dst=yyy TCP: src=58193, dst=443 IP: src=192.168.4.1, dst=160.16.73.123 Ethernet: src=xxx, dst=yyy TCP: src=58193, dst=443 VLAN: vid=700
NAVT with P4 Switch • 今年はP4を用いてNAVTの実装を行った ◦ https://github.com/takehaya/p4-navt • ハードウェアのP4スイッチをお借りした
◦ Edgecore Wedge 100BF-32X
NAVT with P4 Switch
WireGuard • 様々なOSで動作するL3VPN ◦ Linux Kernel 5.6にマージされた • 今年の利用例 ◦
DCや会場とのVPN ◦ さくらのクラウドとのサイト間接続
BGP over WireGuard
BGP over WireGuard
BGP over WireGuard
今年の見どころ (仮想化基盤編)
• 今回の仮想化基盤の実装 ◦ https://github.com/ophum/humstack • リソースを宣言することでVMやネットワークが作成される ◦ > influenced by
n0stack, kubernetes… humstack
humstack dashboard
humstack dashboard
Ceph RDB • 会場のサーバー8台でCephクラスタを組んでいる • ioDrive 6枚 + HDD 3個でOSDが動作している
• Snapshotを利用しているため、チーム数が増えても 使用するストレージサイズを劇的に抑えることができる ◦ 1日目の問題VMの全展開で3.1 TiB ▪ レプリカ数 3で展開している
Ceph RBD
Ceph RBD
今年の見どころ (監視基盤編)
監視構成 syslog, sFlow syslog SNMP IPMI node-exporter ceph-exporter
監視構成
まとめ 今回のトラコンも、新しい挑戦をしつつ 安定したインフラを提供できたと思います! 会場・機材等を提供いただいた企業・団体のみなさま 本当にありがとうございました!