Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
今から始める分散システム
Search
Honahuku
March 23, 2024
Programming
0
260
今から始める分散システム
第一回分散システム集会でLTとして発表した内容です
https://distributed.connpass.com/event/314129/
Honahuku
March 23, 2024
Tweet
Share
More Decks by Honahuku
See All by Honahuku
Kubernetes のクラスタ内ネットワーク概要
honahuku
0
30
エンジニアでも論文が読みたい!
honahuku
0
610
大規模コンピューティングを支える Kubernetes のネットワーク
honahuku
0
48
SecAd~Ad data drivin’ network security~
honahuku
0
150
Other Decks in Programming
See All in Programming
Open source software: how to live long and go far
gaelvaroquaux
0
640
時計仕掛けのCompose
mkeeda
1
300
社内フレームワークとその依存性解決 / in-house framework and its dependency management
vvakame
1
560
Boost Performance and Developer Productivity with Jakarta EE 11
ivargrimstad
0
400
ML.NETで始める機械学習
ymd65536
0
130
dbt Pythonモデルで実現するSnowflake活用術
trsnium
0
190
ファインディの テックブログ爆誕までの軌跡
starfish719
2
1.1k
Lottieアニメーションをカスタマイズしてみた
tahia910
0
130
Serverless Rust: Your Low-Risk Entry Point to Rust in Production (and the benefits are huge)
lmammino
1
130
Honoのおもしろいミドルウェアをみてみよう
yusukebe
1
210
Conform を推す - Advocating for Conform
mizoguchicoji
3
700
データベースのオペレーターであるCloudNativePGがStatefulSetを使わない理由に迫る
nnaka2992
0
180
Featured
See All Featured
Bash Introduction
62gerente
611
210k
Scaling GitHub
holman
459
140k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
44
7k
Building Applications with DynamoDB
mza
93
6.2k
How to Think Like a Performance Engineer
csswizardry
22
1.4k
CoffeeScript is Beautiful & I Never Want to Write Plain JavaScript Again
sstephenson
160
15k
Practical Tips for Bootstrapping Information Extraction Pipelines
honnibal
PRO
12
970
StorybookのUI Testing Handbookを読んだ
zakiyama
28
5.5k
The Pragmatic Product Professional
lauravandoore
32
6.4k
Faster Mobile Websites
deanohume
306
31k
Practical Orchestrator
shlominoach
186
10k
Measuring & Analyzing Core Web Vitals
bluesmoon
6
240
Transcript
今から始める分散システム 第一回分散システム集会 @honahuku
自己紹介 • Honahuku(ほなふく) 第一回分散システム集会 • 冬コミ(C103)サークル参加 • 準学士(工学)の称号を得た • 電気通信学会の研究会発表
• V睡してたら体痛めた • サカナクションのライブに行きたい • 旅行先募集中 • 自宅インフラの整備を再開したい 最近のトピック
分散システムとは何か
分散システム? • エヴァ, MAGI • Portal, GLaDOS 第一回分散システム集会 Valve. Portal.
(2007) kharaInc. 新世紀エヴァンゲリオン. (1995)
分散システムの定義 第一回分散システム集会 パソコンやワークステーションなどの小型コンピューター によるネットワークで、複数のコンピューターに処理を分散 させる形態のシステム。 ASCII.jpデジタル用語辞典 「分散型システム」より
分散システムの定義 第一回分散システム集会 複数のコンピューターに処理を分散させる形態の システム Q. MAGI や GLaDOS は分散システムといえるか?
分散システムの定義 第一回分散システム集会 複数のコンピューターに処理を分散させる形態の システム Q. MAGI や GLaDOS は分散システムといえるか? A.
微妙 (処理の分散というより、合議による判断や人格の分離 が行われているような印象を受ける)
なぜ処理を分散するのか 第一回分散システム集会 処理を分散させると実装コストもかかる しかし分散処理はアツい(主観)
なぜ処理を分散するのか 第一回分散システム集会 • スケーラビリティ • 単一の高性能なマシンを購入せずとも汎用なマシン を複数追加することで段階的に対応できる • GPUインスタンスなど別特性のマシンを入れるとい うことも出来る
• 耐障害性 • 冗長化されたクラスタなら一部のマシンの故障なら 耐えられる
分散システムの実装
処理の分散 第一回分散システム集会 • 情報システムにおいてどう処理を分散するのか →並列計算 →コンピューター・クラスター →グリッド・コンピューティング
コンピューター・クラスター 第一回分散システム集会 • コンテナ管理型 • Kubernetes(CNCF) • Swarm(Docker) • Mesos(Apache)
• ジョブ型 • Airflow(Apache) • Grid Engine(Univa) • Slurm(SchedMD)
k8s の自律・分散処理 第一回分散システム集会 • k8s ではワークロードを動かすための設定を manifest という設定ファイルに書く • k8s
のコントローラーはこれを見て自律的にク ラスタを調整する • 動いている node のうち1つが停止した場合は pod(≒コンテナ)を別の node で新しく動かす • spec(仕様) と state(状態)をそれぞれ管理し、 state を spec に自律的に近づける事ができる
分散システムを支える技術 第一回分散システム集会 • 分散合意 • Raft • Paxos • 分散ストレージ
• Ceph • etcd • TiKV • ZooKeeper
分散システム集会でやりたいこと
分散システムという枠組みでの交流 第一回分散システム集会 • 分散システムは現代の情報システムにとって必要 なもの • 分散システムをもっと色んな人に知ってほしい • ツールとして分散システムを使う人や、現状のシ ステムに不満を持つ人など、いろんな層との交流
をしたい
コンテンツ・開催予定 第一回分散システム集会 • 交流会 • LT会 • 第一線で活躍している人を招待した講演 • などなど
• 次回開催は 4/27(土) 21:00~22:00 • 月1で第四土曜日の開催(予定)