Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
tofuconf_15_tomokazu
Search
yayoimizuha
March 18, 2023
Programming
0
53
tofuconf_15_tomokazu
yayoimizuha
March 18, 2023
Tweet
Share
Other Decks in Programming
See All in Programming
実践Dash - 手を抜きながら本気で作るデータApplicationの基本と応用 / Dash for Python and Baseball
shinyorke
2
270
NEWTにおけるiOS18対応の進め方
ryu1sazae
0
230
dbt-ga4パッケージを実業務に導入してみた話
t_tokumaru_feedcorp
0
130
Unlocking Python's Core Magic
leew
0
130
Iteratorでページネーションを実現する
sonatard
3
710
ROS 2のZenoh対応とZenohのROS 2対応
takasehideki
2
300
Modern Functional Fluent CFML REST by Luis Majano
ortus24
0
140
Cloud Adoption Frameworkにみる組織とクラウド導入戦略(縮小版)
tomokusaba
1
180
C#および.NETに対する誤解をひも解く
ymd65536
0
260
Re:PandasAI:生成AIがデータ分析業務にもたらすパラダイムシフト【増補改訂版】
negi111111
1
910
色んなオートローダーを覗き見る #phpcon_okinawa
o0h
PRO
5
390
◯◯エンジニアになった理由
gessy0129
PRO
0
650
Featured
See All Featured
Building Applications with DynamoDB
mza
90
6k
Happy Clients
brianwarren
97
6.7k
How to name files
jennybc
77
99k
The Invisible Customer
myddelton
119
13k
We Have a Design System, Now What?
morganepeng
49
7.2k
Designing for humans not robots
tammielis
249
25k
Producing Creativity
orderedlist
PRO
341
39k
10 Git Anti Patterns You Should be Aware of
lemiorhan
653
59k
RailsConf 2023
tenderlove
28
840
The Pragmatic Product Professional
lauravandoore
31
6.2k
The Straight Up "How To Draw Better" Workshop
denniskardys
232
130k
Being A Developer After 40
akosma
84
590k
Transcript
GPUの使えるGitHub Actions的 なやつが欲しい! 自分の説明できることはすべて自明に感じられるし、 説明できないことは当然LTの内容にも含められない から何発表すればいいかめっちゃ迷うな
そもそものモチベーションは? 10年物のMellanox ConnectX-3 VPI (InfiniBand FDRと40GbEに対応していて、 もともと家でMPIの勉強目的に購入したもの) ファイルサーバーが欲しい。 ↓ 買うと高いので作る。
↓ Ryzenマシンを改造して作る。 ↓ PCIeスロットが空いてる!けしからん! ↓ GPUを刺す。 ファンレス製品ですが、ファン必須です。
↑SSD(WD Red)のリード理論値 1.6GB/s(12.8Gbps) 理論値の大体80%くらい 出ている。 ファイルサーバーとしての運用はこんな感じ ETHモードでRoCE v1で接続で きるはず... ↑iperf3
実効83%
普通のSambaサーバーとの違い • 標準のsmbdではなくksmbdを利用 • ksmbdはLinux kernelに拡張として組み込んで使うSmabaサーバー • SMB DirectというRDMAを使ったファイルコピーが可能。 •
CPUを介さずにデータをコピーできるので、リソースを食わずにストレージの理 論値の速度を出せる利点がある。レイテンシーも低い。 https://blogs.nvidia.co.jp/2020/06/04/what-is-rdma/ Windows 10 HomeのSambaクライアントではRDMAを使う ことはできないため、大学でWindows 10 Proライセンスを 借りて検証してみるつもり。 https://github.com/cifsd-team/ksmbd ファイルサーバーの紹介はここまで...
アイドルオタクが一度は考える、 顔分類モデルを作りたい!! • ブログのスクレイピング • 顔だけ切り抜いて水平になるように回転 • 手作業で分類 • 学習!!
機械学習はRAM,CPU,GPU,ストレージの 総合格闘技なので、金がかかってしょう がない。 パソコンでやるとストレージがす ぐ埋まるし、学習回してる間何も できない!! そうだ!GPU刺した ファイルサーバーに やらせればええやん!!
でも、ファイルサーバーにそのまま色々インストールすると 環境破壊が激しくてサーバー初期化する羽目になりそう... だけど仮想マシンを毎回ちまちまセットアップするのは面倒... 普段使ってるGitHub Actions みたいに使えれば 便利そう!!!!!!!!!!
TailScaleはいいぞ • 以下の3つを使ってGitリポジトリ、CIサーバーを建てる。 • とても簡単。 TailScaleはほんとにすごい。今までありがとうSoftEther VPN.
こんな感じに、pushしたら自動でCDしてくれる。 これ自体はGitHub Actionsと大して変わらんね。
GPUが使える!!! 使用制限無し!!! 最高!!!!!!!
余談、最近のnginxはhttp(s)だけじゃなくて tcp通信であれば何でもリーバスプロキシ刺せるらしい。 これはTailScaleで持ってきたSSHポートをnginxで公開してる図。 (Gitのアクセスに必要なので。)