Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
tofuconf_15_tomokazu
Search
yayoimizuha
March 18, 2023
Programming
56
0
Share
Embed
Copy iframe code
Copy JS code
Copy link
Start on current slide
tofuconf_15_tomokazu
yayoimizuha
March 18, 2023
Other Decks in Programming
See All in Programming
吝嗇家のためのAI活用 / AI development for miser - ChatGPT + Issue Driven Development
tooppoo
0
170
セキュリティの専門家じゃなくてもできる。「セキュリティ意識」をアップデートして サプライチェーン攻撃への耐性を高めよう。
tk3fftk
5
1k
Hunting Vulnerabilities in Symfony with LLMs
vinceamstoutz
0
570
Performance Engineering for Everyone
elenatanasoiu
0
250
ローカルLLMでどこまでコードが書けるか -縮小版 / How much code can be written on a local LLM Shortened
kishida
2
170
PHPで使える日時の表現と、その知り方 #frontend_phpcon_do
o0h
PRO
0
290
1B+ /day規模のログを管理する技術
broadleaf
0
120
Language Server 使ってる? 〜VSCode と Zed の場合〜 / Are you using a Language Server? ~For VS Code and Zed~
handlename
0
830
ローカルLLMでどこまでコードが書けるか -拡張版 / How much code can be written on a local LLM Extended
kishida
12
4.6k
コンテキストの使い捨てをやめる — ビジネスルール駆動開発と miko —
ioki
0
270
Dataformのリポジトリを立ち上げるときにまずやること / dataform-day0-2026
snhryt
0
210
エンジニアにデザインハーネスを 〜デザインプロセスを規定するためのハーネス〜 / Design harness from an engineer's perspective
rkaga
2
630
Featured
See All Featured
A Modern Web Designer's Workflow
chriscoyier
698
190k
Stewardship and Sustainability of Urban and Community Forests
pwiseman
0
240
How to Create Impact in a Changing Tech Landscape [PerfNow 2023]
tammyeverts
55
3.4k
The Spectacular Lies of Maps
axbom
PRO
1
850
[RailsConf 2023] Rails as a piece of cake
palkan
59
6.7k
Taking LLMs out of the black box: A practical guide to human-in-the-loop distillation
inesmontani
PRO
3
2.3k
Learning to Love Humans: Emotional Interface Design
aarron
275
41k
How to Talk to Developers About Accessibility
jct
2
280
Future Trends and Review - Lecture 12 - Web Technologies (1019888BNR)
signer
PRO
0
3.6k
XXLCSS - How to scale CSS and keep your sanity
sugarenia
250
1.3M
JAMstack: Web Apps at Ludicrous Speed - All Things Open 2022
reverentgeek
1
490
Making the Leap to Tech Lead
cromwellryan
135
10k
Transcript
GPUの使えるGitHub Actions的 なやつが欲しい! 自分の説明できることはすべて自明に感じられるし、 説明できないことは当然LTの内容にも含められない から何発表すればいいかめっちゃ迷うな
そもそものモチベーションは? 10年物のMellanox ConnectX-3 VPI (InfiniBand FDRと40GbEに対応していて、 もともと家でMPIの勉強目的に購入したもの) ファイルサーバーが欲しい。 ↓ 買うと高いので作る。
↓ Ryzenマシンを改造して作る。 ↓ PCIeスロットが空いてる!けしからん! ↓ GPUを刺す。 ファンレス製品ですが、ファン必須です。
↑SSD(WD Red)のリード理論値 1.6GB/s(12.8Gbps) 理論値の大体80%くらい 出ている。 ファイルサーバーとしての運用はこんな感じ ETHモードでRoCE v1で接続で きるはず... ↑iperf3
実効83%
普通のSambaサーバーとの違い • 標準のsmbdではなくksmbdを利用 • ksmbdはLinux kernelに拡張として組み込んで使うSmabaサーバー • SMB DirectというRDMAを使ったファイルコピーが可能。 •
CPUを介さずにデータをコピーできるので、リソースを食わずにストレージの理 論値の速度を出せる利点がある。レイテンシーも低い。 https://blogs.nvidia.co.jp/2020/06/04/what-is-rdma/ Windows 10 HomeのSambaクライアントではRDMAを使う ことはできないため、大学でWindows 10 Proライセンスを 借りて検証してみるつもり。 https://github.com/cifsd-team/ksmbd ファイルサーバーの紹介はここまで...
アイドルオタクが一度は考える、 顔分類モデルを作りたい!! • ブログのスクレイピング • 顔だけ切り抜いて水平になるように回転 • 手作業で分類 • 学習!!
機械学習はRAM,CPU,GPU,ストレージの 総合格闘技なので、金がかかってしょう がない。 パソコンでやるとストレージがす ぐ埋まるし、学習回してる間何も できない!! そうだ!GPU刺した ファイルサーバーに やらせればええやん!!
でも、ファイルサーバーにそのまま色々インストールすると 環境破壊が激しくてサーバー初期化する羽目になりそう... だけど仮想マシンを毎回ちまちまセットアップするのは面倒... 普段使ってるGitHub Actions みたいに使えれば 便利そう!!!!!!!!!!
TailScaleはいいぞ • 以下の3つを使ってGitリポジトリ、CIサーバーを建てる。 • とても簡単。 TailScaleはほんとにすごい。今までありがとうSoftEther VPN.
こんな感じに、pushしたら自動でCDしてくれる。 これ自体はGitHub Actionsと大して変わらんね。
GPUが使える!!! 使用制限無し!!! 最高!!!!!!!
余談、最近のnginxはhttp(s)だけじゃなくて tcp通信であれば何でもリーバスプロキシ刺せるらしい。 これはTailScaleで持ってきたSSHポートをnginxで公開してる図。 (Gitのアクセスに必要なので。)