Slipstream : AI 레이싱에서 치고 나가는 방법 - 신정규

Lablup Conf 2023

Transcript

2. Slipstream : AI 레이싱에서 치고 나가는 방법 신정규 래블업 주식회사
6. 아이디에이션 춘추전국시대 표준화 대량생산 대중화 과학 공학 산업 현재
10. You make AI✨ We do 👷🛠
12. YouTube: Google For Startups / Lablup https://youtu.be/oxLz4HIRqzU?si KDuPJbfvu4lI9nrD t 32
14. SORNA http://sorna.io 2015년 6월 알파 버전 데모 2016년 11월 오픈소스 공개 2017년 1월 클라우드 API 서비스 cloud.sorna.io
16. Heterogeneous Agent Backends Dynamic Fractional GPU Allocation Multi level Scheduler NUMA aware Resource mapping Multi node multi container clustering Resource Group Namespacing GPU/NPU Abstration I/O Acceleration plane micro Backend.AI for MEC / IoT Multi architecture Power consumption aware scheduling And more…
18. § Contributor Python Python asyncio, aiohttp TensorFlow, PyTorch Numpy, LAPACK vLLM, bitsandbytes RustPython, GlueSQL ZeroMQ, ZeroMQ.node, pyzmq parse server, Google Polymer, Google Test AirSim, graphene Intel DPDK, FreeBSD, OpenStack Argoworkflows, minio js § Committer / maintainer Rust, LibreOffice, OPNFV, iPutty aiodocker, aiotools
19. 2.7 GPUs 0.3 GPUs
28. 97 이론상 GPU 성능 달성 120Gb/s GPUDirect Storage throughput more! 4x Enhanced Utilization 15 훈련 성능 부스트 70 Enterprise Customers 1.5M AI Environment Downloads 10k 엔터프라이즈 GPU 관리 500 단독 사이트 노드 갯수
43. Lablup Inc.
44. Lablup Inc.
47. https://www.ign.com/wikis/mario kart tour/How to Slipstream
52. 감사합니다 라운지에서 만나요! 하루종일 질답 잡담 모드