Secondo Evento 01-12-2020 Session 1 - WVD e GPU Istruzioni per l'uso

WVD e GPU Istruzioni per l'uso

Transcript

2. WVD e GPU: Istruzioni per l’uso Come le VM con GPU possono aiutarci a migliorare l’esperienza utente e abbassare i costi Elias Moioli Cloud Solution Architect, Project Informatica
3. Gli aspetti toccati durante questa presentazione saranno: • Introduzione alle VM con GPU • Focus su NV V4 • Focus su NV e NV V3 • Policy disponibili • Driver • Ambiente di test • Scenario di uso di streaming video • Scenario di benchmark 3D • Focus sui costi • User experience Agenda
4. GPU su Azure I tagli delle VM ottimizzati per GPU sono macchine virtuali specializzate a cui vengono abilitate GPU singole, multiple o frazionate. Questi tagli sono progettati per supportare carichi di lavoro di visualizzazione remota, carichi che beneficiano dell’accelerazione hardware per effettuare calcoli complessi come machine learning, intelligenza artificiale e reti neurali, oppure per carichi ad alte prestazioni. Le GPU attualmente utilizzate sono NVIDIA Tesla T4 e M60, Volta V100 e AMD Radeon Istinct MI25. Introduzione alle VM con GPU abilitata
5. Specifiche e note • Basate su AMD Radeon Instinct MI25 GPU and AMD EPYC 7V12(Rome) CPU • Richiedono driver specifici • Tramite GPU partitioning è possibile avere fette, «slices» di una intera GPU permettendoci macchine equilibrate con porzioni di GPU ad un costo più accessibile • Vanno configurate alcune policy per l’offload sulla GPU dei carichi grafici tramite RDP • Certificate per Autodesk (AutoCAD, Revit and Inventor) • AMD consiglia come sfruttare al meglio le sizes (vedi links in calce) https://community.amd.com/t5/instinct-accelerators-blog/amd-powered-nvv4-instance-now- certified-by-autodesk/ba-p/414215 https://docs.microsoft.com/en-us/azure/virtual-machines/nvv4-series Focus su NV V4
6. Specifiche e note • Basate su NVIDIA Tesla M60 GPU con NVIDIA GRID technology e Intel Xeon E5-2690 v3 (Haswell) CPU • Richiedono driver specifici • La licenza per la tecnologia NVIDIA GRID è compresa nel canone • NVIDIA limita desktops e virtual apps in base alle sizes (vedi link in calce) • Vanno configurate alcune policy per l’offload sulla GPU dei carichi grafici tramite RDP https://docs.microsoft.com/en-us/azure/virtual-machines/nv-series Focus su NV e NV V3
7. Policy locali o di dominio disponibili https://docs.microsoft.com/en-us/azure/virtual-desktop/configure-vm-gpu NVIDIA GPO AMD GPO Policy disponibili
8. Installazione manuale o estensioni di Azure I driver richiesti per l’esecuzione in Azure sono stati creati ad hoc, pertanto non vanno utilizzati quelli forniti dai vendor per soluzioni sul mercato. Per installare i driver possiamo procedere manualmente scaricando il pacchetto aggiornato dai link forniti nella documentazione relative alle famiglie di VM (NV V4, V3 e cosi via), attività richiesta tra l’altro anche per aggiornare i driver a seguito di nuove versioni. Oppure è possibile attivare l’estensione specifica per la prima istallazione: Driver
9. Come sono stati condotti i test? È stato usato • il client Desktop remoto WIN32 • Immagine multi-session aggiornata da marketplace con Windows update e defender stoppati • Il software CPU-Z • Il software Furmark • Il software Geekbench • Edge (Chromium) Ambiente di test
10. Che differenza c’è tra un video FHD 50fps visto su una D4asV4 e una NV4asV4? Scenario di uso di streaming video NV4as V4 con un video occupa dal 20% al 30% della CPU grazie alla GPU D4as V4 con un video occupa dal 50% al 60% della CPU
11. Scenario di benchmark 3D
12. Scegliere la giusta macchina richiede un minimo di analisi e test Data la grande varietà di workload e di offerta su Azure diviene articolato trovare il giusto equilibrio tra esperienza utente ottimale e controllo dei costi. Ogni GPU, inoltre, ha i sui pregi e limiti che andranno quindi a indirizzarci nella scelta, sulla base dei requisiti e delle necessità che ci guidano. Possiamo vedere come alcune situazioni siano migliori con una tipologia di VM o con altre, anche in relazione ai costi. Pertanto diventa cruciale effettuare test di carico per identificare al meglio i requisiti da traslare poi nell’adozione delle VM con GPU. Focus sui costi
13. Prestazioni CPU Focus sui costi 646 254 980 350 905 350 867 375 951 392 721 324 814 390 0 500 1000 1500 GB-ST CPUZ-ST CPU ST D4s_V3 D4as_V4 NV4as_V4 NV8as_V4 NV16as_V4 Standard_NV6 Standard-NV12s_v3 1543 660 3247 950 3247 950 4080 1970 7892 4160 3929 1750 5156 2700 0 2000 4000 6000 8000 10000 GB-MT CPU-Z MT CPU MT D4s_V3 D4as_V4 NV4as_V4 NV8as_V4 NV16as_V4 Standard_NV6 Standard-NV12s_v3
14. Prestazioni GPU Focus sui costi 16 2 16,089 6,118 36 4 28,465 10,470 77 8 43,234 17,328 96 8 33,129 28,096 92 8 32,900 28,149 0 20 40 60 80 100 120 Furmark DX11 FPS medi VRAM GB-Vulkan *1000 GB-OpenCL *1000 GPU Standard-NV12s_v3 Standard_NV6 NV16as_V4 NV8as_V4 NV4as_V4
15. Rapporto costo mensile/prestazioni 3D Focus sui costi 11,196 11,134 29,281 9,952 12,587 34,220 9,314 16,588 41,389 8,753 25,365 29,909 9,541956522 26,683 31,186 0,000 5,000 10,000 15,000 20,000 25,000 30,000 35,000 40,000 45,000 €/FPS DX11 €/Vulkan €/OpenCL Rapporti costo/prestazioni Standard-NV12s_v3 Standard_NV6 NV16as_V4 NV8as_V4 NV4as_V4
16. Rapporto costo mensile/risorse Focus sui costi 36,938 18,469 35,398 17,699 44,785 12,796 44,785 12,796 44,824 12,807 140,052 15,006 73,155 7,838035714 0,000 20,000 40,000 60,000 80,000 100,000 120,000 140,000 160,000 €/CPU €/RAM Rapporti costo/risorse Standard-NV12s_v3 Standard_NV6 NV16as_V4 NV8as_V4 NV4as_V4 D4as_V4 D4s_V3
17. RDP Shortpath Un tema molto importante per fruire efficacemente di WVD è quello di avvicinare il più possibile client e macchina remota; la feature RDP Shortpath consente al client di collegarsi direttamente alla macchina virtuale in Azure eliminando diverse hops, di sfruttare un’estensione del protocollo UDP che a sua volta aumenta le performance. User experience
18. Codifica h.264 Grazie alla compressione effettuata dalle GPU NVIDIA tutti i flussi video e tutte le immagini che vengono trasferiti ai client locali occupano meno spazio, di conseguenza anche i GB trasferiti in uscita saranno di meno e questo consente di ridurre la voce di spesa dell’ «Outbound transfer». La multimedia redirection è una feature che sarà presentata prossimamente e che dovrebbe consentire alla VM di fare l’offload dei contenuti audio/video direttamente al client locale, bypassando perciò la fase di decodifica della VM di Azure e successiva ricodifica per poi trasferire il flusso al client locale. A sua volta il client dovrà decodificare il flusso, cosa che comporta un certo quantitativo di tempo e potrebbe pregiudicare l’esperienza utente. User experience Multimedia redirection
19. Grazie Contatti Project Informatica srl www.project.it Via C. Cattaneo 6- 24040 STEZZANO (Bergamo) ITALY Phone: 035.2050327 Fax: 035.4540293 Email: elias.moioli@project.it ‘Non è la specie più forte o la più intelligente a sopravvivere, ma quella che si adatta meglio al cambiamento’. C. Darwin