Upgrade to Pro — share decks privately, control downloads, hide ads and more …

Open Storage Analytics - Das EKG für NAS

Open Storage Analytics - Das EKG für NAS

Vorstellung der Sun ZFS Storage Appliance (S7000) mit Augenmerk auf Analytics (=DTrace in bunt).

Wolfgang Stief

April 22, 2009
Tweet

More Decks by Wolfgang Stief

Other Decks in Technology

Transcript

  1. best Open Storage Day April 2009 Dornach Wolfgang Stief [email protected]

    Senior Systemingenieur best Systeme GmbH GUUG Board Member Open Storage Analytics Das EKG für NAS
  2. „So fast, we’re stacking like crazy.“ Don MacAskill, CEO &

    Chief Geek, SmugMug http://www.smugmug.com/ Motivation 2 / 20 2009-04-22
  3. Was ist alles dran? Hardware, jetzt und später Was ist

    alles drin? Software, jetzt und später Was ist daran jetzt so neu? FISHworks, ZFS, L2ARC, ZIL, Flash/SSD, DTrace/Analytics Und was kriegt man da so durch? Performance und Benchmarks Demo Shares, Snapshot u. Rollback, Analytics Agenda 2009-04-22 3 / 20
  4. Hardware, jetzt 2009-04-22 7110 7210 7410 # Disks 14x 146GB

    10k SAS 44x 1TB 7.2k SATA 288x 1TB 7.2k SATA max. Kapazität 2TB 44TB 288TB Erweiterung – – 12 JBODs (J4400) CPU 1.9GHz Opteron 2x 2.3GHz Opteron 4x 2.3GHz Opteron RAM max. 8GB DDR2 64GB DDR2 128GB DDR2 Schreibcache – 2x 18GB (Flash) 16x 18GB (Flash) Lesecache – 6x 100GB (Flash) Cluster nein nein ja 4x 1GBE on board, per PCIe erweiterbar: 2x 10GBE Fiber, 4x GBE Kupfer, 2x 1GBE Fiber 4 / 20
  5. größere Platten → mit aktuellen Modellen bis max. 576TB brutto

    → neue Modelle, bis in PB-Bereich → teilweise SAS-2 (6GBit/s) neuer I/O-Bus → PCIe wird durch PCIe Gen2 abgelöst neue CPU-Generation → Opteron mit HT3 → DDR3 Memory, bis 256GB mehr (und größere?) Flash f. Cache Hardware, später 2009-04-22 5 / 20
  6. OpenSolaris (Branch mit Modifikationen) → iSCSI, NFSv4, CIFS, HTTP, WebDAV,

    FTP → NIS, LDAP, Active Directory, Identity Mapping → I/O Multipathing → FMA für CPU, DRAM, PCIe, Disks, Flash → DTrace → Role Based Access → Link Aggregation, VLANs, IPMP, IPv4, IPv6 Sun ZFS → Stripe, Mirror, RAID, RAID-Z2 → unbegrenzte Anzahl Snapshots und Clones → Kompression → Datenintegrität (19 „Neuner“) → Hybrid Storage Pool mit Flash SSD Software, jetzt 2009-04-22 6 / 20
  7. FISHworks → Web-GUI basierend auf AJAX → CLI, scripting-fähig (keine

    „normale“ Shell!) Remote Support, „calling home“ Remote Replication (per ZFS) NDMP Backup Virus Scanning Schnittstelle (scanning host) Clustering → derzeit nur im 7410 möglich $$ → all inclusive, auch neue Features Software, jetzt 2009-04-22 7 / 20
  8. Verbesserung / Erweiterung bei den Protokollen → SSL-Versionen, NFSv2, Kerberos

    für NFS u. CIFS → iSCSI Verbesserungen, FC Target, iSER → VSS Schattenkopie, Global Namespace (pNFS) Erweiterung der Data Services → User Quotas, Deduplication, ZFS Encryption → Verbesserung / Erweiterung ACLs f. NFS und CIFS → mehr als ein Storage Pool → persistenter L2ARC (warm start mit Cache) neue Features → FTP Analytics, background scrubbing → AD cross-forest trust, QoS im Netzwerk → Backup/Restore Konfig, Replikation zu OpenSolaris Software, später 2009-04-22 8 / 20
  9. Synchrone Replikation Anbindung an Archiv, HSM-Funktionalität Compliance / WORM Gateway

    für existierende Block-Devices Power Management f. Disks (MAID?) FCoE Software, noch später 2009-04-22 9 / 20
  10. einfache Updates, einfaches Rollback Update wie OpenSolaris mit ZFS Snapshot

    ca. 1 major release je Quartal minor release (scheduled) und micro releases (Bugfixes) nach Bedarf Software-Updates 2009-04-22 10 / 20
  11. FISHworks WebGUI (AJAX) Analytics (graphisches DTrace) → Fehlersuche in Echtzeit

    möglich ZFS ermöglicht dedizierte Cache-Devices → ZFS Intent Log, ZIL (Schreibcache, Logzilla) → Level 2 Adaptive Read Cache, L2ARC (Readzilla)* → Verwendung von Flash SSD → stark erhöhte IOPS → Flash-Benutzung im S7000 je Share getrennt schaltbar → HSP (Hybrid Storage Pool) *http://www.almaden.ibm.com/StorageSystems/projects/arc/ http://blogs.sun.com/brendan/entry/test Und was ist daran jetzt so toll und neu und einzigartig? 2009-04-22 11 / 20
  12. Flash != SSD im herkömmlichen Sinn (S-RAM) Single Level Cell

    (SLC) → ein Bit je Zelle → länger haltbar, weniger Leistungsaufnahme, schneller → teurer, weil weniger Informationsdichte → „high-performance memory cards“ Multi Level Cell (MLC) → mehrere Bits je Zelle (3+) → billiger in der Herstellung → höhere Leistungsaufnahme, langsamer → bei Ausfall einer Zelle sind mehrere Bits betroffen → Unterhaltungselektronik Watt is jetz eigentlich en Dampfmaschin? 2009-04-22 12 / 20
  13. Umgebung: 1x S7410, 44x 1TB, 2x Readzilla, 2x Logzilla 20

    Clients, 10GBE (Sun Lab!) Was kriegt man da jetzt so durch? 2009-04-22 NFSv4 CIFS streaming read from DRAM ~1.90 GB/s ~1.03 GB/s streaming read from disk 1.04 GB/s 849 MB/s streaming write to disk 563 MB/s 620 MB/s read IOPS from DRAM 281000 203000 Quelle: http://blogs.sun.com/brendan/entry/my_sun_storage_7410_perf http://blogs.sun.com/brendan/entry/cifs_at_1_gbyte_sec 13 / 20
  14. Umgebung: 1x S7410, 44x 1TB, 2x Readzilla, 2x Logzilla 20

    Clients, 10GBE (Sun Lab!) Was kriegt man da jetzt so durch? 2009-04-22 IOPS Durchsatz [MB/s] Latency [ms] read write read write ohne Flash 6748 527 273 4.0 12.0 mit Flash 63572 (avg) 1960 847 0.2 1.9 164417 (max) 14 / 20
  15. Heat Maps – „Rainbow Pterodactyl“ Und was kann Analytics noch

    so alles? 2009-04-22 Quelle: http://blogs.sun.com/brendan/entry/latency_art_rainbow_pterodactyl „Latency heat maps have shown us many behaviors that we don't yet understand, which we need to spend more time with Analytics to figure out.“ Brendan Gregg Sun Engineering 16 / 20
  16. Analytics Heat Maps für die langen, dunklen Winterabende 2009-04-22 Quelle:

    http://blogs.sun.com/brendan/entry/heat_map_analytics „Ok, the latency heat map looks a bit fuzzy, but this does work. I could probably improve it if I spent more than 30 mins on the code – but I have plenty of actual work to do.“ -Brendan Gregg 17 / 20
  17. Shares, Netzprotokolle, Mount, iSCSI Snapshot / Rollback Analytics → Netzdurchsatz

    → NFS per Call → Zoom, Achsen synchronisieren → „drill down“ → Speichern von Worksheets → Cache ein-/ausschalten Demo 2009-04-22 18 / 20
  18. Sun Unified Storage Simulator http://www.sun.com/storage/disk_systems/unified_storage/resources.jsp VMware Image Demo 2009-04-22 „Install

    and manage a virtual Sun Storage 7000 Unified Storage System on your laptop or desktop.“ Sun Website 19 / 20
  19. Danke für die Aufmerksamkeit. Fragen? best Open Storage Day April

    2009 Dornach Wolfgang Stief [email protected] Senior Systemingenieur best Systeme GmbH GUUG Board Member