Dropbox realisiert Exabyte Cloud-Infrastrukturen mit Western Digital SMR HDDs

San Jose (CA), Starnberg, 14. Juni 2018 - WDC Ultrastar Hs14 SMR 14 TB Host-Managed Shingled Magnetic Recording (SMR); Objectstorage für den Exabyte-Bereich...

Zum Hintergrund: Die Western Digital Corporation hat bekannt gegeben, dass Dropbox Inc. - eine weltweit führende Cloud-Plattform - nach dem Qualifizierungsprozess in seiner Speicherinfrastruktur Magic Pocket im Exabyte-Maßstab Ultrastar® Hs14 Festplattenlaufwerke mit Host-Managed Shingled Magnetic Recording (SMR) freigegeben und installiert hat. Durch die Qualifizierung sichert sich Dropbox nicht nur den neuesten Stand der HDD-Datentechnologie, sondern verwendet SMR (1) in seiner eigenen Cloud-Storage-Umgebung. Mittels der für SMR eigens aufgebauten Storage-Architektur (SMR ist nicht Perpendicular Recording und erzwingt „sequential writes" - siehe unten) profitiert Dropbox nach vorliegenden Angaben von höherer Speicherdichte und verbesserter Energieeffizienz bei gleicher Zuverlässigkeit für den primären Storage in seinen Cloud-Rechenzentren.

Die 14TB-Festplatte als Ultrastar Hs14 liefert nach Angaben des Herstellers sehr niedrige Gesamtbetriebskosten für die horizontale Skalierung in Unternehmens- und Cloud-Rechenzentren. Die Laufwerke basieren auf der Western Digital HelioSeal®-Plattform und bieten demnach eines der besten Watt/TB-Leistungsverhältnisse für die Online-Speicherung. Die Hs14 Host-Managed SMR HDD Ultrastar eignet sich damit ideal für die horizontale Skalierung von extrem dichten Storage-Systemen.

Anwenderkommentar Akhil Gupta, Vice President Cloud Engineering bei Dropbox: „Der Start von Magic Pocket stellt einen Meilenstein für die Branche in puncto Cloud-Infrastruktur dar. Auf dieser Grundlage können wir unseren Kunden und Unternehmen durch kontinuierliche Innovation und Kostensenkungen Nutzervorteile bieten. Da wir in die nächste Phase der Entwicklung von Magic Pocket eintreten, ermöglicht uns die strategische Partnerschaft mit Western Digital eine effektive Skalierung, da immer mehr Kunden unsere Plattform nutzen. Der Einsatz der SMR-Technologie wurde mit dem Support von Western Digital umgesetzt, wobei der Service, die Kollaborationstools und die Funktionen der Laufwerke eine große Rolle spielten – und wir freuen uns darauf, weiterhin gemeinsam die Möglichkeiten der Cloud-Infrastruktur neu zu definieren.“

Dazu Mark Grace, Senior Vice President Devices, Western Digital: „..Berücksichtigt man, dass der Speicherbedarf hierbei im Exabyte-Bereich liegt, und die damit einhergehenden Kapital- und Betriebskosten des Rechenzentrums, so kann sich der langfristige Wertzuwachs, den Dropbox in Form von geringeren Kosten pro TB, höherer Speicherdichte, geringerem Stromverbrauch und hoher Zuverlässigkeit generiert, durchaus im Unternehmensergebnis niederschlagen.“


Abb. 1: WDC Ultrastar Hs14 SMR Drive (Bildquelle: Western Digital Corporation)

Link > Ultrastar Hs14: Produktinformationen


(1) Querverweis und technische Hintergrundinformation

Herkömmliche Perpendicular Magnetic Recording (PMR)-Festplatten erlauben random writes über die gesamte Festplatte. Shingled Magnetic Recording (SMR) HDDs hingegen bieten eine höhere Aufzeichungs-/Bitdichte, erzwingen aber zur Ausnutzung dieser höheren Kapazität sequentielle Schreibvorgänge. Das Verdichten der Spuren auf SMR-Platten bewirkt, dass der Kopf die nächste Spur löscht. Ein kleiner, konventioneller Bereich am Außendurchmesser ermöglicht dabei das Caching von random writes als auch die Verwendung von SSD. SMR ist auf Grund der langsameren Write-Performance im Gegensatz zu PMR somit ohne zusätzliche Maßnahmen nicht für alle Anwendungsbereiche geeignet (kompatibel).

Die größte Herausforderung, einen Workload "SMR-kompatibel" zu machen, bestand laut Dropbox-Engineering nun darin, eine zufällige (random) Lese-/Schreibaktivität auszuführen, aber sie sequentiell zu gestalten. Um dies zu erreichen, wurde das Object Storage Devices (OSD) so umgeschrieben, dass die Metadaten, die häufig aktualisiert werden, im konventionellen Bereich der SMR-Platte gehalten werden (wo Lese- und Schreibzugriffe unterstützt werden), während die unveränderlichen Blockdaten auf sequentiellen Zonen gehalten werden.

Dropbox ist nach eigenen Angaben das erste große Technologieunternehmen, das die SMR-Technologie einsetzt; es fügt derzeit Hunderte von Petabyte an neuer Kapazität mit seinen High-Density-Servern zu signifikanten Kosteneinsparungen gegenüber herkömmlichen PMR-Drives hinzu. Dazu hat Dropbox für Magic Pocket eine eigene Speicherarchitektur entwickelt (Quelle: Dropbox): "Magic Pocket (MP) speichert Benutzerdaten in Blöcken, wobei ~4MB die maximale Größe ist. Die Blöcke sind in 1GB-Extents organisier; da diese Extents nur als Anhang geschrieben werden und unveränderlich sind, sind die sequentiellen Schreibvorgänge von SMR ideal für die Arbeitsbelastung von MP.“

Dropbox hat sich für die Host-verwaltete (via File-System) SMR-Implementierungsvariante entschieden, da sie dabei die komplette Kontrolle erhalten, wie Daten auf der Festplatte abgelegt und die notwendige Speicherverwaltungs-Aufgaben auf dem Drive erledigt werden können. Die Laufwerks-verwaltete Variante ist zwar einfacher zu implementieren, verlagert aber die Verwaltungs-Prozesse auf das Laufwerk selbst, was zu Performance-Einschränkungen führt.

Weitere Details hierzu finden sich unter dem Link > Dropbox Blogs „inside the magic pocket“


Abb. 2: Auszug - Dropbox Storage Architektur - Screenshot (Bildquelle: Dropbox "Inside the Magic Pocket, James Cowling May 6, 2016)

> https://blogs.dropbox.com/tech/2016/05/inside-the-magic-pocket/


Zusätzliche Informationen

> Dropbox Blog: Extending Magic Pocket Innovation with the first Petabyte-scale SMR Drive Deployment

> Western Digital Blog: Making Host Managed SMR Work for You – Dropbox’s Successful Journey