Frankfurt/M., Starnberg, 26. Febr. 2024 - Verdopplung der Performance von Lese- und Schreibvorgänge bei gestreamten Daten; höhere Energieeffizienz / Leistung per Watt…
Zur Ankündigung: Dell Technologies erweitert sein All-Flash-Storage-Angebot mit zwei neuen PowerScale-Systemen F210 und F710. Sie wurden laut Hersteller entwickelt, um anspruchsvolle File-Workloads von KI und generativer KI besser unterstützen zu können. Im Dezember letzten Jahres wurde dazu bereits das PowerScale OneFS Betriebssystem der Scale-out File-Storage-Lösung Dell PowerScale erweitert. Mit den Updates der Software soll es Unternehmen so ermöglicht werden, KI-Modelle schneller vorzubereiten, zu trainieren, feinzujustieren und einzusetzen. Die neuen PowerScale-Systeme F210 und F710 sind laut Anbieter ab sofort verfügbar. (1)
Unsere Anmerkung zum Hintergrund der Ankündigung: Latenzen und der Durchsatz von Speichersystemen wirken sich direkt auf die Leistung eines KI-Gesamtsystems aus. Implementierungen wie im ML-Umfeld sind stark auf GPU-basierte parallele Berechnungen angewiesen. Auch sollen GPUs immer genügend Daten zur Verfügung haben, sonst verlangsamt sich der gesamten Prozess und teure Ressourcen werden nicht hinreichend genutzt. Es ist aus Sicht der KI-Anwendung notwendig, eine entsprechend hohe "Ingest"-Bandbreite für zufällige Zugriffsmuster von kleinen bis großen Files bereitzustellen.
Einfache auf SSDs aufgebaute Storage JBODs mit SAS / SATA Interface skalieren bei komplexeren KI-Anforderungen und schnell wachsenden massiven Datensätzen nicht, weshalb die Alternative in der Bereitstellung einer hochparallelen I/O-Speicherarchitektur mit NVMe (Flash / Hardware) im Verbund mit einer dafür optimierten Speicherverwaltungs-Software (z.B. software-defined Scale-out Filesystem mit NFS-Optimierungen) besteht.
Abb.: Modell eines Workflows: DL besteht darin in der Regel aus zwei verschiedenen Arbeitsabläufen, der Modellentwicklung und der Inferenz. (Bildquelle / Auszug von Whitepaper „Dell EMC PowerScale and NVIDIA DGX A100 Systems for Deep Learning“).
(1) Zu den Ankündigungsdetails: PowerScale F210 und F710 basieren auf den neuesten PowerEdge-Servern von Dell Technologies und nutzen die aktuelle Version des Betriebssystems PowerScale OneFS. Damit bieten sie Unternehmen eine KI-fähige Datenplattform mit entsprechender Leistung, Skalierbarkeit und Effizienz. F210 ist laut Anbieter die Lösung für große Leistung bei kleineren Kapazitätsanforderungen. F710 bietet dagegen in einer Höheneinheit eine Kombination aus Hochleistung und großer Kapazität.
Im Vergleich zur Vorgängergeneration ermöglichen die neuen Systeme laut Entwickler bis zu zweimal schnellere Lese- und Schreibvorgänge bei gestreamten Daten. Unternehmen können GPUs beim Training und Finetuning von KI-Modellen dadurch schneller mit Daten füttern und die Checkpoint-Phasen in der KI-Entwicklung verkürzen. Außerdem sollen sie eine um den Faktor 2,6 verbesserte Performance bei High-Concurrency-Workloads und latenzkritischen Aufgaben wie Hochfrequenzhandel (HFT) oder Electronic Design Automation (EDA) bereitstellen können.
F210 und F710 Total Cost of Ownership
Die Systeme wurden mit einem sog. „Smart-Flow“-Gehäuse ausgestattet, das immer genau die richtige Menge an Luft dorthin leitet, wo sie gerade zur Verbesserung der Energieeffizienz benötigt wird. Durch Innovationen wie diese konnte Dell Technologies nach eigenen Angaben innerhalb nur eines Jahres die Leistung per Watt seiner Systeme um bis zu 90 Prozent erhöhen. Der F710 bietet Platz für bis zu zehn Laufwerke, was im Vergleich zum F600 eine um 25 Prozent höhere Dichte bedeutet. Im F210 kommen 15-TB-QLC-Laufwerke zum Einsatz, wodurch sich seine Kapazität im Vergleich zum F200 verdoppelt.
Querverweis zum Thema:
Unser Blogpost > Speicheranforderungen bei KI-Anwendungen: Randbedingungen und Einsatzkriterien
Unser Blogpost > Energieeffizienz und Nachhaltigkeit (ESG) aus Sicht der Datenspeicherung