Frankfurt/Main, Starnberg, 25. Nov. 2024 - Neue Infrastruktur, um AI-Workloads und Data Management zu vereinfachen; neue spezifische Partnerlösungen zur KI-Bereitstellung…

Zur Ankündigungsübersicht: Dell Technologies hat angekündigt, seine KI-Infrastruktur weiter auszubauen. Zu den Erweiterungen gehören danach neue flüssigkeits- und luftgekühlte Server der Reihe Dell PowerEdge XE sowie Verbesserungen des Dell Data Lakehouse, die eine effiziente Bereitstellung fortschrittlicher Rechenleistung im großen Maßstab ermöglichen und den Datenzugriff für KI-Anwendungen vereinfachen sollen. Ein neuer Dell PowerEdge XE-Server, der für Dell IR7000 entwickelt wurde, unterstützt den neuen NVIDIA GB200 Grace Blackwell NVL4 Superchip. Auf diese Weise lassen sich bis zu 144 GPUs in einem 50 OU Standard-Rack betreiben.

Neue KI-Infrastrukturlösungen von Dell Technologies für KI-Workloads (Quelle: Anbieter)

Lösungen sowie Updates für die Dell AI Factory with NVIDIA beschleunigen die Entwicklung und Bereitstellung von KI-Anwendungen.
Die Dell Professional Services umfassen neue Dienste für die Bereiche Nachhaltigkeit, Datenmanagement und Netzwerktechnologie, die deren Komplexität verringern, damit Organisationen ihre KI-Ziele schneller erreichen können.

Das Unternehmen erweitert dazu sein Dell Integrated Rack Scalable Systems (IRSS)-Programm. Dell IRSS ist ein schlüsselfertiges Integrationsprogramm für Rechenzentren, das vollständig ausgestattete Plug-and-Play-Rack-Systeme mit Dell Smart Cooling liefert. IRSS vereinfacht die Bereitstellung energieeffizienter KI-Infrastrukturen zudem mit einem umfangreichen Service- und Supportangebot für das gesamte Rack. Sobald die Systeme stehen, übernimmt Dell Technologies das Recycling beziehungsweise die fachgerechte Entsorgung veralteter und ausgemusterter Hardware.

Im Zuge der Erweiterung umfasst das Dell IRSS-Programm jetzt die Dell PowerEdge XE9685L und Dell PowerEdge XE7740 Server im standardisierten 19-Zoll Dell Integrated Rack 5000 (IR5000). Das IR5000 ist für den Einsatz im Kontext von High-Density-Anwendungen in einem platzsparenden Formfaktor entwickelt worden und liefert höchste Leistung ohne Abstriche bei der Energieeffizienz.

Die Features der Server in der Übersicht:

Der Dell PowerEdge XE9685L ist ein dichter und flüssigkeitsgekühlter Server im 4 HE Formfaktor, der für KI, maschinelles Lernen, High Performance Computing (HPC) und andere datenintensive Workloads konzipiert wurde. Die dualen AMD EPYC-CPUs der fünften Generation in Kombination mit NVIDIA HGX H200- oder B200-Plattformen sowie bis zu zwölf PCIe-Gen-5.0-Steckplätzen bieten anpassbare Konfigurationen, die spezifischen Rechenanforderungen gerecht werden, sowie optimierte Speicherverbindungen und maximale IO-Durchsatzraten für anspruchsvolle Workloads. Diese Plattform bietet eine maximale GPU-Dichte mit bis zu 96 NVIDIA-GPUs pro Rack.

Der luftgekühlte Dell PowerEdge XE7740 im 4 HE Formfaktor verwendet duale Intel Xeon 6-Prozessoren mit P-Cores und bis zu acht DW Accelerator, darunter Intel Gaudi 3 AI PCIe, NVIDIA H200 NVL GPUs oder bis zu 16 SW Accelerator wie die NVIDIA L4 Tensor Core-GPU. Diese Flexibilität ermöglicht es Unternehmen, ihre Serverkonfiguration optimal auf die jeweiligen Anforderungen abzustimmen – von der Feinabstimmung oder Inferenz generativer KI-Modelle bis hin zur Wertschöpfung aus großen Datensätzen.

Dell Technologies plant, den kommenden NVIDIA GB200 Grace Blackwell NVL4-Superchip mit einem neuen Dell PowerEdge XE-Server zu unterstützen, der für das Dell IR7000 entwickelt wurde. Das IR7000-Rack unterstützt bis zu 144 GPUs pro Rack im 50 OU Standard-Format sowie große HPC- und KI-Workloads, die hohe Leistung und Flüssigkeitskühlung erfordern. Die Systeme sollen laut Entwickler zudem in der Lage sein, nahezu 100 Prozent der Wärmeenergie aufzufangen.

 

Abb.: Rethinking AI Deployment with Dell Integrated Rack Scalable Systems, PowerEdge M7725. Whitepaper (Bildquelle: Dell Technologies).

Schneller zu hochwertigen Daten für KI: Updates für das Dell Data Lakehouse

Die Plattform basiert auf KI-optimierter Hardware sowie einer vollständigen Software-Suite und wird von Dell Technologies um Apache Spark für die verteilte Datenverarbeitung im großen Maßstab erweitert. Für Unternehmen, die große Datenmengen verwalten, soll die neue Spark-Integration erhebliche Effizienzsteigerungen bieten, mit einem vereinheitlichten Ansatz für Datenanalytik, -management, -verarbeitung und -analyse.

Spezifische KI-Partnerlösungen beschleunigen die KI-Bereitstellung

Dell Technologies arbeitet mit zahlreichen Partnern im gesamten KI-Ökosystem zusammen, um KI-Bereitstellungen zu ermöglichen und zu vereinfachen:
Updates der Dell AI Factory with NVIDIA liefern eine erhöhte Leistung und schnellere Ergebnisse (Time-to-Outcomes) für KI-Operationen und für die Bereitstellung von Use Cases. Die Unterstützung von NVIDIA HGX H200- und H100 NVLPCIe GPUs kann für eine bis zu 1,9-fache höhere Leistung gegenüber der Nutzung von NVIDIA HGX H100 GPUs sorgen.

Dell Agentic RAG with NVIDIA - eine Funktion der Dell AI Factory with NVIDIA, ermöglicht es Nutzern, komplexe Abfragen auszuführen und ihre RAG (Retrieval Augmented Generation)-Operationen zu beschleunigen. Dieses Design hilft Unternehmen mit großen Datensätzen, KI-Agenten einzusetzen, um RAG-Workflows zu verbessern, komplexe Abfragen zu bearbeiten und qualitativ hochwertige Ergebnisse zu erzielen. Die Lösung nutzt Dell PowerEdge-Server, Dell PowerScale-Storagesysteme und aktuelle NVIDIA AI Enterprise-Software sowie generative KI-Tools wie NeMo Retriever Microservices und den NVIDIA AI Blueprint für multimodale PDF-Datenextrahierung.

Dell Validated Designs for AI PCs sind quelloffene, getestete Lösungen, die die Entwicklung von KI-Anwendungen auf Dell AI-PCs mit NPU-Technologie unterstützen. Entwickler können die modularen Designs panpassen, um Funktionen wie LLMs, Computer Vision, Text und Sprache in Anwendungen zu integrieren. Sie können die KI-Anwendungen auf mehreren Plattformen bereitstellen, und zwar unabhängig von den verwendeten Chips. Mit diesem skalierbaren Ansatz können Unternehmen Routineprozesse automatisieren, Zeit sparen, Kosten senken und die Datensicherheit durch On-Device-KI verbessern.

Weniger Komplexität und leichtere KI-Nutzung

Dell Professional Services können Organisationen mit einer Reihe neuer Dienstleistungen dabei unterstützen, die KI-Ziele effizienter zu erreichen:

Advisory and Implementation Services for Sustainable Data Centers bieten Expertise für die Erstellung und Umsetzung von Strategien, um die Energieeffizienz von Rechenzentren zu verbessern und deren Emissionen durch intelligentes Energie- und Kühlungsmanagement zu senken. Auf diese Weise helfen die neuen Services Unternehmen, ihre Nachhaltigkeitsziele zu erreichen.

Data Management Services liefern einen Katalog von Datensätzen für den Einsatz im KI-Kontext durch die Auffindung, Klassifizierung und Verfeinerung von Daten. Dadurch wird Unternehmen der Zugriff auf geordnete und qualitativ hochwertige Daten vereinfacht.

Die Design Services for AI Networking bieten Kunden ein Netzwerkdesign, das für KI-Workloads optimiert ist und laut Anbieter höhere Geschwindigkeiten, geringere Latenzzeiten und verbesserte Skalierbarkeit gewährleisten kann.

Implementation Services for ServiceNow Now Assist integrieren GenAI-Funktionen in Service-Management-Workflows über Now Assist. Der Assistent rationalisiert das Sammeln von Inhalten durch KI-gesteuerte Zusammenfassungen, automatisiert die Ergebnisse und steigert die Produktivität.

Zu den Verfügbarkeiten der neuen Angebote (Quelle: Dell Technologies):

• „Der Dell PowerEdge XE9685L wird ab dem ersten Quartal 2025 verfügbar sein.
• Der Dell PowerEdge XE7740 wird weltweit ab dem zweiten Quartal 2025 verfügbar sein.
• Die Updates für das Dell Data Lakehouse sind ab sofort weltweit verfügbar.
• Dell Validated Designs for AI PCs sind ab sofort weltweit verfügbar.
• Das GPU-Update für Dell Generative AI Solutions with NVIDIA wird ab 2025 verfügbar sein.
• Die Enterprise-scale RAG für die Dell Generative AI Solutions with NVIDIA sind ab sofort weltweit verfügbar.
• Die Dell Data Management Services sind ab sofort verfügbar.
• Die Dell Services for Sustainable Data Centers sind ab sofort verfügbar.
• Die Dell Design Services for AI Networking sind voraussichtlich ab dem ersten Quartal 2025 verfügbar.
• Die Dell Implementation Services for ServiceNow Now Assist sind ab sofort verfügbar.“

Querverweis:

Unser Beitrag > Dell Technologies World 2024: Dell AI Factory Erweiterung, File Storage und KI-Datenschutz

Unser Beitrag > Neo4j erweitert Cloud-Portfolio für Graphdatenbanken im Enterprise- und GenAI-Umfeld