Frankfurt/M., Starnberg, 02. Juni 2023 - Komplettlösungen mit Validated Designs zum sicheren Betrieb und einer verantwortungsvollen Bereitstellung von KI-Modellen…
Zur Ankündigung: Das von Dell Technologies und NVIDIA initiierte Project Helix hat zum Ziel, Unternehmen dabei zu unterstützen, generative KI-Modelle vor-Ort (on-premise) zu erstellen und zu betreiben. Ziel ist es laut Anbieter, mit Project Helix (Zitat) „Full-Stack-Lösungen zu generieren, die basierend auf Infrastruktur und Software von Dell Technologies und NVIDIA technische Expertise mit vorgefertigten Tools vereinen." Die Initiative kann Unternehmen eine Blaupause dafür liefern, wie sie ihre proprietären Daten sinnvoll nutzen und generative KI verantwortungsvoll sowie präzise einsetzen. Anwendungsbereiche wie z.B. Kundenservices, Marktforschung oder Enterprise-Search-Anwendungen sollen sich so schneller verbessern lassen.
Generative KI auf lokalen Servern
Project Helix wird den kompletten Lebenszyklus generativer KI abbilden – von der Provisionierung der Infrastruktur, der Modellierung, dem Training, der Feinabstimmung, der Anwendungsentwicklung und -bereitstellung bis hin zur Bereitstellung der Inferenz und der Rationalisierung der Ergebnisse. Mit den Validated Designs bauen Unternehmen schneller und vereinfacht eine On-premises-Infrastruktur für generative KI in dem für sie passenden Umfang auf.
Die Lösungen basieren auf PowerEdge-Servern von Dell Technologies wie dem PowerEdge XE9680 und dem PowerEdge R760xa. Sie sind daraufhin optimiert, die nötige Leistung für das Training generativer KI und KI-Inferenzierung bereitzustellen. Die Kombination aus Servern von Dell Technologies und NVIDIA H100 Tensor Core GPUs sowie ausgesuchten Netzwerkkomponenten von NVIDIA (NVIDIA Networking) bildet das passende Infrastruktur-Rückgrat für diese Workloads.
Abb. NVIDIA H100 Tensor-Core-GPU (Bildquelle: NVIDIA).
Unternehmen sollen diese Infrastruktur optional in Verbindung mit einem robusten und skalierbaren Speicher für unstrukturierte Daten nutzen können, etwa Dell PowerScale oder Dell ECS Enterprise Object Storage.
Sämtliche Validated Designs aus Project Helix enthalten laut Anbieter auch die Enterprise-Funktionen der Server- und Storage-Software von Dell Technologies sowie die Observability-Kapazitäten von Dell CloudIQ. Zudem erhalten Nutzer Zugriff auf NVIDIA AI Enterprise. Die Software-Suite beinhaltet Tools für den gesamten KI-Lebenszyklus, darunter mehr als 100 Frameworks und vortrainierte KI-Modelle. Auch Entwicklungs-Tools wie das Large-Language-Model-Framework NVIDIA NeMo sowie die Software NeMo Guardrails für das Erstellen sicherer und aktueller Chatbots, die auf generativer KI basieren, sind nach vorliegenden Informationen Teil der Anwendungssammlung.
In den Validated Designs von Project Helix sind zudem Sicherheits- und Datenschutzfunktionen in allen grundlegenden Komponenten nativ integriert, etwa Secured Component Verification. Die Verifizierung stellt über ein von Dell Technologies signiertes Plattformzertifikat sicher, dass die Hardware von Dell Technologies wie bestellt bei den Kunden ankommt. Da Unternehmen die Lösungen lokal einsetzen und der Schutz der Daten on-premises stattfindet, reduzieren die Validated Designs deren inhärentes Risiko und helfen bei der Einhaltung gesetzlicher Vorschriften.
Kommentar Jensen Huang, Gründer und CEO von NVIDIA: „Wir befinden uns an einer historischen Schwelle. Die unglaublichen Fortschritte im Bereich generativer KI decken sich mit der aktuellen Zielsetzung von Unternehmen, mit weniger Aufwand mehr zu erreichen. Gemeinsam mit Dell Technologies haben wir daher eine extrem skalierbare, hocheffiziente IT-Infrastruktur entwickelt, die Unternehmen dabei unterstützt, ihre Daten für die Erstellung und den Betrieb generativer KI-Anwendungen zu nutzen und so ihr Geschäft zu transformieren.“
Zur Verfügbarkeit: Die Validated Designs von Dell Technologies, die auf der Initiative Project Helix basieren, sind laut Anbieter ab Juli 2023 über die üblichen Kanäle sowie als flexible APEX-Nutzungsoptionen verfügbar.
Querverweis:
Unser Beitrag > Effizienzsteigerung im Rechenzentrum: Software-Technologien machen den Unterschied
Unser Beitrag > WekaIO Performance mit NVIDIA Magnum IO GPUDirect Storage im Microsoft Research Lab
Unser Beitrag > AWS kündigt neue Tools für die Anwendungsentwicklung mit generativer KI an