Frankfurt/M., Starnberg, 01. Aug. 2023 - Ziel ist die beschleunige Einführung von generativer KI mit Hilfe von geeigneter IT-Infrastruktur, Software und Services; Project Helix...
Zur Ankündigung: Dell Technologies hat eine Reihe von neuen IT-Infrastrukturlösungen, Workstations und Services für Generative AI auf den Markt gebracht. Mit dem Dell Validated Design for Generative AI with NVIDIA stehen danach Infrastruktur-Baupläne für Unternehmen aller Größen und Branchen im Bereich von generativer KI zur Verfügung. Das Design wurde gemeinsam mit NVIDIA entwickelt (siehe Project Helix**), um bei sich vor Ort (on-premise) mit eigenen Daten eine modulare sichere Plattform für Generative AI aufzubauen. Anwendungen mit großen Sprachmodellen (Large Language Models, LLMs) sollen sich so entwickeln, betreiben und schneller skalieren lassen.
Das Design umfasst getestete und validierte Kombinationen von Infrastruktur-Komponenten wie Dell PowerEdge XE9680 und Dell PowerEdge R760xa Server mit NVIDIA Tensor Core GPUs, NVIDIA AI Enterprise Software, NVIDIA NeMo Framework und Software von Dell Technologies. Diese Kombinationen können Betreiber dann mit Storage-Lösungen für unstrukturierte Daten erweitern, etwa mit Dell PowerScale oder dem Dell ECS Enterprise Object Storage. Die Infrastrukturen sind auch via Dell APEX verfügbar. Auf diesem Weg erhalten Unternehmen eine On-Premises-Installation, die sie wie eine Cloud nutzen und verwalten können.
Abb.: Solution architecture and software stack (Bildquelle: Dell Technologies, Whitepaper: Generative AI in the Enterprise. A Scalable and Modular Production Infrastructure for Artificial Intelligence Large Language Models).
Neue Professional Services
Diese können Unternehmen dabei helfen, die Einführung von generativer KI zu beschleunigen. Die Dienstleistungen beginnen mit der Entwicklung einer Strategie für generative KI, die sinnvolle Einsatzszenarien identifiziert und eine Roadmap für ihre Umsetzung definiert.
Zudem bietet Dell Technologies dazu Implementierungsservices sowie Dienstleistungen zur Ausrichtung der Plattformen auf konkrete Anwendungsfälle. Nach der Implementierung helfen Services dabei, den Betrieb mithilfe von Managed Services, Schulungen oder Experten vor Ort weiter zu optimieren. Querverweis, externer Link > https://www.dell.com/en-us/lp/generative-ai-services
Workstations-Erweiterung
Der Hersteller erweitert seine Tower-Workstations Dell Precision 7960, 7865 und 5860 um Konfigurationen mit NVIDIA RTX 6000 Ada Generation GPUs. Die Workstations sollen KI-Entwickler und Datenwissenschaftler dabei unterstützen, Generative-AI-Modelle lokal zu entwickeln und zu verfeinern, bevor sie im großen Maßstab eingesetzt werden. Dafür stehen laut Anbieter bis zu vier NVIDIA RTX 6000 Ada GPUs in einer Workstation zur Verfügung. Die in den Workstations integrierte KI-Software Dell Optimizer wurden zudem mit weiteren Features ausgestattet. Nutzer von mobilen Workstations sollen jetzt generative KI verwenden können, um die Performance von Anwendungen zu verbessern und die Akkulaufzeiten zu optimieren.
**Querverweis:
Unser Beitrag > Project Helix: Dell Technologies und NVIDIA zur lokalen Entwicklung generativer KI-Modelle
Unser Blogpost > Speicheranforderungen bei KI-Anwendungen: Randbedingungen und Einsatzkriterien
Unser Beitrag > Capgemini Research Institute: Mehr Vorteile als Risiken beim Einsatz von generativer KI