KI “at the Edge” mit QCT Server-Systemen für die NVIDIA EGX Computing Plattform

Düsseldorf, Starnberg  11. Nov. 2019 - Spezielle Serverlösungen für die Netzwerkperipherie; damit entfällt der zeitaufwändige Validierungsprozess für KI-fähige Systeme...

Zum Hintergrund: Basierend auf NVIDIA-zertifizierten QCT Servern und der NVIDIA EGX Edge Computing Plattform ist GPU Beschleunigung jetzt auch am Netzwerkrand, „at the Edge“, möglich. Dazu gab Quanta Cloud Technology (QCT), ein globaler Anbieter von Datacenter Lösungen, eine strategische Partnerschaft mit NVIDIA bekannt. Die beiden Unternehmen entwickeln danach gemeinsam eine neue, auf der NVIDIA EGX Edge Computing Plattform basierende IT-Architektur. Optimiert für Künstliche Intelligenz (KI) soll sie vor allem im Bereich 5G und in anderen Innovations-Märkten eingesetzt werden. Ziel der Zusammenarbeit ist es, Datencenter dabei zu unterstützen, Systeme, auf denen Workloads mit künstlicher Intelligenz (KI) ausgeführt werden können, sofort zu identifizieren. Auf diese Weise entfällt der normalerweise zeitaufwändige und umständliche Validierungsprozess für KI-fähige Systeme.

Das verstärkte Aufkommen der 5G Technologie, bei der Daten unmittelbar („in Motion“), also direkt bei ihrer Erzeugung oder beim Empfang verarbeitet werden, wird den Bedarf an lokaler Datenverarbeitung erhöhen. Als Folge davon werden KI-gestützte Anwendungen, egal ob es sich um IoT-Lösungen, das Streamen von Sensordaten oder Cloud-native Features handelt, näher zum Netzwerkrand („die Edge“) verschoben. Das gleiche gilt auch für die KI-fähigen Server von QCT, die nun näher beim Endanwender zum Einsatz kommen, wo täglich große Datenmengen empfangen und verarbeitet werden.

Erweitert für die Edge: das NGC-Ready Programm von NVIDIA

Die skalierbare, GPU-beschleunigte EGX Edge Computing Plattform von NVIDIA bietet laut Entwickler eine stabile Leistung, unabhängig davon, ob die Workloads vor Ort, in der Cloud oder lokal am Netzwerkrand anfallen. Sie unterstützt außerdem das NGC-Ready-for-Edge Programm von NVIDIA, das rasch Systeme identifiziert, die für die Ausführung komplexer KI-Workloads an der Netzwerkperipherie geeignet sind.

 

Abb. 1: QuantaGrid D52G-4U Server (Bildquelle: Quanta Cloud Technology).


Optimiert für NGC-Ready: die Edge Computing Plattformen von QCT

Die von QCT und NVIDIA durchgeführte Optimierung der KI-fähigen IT-Infrastruktur zur Vereinfachung von KI-Workloads stellt nach vorliegenden Angaben nicht nur für die Nutzung der 5G-Technologie, sondern auch für weitere vertikale Märkte wie Retail, Fertigung, Gesundheitswesen oder Smart Cities (BMI-Link) einen wichtigen Schritt dar. Auf Basis der NVIDIA EGX Computing Plattform ist QCT in der Lage, jetzt spezielle Serverlösungen für die Netzwerkperipherie anzubieten, die eine äußerst flexible Handhabung von KI-Anwendungen ermöglichen sollen.

Mit den QuantaGrid D52BV-2U, QuantaGrid SD2H-1U, QuantaGrid D43K-1U und QuantaGrid S43KL-1U Computer-Servern hat QCT aktuell vier Server-Plattformen im Programm, die nach der neuesten NGC-Ready-Richtlinie validiert wurden. Weitere Server-Modelle sollen demnach bis Ende 2019 auf den Markt kommen. Jedes dieser Systeme unterstützt NVIDIA T4 oder V100 Tensor Core GPUs. NVIDIA Features, wie Treiber, Containerlaufzeit, Kubernetes NVIDIA Geräte-Plugin und Monitoring-Plugin, können nun zentral mit dem Cloud-nativen NVIDIA GPU Operator verwaltet werden, was die Bereitstellung von KI-Anwendungen erheblich vereinfacht. Über ein Helm-Chart, das schnell auf einem QCT-System installiert werden kann, ist es jetzt möglich, das Setup eines GPU-betriebenen Knotens vollautomatisch auszuführen.


Querverweise: