VAST AI OS direkt auf NVIDIA-Servern. Die Lösung nutzt NVIDIA-Bibliotheken zur Beschleunigung von Compute- und Datenservices für RAG, Vektorsuche oder Realtime-SQL sowie Agentic-Anwendungen…
Hintergrund
VAST Data hat Anfang März '26 einen End-to-End-KI-Datenstack vorgestellt, der komplett CUDA-beschleunigt ist. Das VAST AI Operating System läuft dazu direkt auf NVIDIA-basierten Servern. Das Ziel: Datenengpässe in der KI-Pipeline beseitigen und Dateneinspeisung, -bereitstellung, -analyse sowie -inferenzierung auf einer zentralen und einheitlichen Plattform bereitstellen zu können.
VAST AI OS beschleunigt die Ebenen Datenservices und Compute als "ein kohärentes System" und adressiert damit die operative Komplexität, die aus der Kombination separater Storagesysteme, Datenbanken und KI-Infrastruktur-Stacks entstehen kann. Im Ergebnis soll laut Entwickler „ein einfacherer und schnellerer Weg von der Pilotphase zum Produktivbetrieb von RAG-Pipelines, Agentic-Systemen und langfristig genutzten KI-Workloads stehen“.
Ankündigungsdetails
VAST CNode-X wurde in Zusammenarbeit mit NVIDIA entwickelt und liefert eine neue Generation von NVIDIA-zertifizierten Systemen, die Erstellung und Betrieb von KI-Infrastrukturen grundlegend verändern können.
VAST AI OS stellt Hochleistungs-Storage-Services in Cluster-Umgebungen bereit, die mittels GPUs von NVIDIA beschleunigt wurden. Dazu läuft das Betriebssystem nun auch direkt auf NVIDIA-basierten Servern. Durch diese Veränderung in der Architektur ist VAST in der Lage, KI-Pipelines, performante Analysen, Vektorsuche, RAG-Funktionen und Laufzeitumgebungen für KI-Agenten in einem zentralen und einheitlichen Software-Stack zu orchestrieren.
Die neuen CNode-X-Server bilden die Computing-Basis für VAST AI OS und nutzen die NVIDIA-Softwarebibliotheken und -Schnittstellen direkt in den zentralen VAST-Softwarediensten einschließlich VAST DataEngine und VAST DataBase. Die Beschleuniger sind laut Entwickler tief in der Plattform eingebettet und bieten mehr Leistung bei geringerer Latenz; dies soll eine höhere Effizienz bei Echtzeit-SQL-Analysen, Vektorsuchen und -abfragen sowie KI-Inferencing-Workflows ermöglichen.
Abb.: CNode-X kombiniert NVIDIA RTX PRO 6000 Blackwell-GPUs mit der VAST EBox-Datenplattform und macht Datensysteme zu einem integralen Bestandteil des Compute-Frameworks (Bildquelle: VAST Data, Solution Brief).
Anmerkung: Obwohl es sich um Hardware handelt, ist dies im Kern eine Software-Partnerschaft. CNode-X erweitert die GPU-Beschleunigung über Training und Inferenz hinaus auf Vektorsuche, SQL-Analysen und die Orchestrierung containerisierter KI-Modelle. Speicher, Datenbank, Event Broker, Funktionen und KI-Modelle laufen alle nativ auf dem VAST AI-Betriebssystem…
Querverweis / externer link > https://github.com/vast-data/cosmos-labs/tree/main/dataengine-research-assistant-blueprint#vast-research-assistant---complete-deployment-guide
Kommentar Jensen Huang, Gründer und CEO von NVIDIA: „NVIDIA erfindet für KI jede einzelne Computing-Säule neu. Mit VAST Data transformieren wir den Storage-Teil von KI-Infrastrukturen. CNode-X ist auf jeder Ebene CUDA-beschleunigt, um für KI-Agenten mehr persistenten Hauptspeicher bereitzustellen. Dadurch können sie komplexe Probleme bearbeiten, über Tage, Wochen und am Ende sogar über Jahre, ohne etwas zu vergessen – so erschließt sich die Welt das nächste Anwendungsfeld von KI.“
Zu den wesentlichen Leistungsmerkmalen des neuen Angebots zählen (Quelle, Anbieter):
„GPU-native SQL-Engine-Beschleunigung für VAST DataBase Analytics-Pipelines: Durch die Kombination von speicherseitiger Intelligenz und GPU-beschleunigter Ausführung entwickelt VAST die VAST DataBase weiter, um moderne Analytics-Workloads im gesamten Lebenszyklus von Datenbankabfragen zu beschleunigen. Die Abfrage-Engine von VAST DataBase vereinigt intelligentes Daten-Layout, -Pushdown sowie -Filtern und verringert dadurch überflüssige Ein- und Ausgabeoperationen.
Gleichzeitig nutzt sie Sirius, eine quelloffene Query-Engine auf Basis von NVIDIA cuDF, für GPU-beschleunigte SQL-Ausführung auf der Compute-Ebene. Bei NVIDIA cuDF handelt es sich um eine Bibliothek für beschleunigte Analysen strukturierter Daten. Dieser komplementäre Ansatz beschleunigt alle Vorgänge, bevor Daten die Compute-Ebene erreichen, wie auch die Compute-Ebene selbst. Die Datenbank ist dadurch gleichzeitig speicheroptimiert und GPU-beschleunigt. Erste Sirius-Vergleichsdaten zeigen eine um bis zu 44 Prozent geringere Query-Zeit und um bis zu 80 Prozent reduzierte Query-Kosten.
NVIDIA cuVS für beschleunigte Vektorsuche und -abfrage: Durch die Einbettung von NVIDIAs Bibliothek cuVS macht CNode-X von VAST die GPU-Beschleunigung für Vektorsuche und Daten-Clustering verfügbar. Unternehmen, die VAST für skalierbare Datenbankdienste und die entsprechend dem NVIDIA-AI-Data-Platform-Design entwickelte VAST InsightEngine für ihre RAG-Pipeline im Echtbetrieb nutzen, kommen dadurch in den Genuss verringerter Abfragelatenzen für kontextintensive Echtzeit-KI-Anwendungen.
NVIDIA Nemotron-Modelle und NIM Microservices für skalierbare DataEngine-Pipelines: VAST wird die NVIDIA NIM Microservices unterstützen und sie in CNode-X für skalierbare KI-Pipelines bereitstellen. Außerdem veröffentlicht das Unternehmen im Open-Source-Modell VAST DataEngine-Vorlagen für KI-Pipelines, die für den Produktivbetrieb vorbereitet sind. Diese Pipelines zielen auf Anwendungsszenarien ab, wie Videoerkennung, RAG für Unternehmensdokumente und Genomikforschung.
NVIDIA CMX für beschleunigte skalierbare Inferenzierung: VAST unterstützt die NVIDIA Context Memory Storage (CMX) Platform durch Cluster-Konfigurationen, die NVIDIA BlueField-4 DPUs und Spectrum-X-Ethernet-Networking unterstützen. Dadurch beschleunigt sich der Zugriff auf gemeinsam genutzten Key Value (KV) Cache-Speicher und verkürzt die Zeitspanne von der Anfrage bis zur Anzeige des ersten Antwort-Tokens (Time-to-first-Token) bei Multi-Agenten-Inferenzierungen mit umfangreichen Kontextinformationen. Dadurch haben KI-Agenten im gesamten Pod Zugriff auf den Hauptspeicher. VASTs Disaggregated Shared Everything (DASE)-Architektur verschafft Kunden den weiteren Vorteil, optional Enterprise-Data-Services außerhalb des normalen Datenstroms hinzuzufügen, ohne dass dies zu Lasten von KV-Abfragezeiten geht.
Hardwareoptionen für das beschleunigte VAST AI Operating System: VAST plant die CNode-X-Server über OEM-Partner wie Cisco und Supermicro auf den Markt zu bringen. Durch die zertifizierten Konfigurationen ermöglicht der Anbieter einen kürzeren Weg zu einer KI im Echtbetrieb bei gleichzeitig verbessertem Support."
Fazit der Ankündigung
KI-Pipelines von Unternehmen entwickeln sich zunehmend zu fest installierten Systemen. Vor diesem Hintergrund kombiniert VAST seine Datenplattform mit NVIDIA-beschleunigtem Computing im gesamten Stack, um hoch performante Datenabfragen, Analysen sowie Vektorsuche zu liefern und GPUs in RAG-, Echtzeitanalyse- und hoch skalierten KI-Workloads produktiver zu nutzen.
Querverweis:
Unser Beitrag > VAST Data startet VAST Amplify Programm zur Erhöhung der effektiven Flashspeicherkapazität
Unser Beitrag > Preventive AIOps in der Smart Factory: Wie KI mögliche Ausfälle vermeidet und Industrieprozesse stabilisiert
Unser Beitrag > WEKA KI-Storage macht Augmented Memory Grid auf NeuralMesh verfügbar