München, Starnberg, 09. Juli 2024 - Denodo integriert NVIDIA NIM Inferenz-Microservices in seine Plattform, um eigene KI-Funktionen auszubauen; wo liegen die Vorteile?
Zum Beitrag: Künstliche Intelligenz bietet mit Machine Learning (ML) und Large Language Models (LLMs) großes Potenzial für eine Vereinfachung und Rationalisierung des Datenmanagements. Die Mustererkennung kann laut Otto Neuer, VP Regional und General Manager bei Denodo (1) beispielsweise dabei helfen, „große unstrukturierte Datenmengen zu kategorisieren. LLMs erlauben die „Interaktion“ mit Datenbeständen auf Basis natürlicher Sprache. Allerdings stoßen Unternehmen auch schnell auf eine Vielzahl von datenbezogenen Problemen, wenn sie beginnen GenAI zu implementieren und erste Anwendungsfälle zu testen“.
Laut McKinsey sehen 72 Prozent der Unternehmen das Datenmanagement als eine zentrale Herausforderung bei der Skalierung von KI-Anwendungsfällen. Damit beispielsweise KI-gestützte Personalisierung sicher und effektiv ist, müssen die zugrundeliegenden Kundendaten genau und aktuell sein, und der Datenzugriff muss nahezu in Echtzeit über mehrere unterschiedliche Datenquellen erfolgen können. Eine entsprechende Aufbereitung der Quelldaten ist dafür unerlässlich. Quelle / ext. Link > https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/the-data-dividend-fueling-generative-ai
Die logischen Datenmanagementfunktionen der Denodo-Platform in Kombination mit NVIDIA NIM sollen es dazu laut Anbieter ermöglichen:
- Daten in KI-fähige Pipelines schnell zu kuratieren und umzuwandeln, um sie in LLMs einzuspeisen
- Die Modellgenauigkeit zu verbessern und KI-Halluzinationen durch Zugriff auf vertrauenswürdige Unternehmensdaten über Retrieval Augmented Generation (RAG)-Pipelines zu vermeiden
- Den sicheren Echtzeitzugriffs auf verteiltes Unternehmenswissen für generative KI-Anwendungen zu vereinfachen
- Den Datenschutz/ die Datensicherheit zu wahren und granulare Zugriffskontrollen für KI-Modelle zu gewährleisten, die auf Unternehmensdaten zugreifen
- KI/ML-Implementierungen von der Datenvorbereitung bis zur Modellbewertung mit NVIDIA NeMo zu beschleunigen.
NVIDIA NIM ist eine Sammlung von Cloud-nativen Microservices, die die Bereitstellung generativer KI-Modelle in verschiedenen Umgebungen vereinfachen und schneller vorantreiben, darunter die Cloud, lokale Rechenzentren und Workstations. Sie verbindet die Leistung der neuesten KI-Modelle, die sicher auf der beschleunigten Infrastruktur von NVIDIA bereitgestellt werden.
Quelle / ext. Link > https://developer.nvidia.com/nim Anmerkung: Mithilfe von Standard-APIs können Entwickler mit NIM KI-Modelle mit geringem Code-Aufwand bereitstellen. NIM-Container lassen sich in das Kubernetes-Ökosystem (K8s) integrieren, was eine effizientere Orchestrierung und Verwaltung von KI-Anwendungen in Containern erlaubt. (Quelle: NVIDIA NIM).
Durch die Integration von NVIDIA NIM in die Denodo-Platform können Betreiber damit KI-Funktionen in ihre Datenmanagement-Workflows einbinden. Außerdem ermöglicht sie Unternehmen, generative KI-Anwendungen schneller bereitzustellen und zu skalieren. Zu den wichtigsten Anwendungsfällen gehören verbesserte Analysen und robuste KI-gestützte Erkenntnisse in Branchen wie Finanzdienstleistungen, Gesundheitswesen, Einzelhandel und Produktion, die die Analysezeit für verschiedene Datenquellen verkürzen. Als NVIDIA Metropolis Partner arbeitet Denodo nach vorliegenden Angaben an der Implementierung von Vision AI und Vision Language Model (VLM) NIM Microservices, um industrielle Prozesse zu rationalisieren und die Sicherheit der Mitarbeiter zu erhöhen.
Wird die Denodo-Datenmanagement-Plattform mit NVIDIA NeMo eingesetzt, kann laut Entwicklerangabe die Genauigkeit der SQL-Abfragegenerierung für VLMs deutlich gesteigert werden. RAG-Funktionen ermöglichen vertrauenswürdigere Antworten, indem Modelle relevantes Wissen aus der Datenstruktur abrufen können, bevor sie eine Ausgabe generieren. Die Denodo-Platform kann hier unterstützen, den Datenzugriff zu vereinfachen und zu beschleunigen und gleichzeitig Fehler zu reduzieren.
Abb.: Data Virtualization Enables Modern Data Architectures and Use Cases (Bildquelle: Denodo).
(1) Im Bild: Otto Neuer, VP Regional und General Manager bei Denodo (Bildquelle: Denodo).
Kommentar Otto Neuer: „Durch die Integration von NVIDIA NIM stellt Denodo sicher, dass Kunden die volle Kontrolle über ihre KI-Implementierungen behalten, egal ob On-Prem oder in der Cloud. Die Integration bietet großes Potenzial einschließlich schnellerer Wertschöpfung und verbesserter Sicherheit für KI-Anwendungen.“
Querverweis:
Unser Beitrag > Intelligentes Datenmanagement als Basis für faktenbasiertes Nachhaltigkeits-Reporting
Unser Beitrag > Wann sind NoSQL-Datenbanken relationalen Datenbankmanagement-Systemen überlegen?