März 2025 - Die neue datenbank-interne Lösung ist für kosteneffiziente Abfragen mit Antwortzeiten von unter einer Sekunde - unabhängig vom Datenvolumen - konzipiert. In Zukunft mehrdimensionale komplexe Probleme durch die Kombination von strukturierten mit unstrukturiertem Daten lösen…
Zum Hintergrund
Daten sind entscheidend für präzise Schlussfolgerungen mit KI-Anwendungen. Der Enterprise Vector Store soll dazu auf NVIDIA NeMo Retriever Microservices für beschleunigte Rechenleistung zugreifen und die Performance von RAG-Anwendungen optimieren.
Teradata Enterprise Vector Store
Bei der Ankündigung handelt es sich um eine datenbankinterne Lösung, die Geschwindigkeit, Leistung und multidimensionale Skalierbarkeit der Hybrid-Cloud-Plattform von Teradata für das Management von Vektordaten nutzt. Diese sind laut Entwickler ein „entscheidendes Element für die Implementierung von Trusted AI (vertrauenswürdige KI)“. Der Teradata Enterprise Vector Store wurde als leistungsstarke Lösung für Anwendungsfälle konzipiert, die Vektorfunktionen und RAG-Anwendungen erfordern.
Aufgrund der kosteneffizienten Skalierung und Integration soll der Teradata Enterprise Vector Store Unternehmen dabei unterstützen, den Wert und Erkenntnisse aus unstrukturierten Daten zu maximieren, sowie gleichzeitig die Ausgaben zu senken. Weiter ist geplant, dass die Hybrid-Cloud-Plattform von Teradata VantageCloud mit NVIDIA NeMo Retriever-Microservices, einem Teil der NVIDIA AI Enterprise-Softwareplattform integriert und erweitert werden soll.
Die Vorteile von Teradata Enterprise Vector Store (Quelle / Anbieter):
Die Lösung ist nach vorliegenden Informationen in der Lage, Milliarden von Vektordaten zu verarbeiten und in bestehende Unternehmenssysteme zu integrieren – bei Reaktionszeiten im zweistelligen Millisekunden- Bereich.
Sie bietet ein zentrales Repository für alle Daten und baut auf dem Support auf, den Teradata für Retrieval-Augmented Generation (RAG) bietet. Ein Ziel sind dabei dynamische agentenbasierte KI-Anwendungsfälle, wie das „Augmented Call Center“. Unternehmen, die auf agentenbasierte KI hinarbeiten und zugleich ihre aktuelle Infrastruktur dazu optimal nutzen möchten, bietet Teradata Enterprise Vector Store eine flexible Skalierung in Cloud- und lokalen On-Premise-Umgebungen.
Durch die Verwaltung unstrukturierter Daten in multimodalen Formaten – Text, Video, Bilder, PDFs und mehr – konsolidiert der Teradata Enterprise Vector Store sowohl strukturierte- als auch unstrukturierte Daten für eine ganzheitliche Analysen. Darüberhinaus werden die folgenden Funktionen zu Verfügung gestellt:
- "Abdeckung des gesamten Lebenszyklus im Management von Vektordaten – von der Generierung von Embeddings und der Indexierung bis hin zur Metadatenverwaltung und intelligenten Suche.
- Prozessverarbeitung innerhalb des bestehenden Teradata-Systems, das sich durch flexible Bereitstellungsoptionen wie Cloud, On-Premise oder Hybrid auszeichnet.
- Unterstützung von branchenführenden Frameworks wie LangChain und RAG sowie umfassende Datenmanagement- und Governance-Praktiken, die für Trusted AI erforderlich sind.
- Zudem ist künftig geplant, die Vektor-Embeddings mit temporalen Meta-Daten anzureichern, die das Vertrauen und die Nachvollziehbarkeit durch die Verfolgung von Datenänderungen im Laufe der Zeit erhöhen und die Genauigkeit und Entscheidungsfindung verbessern sollen."
Vector Stores als Grundlage für Agentic AI (agentenbasierte KI)
Vector Stores (Vektordatenbanken/Vektorspeicher) sind für jedes Unternehmen, das Agentic AI (agentenbasierte KI) nutzen möchte, von grundlegender Bedeutung. Meist erfordern sie aber Kompromisse, die ihren Einsatz für die Lösung anspruchsvollster Geschäftsprobleme unerschwinglich oder teuer machen können.
- Sie können zwar schnell sein, aber nur mit kleinen Datensätzen.
- Sie können Vektor-Mengen verwalten, aber nicht mit der Geschwindigkeit, die für agentenbasierte KI-Anwendungsfälle erforderlich ist.
- Vector Stores bieten allerdings in einem Fall einen entscheidenden Mehrwert: Wenn Unternehmen sowohl schnellste Reaktionszeiten als auch enorme Rechenleistung auf unstrukturierte Datensätze anwenden – und zwar in Kombination mit geschäftskritischen strukturierten Daten.
Kommentar Louis Landry, CTO von Teradata: „Vector Stores sind die Grundlage dafür, wie wir Daten mit generativen KI-Modellen und agentenbasierter KI verbinden. Sie sind für jede Art von Datenmanagement unerlässlich – aber ihre Wirkung ist begrenzt, wenn sie langsam oder siloartig sind. Teradata verfügt über langjährige Erfahrung mit hoher Parallelität und linearer Skalierung sowie die entscheidende Fähigkeit, Daten zu harmonisieren und RAG zu unterstützen. Daher liefert der Teradata Enterprise Vector Store die dynamische, vertrauenswürdige Grundlage, die große Unternehmen für agentenbasierte KI benötigen.“
Skalierbare, datenbankinterne Vektorlösung mit NVIDIA AI
Der Teradata Enterprise Vector Store wird voraussichtlich NVIDIA NeMo Retriever integrieren, um eine optimierte Lösung für die präzise und datenschutzkonforme Datenerfassung bereitzustellen, mit der Unternehmen in Echtzeit geschäftliche Erkenntnisse gewinnen können. Dieser baut auf NVIDIA NeMo™ auf, einer End-to-End-Plattform für die Entwicklung kundenspezifischer generativer KI, einschließlich großer Sprachmodelle (LLMs), Bildsprachmodelle (VLMs), Videomodelle und Sprach-KI.
Entwickler können laut Anbieter dann NeMo Retriever Microservices in Kombination mit Community- oder benutzerdefinierten Modellen optimieren, um skalierbare Dokumentenerfassungs- und RAG-Anwendungen zu erstellen, die mit proprietären Daten verbunden werden – unabhängig davon, wo diese sich befinden. Die NVIDIA NeMo Retriever-Extraktion wurde entwickelt, um Kunden die Nutzung von Informationen und Erkenntnissen aus unstrukturierten Datenquellen wie PDFs zu ermöglichen. So lassen sich RAG-basierte Anwendungen erstellen, die Echtzeitwissen nutzen, das mit Informationen aus dem gesamten IT-Bestand des Unternehmens angereichert ist.
35x Improved Data Storage Efficiency (Bildquelle: NVIDIA NeMo Retriever).
Anmerkung zur Abbildung: „Getestet mit dem neuesten Einbettungsmodell von NeMo Retriever, llama-3.2-nv-embedqa-1b-v2, zeigt dies die Auswirkungen auf das Vektorspeichervolumen mit Unterstützung für lange Kontexte, dynamische Einbettungen und effiziente Speicherung für eine leistungsstarke, skalierbare Datenverarbeitung. Im obigen Diagramm ist DIM=Dimensionen.“ (Quelle: NVIDIA NeMo Retriever)
Externer Link > https://www.nvidia.com/en-us/ai-data-science/products/nemo/
Kommentarauszug Pat Lee, Vice President of Strategic Enterprise Partnerships bei NVIDIA. „Der Teradata Enterprise Vector Store, integriert mit NVIDIA AI Enterprise und NVIDIA NeMo Retriever, kann das in PDFs und anderen unstrukturierten Dokumenten gespeicherte Wissen von Institutionen erschließen, um intelligente KI-Agenten zu betreiben.“
Anwendungsfall: Augmented Call Center
Der Anwendungsfall „Augmented Call Center“ soll aufzeigen, wie der Teradata Enterprise Vector Store Agentic AI (autonome KI-Agenten) und RAG einsetzt, um den Kundenservice effizienter zu machen und auf die Bedürfnisse jedes Kunden zuzuschneiden. Zudem ermöglichen KI-Agenten Upsell- und Cross-Sell-Möglichkeiten während der Kundeninteraktion.
Beispiel: Ein Versicherungsunternehmen speichert die Verträge für seine Millionen von Kunden im PDF-Format in einem Objektspeicher. Außerdem verwendet es eine hybride Datenplattform für geschäftskritische umfassende Kunden-Daten. Wenn ein Kunde anruft, greift ein Multi-Agenten-System innerhalb von zehn Millisekunden auf harmonisierte Daten zu, um präzise, kontextbezogene Antworten für jeden einzelnen Kunden zu geben.
Beispiel wie folgt:
"Hallo, wie kann ich Ihnen heute helfen?"
- Der „Kundeninteraktions“-Agent kommuniziert in Echtzeit mit dem Kunden über eine Benutzeroberfläche mit natürlicher Spracherkennung (Natural Language Interface). Diese wird von gängigen LLMs bereitgestellt, die als NVIDIA NIM auf NVIDIA-beschleunigter Rechenleistung ausgeführt werden.
-
"Ich reise nach Malaysia. Deckt meine Versicherung die medizinischen Kosten? Sollte ich etwas hinzufügen?"
Der „Vertragsanalyse“-Agent ruft schnell die Versicherungsdetails aus der PDF-Kopie des Vertrags ab, indem er RAG mit dem Enterprise Vector Store verwendet. Dafür hat RAG die Informationen aus PDFs extrahiert und mithilfe von NVIDIA NeMo Retriever in den Teradata Enterprise Vector Store als Einbettungen gespeichert. - Der „Versicherungsberater“-Agent empfiehlt mithilfe von Logik und Entscheidungsprozessen, eine Zahnversicherung für die Dauer der Reise hinzuzufügen, und nutzt dabei ein Propensity-to-Buy-Modell (Modell zur Vorhersage der Kaufneigung) und die prädiktiven und erklärbaren KI-Funktionen von Teradata.
- "Ok, fügen Sie bitte einen Zahnarzt hinzu.“Der "Aktions"-Agent verwendet operative Analysen und umfassende, strukturierte Kundendaten in der hybriden Umgebung von Teradata, um einen Vertrag zur Unterzeichnung durch den Kunden zu erstellen.
Teradata Enterprise Vector Store ist laut Anbieter ab sofort als private Vorschau verfügbar; die allgemeine Verfügbarkeit ist für Juli 2025 zu erwarten.
Querverweis:
Unser Beitrag > Trusted AI: Teradata unterstützt OTFs von Apache Iceberg und Linux Foundation Delta Lake
Unser Beitrag > Welche Graphdatenbank für welchen Anwendungsfall?
Unser Beitrag > Warum Echtzeitanalysen von Daten in der Praxis oftmals scheitern