Unerwünschte Aktionen von GenAI Agents mit Hilfe von Predibase rückgängig machen. Adressiert die Forderung nach verbesserter Observability und Wiederherstellbarkeit…
Hintergrund
Wenn Unternehmen in KI investieren, denken sie meist nicht an Fehler, die KI-Agenten machen können und wie diese dann möglichst sicher wieder korrigiert werden können. Rubrik hat am 12. Aug. 2025 dazu die Einführung von Agent Rewind auf der KI-Infrastruktur von Predibase* angekündigt. Durch das neue Angebot sollen Unternehmen vertiefte Einblick in die Aktionen von KI-Agenten nebst einem klaren Prozess erhalten, um unerwünschte KI-Aktionen verfolgen, überprüfen und sicher rückgängig machen zu können. Die Ankündigung erfolgt nach der im Juni diesen Jahres durchgeführten Übernahme von Predibase durch Rubrik. (* Externer link > https://predibase.com/ )
KI-Agenten besitzen ein bedeutendes Potenzial, aber wie Menschen sind sie anfällig für Fehler und verursachen Probleme wie unbeabsichtigte Geschäftsunterbrechungen. Jüngste Vorfälle mit fehlerhaften KI-Agenten zeigen ein Spektrum von Situationen auf, das von technischen Fehlfunktionen über rechtliche Probleme bis hin zur Löschung ganzer Produktionsdatenbanken reichen kann.
Eine neue Untersuchung zeigt, dass KI-Agenten häufig desorientiert sind, falsche Abkürzungen wählen und Schwierigkeiten haben, einfache mehrstufige Aufgaben auszuführen. (1) Dies offenbart kritische Mängel, die die Zuverlässigkeit und Effektivität von KI-Agenten beeinträchtigen.
Agent Rewind soll zuvor schwer nachvollziehbare KI-Aktionen sichtbar, überprüfbar und reversibel machen. Er erstellt ein Prüfprotokoll mit unveränderlichen Momentaufnahmen, das ein sicheres Zurücksetzen erlaubt.
Aktuelle Observability-Tools hingegen zeigen nur, was passiert ist, aber nicht, warum oder wie risikoreiche Aktionen rückgängig gemacht werden können.
(1) Quelle: „Carnegie Mellon Study Finds AI Agents Fail at Office Tasks Nearly 70% of the Time“. Externer Link > https://mlq.ai/news/carnegie-mellon-study-finds-ai-agents-fail-at-office-tasks-nearly-70-of-the-time/
Bildquelle: Predibase Aquise durch Rubrik Inc.
Kommentarauszug Anneka Gupta, Chief Product Officer bei Rubrik: „Mit zunehmend autonomen und ergebnisorientierten KI-Agenten steigt das Risiko unbeabsichtigter Fehler, die zu Betriebsausfällen führen. Agent Rewind integriert die fortschrittliche KI-Infrastruktur von Predibase mit den Wiederherstellungsfunktionen von Rubrik, sodass Unternehmen agentenbasierte KI vertrauensvoll einsetzen können…“.
Anwenderkommentar Chad Pallett, Chief Information Security Officer bei BioIVT, einem globalen Forschungspartner und Anbieter von Biospecimen-Lösungen für die Arzneimittel- und Diagnostikentwicklung: „Agent Rewind schließt die Lücke zwischen dem, was passiert ist, warum es passiert ist und wie es rückgängig gemacht werden kann. Bei der Verwendung von KI sind Beobachtung und sichere Wiederherstellung erforderlich. Rubrik und Predibase bieten nicht nur Datensicherheit und Modellgeschwindigkeit, sondern auch die Möglichkeit, KI wiederherzustellen. In einem Markt, der nach echter Observability und Wiederherstellbarkeit verlangt, ist Agent Rewind die Antwort, auf die ich gewartet habe.“
Falls die KI fehlschlägt, bietet Agent Rewind folgende Vorteile (Quelle / Rubrik):
1. „Kontextbezogene Sichtbarkeit: Erfasst Agentenverhalten und dessen Auswirkungen sowie die Verwendung von Tools. Jede Aktion wird in einen Kontext gesetzt und auf ihre Ursache zurückgeführt – von Prompts über Pläne bis hin zu Tools. Dies erlaubt eine präzise Wiederherstellung.
2. Sichere Rollbacks: Verwendet Rubrik Security Cloud, um Änderungen zurückzusetzen, unabhängig davon, ob es sich um Dateien, Datenbanken, Konfigurationen oder Repositorys handelt.
3. Kompatibilität: Integration mit Plattformen, APIs und Agenten-Erstellern, darunter Agentforce, Microsoft Copilot Studio und Amazon Bedrock Agents. So soll Agent Rewind mit jedem benutzerdefinierten KI-Agenten kompatibel sein können.“
Eine Demo zu Agent Rewind findet sich beim Anbieter unter diesem externen Link > https://rubrik.storylane.io/share/Rewind
Querverweis:
Unser Blogpost > Resilienz gegen Cyberangriffe: Backup-Verfahren als Teil einer übergeordneten Datenschutzstrategie
Unser Beitrag > KI zur Cyberabwehr: Untersuchung zum Einsatz in Europa, Nordamerika und APAC
Unser Beitrag > Illumio Zero Trust Strategie für kritische Infrastrukturen mit NVIDIA Accelerated Computing