Wenn KI-Agenten ausser Kontrolle geraten

KI-Agenten sollen Geschäftsprozesse automatisieren, Entscheidungen treffen und selbstständig Aufgaben erledigen. Dazu benötigen sie Zugriff auf Datenbanken, Anwendungen und IT-Infrastrukturen. Was die Produktivität steigern soll, birgt allerdings auch Risiken: Ein fehlerhaft konfigurierter oder unkontrolliert handelnder KI-Agent kann innerhalb kürzester Zeit Änderungen an mehreren miteinander verbundenen Systemen vornehmen.

Was beispielsweise geschieht, wenn ein Agent versehentlich geschäftskritische Daten verändert, Zugriffsrechte falsch setzt oder eine Reihe unerwünschter Aktionen auslöst? Herkömmliche Backup- und Recovery-Verfahren sind auf solche Szenarien nur bedingt ausgerichtet. Denn es genügt nicht unbedingt, einzelne Dateien oder Datenbanken wiederherzustellen. Unternehmen müssen zunächst nachvollziehen können, welche Aktionen der Agent ausgeführt hat und welche Systeme davon betroffen sind.

Die Folgen von KI-Fehlern nachvollziehen

Der Datensicherheitsanbieter Commvault greift diese Problematik mit einer Erweiterung seiner Lösung AgentRecover auf. Die neuen Funktionen sollen IT- und Sicherheitsteams ermöglichen, Aktivitäten von KI-Agenten zu überprüfen, deren Auswirkungen nachzuvollziehen und unerwünschte Änderungen rückgängig zu machen. Dabei unterstützt Commvault künftig auch KI-Agenten, die auf Amazon Bedrock AgentCore und Microsoft Foundry basieren. Beide Plattformen ermöglichen Unternehmen, KI-Agenten zu entwickeln und in produktive Geschäftsprozesse einzubinden.

AgentRecover soll zunächst die vorhandenen Agenten sowie deren Abhängigkeiten erkennen. Dazu gehören Daten, Anwendungen, Identitäten, Konfigurationen und Infrastrukturen, mit denen die Agenten interagieren. Auf dieser Grundlage können Unternehmen feststellen, welche Ressourcen durch eine fehlerhafte Aktion betroffen sein könnten. Eine weitere Funktion betrifft die Nachvollziehbarkeit der Agentenaktivitäten. IT-Teams sollen überprüfen können, welche Aktionen ein Agent ausgeführt, welche Daten er verändert und welche Identitäten er dabei verwendet hat. Diese Informationen dienen anschliessend als Grundlage für die Wiederherstellung.

Nicht nur den Agenten zurücksetzen

Die eigentliche Herausforderung liegt darin, dass sich die Auswirkungen einer fehlerhaften Agentenaktion nicht auf den Agenten selbst beschränken müssen. Hat dieser beispielsweise mehrere Datenbanken verändert oder Konfigurationen in unterschiedlichen Anwendungen angepasst, reicht es nicht aus, lediglich seine ursprüngliche Konfiguration wiederherzustellen. Commvault verfolgt deshalb einen umfassenderen Ansatz. AgentRecover soll sowohl die unterstützten KI-Agenten als auch die von ihnen beeinflussten Daten und Systeme schützen und wiederherstellen. Der Wiederherstellungsprozess konzentriert sich dabei auf die tatsächlich vorgenommenen Änderungen.

«Die Logik von Geschäftsprozessen verlagert sich von den Applikationen zu den Agenten, und Agenten verhalten sich nicht deterministisch», erklärt Pranay Ahlawat, Chief Technology and AI Officer bei Commvault. Mit einer einzigen Entscheidung könne ein Agent Daten, Anwendungen und Infrastruktur auf mehreren Plattformen verändern.

Für Unternehmen bedeutet dies, dass die Absicherung von KI-Agenten über klassische Zugriffskontrollen und die Überwachung ihrer Aktivitäten hinausgehen muss. Ebenso wichtig wird die Fähigkeit, nach einem Fehler einen konsistenten und funktionsfähigen Zustand der betroffenen Systeme wiederherzustellen.

Recovery für ganze Geschäftsprozesse

Parallel zur Erweiterung von AgentRecover hat Commvault mit Recovery Studio eine weitere Lösung angekündigt. Sie soll die Wiederherstellung vollständiger Geschäftsdienste automatisieren. Hintergrund ist die zunehmende Komplexität moderner IT-Landschaften. Geschäftsanwendungen bestehen häufig aus zahlreichen voneinander abhängigen Komponenten. Neben den eigentlichen Daten müssen beispielsweise virtuelle Maschinen, Container, Identitätssysteme, Netzwerkkonfigurationen und Sicherheitseinstellungen berücksichtigt werden. Recovery Studio verwendet dazu kontextbezogene Runbooks. Diese definieren, welche Komponenten in welcher Reihenfolge wiederhergestellt werden müssen. Die Orchestrierung soll verhindern, dass einzelne Anwendungen zwar technisch wieder verfügbar sind, aufgrund fehlender Abhängigkeiten aber weiterhin nicht funktionieren. In den Wiederherstellungsprozess lassen sich zudem Sicherheitsprüfungen integrieren. Unterstützte Ressourcen können vor der Rückführung in den produktiven Betrieb auf mögliche Bedrohungen untersucht werden. Die Plattform ist sowohl für betriebliche Störungen als auch für Disaster-Recovery- und Cyber-Recovery-Szenarien vorgesehen. Damit soll die Wiederherstellung nicht mehr nur einzelne Datenbestände, sondern vollständige Geschäftsprozesse umfassen.

KI-Agenten verändern die Anforderungen

Mit der zunehmenden Verbreitung autonomer KI-Systeme erhält das Thema Recovery eine zusätzliche Dimension. Während klassische Anwendungen weitgehend vordefinierte Abläufe ausführen, können KI-Agenten abhängig von ihrer Aufgabenstellung unterschiedliche Aktionen auslösen und dabei mehrere Systeme gleichzeitig beeinflussen. Daraus ergeben sich neue Anforderungen an die IT-Governance. Unternehmen müssen nicht nur festlegen, welche Berechtigungen ein Agent erhält und welche Aktionen er ausführen darf. Sie benötigen auch Verfahren, um fehlerhafte Entscheidungen zu erkennen, ihre Auswirkungen einzugrenzen und einen definierten Systemzustand wiederherzustellen.

Die von Commvault angekündigten Funktionen adressieren einen Teil dieser Herausforderungen. Allerdings bleibt abzuwarten, wie zuverlässig sich komplexe, plattformübergreifende Änderungen in der Praxis nachvollziehen und zurücksetzen lassen. Insbesondere bei voneinander abhängigen Transaktionen und bereits angestossenen Folgeprozessen dürfte die Wiederherstellung anspruchsvoll bleiben. Auch ersetzt eine Recovery-Lösung keine präventiven Sicherheitsmassnahmen. Begrenzte Zugriffsrechte, kontrollierte Freigabeprozesse und die laufende Überwachung von Agentenaktivitäten bleiben notwendig.

Erste Funktionen noch 2026 verfügbar

Die neuen AgentRecover-Funktionen für Microsoft Foundry sollen im November 2026 im Early Access verfügbar werden. Die Unterstützung für Amazon Bedrock AgentCore ist für Dezember vorgesehen. Recovery Studio soll ebenfalls im Dezember in eine Early-Access-Phase starten. Die allgemeine Verfügbarkeit ist für die darauffolgenden Monate geplant. Die Preisgestaltung orientiert sich laut Commvault an der Datenmenge, die für die orchestrierte Wiederherstellung konfiguriert wird. Die Ankündigungen verdeutlichen eine Entwicklung, die mit dem produktiven Einsatz von KI-Agenten an Bedeutung gewinnen dürfte: Unternehmen müssen sich nicht nur damit beschäftigen, was ihre Agenten selbstständig erledigen können, sondern auch damit, wie sie deren Aktionen bei Bedarf wieder rückgängig machen.