LTM AgenTraceIQ macht Aktionen von KI-Agenten rückgängig

LTM hat BlueVerse AgenTraceIQ vorgestellt, einen Dienst für Unternehmen, die KI-Agenten im Produktivbetrieb einsetzen wollen. Damit können sie verfolgen, was diese Agenten tun, begrenzen, worauf sie zugreifen dürfen, und Änderungen rückgängig machen, wenn ein Agent sich anders verhält als beabsichtigt.

Das Angebot basiert auf Rubrik Agent Cloud. LTM ergänzt es um eigene Arbeit zur KI-Governance und um Managed Services. Rubrik bezeichnet sich selbst als Security and AI Operations Company und ist vor allem für Datensicherung und Wiederherstellung bekannt.

Teil von Rubriks Project Hourglass

Der Start erfolgt über Rubriks Project Hourglass. In diesem Programm arbeiten LTM und andere große Global Systems Integrators, also Beratungsfirmen, die IT-Projekte für Großunternehmen planen und betreiben, mit Rubrik zusammen, um Rubrik Agent Cloud für Anthropics Claude Code zu ihren Firmenkunden zu bringen.

Nach Angaben der Unternehmen soll das Organisationen die Sicherheit, Steuerung und Widerstandsfähigkeit verschaffen, die sie brauchen, bevor sie agentenbasierte Systeme in großem Umfang einführen.

"Da KI-Agenten zunehmend autonom handeln, stand für die Sicherheit und Widerstandsfähigkeit von Unternehmen noch nie so viel auf dem Spiel", sagte Alok Agrawal, Chief Solutions Officer bei Rubrik. Die Partnerschaft solle Organisationen helfen, von reaktivem Risikomanagement zu einem proaktiven Rahmenwerk überzugehen, damit sie "schnell mit KI innovieren können, ohne ihre betriebliche Integrität zu gefährden".

Transparenz, Leitplanken und Rücksprung

Das Produkt verbindet drei Elemente: Beobachtbarkeit von Agenten, Governance und Resilienz.

Bei der Beobachtbarkeit überwacht es die Aktivitäten der Agenten fortlaufend. Jede Aktion eines Agenten wird auf den Prompt, den Plan und die Tool-Aufrufe dahinter zurückgeführt. Laut LTM lässt sich das Verhalten der Agenten so leichter erklären und prüfen, und Teams finden die Ursache schneller, wenn etwas schiefgeht.

Für die Governance setzt die Plattform richtlinienbasierte Kontrollen und Zero-Trust-Zugriffe durch. Agenten erhalten also nur die Zugriffe, die ihnen ausdrücklich erlaubt sind. Das ist wichtig, weil Agenten innerhalb von Unternehmenssystemen immer weitreichendere Berechtigungen bekommen. Frühere Untersuchungen haben gezeigt, dass KI-Agenten auch nach Abschluss ihrer Aufgaben Datenzugriff behalten können.

Der Resilienz-Teil ist die Rücksprung-Funktion. Nimmt ein Agent eine unbeabsichtigte oder zerstörerische Änderung vor, kann der Dienst betroffene Systeme, Daten, Konfigurationen und Repositorys wiederherstellen.

BlueVerse AgenTraceIQ arbeitet mit mehreren großen Agenten-Ökosystemen zusammen:

• Microsoft Copilot Studio
• Salesforce Agentforce
• Amazon Bedrock
• Anthropic Claude
• selbst entwickelte Frameworks

Dienstleistungen rund um das Werkzeug

LTM bündelt zudem Beratung und Betrieb mit der Technik. Das Paket umfasst AI Resilience Assessments, Governance Framework Design, Deployment & Integration Services sowie Managed Governance Operations. Nach Angaben des Unternehmens sollen Kunden damit Betriebsmodelle für agentenbasierte KI aufbauen, sich besser auf Compliance-Anforderungen vorbereiten und mehr Sicherheit im Betrieb gewinnen.

"Organisationen müssen in der Lage sein, das Verhalten von Agenten zu verstehen, Verantwortlichkeit herzustellen und schnell zu reagieren, wenn unerwartete Ergebnisse auftreten", sagte Krishnan Iyer, Chief Growth Officer bei LTM. Das Angebot solle Unternehmen "vom Experimentieren hin zu vertrauenswürdigem KI-Betrieb im Produktionsmaßstab" bringen.

Unsere Einschätzung

Das Angebot zeigt, wie sich die Art verändert, in der Anbieter über KI-Agenten sprechen. Der Fokus verschiebt sich von dem, was Agenten können, zu dem, was passiert, wenn sie Fehler machen. Bemerkenswert ist die Rücksprung-Funktion. Sie behandelt Fehler von Agenten ähnlich wie Ransomware oder fehlerhafte Konfigurationsänderungen: als etwas, von dem man sich erholen muss, nicht nur als etwas, das man verhindern will. Das passt zu Rubriks Herkunft aus dem Bereich Backup und Wiederherstellung.

Das ist relevant, weil Agenten bereits echte Vorfälle verursachen. In den vergangenen Wochen haben wir über Fälle wie den Einbruch bei DIVD durch einen autonomen KI-Agenten berichtet. Die Sorge ist längst nicht mehr theoretisch. Die Verknüpfung von Aktionen mit Prompts und Tool-Aufrufen könnte zudem bei Prüfungen helfen, da Aufsichtsbehörden der Verantwortlichkeit von KI mehr Aufmerksamkeit schenken.

Einige Fragen bleiben offen. Es lohnt sich zu beobachten, wie feingranular der Rücksprung in komplexen Umgebungen tatsächlich ist. Änderungen über vernetzte Systeme hinweg rückgängig zu machen, geht selten sauber. Aufschlussreich wird auch sein, ob andere Integratoren aus Project Hourglass konkurrierende Pakete auf den Markt bringen und ob Kunden solche Kontrollen vor einem Vorfall einführen statt erst danach.