Booz Allen: KI-Agenten bewegten OT-Anlagen in Minuten

KI-Agenten ohne jedes Vorwissen über eine industrielle Umgebung konnten sich darin zurechtfinden, Hindernisse umgehen und innerhalb von Minuten physische Anlagen bewegen. Das geht aus einem neuen Bericht von Booz Allen hervor.

Das Unternehmen stellte die Ergebnisse vergangene Woche auf der Industrial Control Systems (ICS) Cybersecurity Conference von SecurityWeek in Nashville vor, noch bevor der Bericht veröffentlicht wurde. Booz Allen beschreibt das Ergebnis als "Frontier-Superintelligenz", die "sich in unbekannten Industriesystemen zurechtfand, sich anpasste, wenn sie blockiert wurde, und innerhalb von Minuten physische Anlagen bewegte".

Eine verwirrende Wortwahl

Der Begriff "Super Intelligence" hat Fragen aufgeworfen. Booz Allen hat ihn schon früher verwendet, und er scheint im Wesentlichen dasselbe zu bedeuten wie künstliche Intelligenz (KI). Zudem kommt er kurz nach Donald Trumps Executive Order vom 29. September 2026, die die Exekutive anweist, den Begriff "Artificial Intelligence" durch "Super Intelligence" zu ersetzen.

Das Problem: "Superintelligence", in einem Wort geschrieben, hat bereits eine feste Bedeutung. Der Oxford-Philosoph Nick Bostrom definierte sie 2014 als "jeden Intellekt, der die kognitive Leistungsfähigkeit des Menschen in praktisch allen relevanten Bereichen weit übertrifft". Damit liegt sie auf dem Niveau einer allgemeinen künstlichen Intelligenz (AGI) oder darüber und weit jenseits gewöhnlicher KI.

SecurityWeek bat Booz Allen um eine Klarstellung der Begriffe, hatte bis Redaktionsschluss jedoch keine Antwort erhalten. Am naheliegendsten ist die Lesart, dass das Unternehmen die wachsenden Fähigkeiten aktueller Frontier-KI-Modelle meint und keine neue Klasse von KI.

Acht Szenarien, jedes Ziel erreicht

Booz Allen setzte Frontier-KI-Modelle als Agenten in seinem eigenen, isolierten Labor für Betriebstechnik (Operational Technology, OT) ein. OT umfasst die Hard- und Software, die physische Prozesse überwacht und steuert, etwa Industriemaschinen. Die Agenten erhielten weder Quellcode noch technische Dokumentation noch fortgeschrittene OT-Anleitungen. Das Labor ist nicht unbedingt mit einer echten OT-Umgebung in einem Unternehmen identisch, taugt aber als brauchbarer Ersatz.

"In allen acht Szenarien wurde jedes definierte Testziel erreicht. Wichtiger noch: Die Modelle verknüpften Arbeitsschritte, die sich normalerweise über mehrere Personen und Phasen erstrecken, darunter die Erkennung von Assets, die Recherche zu Geräten und die Angriffsplanung", so die Forscher.

In einem Test gelangten die Modelle in etwas mehr als 16 Minuten von der Kompromittierung des Perimeters bis zu Aktionen innerhalb eines industriellen Steuerungsnetzes. In einem anderen spürte ein Modell einen Roboterarm auf, kartierte dessen Schutzzonen und Bewegungsgrenzen und bewegte ihn anschließend, alles innerhalb von Minuten.

Bestehende Schutzmaßnahmen blockierten oder verlangsamten zwar einige Aktionen. Keine einzelne Schutzvorkehrung hielt die autonomen Modelle jedoch zuverlässig davon ab, ihre Ziele zu erreichen.

Verschleierung schützt nicht mehr

Das Whitepaper weist darauf hin, dass die Vorstellung, Cyberaktionen könnten physische Auswirkungen haben, nicht neu ist. "Neu ist die Geschwindigkeit und Präzision, mit der diese Modelle dabei helfen können, solche kinetischen Effekte herbeizuführen. Zudem untergraben sie den Ansatz 'Sicherheit durch Verschleierung', auf den sich viele Umgebungen der Betriebstechnik (OT) lange verlassen haben", heißt es dort.

Die Forscher warnen, dass das Zeitfenster zur Vorbereitung sich schließt. Sie raten Eigentümern und Betreibern, "sich weniger darauf zu konzentrieren, jede Form des Einsatzes von Frontier-KI bei einem Angriff vorherzusagen, und mehr darauf, ihre Umgebungen schwer durchquerbar zu machen, implizites Vertrauen abzuschaffen, folgenreiche Änderungen an Industrieanlagen schnell zu erkennen und zu begrenzen, was ein Angreifer nach dem Eindringen beeinflussen kann, ob mit Cyber- oder mit physischen Mitteln".

Unsere Einschätzung

Die Studie stützt eine Sicht, die viele Sicherheitsexperten bereits teilen: Autonome KI lässt Cybersicherheit und physische Sicherheit zusammenwachsen. Wenn Agenten schneller handeln, als ein Mensch eingreifen kann, reicht eine einzelne Kontrollmaßnahme kaum aus, und die Ergebnisse hier, bei denen keine einzige Schutzvorkehrung durchgängig hielt, deuten in dieselbe Richtung.

Für OT-Betreiber dürfte der Wegfall der Verschleierung als Schutz die unbequemste Erkenntnis sein. Viele Industrieanlagen setzen darauf, unbekannt und schlecht dokumentiert zu sein, und in vielen Werken schränken Altanlagen die Sichtbarkeit im Netzwerk weiterhin ein. Wenn KI-Agenten unbekannte Systeme selbstständig durchschauen können, schrumpft dieses Polster.

Es lohnt sich zu beobachten, ob die Veröffentlichung des vollständigen Berichts den Forderungen nach einer verbindlichen OT-Sicherheitsrichtlinie zusätzlichen Nachdruck verleiht und ob sich Hersteller und Regulierer auf klarere Definitionen einigen, von welcher Art KI sie eigentlich sprechen.