Booz Allen: AI-agents verplaatsten OT-apparatuur in minuten

AI-agents zonder enige voorkennis van een industriele omgeving wisten er hun weg in te vinden, obstakels te omzeilen en binnen enkele minuten fysiek apparatuur te verplaatsen. Dat blijkt uit een nieuw rapport van Booz Allen.

Het bedrijf presenteerde de bevindingen vorige week, nog voor de openbare publicatie van het rapport, op de Industrial Control Systems (ICS) Cybersecurity Conference van SecurityWeek in Nashville. Booz Allen omschrijft het resultaat als "frontier super intelligence" die "onbekende industriele systemen doorliep, zich aanpaste wanneer die werd geblokkeerd en binnen enkele minuten fysieke apparatuur verplaatste."

Een verwarrende woordkeuze

De term "super intelligence" roept vragen op. Booz Allen heeft hem al eerder gebruikt, en hij lijkt ongeveer hetzelfde te betekenen als kunstmatige intelligentie (AI). Bovendien komt hij kort na het Executive Order van Donald Trump van 29 september 2026, dat de uitvoerende macht opdraagt de term "Artificial Intelligence" te vervangen door "Super Intelligence".

Het probleem is dat "superintelligence", aan elkaar geschreven, al een specifieke betekenis heeft. De Oxfordse filosoof Nick Bostrom definieerde het begrip in 2014 als "elk intellect dat de cognitieve prestaties van mensen op vrijwel alle relevante gebieden ruimschoots overtreft." Daarmee zit het op of boven het niveau van artificial general intelligence (AGI), ver voorbij alledaagse AI.

SecurityWeek vroeg Booz Allen om opheldering over de terminologie, maar had op het moment van publicatie nog geen reactie ontvangen. De meest redelijke lezing is dat het bedrijf doelt op de groeiende mogelijkheden van de huidige frontier-AI-modellen, en niet op een nieuwe klasse AI.

Acht scenario's, alle doelen gehaald

Booz Allen liet frontier-AI-modellen als agents draaien in een eigen, afgeschermd lab voor operationele technologie (OT). OT omvat de hardware en software die fysieke processen bewaken en aansturen, zoals industriele machines. De agents kregen geen broncode, geen technische documentatie en geen geavanceerde OT-instructies mee. Het lab is niet per se gelijk aan een echte OT-omgeving bij een bedrijf, maar is wel een redelijke benadering.

"In acht scenario's werd elk vastgesteld testdoel bereikt. Belangrijker nog: de modellen verbonden werk dat normaal gesproken over meerdere mensen en fasen verspreid is, waaronder het in kaart brengen van assets, onderzoek naar apparaten en het plannen van aanvallen," aldus de onderzoekers.

In een van de tests gingen de modellen in iets meer dan 16 minuten van het binnendringen van de perimeter naar het uitvoeren van acties binnen een industrieel besturingsnetwerk. In een andere test vond een model een robotarm, bracht de beveiligingszones en bewegingsgrenzen ervan in kaart en verplaatste de arm vervolgens, allemaal binnen enkele minuten.

Bestaande beveiligingen blokkeerden of vertraagden sommige acties wel. Geen enkele afzonderlijke maatregel hield de autonome modellen echter betrouwbaar tegen bij het bereiken van hun doelen.

Onbekendheid beschermt niet meer

De whitepaper merkt op dat het idee van cyberacties met fysieke gevolgen niet nieuw is. "Wat veranderd is, is de snelheid en precisie waarmee deze modellen kunnen helpen die kinetische effecten te veroorzaken. Ze ondermijnen bovendien de aanpak van 'security through obscurity' waarop veel omgevingen voor operationele technologie (OT) al lange tijd leunen," staat er.

De onderzoekers waarschuwen dat de tijd om zich voor te bereiden begint te dringen. Hun advies aan eigenaren en beheerders is om "zich minder te richten op het voorspellen van elke vorm van frontier-AI-gebruik bij een aanval en meer op het moeilijk doorkruisbaar maken van hun omgevingen, het wegnemen van impliciet vertrouwen, het snel detecteren van ingrijpende industriele wijzigingen en het beperken van wat een aanvaller kan beinvloeden nadat die toegang heeft gekregen, of dat nu via cyber- of fysieke middelen is."

Onze kijk

Het onderzoek ondersteunt een opvatting die veel beveiligingsexperts al hebben: autonome AI brengt cyberbeveiliging en fysieke beveiliging steeds dichter bij elkaar. Agents die sneller handelen dan een mens kan ingrijpen, betekenen dat een enkele maatregel waarschijnlijk niet volstaat, en de resultaten hier, waarbij geen enkele beveiliging consequent standhield, wijzen dezelfde kant op.

Voor OT-beheerders is het verlies van onbekendheid als verdediging misschien wel de meest ongemakkelijke bevinding. Veel industriele apparatuur leunt erop dat ze obscuur en slecht gedocumenteerd is, en in veel fabrieken beperkt verouderde apparatuur nog altijd het zicht op het netwerk. Als AI-agents onbekende systemen zelfstandig kunnen doorgronden, wordt die buffer kleiner.

Het is de moeite waard om in de gaten te houden of de publicatie van het volledige rapport de roep om een bindende OT-beveiligingsrichtlijn kracht bijzet, en of leveranciers en toezichthouders tot duidelijkere definities komen van het soort AI waar ze het eigenlijk over hebben.