Booz Allen : des agents IA ont déplacé des équipements OT

Des agents d'IA qui ne connaissaient rien d'un environnement industriel ont réussi à s'y repérer, à contourner les obstacles et à déplacer physiquement des équipements en quelques minutes, selon un nouveau rapport de Booz Allen.

Le cabinet a présenté ces résultats la semaine dernière à Nashville, lors de l'Industrial Control Systems (ICS) Cybersecurity Conference de SecurityWeek, avant la publication officielle du rapport. Booz Allen y voit une "super intelligence de pointe" qui "a parcouru des systèmes industriels inconnus, s'est adaptée lorsqu'elle était bloquée et a déplacé des équipements physiques en quelques minutes".

Un choix de mots déroutant

L'expression "super intelligence" soulève des questions. Booz Allen l'a déjà employée, et elle semble désigner à peu près la même chose que l'intelligence artificielle (IA). Elle arrive aussi peu après le décret présidentiel de Donald Trump du 29 septembre 2026, qui demande à l'exécutif de remplacer le terme "Artificial Intelligence" par "Super Intelligence".

Le problème, c'est que "superintelligence", en un seul mot, a déjà un sens bien précis. Le philosophe d'Oxford Nick Bostrom l'a défini en 2014 comme "tout intellect qui dépasse largement les performances cognitives des humains dans pratiquement tous les domaines d'intérêt". Le concept se situe donc au niveau de l'intelligence artificielle générale (IAG), voire au-delà, bien loin de l'IA de tous les jours.

SecurityWeek a demandé à Booz Allen de préciser sa terminologie, sans obtenir de réponse au moment de la rédaction. L'interprétation la plus raisonnable est que le cabinet fait référence aux capacités croissantes des modèles d'IA de pointe actuels, et non à une nouvelle catégorie d'IA.

Huit scénarios, tous les objectifs atteints

Booz Allen a fait tourner des modèles d'IA de pointe sous forme d'agents dans son propre laboratoire de technologies opérationnelles (OT), isolé du reste. L'OT regroupe le matériel et les logiciels qui surveillent et pilotent des processus physiques, comme les machines industrielles. Les agents n'ont reçu ni code source, ni documentation technique, ni consignes OT avancées. Le laboratoire n'est pas forcément identique à une véritable installation OT d'entreprise, mais il en donne une image raisonnable.

"Dans les huit scénarios, chaque objectif de test défini a été atteint. Plus important encore, les modèles ont enchaîné des tâches qui mobilisent habituellement plusieurs personnes et plusieurs étapes, notamment la découverte des actifs, l'étude des équipements et la planification de l'attaque", expliquent les chercheurs.

Lors d'un test, les modèles sont passés de la compromission du périmètre à des actions au sein d'un réseau de contrôle industriel en un peu plus de 16 minutes. Dans un autre, un modèle a localisé un bras robotisé, cartographié ses zones de protection et ses limites de mouvement, puis l'a déplacé, le tout en quelques minutes.

Les défenses en place ont bien bloqué ou ralenti certaines actions. Mais aucune protection prise isolément n'a empêché de manière fiable les modèles autonomes d'atteindre leurs objectifs.

L'opacité ne protège plus

Le livre blanc rappelle que l'idée d'actions informatiques ayant des effets physiques n'a rien de nouveau. "Ce qui a changé, c'est la rapidité et la précision avec lesquelles ces modèles peuvent aider à produire ces effets cinétiques. Ils remettent aussi en cause l'approche de la 'sécurité par l'obscurité' sur laquelle de nombreux environnements de technologies opérationnelles (OT) s'appuient depuis longtemps", y lit-on.

Les chercheurs préviennent que le temps pour se préparer est compté. Ils conseillent aux propriétaires et aux exploitants de "moins chercher à prévoir toutes les formes d'utilisation de l'IA de pointe dans une attaque, et davantage à rendre leurs environnements difficiles à parcourir, à supprimer la confiance implicite, à détecter rapidement les modifications industrielles lourdes de conséquences et à limiter ce qu'un attaquant peut affecter une fois l'accès obtenu, que ce soit par des moyens informatiques ou physiques".

Notre analyse

L'étude conforte une idée déjà partagée par de nombreux experts en sécurité : l'IA autonome rapproche la cybersécurité de la sécurité physique. Avec des agents qui agissent plus vite qu'un humain ne peut intervenir, une seule mesure de contrôle a peu de chances de suffire, et ces résultats, où aucune protection n'a tenu de façon constante, vont dans le même sens.

Pour les exploitants OT, le constat le plus inconfortable est peut-être la fin de l'obscurité comme moyen de défense. Une grande partie des équipements industriels repose sur leur caractère méconnu et mal documenté, et les équipements anciens limitent encore la visibilité sur le réseau dans de nombreuses usines. Si des agents d'IA peuvent comprendre seuls des systèmes inconnus, cette marge de sécurité se réduit.

Reste à voir si la publication du rapport complet renforcera les appels en faveur d'une directive contraignante sur la sécurité OT, et si fournisseurs et régulateurs s'accorderont sur des définitions plus claires du type d'IA dont ils parlent réellement.