DIVD piraté par un agent IA autonome et brouillon

Le Dutch Institute for Vulnerability Disclosure (DIVD) a été victime d'une cyberattaque qui, selon lui, a été menée par un agent IA autonome. L'organisation à but non lucratif qualifie l'intrusion de "bruyante et vraiment très brouillonne". Les enquêteurs ont trouvé des éléments montrant que l'attaquant est entré par une vulnérabilité, mais on ignore encore ce qu'il cherchait et l'ampleur des dégâts.

Le DIVD est animé par des chercheurs en sécurité bénévoles. Ils scannent Internet à la recherche de systèmes exposés à des vulnérabilités connues, préviennent leurs propriétaires et publient des recommandations pour réduire les risques.

Premier incident en sept ans

L'organisation a révélé l'intrusion à la fin de la semaine dernière. Elle précise que c'est la première fois qu'elle est piratée en sept ans d'activité. D'après le DIVD, ce n'est pas tant cette première qui distingue l'attaque que la manière dont elle a été menée.

"C'est une attaque que nous n'avions jamais vue. Pas parce que c'est la première, mais parce que le mode opératoire indique qu'il s'agit d'une attaque menée par une IA agentique", explique le DIVD.

Après avoir découvert l'intrusion, le DIVD a ouvert une enquête. Il a signalé l'incident à la police, à l'Autoriteit Persoonsgegevens (l'autorité néerlandaise de protection des données) et au National Cyber Security Center (NCSC).

Un agent trop bavard

Le DIVD a donné plus de détails dans une mise à jour publiée lundi, tout en gardant certaines informations pour lui. Il dit ne pas vouloir perturber l'enquête ni exposer d'autres victimes potentielles à un risque supplémentaire.

Selon l'organisation, l'attaquant a d'abord exploité une "vulnérabilité technique" dans un système qu'elle n'a pas nommé. Le DIVD a tout de même indiqué que le système touché n'était pas Citrix NetScaler, une gamme de produits actuellement visée par des tentatives d'exploitation massives. Une fois l'accès initial obtenu, un agent IA automatisé a pris en charge la phase de post-exploitation.

"L'attaque en elle-même était bruyante et vraiment très brouillonne. On voyait l'agent travailler de façon automatisée, car après chaque action il décidait lui-même de l'étape suivante, à la vitesse de la lumière et avec une logique ou un schéma bâclés", indique le DIVD.

L'agent s'est déplacé seul dans le réseau du DIVD et a choisi lui-même chaque étape suivante. Il a aussi laissé des commentaires qui détaillaient à l'excès le raisonnement derrière ses décisions.

Les chercheurs affirment que l'agent a fait "des choses assez stupides". À un moment, il a perturbé sa propre attaque de type adversary-in-the-middle en lançant en parallèle une attaque par pulvérisation de mots de passe (password spraying).

Le DIVD estime que l'agent était mal entraîné et mal configuré pour ce type d'opération. Cela a aidé les défenseurs, car l'agent a laissé suffisamment de traces pour permettre à l'équipe de reconstituer l'incident par rétro-ingénierie.

D'autres détails promis

Le DIVD annonce la publication d'une mise à jour plus détaillée le 1er octobre. Il prévoit aussi de contacter dès que possible d'autres organisations susceptibles d'être exposées à la même vulnérabilité.

BleepingComputer a demandé au DIVD quel type de faille avait été exploité et si elle avait été corrigée. Le site n'avait pas reçu de réponse au moment de la publication de son article.

Notre analyse

Le cas du DIVD s'ajoute à une liste croissante d'incidents dans lesquels des agents IA font le travail concret d'une intrusion. Guy Fawkes News a récemment couvert des agents OpenAI qui ont piraté un portail australien de statistiques Medicare ainsi que le malware Carbonato, qui utilise des agents IA pour détourner des hôtes Docker. Pris ensemble, ces cas laissent penser que les attaquants testent jusqu'où ils peuvent confier une opération à l'automatisation.

La maladresse de l'agent dans cette affaire n'a rien de forcément rassurant. Un agent bâclé qui agit à la vitesse d'une machine peut tout de même atteindre des systèmes sensibles, et des agents mieux configurés pourraient laisser bien moins de traces. Pour les défenseurs, des pics d'activité rapides et bruyants, comme une pulvérisation de mots de passe menée en même temps que d'autres techniques, pourraient devenir un signal de détection utile.

Le point d'entrée était une vulnérabilité, pas l'IA elle-même. Cela ramène l'attention sur la correction rapide des systèmes exposés sur Internet. Il faudra voir si la mise à jour du DIVD du 1er octobre nomme la faille et si d'autres organisations s'avèrent touchées. Qu'un groupe dont la mission est de repérer les systèmes exposés ait lui-même été piraté montre qu'aucune organisation n'est à l'abri.