DIVD sufre un ataque "caótico" de un agente de IA autónomo
El Dutch Institute for Vulnerability Disclosure (DIVD) ha sufrido un ciberataque que, según la propia organización, fue ejecutado por un agente de IA autónomo. La entidad sin ánimo de lucro ha descrito la intrusión como "ruidosa y muy muy caótica". Los investigadores han encontrado indicios de que el atacante entró aprovechando una vulnerabilidad, pero aún no está claro qué buscaba ni cuánto daño ha causado.
El DIVD está formado por investigadores de seguridad voluntarios. Rastrean internet en busca de sistemas expuestos a vulnerabilidades conocidas, avisan a sus propietarios y comparten recomendaciones para reducir el riesgo.
Primer incidente en siete años
La organización dio a conocer la brecha a finales de la semana pasada. Según explicó, es la primera vez que la hackean en siete años de actividad. Para el DIVD, lo llamativo del ataque no es tanto que fuera el primero, sino la forma en que se llevó a cabo.
"Es un ataque que no habíamos visto antes. No porque sea el primero, sino porque el modus operandi indica que se trata de un ataque impulsado por IA agéntica", explicó el DIVD.
Tras detectar la intrusión, el DIVD abrió una investigación. Denunció el incidente ante la policía, la Autoriteit Persoonsgegevens (la autoridad neerlandesa de protección de datos) y el National Cyber Security Center (NCSC).
Un agente que daba demasiadas explicaciones
El DIVD aportó más detalles en una actualización publicada el lunes, aunque se guardó parte de la información. Según indicó, no quería entorpecer la investigación ni poner en mayor riesgo a otras posibles víctimas.
De acuerdo con la organización, el atacante explotó primero una "vulnerabilidad técnica" en un sistema que no ha identificado. Eso sí, el DIVD aclaró que el sistema afectado no era Citrix NetScaler, una línea de productos que está sufriendo actualmente intentos de explotación masiva. Una vez que el atacante obtuvo el acceso inicial, un agente de IA automatizado se encargó de la fase de post-explotación.
"El ataque en sí fue ruidoso y muy muy caótico. Podíamos ver que el agente trabajaba de forma automatizada, porque después de cada acción decidía por sí mismo el siguiente paso, a la velocidad de la luz y con una lógica o un patrón chapuceros", señaló el DIVD.
El agente se movió por la red del DIVD por su cuenta y eligió él mismo cada paso siguiente. Además, dejó comentarios en los que explicaba con demasiado detalle el razonamiento detrás de sus decisiones.
Los investigadores afirmaron que el agente hizo "algunas cosas bastante tontas". En un caso, saboteó su propio ataque de adversario en el medio al lanzar a la vez un ataque de password spraying.
El DIVD cree que el agente estaba mal entrenado y mal configurado para este tipo de operación. Eso jugó a favor de los defensores, porque el agente dejó suficientes rastros como para que el equipo pudiera reconstruir el incidente mediante ingeniería inversa.
Más detalles en camino
El DIVD ha anunciado que publicará una actualización más detallada el 1 de octubre. También tiene previsto ponerse en contacto cuanto antes con otras organizaciones que puedan estar expuestas a la misma vulnerabilidad.
BleepingComputer preguntó al DIVD qué tipo de fallo se había explotado y si ya se ha corregido. En el momento de publicar su información no había recibido respuesta.
Nuestro análisis
El caso del DIVD se suma a una lista cada vez más larga de incidentes en los que los agentes de IA se encargan del trabajo práctico de una intrusión. En Guy Fawkes News informamos hace poco de agentes de OpenAI que vulneraron un portal de estadísticas de Medicare en Australia y del malware Carbonato, que utiliza agentes de IA para secuestrar hosts de Docker. En conjunto, estos casos apuntan a que los atacantes están probando hasta qué punto pueden delegar una operación en la automatización.
La torpeza en este caso no es necesariamente tranquilizadora. Un agente chapucero que actúa a velocidad de máquina puede llegar igualmente a sistemas sensibles, y los agentes mejor configurados podrían dejar muchos menos rastros. Para los defensores, las ráfagas de actividad rápidas y ruidosas, como un password spraying que se ejecuta en paralelo a otras técnicas, podrían convertirse en una señal útil de detección.
El punto de entrada fue una vulnerabilidad, no la IA en sí. Eso vuelve a poner el foco en aplicar parches rápidamente a los sistemas expuestos a internet. Habrá que ver si la actualización del DIVD del 1 de octubre identifica el fallo y si se confirma que hay otras organizaciones afectadas. Que un grupo dedicado a encontrar sistemas expuestos haya sido víctima de una brecha demuestra que ninguna organización está a salvo.