Vijil DART ataca agentes de IA con tácticas adaptativas
Vijil ha lanzado Diamond Adaptive Red Teaming for Agents (DART), un sistema automatizado que rastrea los agentes de IA empresariales en busca de vulnerabilidades de seguridad e incumplimientos de políticas. DART no lanza una lista fija de prompts contra su objetivo. Despliega varios agentes adversarios propios, que ejecutan ataques de varios turnos y cambian de táctica a medida que aprenden.
La compañía asegura que los desarrolladores de IA y los ingenieros de seguridad de aplicaciones pueden usar DART para descubrir más problemas en sus flotas de agentes de los que encontrarían con herramientas y servicios de red teaming basados en prompts de prueba estáticos.