Vijil DART : du red teaming adaptatif pour les agents IA
Vijil a lancé Diamond Adaptive Red Teaming for Agents (DART), un système automatisé qui traque les failles de sécurité et les violations de politiques dans les agents IA des entreprises. DART ne se contente pas d'envoyer une liste figée de prompts à sa cible. Il déploie ses propres agents offensifs, qui mènent des attaques sur plusieurs échanges et ajustent leur tactique au fil de ce qu'ils apprennent.
Selon l'éditeur, les développeurs IA et les ingénieurs en sécurité applicative peuvent ainsi détecter davantage de problèmes dans leurs parcs d'agents qu'avec des outils et services de red teaming fondés sur des prompts de test statiques.