Vijil DART testet KI-Agenten mit adaptiven Angriffen
Vijil hat Diamond Adaptive Red Teaming for Agents (DART) vorgestellt, ein automatisiertes System, das KI-Agenten in Unternehmen nach Sicherheitslücken und Richtlinienverstößen durchsucht. DART feuert keine feste Liste von Prompts auf sein Ziel ab. Stattdessen setzt es mehrere eigene feindliche Agenten ein, die mehrstufige Angriffe fahren und ihre Taktik ändern, während sie dazulernen.
Nach Angaben des Unternehmens können KI-Entwickler und Ingenieure für Anwendungssicherheit mit DART in ihren Agentenflotten mehr Probleme aufdecken als mit Red-Teaming-Werkzeugen und -Diensten, die auf statischen Test-Prompts beruhen.
Das Mengenproblem
Als Grund für den Start verweist Vijil auf eine Schätzung von Gartner. Bis 2028 soll das durchschnittliche Unternehmen der globalen Fortune 500 mehr als 150.000 Agenten betreiben. 2025 waren es weniger als 15. KI-Entwicklungs- und Governance-Teams fehlen Zeit und Geld, um so viele Agenten von Hand zu prüfen.