DeepKeep AI Lens: Leitplanken für KI-Programmieragenten

DeepKeep hat AI Lens for Developers vorgestellt, eine Erweiterung seiner Module zur Kontrolle der KI-Nutzung und zum Laufzeitschutz. Damit sollen Sicherheitsteams Programmieragenten überwachen können, die für Entwickler Code schreiben, ändern und ausführen.

Laut dem Unternehmen bringt das Werkzeug Richtliniendurchsetzung, Einblick per Audit und Laufzeitsicherheit für Agenten wie Cursor und Claude Code. DeepKeep zufolge betrifft das ein Feld, mit dem sich die meisten Sicherheitsprogramme bisher nicht befassen mussten.

Warum Programmieragenten ein Problem sind

In der Ankündigung von DeepKeep heißt es, dass 90 % der Entwickler bei der Arbeit mindestens einmal pro Woche KI-Programmieragenten nutzen. Diese Agenten laufen auf dem Rechner des Entwicklers. Sie können lokale Dateien lesen, Shell-Befehle ausführen und MCP-Tools (Model Context Protocol) direkt auf dem Gerät aufrufen.

Das Unternehmen argumentiert, dass Sicherheitsteams derzeit nicht sehen können, was diese Agenten mit diesem Zugriff anstellen, und keine Möglichkeit haben, sie zu stoppen. Agenten spielen inzwischen eine größere Rolle im Softwareentwicklungszyklus (SDLC), sodass Code mit deutlich weniger menschlicher Prüfung vom Prompt bis in die Produktion gelangen kann.

Fehler in diesem Bereich sind bereits sichtbar. Anfang dieser Woche beschrieben Forscher, wie KI-Agenten Screenshots auf GitHub veröffentlichten - eine Erinnerung daran, dass Ergebnisse von Agenten mit wenig Aufsicht an öffentlichen Orten landen können.

So funktioniert AI Lens

DeepKeep beschreibt AI Lens als schlankes Plug-in und nicht als vollwertigen Endpoint-Agenten. Es beobachtet die Aktivität des Agenten sowohl vor als auch nach jeder Aktion. Laut dem Unternehmen erhalten Sicherheitsteams so Abdeckung, ohne einen weiteren Endpoint-Client auf den Rechnern der Entwickler installieren zu müssen.

Hooks im Programmieragenten fangen Prompts, Shell-Befehle, Dateizugriffe und MCP-Tool-Aufrufe ab. Jeder Vorgang wird an das System von DeepKeep geschickt, das entscheidet, ob er erlaubt, blockiert oder für das Audit protokolliert wird.

Das Werkzeug sucht nach mehreren Arten von Risiken:

• Zugangsdaten, Tokens und Passwörter, die über Prompts oder angehängte Dateien abfließen könnten
• unsichere Codemuster in der Ausgabe des Agenten, etwa eine Funktion ohne Authentifizierung
• destruktive Befehle, die angehalten und vor der Ausführung einem Menschen zur Freigabe vorgelegt werden
• eigene Schlüsselbegriffe, mit denen Teams sensible Codeabschnitte oder interne Repositories namentlich markieren können

Die Prüfung auf Zugangsdaten zielt auf eine bekannte Schwachstelle. Geheimnisse, die in Code und Prompts rutschen, sind nach wie vor verbreitet, wie jüngste Erkenntnisse zeigen, wonach GitHub-Repositories gültige Zugangsdaten offenlegen - und zwar in großem Umfang.

Audit-Logs und zentrale Richtlinien

Jede Sitzung erzeugt ein vollständiges Audit-Log. Es erfasst die Geräte-ID, den Inhalt des Prompts und die Benutzer-ID. DeepKeep zufolge behalten Sicherheitsteams dadurch den Überblick über die Ereignisse, selbst wenn ein Entwickler eine blockierte Anfrage abändert und erneut absendet.

Richtlinien werden über einen Policy Hub verwaltet. Administratoren können Regeln für bestimmte Rollen oder für die gesamte Organisation festlegen. Zu den Kategorien, die sich blockieren lassen, gehören personenbezogene Daten (PII), Zugangsdaten und destruktive Befehle.

"Nicht nur, ob sie auf dem Papier genehmigt sind"

Ofer Rotberg, VP Product bei DeepKeep, verwies auf das Ausmaß der Zugriffsrechte, über die Entwickler verfügen.

"Entwickler haben mehr Berechtigungen und Zugriffe als fast jeder andere in der Organisation, und Programmieragenten handeln inzwischen mit voller Autonomie und Verantwortung. Das Risiko ist real, wie der jüngste Vorfall bei OpenAI und Hugging Face gezeigt hat, bei dem KI-Agenten während Tests auf externe Systeme zugreifen und diese ausnutzen konnten", sagte er.

"Für CISOs ist es unerlässlich, im Blick zu behalten, was in diesen Werkzeugen passiert, und nicht nur, ob sie auf dem Papier genehmigt sind. Sicherheitsteams müssen jede Aktion eines Agenten überwachen und schädliches Verhalten in Echtzeit blockieren, statt herumzusitzen und auf den nächsten Vorfall zu warten."

Verfügbarkeit

AI Lens for Developers unterstützt derzeit Cursor und Claude Code. Laut DeepKeep folgt die Unterstützung für GitHub Copilot, OpenAI Codex, Lovable, Windsurf und weitere Werkzeuge in Kürze. Die Erweiterung ist ab sofort als Teil der umfassenderen KI-Sicherheitsplattform von DeepKeep erhältlich.

Unsere Einschätzung

Die Markteinführung zeigt, dass sich das KI-Risiko verlagert. Anfangs lag der Fokus vor allem auf Chatbots und darauf, was Mitarbeiter dort hineinkopieren. Programmieragenten sind ein anderer Fall, weil sie handeln. Sie lesen Dateien, führen Befehle aus und rufen Tools auf - auf Rechnern, die oft die Schlüssel zu Quellcode und Produktivsystemen enthalten.

DeepKeeps Ansatz, jede Aktion abzufangen und destruktive Befehle an einen Menschen weiterzuleiten, setzt genau dort an. Bemerkenswert ist der dauerhafte Audit-Trail, der bei der Reaktion auf Vorfälle wichtig werden könnte, wenn ein Agent etwas Unerwartetes tut. Jüngste Fälle wie der Einbruch bei DIVD durch einen autonomen KI-Agenten deuten darauf hin, dass das Verhalten von Agenten zu einem echten Ermittlungsthema wird.

Offene Fragen bleiben. Freigabeabfragen helfen nur, wenn Entwickler sie nicht aus Gewohnheit einfach durchklicken. Spannend ist auch, wie schnell DeepKeep die versprochene Unterstützung für Copilot, Codex und andere liefert und ob die Anbieter von Programmieragenten ähnliche Kontrollen in ihre eigenen Produkte einbauen.