Anthropic OSS Scanner: Kostenlose KI-Scans für Open Source

Anthropic hat OSS Scanner gestartet, einen kostenlosen Dienst, der die leistungsfähigsten KI-Modelle des Unternehmens auf Open-Source-Code ansetzt, um Sicherheitslücken aufzuspüren. Maintainer, die sich anmelden, erhalten regelmäßige Scans und Berichte. Darin wird beschrieben, welche Schwachstellen vermutet werden, wie sie sich reproduzieren lassen und, wo möglich, wie man sie behebt.

Der Dienst geht auf Project Glasswing zurück, ein früheres Vorhaben von Anthropic, bei dem Claude gezielt nach Software-Schwachstellen suchte. Er reiht sich in eine breitere Offensive des Unternehmens im Sicherheitsbereich ein. Dazu gehört auch der jüngste Schritt, das Claude-Cyber-Programm auf drei Stufen auszuweiten.

Ohne menschliche Prüfung

Die auffälligste Designentscheidung ist, was OSS Scanner weglässt. Laut Anthropic ist die Prüfung durch Menschen zum Engpass in der eigenen Schwachstellenforschung geworden. Der neue Dienst schickt die KI-generierten Funde deshalb direkt an die Projektteams, ohne dass ein Mensch sie zwischendurch prüft.

Das beschleunigt die Meldungen. Gleichzeitig verlagert es die Arbeit, jeden Fund zu prüfen und zu entscheiden, welche Korrekturen Vorrang haben, auf die Maintainer selbst.

Anthropic geht offen mit den Risiken um. "Wir können nicht garantieren, dass der Scanner perfekt sein wird", erklärte das Unternehmen. Es räumte ein, dass Berichte den Schweregrad eines Fehlers überzeichnen oder die Sicherheitsannahmen, auf denen ein Projekt beruht, falsch deuten könnten.

Erste Ergebnisse von Penetrationstestern

Anthropic legte Zahlen aus einer frühen Version des Scanners vor. Penetrationstester prüften 97 Funde mit hohem oder kritischem Schweregrad aus 48 Projekten.

Davon erfüllten laut Anthropic 85 die Kriterien des unternehmenseigenen Verfahrens zur koordinierten Offenlegung. Weitere 11 waren echte Probleme, deckten sich aber mit bereits bekannten Fehlern oder anderen Funden. Nur einer war ungültig.

Zumindest ein Maintainer sieht einen deutlichen Qualitätssprung. Anton Arapov von der OpenSSL Corporation bezeichnete frühe KI-generierte Berichte von vor rund 18 Monaten, also noch vor Project Glasswing, als "grauenhaft".

"Die Berichte, die wir von Anthropic bekommen haben, einschließlich der rohen Modellausgabe, waren genauso gut und manchmal besser als das, was wir von Menschen bekommen. Vor allem, wenn ein Bericht mit einem echten Exploit kommt, ist die Arbeit für einen Entwickler im Grunde erledigt, weil man ihn sofort überprüfen kann", sagte Arapov.

So funktionieren die Scans

Projekte, die sich anmelden, erhalten zunächst einen ersten Scan und anschließend ein Paket mit Berichten per E-Mail. Spätere Scans suchen nach neu eingeführten Schwachstellen sowie nach Problemen, die bei früheren Prüfungen übersehen wurden. Wie oft ein Projekt gescannt wird, hängt von mehreren Faktoren ab, darunter die Nachfrage und wie verbreitet die Software ist.

Maintainer können den Ablauf steuern. Sie können Anthropic mitteilen, was getestet werden soll, welche Eingaben als potenziell bösartig gelten sollen, wie der Schweregrad bewertet werden soll und welche Art von Korrekturvorschlägen für sie nützlich wäre.

Anthropic betont, dass der Dienst nicht für jedes Projekt gedacht ist. Er richtet sich an Teams, die bereits mit bestätigten Berichten zu hohen und kritischen Schweregraden Schritt halten und noch Kapazitäten haben, weiteren Funden nachzugehen.

Wer sich bewerben kann

Kern-Maintainer können sich über das GitHub-Repository von OSS Scanner bewerben. Jede Bewerbung wird einzeln geprüft. Im Mittelpunkt stehen etablierte Projekte, die für Infrastruktur und die Sicherheit der Nutzer wichtig sind.

Die Regeln zur Offenlegung unterscheiden sich von einer üblichen Fehlermeldung. Für ungeprüfte Funde, die über den Scanner verschickt werden, gilt keine verbindliche Offenlegungsfrist von 90 Tagen. Bestätigt Anthropic einen Bericht später über das bestehende Programm zur koordinierten Offenlegung, kann eine 90-Tage-Frist beginnen, sobald die Maintainer über diese Bestätigung informiert werden.

Projekte sind nicht dauerhaft gebunden. Sie können die automatischen Berichte pausieren oder ganz aussteigen und wieder nur noch Berichte erhalten, die über das reguläre Offenlegungsverfahren von Anthropic laufen.

Unsere Einschätzung

OSS Scanner kommt zu einem Zeitpunkt, an dem Open-Source-Teams ohnehin mit KI-generierten Fehlerberichten kämpfen. Google hat erst kürzlich genau wegen dieses Problems sein OSS-Bug-Bounty-Programm ausgesetzt. Anthropic setzt offenbar auf Qualität statt Masse, und die Zahlen aus den Penetrationstests deuten darauf hin, dass die Ergebnisse weit besser sind als die lieblos zusammengeklickten Einreichungen, vor denen Maintainer inzwischen graut. Vorausgesetzt, sie halten auch in größerem Maßstab.

Trotzdem ist der Verzicht auf menschliche Prüfung ein echter Zielkonflikt. Er verlagert die Sichtungsarbeit auf Ehrenamtliche und kleine Teams. Deshalb beschränkt Anthropic den Dienst auf Projekte, die bereits mit bestätigten Berichten zurechtkommen. Ob dieser Filter in der Praxis funktioniert, sollte man im Auge behalten.

Die größere Sorge ist das Tempo auf beiden Seiten. Ein aktueller Fall, bei dem eine von KI entdeckte Lücke in Rejetto HFS später ausgenutzt wurde, zeigt, dass von KI gefundene Fehler zu realen Angriffen werden können. Wenn Werkzeuge wie OSS Scanner Schwachstellen schneller zutage fördern, als Maintainer sie schließen können, könnte das Fehlen einer festen Offenlegungsfrist für ungeprüfte Funde zu einem wichtigen Detail werden. Es lohnt sich zu verfolgen, wie viele Berichte tatsächlich zu Korrekturen führen und wie schnell.