KI-Abkommen: Tech-Firmen sagen Trump Selbstkontrolle zu

US-Präsident Donald Trump zufolge haben die Chefs der größten KI-Unternehmen eine freiwillige Vereinbarung unterzeichnet, die sie zu internen und externen Prüfungen ihrer KI-Entwicklung verpflichtet.

Die Ankündigung folgte am Dienstag auf ein Treffen im Weißen Haus, das die Ängste der Amerikaner vor der Technologie aufgreifen sollte. Trump und der Sprecher des Repräsentantenhauses, Mike Johnson, kamen mit Managern von Unternehmen zusammen, die Hunderte Milliarden Dollar in KI-Infrastruktur stecken. Zu diesem Ausbau gehören Rechenzentren in Gemeinden im ganzen Land, und gegen diese Projekte regt sich Widerstand von Bürgern aus beiden Parteien.

"Ich sehe eine enorme Selbstkontrolle. Und sie verstehen, dass sie sich selbst kontrollieren müssen", sagte Trump vor Reportern bei einer spontanen Pressekonferenz vor dem Westflügel.

Wer unterschrieben hat und wozu sie sich verpflichten

Neben Trump unterzeichneten Anthropic-Chef Dario Amodei, Google-Chef Sundar Pichai, Meta-Chef Mark Zuckerberg, OpenAI-Präsident Greg Brockman, Nvidia-Chef Jensen Huang und Elon Musk, Gründer von xAI, das inzwischen zu SpaceX gehört.

Trump veröffentlichte den Text am späten Dienstag auf seiner Social-Media-Plattform Truth Social. Er sieht vier freiwillige Schritte vor. Die Unternehmen sollen "robuste interne Kontrollen" einführen und mit einem "unabhängigen externen Prüfer" zusammenarbeiten, der kontrolliert, ob diese Kontrollen funktionieren. Außerdem richtet jedes Unternehmen einen Ausschuss in seinem Verwaltungsrat ein, der die Berichte der internen und externen Prüfer bewertet.

Das Dokument lässt Raum für eine spätere Regulierung. "Mit der Zeit kann es sinnvoll sein, diese Schritte in Gesetzen und Vorschriften festzuschreiben", heißt es darin.

Trump sagte, rund zehn Personen würden in einem Gremium sitzen, das "über das gesamte Vorhaben wacht", und nannte die Vereinbarung "moralisch bindend". Er fügte hinzu, er werde in den kommenden Tagen nach Rücksprache mit der Branche jemanden benennen, der die Vereinbarung beaufsichtigt. Einige der Maßnahmen setzen die Unternehmen in irgendeiner Form bereits um oder haben sie schon früher zugesagt.

Experten sind gespalten

Amodei, einer der lautesten Befürworter einer langsameren KI-Entwicklung, gab sich vorsichtig. "Die Technologie birgt sehr reale Risiken", sagte er. "Und, wissen Sie, der Mechanismus, wie wir mit diesen Risiken umgehen, wird noch diskutiert."

Shri Narayanan, Professor für Elektro- und Computertechnik an der University of Southern California, sagte, die Vereinbarung versuche, Spielraum für Innovation und Regulierung in Einklang zu bringen. Diese Innovation umfasse aus seiner Sicht nicht nur die Fähigkeiten der Modelle, sondern auch die Arbeit an ihrer Sicherheit.

Robin Jia, Assistenzprofessor für Informatik an derselben Universität, ist von "so viel Vertrauen in Selbstkontrolle" weniger überzeugt. Die Absichten der Labore müssten "gut mit den breiteren Interessen der amerikanischen Öffentlichkeit übereinstimmen", sagte er und verwies auf kürzlich bekannt gewordene Hackerangriffe. "Je besser die Modelle werden, desto größer werden die Folgen solcher Vorfälle", sagte er.

Alex Pascal, geschäftsführender Direktor des Berkman Klein Center for Internet and Society, kritisierte die vage Formulierung. Er argumentierte, KI-Schäden ließen sich nur verringern "durch eine robuste rechtliche Haftung, Regulierung und eine grundlegende Veränderung der Wettlaufdynamik", die Entwickler von Spitzen-KI zu unsicheren Entscheidungen treibe.

Chatbot, Rechenzentren und China

Am selben Tag hatte Trump bereits America.gov vorgestellt, einen KI-Chatbot, der Amerikanern den Weg durch staatliche Dienstleistungen erleichtern soll. Er versprach, keine "Leitplanken" oder andere Beschränkungen zu unterstützen. "Ich werde niemals das Wachstum einer Technologie bremsen, die größer sein wird als die industrielle Revolution", sagte er. Außenminister Marco Rubio sagte, über den Chatbot könne man bald einen ersten Reisepass komplett online beantragen.

Trump sagte außerdem, die Manager hätten zugestimmt, den Widerstand vor Ort gegen Rechenzentren zu entschärfen, etwa durch mehr Geld für örtliche Schulen oder niedrigere Energiekosten. Halte der Widerstand an, würden die Projekte, so deutete er an, "gezwungen sein, ins Ausland oder an andere Standorte zu gehen".

OpenAI-Chef Sam Altman sagte dem Sender CNBC, das Unternehmen konzentriere sich zunehmend auf Sicherheit. Einen Tag zuvor hatte OpenAI die Einführung eines neuen Modells gestoppt, wegen Sicherheitsbedenken. "Wir steuern das Tempo unseres Fortschritts, und dazu gehört manchmal auch, ein Modell nicht zu trainieren", sagte er.

Trump stellte KI als Wettlauf mit China dar, bei dem es keinen "zweiten Platz" gebe. Beide Länder hatten sich vergangene Woche auf einen Kanal für KI-bezogene Vorfälle geeinigt, doch Trump sagte, er wolle nicht zu eng kooperieren: "Warum sollte ich irgendetwas tun wollen?"

Unsere Einschätzung

Für Sicherheitsteams lautet das entscheidende Wort hier "freiwillig". Die Vereinbarung beschreibt Kontrollen, Prüfungen und Aufsicht durch den Verwaltungsrat, legt aber weder fest, was diese Kontrollen abdecken müssen, noch was passiert, wenn ein Unternehmen die Vorgaben verfehlt. Die Bezeichnung "moralisch bindend" deutet darauf hin, dass vorerst keine rechtliche Durchsetzung dahintersteht.

Der Zeitpunkt ist wichtig. Die Aufsichtsbehörden nehmen bereits dieselben Unternehmen ins Visier: Die FTC ermittelt gegen OpenAI und Anthropic wegen Risiken für Verbraucher, und die Debatte über die Haftung für KI-Agenten gewinnt an Schärfe. Es lohnt sich zu beobachten, wen Trump mit der Aufsicht über die Vereinbarung betraut, ob die externen Prüfer irgendetwas veröffentlichen und ob der in der Vereinbarung selbst angedeutete Schritt, diese Maßnahmen gesetzlich festzuschreiben, jemals in echte Gesetzgebung mündet.