AI-akkoord: Trump zegt dat techbedrijven zelftoezicht kiezen

De Amerikaanse president Donald Trump zegt dat de topmensen van de grootste AI-bedrijven een vrijwillig akkoord hebben ondertekend. Daarin verplichten ze zich tot interne en externe controles op hun AI-ontwikkeling.

De aankondiging volgde dinsdag op een bijeenkomst in het Witte Huis die bedoeld was om de zorgen van Amerikanen over de technologie weg te nemen. Trump en Mike Johnson, voorzitter van het Huis van Afgevaardigden, spraken met bestuurders van bedrijven die honderden miljarden dollars uitgeven aan AI-infrastructuur. Die uitbreiding omvat datacenters in gemeenten door het hele land, en tegen die projecten is lokaal verzet ontstaan bij aanhangers van beide partijen.

"Ik denk dat ik enorm veel zelftoezicht zie. En ze begrijpen dat ze zichzelf moeten controleren," zei Trump tegen verslaggevers tijdens een geïmproviseerde persconferentie buiten de West Wing.

Wie tekende en wat ze afspraken

Naast Trump werd het akkoord ondertekend door Anthropic-CEO Dario Amodei, Google-CEO Sundar Pichai, Meta-CEO Mark Zuckerberg, OpenAI-president Greg Brockman, Nvidia-CEO Jensen Huang en Elon Musk, oprichter van xAI, dat inmiddels onderdeel is van SpaceX.

Trump plaatste de tekst dinsdagavond laat op zijn socialemediaplatform Truth Social. Er staan vier vrijwillige stappen in. De bedrijven voeren "robuuste interne controles" in en werken samen met een "onafhankelijke externe auditor" om na te gaan of die controles werken. Daarnaast richt elk bedrijf binnen zijn raad van bestuur een commissie op die de rapporten van de interne en externe auditors beoordeelt.

Het document laat ruimte voor latere regelgeving. "Na verloop van tijd kan het zinvol zijn om deze stappen vast te leggen in wet- en regelgeving," staat erin.

Volgens Trump komen er ongeveer tien mensen in een commissie die "toezicht houdt op het hele project", en hij noemde het akkoord "moreel bindend". Hij voegde eraan toe dat hij de komende dagen, na overleg met de sector, iemand aanwijst die toezicht houdt op de afspraken. Sommige maatregelen in het akkoord passen de bedrijven in een of andere vorm al toe, of hebben ze eerder al beloofd.

Experts zijn verdeeld

Amodei, een van de meest uitgesproken voorstanders van het afremmen van AI-ontwikkeling, klonk voorzichtig. "De technologie brengt heel reële risico's met zich mee," zei hij. "En, weet je, het mechanisme, hoe we die risico's aanpakken, daarover wordt nog gesproken."

Shri Narayanan, hoogleraar elektrotechniek en computertechniek aan de University of Southern California, zei dat het akkoord probeert een balans te vinden tussen ruimte voor innovatie en regulering. Die innovatie gaat volgens hem niet alleen over wat modellen kunnen, maar ook over werk aan de veiligheid en beveiliging van modellen.

Robin Jia, universitair docent informatica aan dezelfde universiteit, is minder overtuigd van "zoveel vertrouwen in zelftoezicht". Volgens hem moeten de bedoelingen van de labs "goed aansluiten bij het bredere belang van het Amerikaanse publiek", en hij wees op recent bekendgemaakte hackincidenten. "Naarmate de modellen beter worden, zullen de gevolgen van zulke dingen alleen maar groter worden," zei hij.

Alex Pascal, directeur van het Berkman Klein Center for Internet and Society, had kritiek op de vage bewoordingen. Volgens hem is de enige manier om schade door AI te beperken "via stevige wettelijke aansprakelijkheid, regulering en het fundamenteel veranderen van de wedloopdynamiek" die ontwikkelaars van frontier-AI tot onveilige beslissingen aanzet.

Chatbot, datacenters en China

Eerder die dag presenteerde Trump America.gov, een AI-chatbot die Amerikanen moet helpen hun weg te vinden in overheidsdiensten. Hij beloofde geen "vangrails" of andere beperkingen te steunen. "Ik zal nooit de groei afremmen van een technologie die groter wordt dan de industriële revolutie," zei hij. Minister van Buitenlandse Zaken Marco Rubio zei dat mensen via de chatbot binnenkort mogelijk volledig online een eerste paspoort kunnen aanvragen.

Trump zei ook dat de bestuurders hadden afgesproken het lokale verzet tegen datacenters te verminderen, bijvoorbeeld door meer geld aan plaatselijke scholen te geven of de energiekosten te verlagen. Als het verzet aanhoudt, zullen de projecten volgens hem "gedwongen worden naar het buitenland of andere locaties te gaan".

OpenAI-CEO Sam Altman vertelde CNBC dat het bedrijf zich steeds meer op veiligheid richt, een dag nadat OpenAI de uitrol van een nieuw model stopzette vanwege veiligheidszorgen. "We doseren onze vooruitgang, en dat betekent soms ook dat we een model niet trainen," zei hij.

Trump presenteerde AI als een wedloop met China waarin geen "tweede plaats" bestaat. De twee landen spraken vorige week af een kanaal op te zetten voor AI-gerelateerde incidenten, maar Trump zei dat hij niet al te veel wil samenwerken: "Waarom zou ik iets willen doen?"

Onze analyse

Voor securityteams is het sleutelwoord hier "vrijwillig". Het akkoord beschrijft controles, audits en toezicht door het bestuur, maar legt niet vast wat die controles moeten omvatten of wat er gebeurt als een bedrijf tekortschiet. Dat het "moreel bindend" wordt genoemd, wijst erop dat er voorlopig geen juridische handhaving achter zit.

De timing is van belang. Toezichthouders kijken al naar dezelfde bedrijven: de FTC onderzoekt OpenAI en Anthropic vanwege risico's voor consumenten, en het debat over aansprakelijkheid voor AI-agents laait op. Het is de moeite waard om in de gaten te houden wie Trump aanwijst als toezichthouder op het akkoord, of de externe auditors iets publiceren, en of de eigen hint in het akkoord over het wettelijk vastleggen van deze stappen ooit uitmondt in echte wetgeving.