Aansprakelijkheid AI-agents: Anthropic waarschuwt

Anthropic heeft potentiele investeerders laten weten dat klanten en gebruikers juridische stappen tegen het bedrijf kunnen ondernemen vanwege het handelen van autonome AI-agents. De waarschuwing komt op het moment dat OpenAI in Californie wordt aangeklaagd vanwege agents die tijdens interne tests Hugging Face hebben gehackt.

Een onduidelijk juridisch landschap

De passage staat in het prospectus dat Anthropic heeft opgesteld voor zijn beursgang en dat Reuters heeft ingezien.

Anthropic ontwikkelt zijn agenttechnologie om binnen de systemen van klanten te draaien, met ruime toegang, en om dagenlang zonder toezicht te werken. Het bedrijf erkent dat die mate van autonomie risico's met zich meebrengt.

"Deze autonome mogelijkheden kunnen de kans op schade vergroten, omdat fouten, misalignment of misbruik van beveiligingslekken gevolgen in de echte wereld kunnen hebben", staat in het prospectus.

Anthropic noemt het verwijderen van data en financiele transacties als voorbeelden van onomkeerbare handelingen. Ook schrijft het bedrijf dat de aansprakelijkheidsbeperkingen in zijn contracten mogelijk niet afdwingbaar of toereikend zijn als er claims komen over wat autonome agents doen.

Volgens het bedrijf zijn veel vragen over hoe bestaande wetgeving van toepassing is op agents "nog onbeslist en kunnen ze ons blootstellen aan aanzienlijke en onvoorspelbare juridische claims". Het is nog niet duidelijk of handelingen van agents gelden als producten, diensten of iets anders. Ook is onduidelijk wanneer de handelingen van een agent juridisch bindend zijn voor de gebruiker die hem inzette, en of daarvoor risicoaansprakelijkheid of schuldaansprakelijkheid geldt.

Andrew Ferguson, voorzitter van de FTC (de Amerikaanse Federal Trade Commission, de consumentenwaakhond van het land), heeft zich ook over de kwestie uitgelaten. Op het Reuters Momentum AI-evenement in Austin vorige week wuifde hij het idee weg van mensachtige agents die "losbreken" en suggereerde hij dat de ontwikkelaars of gebruikers die agents instructies geven aansprakelijk zouden zijn voor schade.

"Moet de aansprakelijkheid liggen bij degene die het hulpmiddel argeloos gebruikte en een onverwacht resultaat kreeg? Moet ze liggen bij de maker van het hulpmiddel?", vroeg Ferguson.

Rechtszaak tegen OpenAI op basis van antihackwet

De non-profitorganisatie Legal Advocates for Safe Science & Technology (LASST), die rechtszaken in het algemeen belang voert, heeft OpenAI Group PBC en de OpenAI Foundation aangeklaagd bij de San Francisco Superior Court.

De klacht is ingediend op grond van de Californische Unfair Competition Law (UCL). Daarin wordt gesteld dat de Comprehensive Computer Data Access and Fraud Act (CDAFA) is overtreden, die verbiedt om willens en wetens zonder toestemming toegang te krijgen tot computersystemen of daartoe aanleiding te geven. LASST verwijst ook naar een bepaling in het Civil Code van de staat waarin staat dat het geen verweer is "dat de kunstmatige intelligentie de schade autonoom heeft veroorzaakt".

De zaak draait om cybersecuritytests die OpenAI eerder dit jaar uitvoerde. Daarin wordt verwezen naar de hack van Hugging Face, waarbij agents een geimproviseerd prikbord opzetten om hun plannen te coordineren, en naar de aanval op RubyGems en het aanvallen van een Australische overheidswebsite.

Volgens LASST zagen medewerkers van OpenAI de communicatie van de agents al voor de aanval en kregen zij te horen dat het stopzetten van de test "niet nodig" was. De organisatie zegt dat een van de agents het plan in zijn chain-of-thought-redenering omschreef als "duidelijk het hacken van infrastructuur".

LASST vraagt geen geld. De organisatie wil een rechterlijk bevel dat OpenAI's agents verbiedt zonder toestemming systemen van derden binnen te dringen en dat een einde maakt aan onveilige werkwijzen bij de ontwikkeling van AI. Een woordvoerder van OpenAI zei tegen AFP dat het incident bij Hugging Face ernstig was en dat het bedrijf verschillende maatregelen heeft genomen, maar noemde de rechtszaak volkomen ongegrond.

Senaatswetsvoorstel geblokkeerd

Dinsdag probeerden de Democratische senatoren Mark Warner, Brian Schatz en Andy Kim met unanieme instemming de Artificial Intelligence Risk Management and Security Act of 2026 aangenomen te krijgen. Die wet zou een permanente AI Safety Board oprichten binnen het ministerie van Handel, met leden van Commerce, NIST, CISA, de NSA en het ministerie van Financien, aangevuld met onafhankelijke experts.

Ontwikkelaars van frontiermodellen zouden de board minstens 45 dagen voor de publieke release toegang moeten geven. De board zou afdwingbare test- en beveiligingsnormen vaststellen, onder meer voor modellen die zonder directe menselijke aansturing kwetsbaarheden kunnen vinden en misbruiken. Overtredingen zouden kunnen oplopen tot 250.000 dollar per overtreding, per dag.

Senator Ted Cruz, voorzitter van de Senaatscommissie voor Handel, maakte bezwaar. Volgens hem zou het wetsvoorstel de uitvoerende macht te veel zeggenschap geven over private AI-bedrijven.

Aaron Beardslee van Securonix vergeleek de kwestie met zelfrijdende auto's: "Ik zou zeggen dat degene achter het stuur verantwoordelijk is voor wat het voertuig ook doet." Jacob Krell van Suzu Labs was kritischer over OpenAI. "Een pauze zonder duidelijke tijdlijn, onafhankelijke tests, criteria voor release of verplichte meldingsplicht is weinig meer dan een loze kreet", zei hij.

Onze analyse

De formulering in het prospectus van Anthropic leest als een standaard risicoparagraaf, maar bevestigt wat securityteams al vermoedden: niemand weet nog wie betaalt als een agent met ruime toegang schade aanricht. Voor organisaties die agents inzetten betekent dat dat contractuele aansprakelijkheidsplafonds van leveranciers mogelijk minder bescherming bieden dan verwacht.

De zaak van LASST is het volgen waard, omdat het Californische Civil Code "de AI deed het" al uitsluit als verweer. Ze past in een breder patroon van agents die de fout ingaan, van de inbraak bij DIVD door een autonome agent tot groeiende aandacht van toezichthouders, waaronder het FTC-onderzoek naar OpenAI en Anthropic. Nu het wetsvoorstel in de Senaat is vastgelopen, zouden rechters weleens de eerste regels kunnen gaan bepalen.