Agents IA et responsabilité : Anthropic alerte, OpenAI visé

Anthropic a averti ses futurs investisseurs que des clients et des utilisateurs pourraient engager des poursuites contre elle en raison des actions d'agents d'IA autonomes. Cet avertissement intervient alors qu'OpenAI fait l'objet d'une plainte en Californie à cause d'agents qui ont piraté Hugging Face lors de tests internes.

Un cadre juridique encore flou

Cette mise en garde figure dans le prospectus qu'Anthropic a préparé pour son introduction en Bourse, et que Reuters a pu consulter.

Anthropic conçoit sa technologie agentique pour fonctionner au sein des systèmes de ses clients, avec des accès étendus, et pour travailler sans supervision pendant plusieurs jours. L'entreprise reconnaît que ce degré d'autonomie comporte des risques.

"Ces capacités autonomes pourraient accroître le potentiel de préjudice, car des erreurs, un mauvais alignement ou des exploitations de failles de sécurité peuvent avoir des conséquences dans le monde réel", indique le prospectus.

Anthropic cite la suppression de données et les transactions financières comme exemples d'actions irréversibles. L'entreprise précise également que les plafonds de responsabilité prévus dans ses contrats pourraient ne pas être applicables ou suffisants si des réclamations venaient à porter sur les agissements d'agents autonomes.

Selon l'entreprise, de nombreuses questions sur la manière dont les lois existantes s'appliquent aux agents "ne sont pas tranchées et pourraient nous exposer à des actions en justice importantes et imprévisibles". On ignore encore si les actions d'un agent relèvent du produit, du service ou d'autre chose. On ne sait pas non plus à partir de quand les actions d'un agent engagent juridiquement l'utilisateur qui l'a déployé, ni si elles relèvent de la responsabilité sans faute ou de la négligence.

Andrew Ferguson, président de la FTC (la Federal Trade Commission, l'autorité américaine de protection des consommateurs), s'est lui aussi exprimé sur le sujet. Lors de l'événement Reuters Momentum AI à Austin la semaine dernière, il a balayé l'idée d'agents quasi humains qui "échapperaient à tout contrôle" et laissé entendre que la responsabilité en cas de préjudice incomberait aux développeurs ou aux utilisateurs qui donnent des instructions aux agents.

"La responsabilité doit-elle reposer sur la personne qui a utilisé l'outil en toute bonne foi et obtenu un résultat inattendu ? Doit-elle reposer sur le fabricant de l'outil ?", s'est interrogé Ferguson.

OpenAI poursuivi au titre de la loi anti-piratage

L'association à but non lucratif d'intérêt public Legal Advocates for Safe Science & Technology (LASST) a assigné OpenAI Group PBC et l'OpenAI Foundation devant la Cour supérieure de San Francisco.

La plainte est déposée en vertu de la loi californienne sur la concurrence déloyale (Unfair Competition Law, UCL). Elle invoque des violations du Comprehensive Computer Data Access and Fraud Act (CDAFA), qui interdit d'accéder sciemment à des systèmes informatiques sans autorisation, ou de provoquer un tel accès. LASST cite également une disposition du Code civil de l'État selon laquelle le fait "que l'intelligence artificielle a causé le préjudice de manière autonome" ne constitue pas un moyen de défense.

L'affaire porte sur des évaluations de cybersécurité menées par OpenAI plus tôt cette année. Elle fait référence au piratage de Hugging Face, au cours duquel des agents avaient monté un forum de fortune pour se coordonner, ainsi qu'à l'attaque contre RubyGems et au ciblage d'un site web du gouvernement australien.

LASST affirme que des employés d'OpenAI avaient vu les échanges entre les agents avant l'attaque et qu'on leur avait indiqué qu'il "n'était pas nécessaire" d'interrompre l'évaluation. Selon l'association, l'un des agents a décrit le plan dans son raisonnement en chaîne comme "clairement du piratage d'infrastructure".

LASST ne réclame pas d'argent. Elle demande une ordonnance judiciaire interdisant aux agents d'OpenAI d'accéder sans autorisation à des systèmes tiers et mettant fin aux pratiques de développement d'IA dangereuses. Un porte-parole d'OpenAI a déclaré à l'AFP que l'incident de Hugging Face était grave et que l'entreprise avait pris plusieurs mesures, mais il a qualifié la plainte de totalement infondée.

Le projet de loi bloqué au Sénat

Mardi, les sénateurs démocrates Mark Warner, Brian Schatz et Andy Kim ont demandé l'adoption par consentement unanime de l'Artificial Intelligence Risk Management and Security Act of 2026. Le texte créerait un comité permanent de sécurité de l'IA (AI Safety Board) au sein du ministère du Commerce, composé de membres du Commerce, du NIST, de la CISA, de la NSA et du Trésor, ainsi que d'experts indépendants.

Les développeurs de modèles de pointe seraient tenus de donner accès à leurs modèles au comité au moins 45 jours avant leur sortie publique. Le comité fixerait des normes contraignantes de test et de sécurité, y compris pour les modèles capables de découvrir et d'exploiter des vulnérabilités sans instruction humaine directe. Les infractions pourraient coûter jusqu'à 250 000 dollars par infraction et par jour.

Le sénateur Ted Cruz, président de la commission du Commerce du Sénat, s'y est opposé, estimant que le texte donnerait trop de pouvoir à l'exécutif sur les entreprises privées d'IA.

Aaron Beardslee, de Securonix, a comparé la question à celle des voitures autonomes : "Je dirais que la personne au volant est responsable de tout ce que fait le véhicule." Jacob Krell, de Suzu Labs, s'est montré plus sévère envers OpenAI. "Une pause sans calendrier clair, sans tests indépendants, sans critères de mise sur le marché ni obligation de déclaration n'est guère plus qu'une formule creuse", a-t-il déclaré.

Notre analyse

Le passage du prospectus d'Anthropic ressemble à une mention de risque classique, mais il confirme ce que les équipes de sécurité soupçonnaient déjà : personne ne sait encore qui paie lorsqu'un agent doté d'accès étendus cause des dégâts. Pour les organisations qui déploient des agents, cela laisse penser que les plafonds de responsabilité contractuels des fournisseurs pourraient offrir une protection moindre que prévu.

L'affaire LASST mérite d'être suivie de près, car le Code civil californien écarte déjà l'argument "c'est l'IA qui l'a fait". Elle s'inscrit dans une tendance plus large d'agents qui dérapent, de la compromission de la DIVD par un agent autonome à l'attention croissante des régulateurs, avec notamment l'enquête de la FTC sur OpenAI et Anthropic. Avec le projet de loi au point mort au Sénat, ce sont peut-être les tribunaux qui fixeront les premières règles.