Accord sur l'IA : la tech va s'autoréguler, selon Trump

Le président américain Donald Trump affirme que les dirigeants des plus grandes entreprises d'intelligence artificielle ont signé un accord volontaire qui les engage à soumettre leur développement de l'IA à des contrôles internes et externes.

L'annonce est tombée mardi, à l'issue d'une réunion à la Maison Blanche censée répondre aux inquiétudes des Américains face à cette technologie. Trump et le président de la Chambre des représentants, Mike Johnson, ont reçu les patrons d'entreprises qui consacrent des centaines de milliards de dollars aux infrastructures d'IA. Ce déploiement passe notamment par des data centers implantés dans des localités de tout le pays, des projets qui suscitent une opposition locale dans les deux camps politiques.

"Je crois que je vois une autorégulation formidable. Et ils comprennent qu'ils doivent s'autoréguler", a déclaré Trump aux journalistes lors d'une conférence de presse improvisée devant l'aile ouest.

Qui a signé et à quoi ils se sont engagés

Outre Trump, l'accord a été signé par le PDG d'Anthropic, Dario Amodei, le PDG de Google, Sundar Pichai, le PDG de Meta, Mark Zuckerberg, le président d'OpenAI, Greg Brockman, le PDG de Nvidia, Jensen Huang, et Elon Musk, fondateur de xAI, désormais intégrée à SpaceX.

Trump a publié le texte mardi soir sur son réseau social, Truth Social. Il prévoit quatre mesures volontaires. Les entreprises mettront en place des "contrôles internes robustes" et feront appel à un "auditeur externe indépendant" pour vérifier leur efficacité. Chaque entreprise créera également un comité au sein de son conseil d'administration chargé d'examiner les rapports des auditeurs internes et externes.

Le document laisse la porte ouverte à une réglementation ultérieure. "Avec le temps, il pourrait être judicieux d'inscrire ces mesures dans des lois et des règlements", peut-on y lire.

Trump a indiqué qu'une dizaine de personnes siégeraient dans un comité chargé de "surveiller l'ensemble de l'entreprise" et a qualifié l'accord de "moralement contraignant". Il a ajouté qu'il désignerait dans les prochains jours, après consultation du secteur, une personne pour superviser l'accord. Certaines des mesures prévues sont déjà appliquées sous une forme ou une autre par les entreprises, ou ont déjà fait l'objet de promesses.

Les experts sont partagés

Dario Amodei, l'un des plus fervents partisans d'un ralentissement du développement de l'IA, s'est montré prudent. "Cette technologie comporte des risques bien réels", a-t-il déclaré. "Et, vous savez, le mécanisme, la manière dont nous traitons ces risques, fait encore l'objet de discussions."

Shri Narayanan, professeur de génie électrique et informatique à l'University of Southern California, estime que l'accord tente de concilier marge d'innovation et réglementation. Selon lui, cette innovation ne concerne pas seulement les capacités des modèles, mais aussi les travaux sur leur sûreté et leur sécurité.

Robin Jia, professeur adjoint d'informatique dans la même université, est moins convaincu par "une telle confiance dans l'autorégulation". Il souligne que les intentions des laboratoires doivent être "bien alignées sur l'intérêt général du public américain" et rappelle les récentes révélations d'incidents de piratage. "À mesure que les modèles s'améliorent, les conséquences de ce genre de choses ne feront que s'aggraver", a-t-il déclaré.

Alex Pascal, directeur exécutif du Berkman Klein Center for Internet and Society, a critiqué le flou du texte. Selon lui, le seul moyen de réduire les dommages causés par l'IA passe "par une responsabilité juridique solide, une réglementation et une transformation profonde de la dynamique de course" qui pousse les développeurs d'IA de pointe à prendre des décisions risquées.

Chatbot, data centers et Chine

Plus tôt dans la journée, Trump avait dévoilé America.gov, un chatbot d'IA destiné à aider les Américains à s'y retrouver dans les services publics. Il a promis de ne pas soutenir de "garde-fous" ni d'autres limites. "Je n'étoufferai jamais la croissance d'une technologie qui sera plus importante que la révolution industrielle", a-t-il déclaré. Le secrétaire d'État Marco Rubio a indiqué que le chatbot pourrait bientôt permettre de demander un premier passeport entièrement en ligne.

Trump a également affirmé que les dirigeants avaient accepté d'apaiser les résistances locales aux data centers, par exemple en versant davantage d'argent aux écoles locales ou en réduisant les coûts de l'énergie. Si l'opposition persiste, a-t-il laissé entendre, les projets "seront contraints de partir à l'étranger ou ailleurs".

Le PDG d'OpenAI, Sam Altman, a déclaré sur CNBC que l'entreprise accordait une place croissante à la sécurité, au lendemain de la suspension du déploiement d'un nouveau modèle par OpenAI pour des raisons de sécurité. "Nous dosons notre progression, ce qui implique parfois de ne pas entraîner un modèle", a-t-il expliqué.

Trump a présenté l'IA comme une course contre la Chine, sans "deuxième place". Les deux pays ont convenu la semaine dernière de mettre en place un canal dédié aux incidents liés à l'IA, mais Trump a dit ne pas vouloir trop coopérer : "Pourquoi voudrais-je faire quoi que ce soit ?"

Notre analyse

Pour les équipes de sécurité, le mot clé ici est "volontaire". L'accord décrit des contrôles, des audits et une supervision par le conseil d'administration, mais il ne précise ni ce que ces contrôles doivent couvrir, ni ce qui se passe si une entreprise ne respecte pas ses engagements. Le qualifier de "moralement contraignant" laisse penser qu'aucun mécanisme juridique ne le soutient pour l'instant.

Le calendrier compte. Les régulateurs s'intéressent déjà à ces mêmes entreprises, avec la FTC qui enquête sur OpenAI et Anthropic au sujet des risques pour les consommateurs, et le débat sur la responsabilité des agents d'IA s'intensifie. Il faudra surveiller qui Trump choisira pour superviser l'accord, si les auditeurs externes publieront quoi que ce soit, et si la piste évoquée par l'accord lui-même, inscrire ces mesures dans la loi, débouchera un jour sur une véritable législation.