Acuerdo de IA: Trump anuncia autorregulación de tecnológicas

El presidente de Estados Unidos, Donald Trump, asegura que los responsables de las mayores empresas de inteligencia artificial han firmado un acuerdo voluntario que les obliga a someter el desarrollo de su IA a revisiones internas y externas.

El anuncio llegó el martes, tras una reunión en la Casa Blanca que pretendía dar respuesta a los temores de los estadounidenses ante esta tecnología. Trump y el presidente de la Cámara de Representantes, Mike Johnson, se reunieron con directivos de compañías que están invirtiendo cientos de miles de millones de dólares en infraestructura de IA. Ese despliegue incluye centros de datos en localidades de todo el país, unos proyectos que han despertado la oposición vecinal en ambos partidos.

"Creo que estoy viendo una autorregulación tremenda. Y entienden que tienen que autorregularse", dijo Trump a los periodistas en una rueda de prensa improvisada frente al Ala Oeste.

Quién ha firmado y a qué se ha comprometido

Además de Trump, firmaron el acuerdo el consejero delegado de Anthropic, Dario Amodei; el consejero delegado de Google, Sundar Pichai; el consejero delegado de Meta, Mark Zuckerberg; el presidente de OpenAI, Greg Brockman; el consejero delegado de Nvidia, Jensen Huang, y Elon Musk, fundador de xAI, que ahora forma parte de SpaceX.

Trump publicó el texto en su red social, Truth Social, a última hora del martes. El documento recoge cuatro medidas voluntarias. Las empresas implantarán "controles internos sólidos" y trabajarán con un "auditor externo independiente" que compruebe si esos controles funcionan. Cada compañía creará además una comisión dentro de su consejo de administración para revisar los informes de los auditores internos y externos.

El documento deja la puerta abierta a una regulación posterior. "Con el tiempo, puede tener sentido plasmar estas medidas en leyes y reglamentos", señala.

Trump afirmó que unas 10 personas formarán parte de un comité que "vigilará toda la iniciativa" y calificó el acuerdo de "moralmente vinculante". Añadió que en los próximos días nombrará a alguien para supervisarlo, después de consultar con el sector. Algunas de las medidas del acuerdo son cosas que las empresas ya hacen de alguna forma o que ya habían prometido antes.

Los expertos, divididos

Amodei, uno de los defensores más firmes de frenar el desarrollo de la IA, se mostró prudente. "La tecnología tiene riesgos muy reales", dijo. "Y, bueno, el mecanismo, la forma de abordar esos riesgos, todavía está en discusión".

Shri Narayanan, catedrático de Ingeniería Eléctrica e Informática en la Universidad del Sur de California, cree que el acuerdo intenta equilibrar el margen para la innovación con la regulación. En su opinión, esa innovación abarca no solo las capacidades de los modelos, sino también el trabajo en su seguridad y protección.

Robin Jia, profesor ayudante de Informática en la misma universidad, se muestra menos convencido ante "tanta fe en la autorregulación". Según él, las intenciones de los laboratorios deben estar "bien alineadas con el interés general de la sociedad estadounidense", y recordó las recientes revelaciones de incidentes de hackeo. "A medida que los modelos mejoren, las consecuencias de este tipo de cosas no harán más que aumentar", advirtió.

Alex Pascal, director ejecutivo del Berkman Klein Center for Internet and Society, criticó la vaguedad del lenguaje. A su juicio, la única forma de reducir los daños de la IA es "mediante una responsabilidad legal sólida, regulación y un cambio de fondo en la dinámica de carrera" que empuja a los desarrolladores de IA de vanguardia a tomar decisiones poco seguras.

Chatbot, centros de datos y China

Ese mismo día, Trump había presentado America.gov, un chatbot de IA pensado para ayudar a los estadounidenses a moverse por los servicios de la Administración. Prometió no apoyar "salvaguardas" ni otros límites. "Nunca frenaré el crecimiento de una tecnología que será más grande que la revolución industrial", dijo. El secretario de Estado, Marco Rubio, afirmó que el chatbot podría permitir pronto solicitar el primer pasaporte íntegramente por internet.

Trump aseguró también que los directivos se habían comprometido a suavizar el rechazo local a los centros de datos, por ejemplo destinando más dinero a los colegios de la zona o rebajando los costes energéticos. Si la oposición continúa, sugirió, los proyectos "se verán obligados a irse al extranjero o a otros lugares".

El consejero delegado de OpenAI, Sam Altman, dijo a la CNBC que la empresa está cada vez más centrada en la seguridad, un día después de que OpenAI frenara el lanzamiento de un nuevo modelo por motivos de seguridad. "Estamos marcando el ritmo de nuestros avances, lo que incluye a veces no entrenar un modelo", explicó.

Trump presentó la IA como una carrera con China en la que no hay "segundo puesto". Ambos países acordaron la semana pasada crear un canal para incidentes relacionados con la IA, pero Trump dijo que no quería cooperar demasiado: "¿Por qué iba a querer hacer nada?".

Nuestra opinión

Para los equipos de seguridad, la palabra clave aquí es "voluntario". El acuerdo habla de controles, auditorías y supervisión del consejo, pero no define qué deben cubrir esos controles ni qué ocurre si una empresa no cumple. Calificarlo de "moralmente vinculante" da a entender que, de momento, no hay ningún mecanismo legal que lo haga cumplir.

El momento importa. Los reguladores ya tienen en el punto de mira a estas mismas empresas, con la FTC investigando a OpenAI y Anthropic por riesgos para los consumidores, y el debate sobre la responsabilidad de los agentes de IA se está calentando. Conviene estar atentos a quién elige Trump para supervisar el acuerdo, a si los auditores externos publican algo y a si la propia insinuación del acuerdo de convertir estas medidas en ley acaba traduciéndose alguna vez en legislación real.