El presidente de Estados Unidos, Donald Trump, anunció un acuerdo con Google, OpenAI, Anthropic, Meta, Nvidia y X para que las compañías refuercen los controles y auditorías de sus modelos de inteligencia artificial. El compromiso evita la regulación estatal y establece cuatro niveles de supervisión interna y externa.
El presidente de Estados Unidos, Donald Trump, anunció este martes un acuerdo con las principales empresas tecnológicas del país para que avancen en una autorregulación de sus modelos de inteligencia artificial (IA). El anuncio se realizó tras un encuentro en la Casa Blanca con los directivos de las compañías.
El acuerdo fue firmado por Trump; Sundar Pichai, de Google; Dario Amodei, de Anthropic; Mark Zuckerberg, de Meta; Jensen Huang, de Nvidia; Greg Brockman, de OpenAI; y Elon Musk, de X.
Tras el almuerzo, Trump declaró a la prensa: «Veo una gran autorregulación, y ellos entienden que deben autorregularse». Y agregó: «Estos modelos son muy complejos y, repito, creo que se utilizarán para el bien».
El acuerdo establece cuatro niveles de controles y auditorías para las empresas que desarrollan y despliegan modelos de frontera. Las compañías se comprometieron a implementar controles internos para monitorear las capacidades y la alineación de sus modelos durante el entrenamiento y el despliegue, especialmente en áreas como ciberseguridad, bioseguridad y amenazas químicas; empoderar a un equipo interno para garantizar que los controles, sistemas de monitoreo y mecanismos de detección funcionen según lo previsto; trabajar con un auditor o evaluador externo independiente; y designar un comité independiente del directorio para supervisar y recibir informes.
El documento sostiene que estas medidas buscan generar confianza en el funcionamiento de la tecnología. Las empresas participantes también acordaron reunirse periódicamente para establecer estándares y buenas prácticas destinadas a mejorar la seguridad de sus sistemas.
«Con el tiempo, podría tener sentido convertir estas medidas en leyes o regulaciones. Independientemente de que esto sea necesario para las empresas, creemos que implementar estos controles y auditorías es fundamental para garantizar un futuro seguro para todos, y cada una de nuestras empresas está comprometida a hacerlo», señala el comunicado.
El compromiso se produce mientras la administración Trump mantiene diferencias con los pedidos de una mayor regulación de la inteligencia artificial. Dario Amodei, CEO de Anthropic, reclamó que los desarrolladores reduzcan el ritmo de avance y pidió «avanzar a un ritmo controlado en la frontera».
Trump rechazó los llamados a establecer una regulación supranacional. La semana pasada, durante la Asamblea General de las Naciones Unidas, sostuvo que su administración se opondría a «cualquier intento de construir un plan globalista para controlar» la IA. En ese contexto, veinte países y la Unión Europea habían llamado a una mayor coordinación mundial para garantizar que la IA permanezca bajo control humano.
El debate se intensificó en los últimos meses a partir de distintos incidentes vinculados con los modelos de inteligencia artificial. El lunes, OpenAI anunció que no lanzaría su último modelo de IA después de identificar riesgos de seguridad durante las pruebas internas. La compañía también se disculpó públicamente por una serie de incidentes en los que sus agentes de IA obtuvieron acceso no autorizado a sitios web del gobierno australiano, incluida una base de datos nacional de atención médica.
Según el material difundido, el modelo intentó acceder en junio de 2026 a un portal de estadísticas de salud de Australia durante ejercicios de entrenamiento. La ministra de Servicios Gubernamentales, Katy Gallagher, explicó que se le había pedido al modelo que buscara en internet datos sobre cuánto gastaba el gobierno australiano en medicamentos. El ministro de Defensa, Richard Marles, describió el comportamiento del modelo como un intento de superar las restricciones establecidas. «Saltó la cerca», afirmó. «Hizo una pregunta, no se le proporcionó la información y, en lugar de detenerse ahí, saltó la cerca».
OpenAI no informó al gobierno australiano hasta septiembre, cuando envió un correo electrónico con los detalles del incidente a una dirección genérica que, según Canberra, solo se revisa «una vez al día».
Sobre los debates actuales, el director del Instituto de IA de la UNSW en Sídney, Toby Walsh, cuestionó la capacidad de las empresas para supervisarse a sí mismas: «¿Qué otra industria multimillonaria se toma la palabra para hacer sus propios deberes?», declaró a Al Jazeera. «Es demasiado tentador escatimar en gastos», dijo Walsh, y agregó que los altos ejecutivos deberían ser responsables de los daños causados por sus productos. «Deberíamos cobrarles por todo el tiempo que dedican a identificar y solucionar estos ciberataques», concluyó.