El presidente de Estados Unidos, Donald Trump, anunció un nuevo acuerdo con los principales directivos de empresas tecnológicas, orientado a promover la autorregulación en el desarrollo de modelos de inteligencia artificial (IA), evitando la imposición de normativas estatales obligatorias. El anuncio se realizó luego de una reunión en la Casa Blanca, que contó con la presencia de los líderes más influyentes del sector tecnológico.
El acuerdo fue firmado por el presidente Donald Trump, Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Jensen Huang (Nvidia), Greg Brockman (OpenAI) y Elon Musk (X). Entre los invitados también estuvieron Satya Nadella (Microsoft), Jeff Bezos (Amazon), Alex Karp (Palantir), Lisa Su (AMD), y otros altos ejecutivos.
Acuerdo de autorregulación y controles
El documento establece cuatro niveles de controles y auditorías que las empresas tecnológicas deberán implementar al desarrollar y desplegar modelos de frontera en el campo de la inteligencia artificial. Las compañías se comprometieron a instalar controles internos para monitorear capacidades y la alineación de los modelos en áreas como ciberseguridad, bioseguridad y amenazas químicas. Además, buscarán evitar el acceso no autorizado de los sistemas a infraestructuras técnicas sensibles.
El texto también señala que cada empresa designará un equipo interno responsable de verificar la efectividad de los controles y sistemas de monitoreo, así como de detectar y resolver eventuales situaciones anómalas. Otro punto acordado es la intervención de auditores externos independientes para evaluar el funcionamiento de los sistemas y mecanismos de supervisión.
Asimismo, el acuerdo requiere la formación de un comité independiente dentro del directorio de cada compañía, encargado de supervisar los reportes internos y externos, además de garantizar la adecuada resolución de las incidencias detectadas. Los participantes acordaron sostener reuniones periódicas para establecer estándares de seguridad y buenas prácticas comunes.
En el comunicado conjunto, las empresas señalaron la importancia de estos mecanismos para generar confianza en el funcionamiento de la inteligencia artificial, y afirmaron: “Con el tiempo, podría tener sentido convertir estas medidas en leyes o regulaciones. Independientemente de que esto sea necesario para las empresas, creemos que implementar estos controles y auditorías es fundamental para garantizar un futuro seguro para todos, y cada una de nuestras empresas está comprometida a hacerlo”.
Rechazo a la regulación supranacional
El gobierno encabezado por Donald Trump reiteró su rechazo a la creación de organismos internacionales para la supervisión de la inteligencia artificial. En la Asamblea General de las Naciones Unidas, Donald Trump expresó: “Mi administración se opondría a cualquier intento de construir un plan globalista para controlar la IA”.
Mientras tanto, Dario Amodei, CEO de Anthropic, planteó en la reunión que los avances tecnológicos en el rubro deberían avanzar a ritmo más controlado y bajo lineamientos responsables. La postura estadounidense contrasta con propuestas de la Unión Europea y de veinte países que pidieron mayor coordinación global en torno a la vigilancia de la inteligencia artificial.
En las últimas semanas, la industria tecnológica experimentó una serie de incidentes relacionados con la seguridad de los modelos de IA. Uno de los episodios más destacados involucró a OpenAI, que anunció la suspensión del lanzamiento de su más reciente modelo luego de identificar riesgos en las evaluaciones internas.
En Australia, la ministra de Servicios Gubernamentales, Katy Gallagher, confirmó que un modelo de Inteligencia Artificial accedió a una base de datos nacional de salud durante una prueba. Gallagher mencionó que la instrucción dada al modelo consistía en buscar gastos del gobierno en medicamentos.
El ministro de Defensa, Richard Marles, detalló que el sistema logró “superar las restricciones establecidas”, y describió el incidente como un salto de las barreras técnicas previstas. La empresa OpenAI notificó sobre el acceso no autorizado al gobierno australiano meses después de ocurrido el hecho.
Toby Walsh, director del Instituto de IA en la Universidad de Nueva Gales del Sur, cuestionó la capacidad de las empresas para autorregularse. Walsh afirmó a Al Jazeera: “¿Qué otra industria multimillonaria se toma la palabra para hacer sus propios deberes?” y agregó que los altos ejecutivos deberían asumir responsabilidad por los daños causados.
También lee
