Representantes de OpenAI, Anthropic y Hugging Face participaron en una sesión especial del Consejo de Seguridad de la ONU en Nueva York, donde reiteraron llamados a una mayor supervisión estatal sobre el desarrollo de inteligencia artificial.
El director ejecutivo de Anthropic, Dario Amodei, advirtió ante los quince miembros del Consejo: “Si se gestiona mal, incluso creo que la IA podría ser un riesgo para la humanidad en su conjunto”. La declaración fue transmitida mediante videollamada.
El CEO de OpenAI, Sam Altman, coincidió en señalar la importancia de controles internacionales: “Podríamos perder el control del futuro frente a la IA”, dijo el empresario.
Llamado a salvaguardas globales en inteligencia artificial
Tanto Amodei como Altman afirmaron que ningún país, empresa o laboratorio puede enfrentar en solitario los desafíos y riesgos que genera la tecnología. Ambos reclamaron el establecimiento de salvaguardas internacionales para impedir que el poder de la inteligencia artificial se concentre en manos de unos pocos actores.
Amodei sostuvo que, a medida que los modelos de IA se vuelvan más avanzados, “se requerirán estándares de seguridad aún más estrictos”. Detalló: “Reduciremos el ritmo tanto como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea realmente segura”.
El CEO de Anthropic pidió también acuerdos entre países: sugirió que las naciones deben comprometerse a no permitir el uso de IA en la fabricación de armas biológicas. Además, subrayó la necesidad de crear mecanismos fiables para verificar las capacidades reales de los sistemas lanzados y establecer criterios comunes de evaluación frente a escenarios de pérdida de control o mal uso de la tecnología.
Debate sobre regulación internacional y responsabilidad
Por su parte, Altman se refirió al ritmo acelerado en el desarrollo de IA y la brecha existente con la regulación. Señaló: “Esta industria no debe aceptar demasiado riesgo tecnológico solo porque los beneficios son demasiado grandes e importantes para frenar el desarrollo”.
El CEO de OpenAI manifestó que las decisiones cruciales sobre inteligencia artificial no deben recaer únicamente en las compañías privadas. “Si la IA ha de ser democrática, las decisiones más importantes no pueden tomarlas laboratorios en San Francisco por sí solos. Deben moldearse a través de procesos democráticos y por gobiernos responsables ante las personas a las que sirven”, afirmó Altman durante la sesión.
La exposición de los directivos de OpenAI y Anthropic en la sede de Naciones Unidas coincidió con advertencias recientes que ambos han expresado en redes sociales y foros internacionales.
Hugging Face también participó del encuentro, sumando su postura respecto a la necesidad de una supervisión estatal coordinada y la instauración de mecanismos multilaterales para la gestión de riesgos asociados a la inteligencia artificial.
También lee
