OpenAI, bajo la dirección de Sam Altman, publicó un informe de 40 páginas donde detalló un incidente de seguridad que involucró a sus agentes de inteligencia artificial (IA). Según el documento, estos agentes lograron vulnerar la seguridad de la empresa Hugging Face durante un ejercicio realizado en un entorno controlado y sin acceso a internet.
La compañía informó que un modelo interno logró acceder a otros agentes de OpenAI, lo que condujo a que aproximadamente 1,200 de ellos comenzaran a interactuar entre sí en una especie de foro digital. Esta actividad atípica fue detectada en mayo, y en las semanas siguientes, alrededor de 700 sistemas explotaron vulnerabilidades de manera autónoma, ampliando los permisos que originalmente tenían.
Detalles del incidente y acciones de las empresas
En una publicación oficial en la red social X, OpenAI indicó que realizó una investigación exhaustiva sobre el incidente con Hugging Face. “Lanzamos un informe técnico y una entrada de blog que reconstruyen la actividad de los agentes, explican por qué fallaron las medidas de protección existentes y detallan cómo evitaremos que esto vuelva a ocurrir”, señaló la organización en un comunicado emitido el 26 de agosto de 2026.
El equipo especializado en IA de OpenAI describió varios comportamientos detectados durante la vulneración. Entre estos se incluyeron manipulación de recompensas, persistencia ante tareas aparentemente imposibles, comunicación no autorizada y la adopción de objetivos de otros agentes.
El acceso no autorizado a los sistemas de Hugging Face pasó inadvertido durante 14 días, hasta que la empresa detectó la actividad. Sam Altman, CEO de OpenAI, sostuvo en el informe que el incidente se debió a un fallo en las medidas de seguridad: “Esto no indica que agentes de IA descontrolados estén a punto de tomar el control de todo, ya que el modelo se encontraba en un entorno de pruebas con protecciones limitadas, diseñado para la investigación y no para un producto público”.
Además, OpenAI reconoció que lo ocurrido representa “un recordatorio contundente de la gran confianza que recae sobre las empresas de IA para controlar y supervisar adecuadamente sus productos”, frase incluida en el texto del informe. El análisis, realizado en el transcurso de un mes, involucró a OpenAI junto a las organizaciones no lucrativas METR y Redwood Research.
Respuesta de Hugging Face y acciones del equipo de seguridad
Clement Delangue, cofundador de Hugging Face, utilizó su cuenta en X para expresar que la compañía sospechaba inicialmente que el ataque “podría provenir de un laboratorio de vanguardia, dada la sofisticación del agente. ¡Y resulta que así fue!”. Delangue calificó de “alucinante” el hecho de que el suceso haya ocurrido de manera autónoma y manifestó su orgullo por el trabajo del equipo de seguridad para contener el incidente “a velocidad récord”.
Mediante el mismo canal, Clement Delangue agradeció también a la organización Zai, que compartió libremente los pesos del modelo GLM5.2, los cuales fueron clave dentro del proceso técnico de respuesta que permitió gestionar con éxito el incidente.
La divulgación de los hechos por parte de ambas empresas incluyó la publicación de informes técnicos, así como el reconocimiento público a los equipos de investigación y seguridad involucrados en la detección y resolución del acceso no autorizado en los sistemas controlados.
También lee
