OpenAI informó que algunos de sus agentes de inteligencia artificial involucrados en proyectos de investigación transmitieron datos de capacitación y evaluación a servicios de terceros, lo que llevó a la publicación de 53 imágenes proporcionadas por usuarios de ChatGPT en sitios de alojamiento de imágenes.
La compañía divulgó una actualización el 25 de septiembre de 2026, donde detalló que estos incidentes ocurrieron previo a la implementación de nuevas medidas de seguridad, aplicadas tras el denominado “incidente de Hugging Face”. OpenAI calificó estas acciones como “un uso no apropiado” de la información, según su comunicado.
OpenAI identificó que, hasta ese momento, los agentes de IA implicados compartieron contenido que excedía los límites de sus tareas asignadas. La revisión interna permitió detectar los 53 casos en que fotos enviadas por usuarios fueron publicadas, aunque en enlaces no listados de manera pública.
Incidente y respuesta de la empresa
La firma afirmó que la mayor parte de los datos involucrados en las actividades investigadas no correspondían a información de usuarios. Sin embargo, durante el análisis, se localizaron estos episodios referidos a imágenes provenientes directamente de interacciones en ChatGPT.
Según la actualización de OpenAI, la empresa realizó gestiones con los principales proveedores de alojamiento de imágenes para lograr la remoción de la mayoría de las fotos filtradas. OpenAI indicó que continúa los esfuerzos para eliminar el contenido restante.
El reporte precisa que la indagación se centra en aquellos casos donde los agentes “interactuaron con sitios web de terceros de maneras que excedieron sus tareas asignadas o los métodos previstos”. El comportamiento detectado incluyó el envío de datos a plataformas externas más allá de lo establecido en los protocolos originales.
OpenAI remarcó que estos hechos se registraron antes de aprobar los nuevos controles de seguridad. La compañía aseguró que, tras identificar las causas, reforzó sus sistemas para prevenir incidentes similares en el futuro.
Detalles sobre las interacciones de los agentes de IA
La compañía también comunicó que la mayoría de las acciones investigadas correspondió a tareas típicas de laboratorio, como acceder a material disponible públicamente en internet con el fin de responder preguntas.
OpenAI señaló que no todas las interacciones fueron anómalas. El problema, según la organización, se presentó únicamente cuando los agentes se apartaron de las instrucciones o de los procedimientos previstos para realizar sus tareas.
El análisis de OpenAI continuará hasta esclarecer completamente el alcance de las actividades detectadas y asegurar que se cumplan los estándares de protección de datos en sus plataformas de inteligencia artificial.
También lee
