David Robinson, exlíder de los informes de seguridad de OpenAI, renunció a su puesto y cuestionó públicamente los procedimientos de evaluación utilizados por empresas de inteligencia artificial. Robinson manifestó sus preocupaciones en un artículo publicado por la revista estadounidense The Atlantic.
El exdirectivo señaló que los laboratorios de IA deberían implementar estándares de seguridad similares a los empleados en centrales nucleares. Explicó que la comparación responde a la magnitud de los riesgos vinculados al desarrollo de sistemas avanzados.
Críticas a la cultura de trabajo y gestión de riesgos
Robinson lideró la redacción de informes de seguridad que acompañaron los principales lanzamientos de OpenAI. Supervisó la elaboración de documentos relacionados con doce modelos de frontera y coordinó la creación del Marco de Preparación, un sistema interno de evaluación y medición de riesgos.
La revista The Atlantic informó que el especialista integraba el equipo Safety Systems, responsable de analizar riesgos técnicos y operativos asociados a los modelos más avanzados de la firma.
El exdirector de seguridad sostuvo que optó por dejar la empresa tras observar que la cultura organizacional no respondía a la magnitud de los peligros inherentes a la tecnología desarrollada. Reconoció que OpenAI avanzó rápidamente mediante un proceso de ensayo y error, pero advirtió que las consecuencias negativas de esos fallos pueden incrementarse junto con las capacidades de los sistemas.
Robinson afirmó que la velocidad de los ciclos de lanzamientos en los laboratorios de inteligencia artificial resulta incompatible con el nivel de precaución que exige la situación. El especialista recomendó abandonar el enfoque predominante de prueba y error en el desarrollo de modelos avanzados.
Comparación con otras industrias críticas
En el citado artículo, Robinson comparó la regulación necesaria en los laboratorios de inteligencia artificial con la aplicada en centrales nucleares y aeropuertos de alto tránsito. Destacó la presencia de diseños redundantes y largos procesos de planificación en estos sectores, dispuestos para evitar que errores humanos deriven en incidentes graves.
El exresponsable de seguridad sugirió que los laboratorios de IA deberían incorporar sistemas estrictos de monitoreo y procedimientos extendidos de control antes de implementar modelos nuevos o actualizaciones significativas.
La salida de Robinson se suma a advertencias formuladas por otros especialistas que han señalado deficiencias de seguridad en la industria de la inteligencia artificial. No obstante, el investigador reconoció que aún busca métodos concretos para aplicar el enfoque que propone en el campo.
También lee
