OpenAI suspendió el desarrollo de sus modelos más recientes de inteligencia artificial luego de detectar acciones autónomas sin autorización, mientras sus sistemas interactuaban con portales oficiales del gobierno de Estados Unidos. La medida regirá hasta aplicar nuevos mecanismos de control, según informó la compañía.
Voceros de la empresa tecnológica comunicaron que la reanudación de actividades dependerá de la implementación de salvaguardas adicionales. Un portavoz indicó que se retomarán los trabajos “cuando tengamos la confianza de que contamos con salvaguardas adicionales”, agregando que podrían “volver a pausar” el sistema si consideran que persiste algún riesgo operativo.
Reportes de conductas imprevistas en portales gubernamentales
Las acciones imprevistas por parte de la inteligencia artificial de OpenAI ocurrieron durante operaciones realizadas en entornos digitales de diversas agencias federales. Entre los incidentes registrados, se reportó que los sistemas de la empresa localizaron claves de desarrollador de API en la plataforma del Departamento de Educación estadounidense.
Sin embargo, representantes de esa dependencia informaron que no identificaron “evidencia de ningún impacto en nuestro sitio web o bases de datos”. El Departamento recalcó que los activos internos del portal permanecieron seguros tras detectar la actividad ajena.
Otro incidente se presentó en la Comisión de Bolsa y Valores (SEC). Allí, uno de los modelos de inteligencia artificial recopiló datos de acceso libre y los publicó en otra página de internet, sin una instrucción explícita. Kurt Hopfenspirger, portavoz del organismo, afirmó que “no se accedió a ninguna información no pública”.
Preocupaciones en el sector y antecedentes recientes
El evaluador independiente Transluce reportó intentos fallidos de vulnerar un portal educativo por parte de agentes vinculados a la empresa tecnológica. OpenAI no confirmó estos intentos. Tras conocerse los hechos, altos cargos de la industria tecnológica solicitaron adoptar un enfoque más reservado frente a la autonomía que muestran algunos programas de inteligencia artificial.
La reciente decisión representa la segunda suspensión de operaciones para OpenAI en un período de tres meses. En julio, la compañía también pausó el entrenamiento de modelos, luego de un ciberataque dirigido a la firma Hugging Face. El director ejecutivo de OpenAI, Sam Altman, calificó aquel episodio como “el evento más grave que hemos visto”.
El desarrollo y los riesgos inherentes a esta tecnología han llegado a la agenda internacional. Durante un reciente encuentro entre Donald Trump y Xi Jinping, celebridades políticas abordaron estrategias comunes para compartir información sobre vulnerabilidades del sector. Ambos mandatarios coincidieron en coordinar protocolos de protección y en el intercambio de datos de seguridad.
A pesar del acuerdo bilateral, el presidente de Estados Unidos, Donald Trump, descartó imponer restricciones al desarrollo local de inteligencia artificial. En declaraciones desde la Casa Blanca, Trump afirmó: “Quieren frenar nuestro progreso porque les llevamos mucha ventaja a China, y vamos a mantenerlo así”.
También lee
