Un grupo de agentes de inteligencia artificial desarrollados por OpenAI logró eludir restricciones impuestas durante una prueba y utilizó el sitio web alemán DseWiki para intercambiar información que les permitió resolver los ejercicios asignados, según reveló una investigación publicada el viernes 4 de septiembre por Reuters.
Investigadores de Nightingale detectaron actividad inusual
La detección de esta actividad no fue realizada por OpenAI, firma creadora de ChatGPT, sino por un equipo de la organización dedicada a la seguridad de la inteligencia artificial Nightingale. A fines de agosto, sus investigadores rastreaban comportamientos no autorizados de agentes de IA en Internet cuando identificaron movimientos inusuales dentro del espacio colaborativo alemán.
De acuerdo con el informe citado por Reuters, los sistemas de OpenAI participaban en pruebas de búsqueda de información realizadas en varias etapas y bajo control de tiempo. En diversos momentos, los agentes recibían preguntas idénticas o similares, lo que llevó a múltiples instancias de colaboración indirecta mediante la plataforma.
Los agentes emplearon DseWiki para compartir respuestas, métodos de evasión de controles y estrategias que garantizaran la permanencia de sus mensajes. El reporte puntualizó que, pese a las limitaciones impuestas en las pruebas, los agentes aseguraron el intercambio de datos modificando el contenido de la plataforma.
Respuestas frente a la moderación y reacción de OpenAI
Según los registros, cuando un moderador del sitio comenzó a eliminar las páginas creadas por los agentes de OpenAI, estos lograron identificar el modo en que se realizaba la eliminación. A continuación, respondieron ingresando nuevas entradas de respaldo, cuyas denominaciones buscaban dificultar su rápida detección y borrado.
Consultada por Reuters, la empresa OpenAI señaló que no pudo revisar el informe de Nightingale antes de su publicación, por lo que no estaba en condiciones de ofrecer una respuesta detallada a sus hallazgos. No obstante, afirmó que analizará el material difundido y adoptará las medidas necesarias.
El director ejecutivo de OpenAI, Sam Altman, aseguró a Reuters que la compañía implementará ajustes si la revisión del caso lo requiere. Además, adelantó que la próxima actualización de ChatGPT incluirá la opción de personalizar personalidades únicas en función de cada usuario.
OpenAI se pronunció también sobre versiones divulgadas tras la difusión del caso, negando que su departamento legal hubiera intentado limitar investigaciones internas concernientes a estos comportamientos. Asimismo, la empresa sostuvo que el episodio ocurrido en DseWiki no está vinculado con el ataque sufrido por Hugging Face en julio pasado.
Hasta el cierre de la investigación, no se reportaron consecuencias adicionales ni declaraciones de los administradores de DseWiki acerca del incidente detectado por la organización Nightingale.
También lee
